零基礎學Python網(wǎng)絡爬蟲案例實戰(zhàn)全流程詳解（入門與提高篇）

第1章　Python基礎
1.1　Python快速上手
1.1.1　安裝Python
1.1.2　編寫個Python程序
1.1.3　PyCharm的安裝與使用
1.1.4　Jupyter Notebook的使用
1.2　Python語法基礎知識
1.2.1　變量、行、縮進與注釋
1.2.2　數(shù)據(jù)類型：數(shù)字與字符串
1.2.3　數(shù)據(jù)類型：列表與字典、元組與集合
1.2.4　運算符
1.3　Python語句
1.3.1　if條件語句
1.3.2　for循環(huán)語句
1.3.3　while循環(huán)語句
1.3.4　try/except異常處理語句
1.4　函數(shù)與庫
1.4.1　函數(shù)的定義與調(diào)用
1.4.2　函數(shù)的返回值與變量的作用域
1.4.3　常用內(nèi)置函數(shù)介紹
1.4.4　庫的導入與安裝
★ 課后習題
 
 
第2章　爬蟲步：獲取網(wǎng)頁源代碼
2.1　爬蟲核心庫1：Requests庫
2.1.1　如何查看網(wǎng)頁源代碼
2.1.2　用Requests庫獲取網(wǎng)頁源代碼：百度新聞
2.1.3　Requests庫的“軟肋”
2.2　爬蟲核心庫2：Selenium庫
2.2.1　模擬瀏覽器及Selenium庫的安裝
2.2.2　用Selenium庫獲取網(wǎng)頁源代碼：新浪財經(jīng)股票信息
2.3　網(wǎng)頁結(jié)構(gòu)分析
2.3.1　網(wǎng)頁結(jié)構(gòu)基礎
2.3.2　網(wǎng)頁結(jié)構(gòu)進階
★ 課后習題
 
第3章　爬蟲第二步：數(shù)據(jù)解析與提取
3.1　用正則表達式解析和提取數(shù)據(jù)
3.1.1　正則表達式基礎1：findall()函數(shù)
3.1.2　正則表達式基礎2：非貪婪匹配之“(.*?)”
3.1.3　正則表達式基礎3：非貪婪匹配之“.*?”
3.1.4　正則表達式基礎4：自動考慮換行的修飾符re.S
3.1.5　正則表達式基礎5：知識點補充
3.1.6　案例實戰(zhàn)：提取百度新聞的標題、網(wǎng)址、日期和來源
3.2　用BeautifulSoup庫解析和提取數(shù)據(jù)
3.2.1　解析特定標簽的網(wǎng)頁元素
3.2.2　解析特定屬性的網(wǎng)頁元素
3.2.3　提取標簽中的網(wǎng)址 3.2.4　案例實戰(zhàn)：新浪新聞標題和網(wǎng)址爬取
3.3　百度新聞爬取進階探索
3.3.1　批量爬取多家公司的新聞
3.3.2　將爬取結(jié)果保存為文本文件
3.3.3　異常處理及24小時不間斷爬取
3.3.4　批量爬取多頁內(nèi)容
3.4　證券日報網(wǎng)爬取實戰(zhàn)
3.4.1　用正則表達式爬取
3.4.2　用BeautifulSoup庫爬取
3.5　中證網(wǎng)爬取實戰(zhàn)
3.6　新浪微博爬取實戰(zhàn)
3.7　上海證券交易所上市公司PDF文件下載
3.7.1　用Requests庫下載文件的基本方法
3.7.2　初步嘗試下載上海證券交易所上市公司PDF文件
3.8　豆瓣電影Top 250排行榜海報圖片下載
3.8.1　爬取單頁
3.8.2　爬取多頁
★ 課后習題
 
 
第4章　爬蟲神器Selenium庫深度講解
4.1　Selenium庫進階知識
4.2　新浪財經(jīng)股票行情數(shù)據(jù)爬取
4.2.1　用Selenium庫爬取股票行情數(shù)據(jù)
4.2.2　用新浪財經(jīng)API爬取股票行情數(shù)據(jù)
4.3　東方財富網(wǎng)數(shù)據(jù)爬取
4.3.1　上市公司股吧帖子爬取
4.3.2　上市公司新聞爬取
4.3.3　上市公司研報PDF文件下載
4.4　上海證券交易所問詢函信息爬取及PDF文件下載
4.4.1　批量下載單個頁面上的PDF文件
4.4.2　批量下載多個頁面上的PDF文件
4.4.3　匯總問詢函信息并導出為Excel工作簿
4.5　銀行間拆借利率爬取
4.6　雪球股票評論信息爬取
4.7　商品評價信息爬取
4.7.1　用Selenium庫爬取
4.7.2　用Requests庫爬取
4.8　淘寶天貓商品銷量數(shù)據(jù)爬取
4.9　Selenium庫趣味案例：網(wǎng)頁自動投票
★ 課后習題
 
 
第5章　數(shù)據(jù)處理與可視化
5.1　數(shù)據(jù)清洗與優(yōu)化技巧
5.1.1　常用的數(shù)據(jù)清洗手段及日期格式的統(tǒng)一
5.1.2　文本內(nèi)容過濾—剔除噪聲數(shù)據(jù)
5.1.3　數(shù)據(jù)亂碼問題處理
5.1.4　數(shù)據(jù)爬后處理之輿情評分
5.2　數(shù)據(jù)可視化分析—詞云圖繪制
5.2.1　用jieba庫實現(xiàn)中文分詞
5.2.2　用wordcloud庫繪制詞云圖
5.2.3　案例實戰(zhàn)：新浪微博詞云圖繪制
★ 課后習題
 
 
第6章　數(shù)據(jù)結(jié)構(gòu)化與數(shù)據(jù)存儲
6.1　數(shù)據(jù)結(jié)構(gòu)化神器—pandas庫
6.1.1　用read_html()函數(shù)快速爬取網(wǎng)頁表格數(shù)據(jù)
6.1.2　pandas庫在爬蟲領(lǐng)域的核心代碼知識
6.2　新浪財經(jīng)—資產(chǎn)負債表獲取
6.3　百度新聞—文本數(shù)據(jù)結(jié)構(gòu)化
6.3.1　將單家公司的新聞導出為Excel工作簿
6.3.2　將多家公司的新聞導出為Excel工作簿
6.4　百度愛企查—股權(quán)穿透研究
6.4.1　單層股權(quán)結(jié)構(gòu)爬取
6.4.2　多層股權(quán)結(jié)構(gòu)爬取
6.5　天天基金網(wǎng)—股票型基金信息爬取
6.5.1　爬取基金信息表格
6.5.2　爬取基金的詳情頁面網(wǎng)址
6.6　集思錄—可轉(zhuǎn)債信息爬取
6.7　東方財富網(wǎng)—券商研報信息爬取
6.7.1　爬取券商研報信息表格
6.7.2　爬取研報的詳情頁面網(wǎng)址
6.8　數(shù)據(jù)存儲—MySQL快速入門
6.8.1　MySQL的安裝
6.8.2　MySQL的基本操作
6.9　用Python操控數(shù)據(jù)庫
6.9.1　用PyMySQL庫操控數(shù)據(jù)庫
6.9.2　案例實戰(zhàn)：百度新聞數(shù)據(jù)爬取與存儲
6.9.3　用pandas庫操控數(shù)據(jù)庫
★ 課后習題
 
 
第7章　Python多線程和多進程爬蟲
7.1　理解線程與進程
7.1.1　計算機硬件結(jié)構(gòu)基礎知識
7.1.2　線程與進程
7.1.3　單線程、多線程與多進程
7.1.4　爬蟲任務中的多線程與多進程
7.2　Python多線程爬蟲編程實戰(zhàn)
7.2.1　Python多線程編程基礎知識
7.2.2　Python多線程編程進階知識
7.2.3　案例實戰(zhàn)：多線程爬取百度新聞
7.3　Python多進程爬蟲編程實戰(zhàn)
7.3.1　Python多進程編程基礎知識
7.3.2　Python多進程編程進階知識
7.3.3　案例實戰(zhàn)：多進程爬取百度新聞
★ 課后習題
 
 
第8章　IP代理使用技巧與實戰(zhàn)
8.1　結(jié)合Requests庫使用IP代理
8.1.1　IP代理基礎知識
8.1.2　IP代理的使用
8.2　IP代理實戰(zhàn)1：用Requests庫爬取公眾號文章
8.2.1　直接用Requests庫爬取
8.2.2　添加IP代理進行爬取
8.2.3　添加智能IP切換系統(tǒng)
8.3　結(jié)合Selenium庫使用IP代理
8.4　IP代理實戰(zhàn)2：用Selenium庫爬取公眾號文章
8.4.1　直接用Selenium庫爬取
8.4.2　添加IP代理進行爬取
8.4.3　添加智能IP切換系統(tǒng)
★ 課后習題
后記