Python機器學習核心算法編程實例

目 錄章  機器學習緒論11．1  機器學習的定義11．1．1  緒論11．1．2  機器學習發(fā)展歷程21．1．3  機器學習算法的分類31．2  學習算法41．2．1  監(jiān)督學習41．2．2  無監(jiān)督學習51．3  機器學習應用程序的步驟61．4  Python語言71．4．1  Python的風格71．4．2  Python的優(yōu)勢71．4．3  Python語言的缺點81．5  Python的環(huán)境搭建91．5．1  安裝101．5．2  使用pip安裝第三方庫131．6  NumPy函數(shù)庫基礎141．7  Python的基礎知識161．7．1  數(shù)和表達式161．7．2  Python的標識符181．7．3  Python的保留字符191．7．4  行和縮進191．7．5  多行語句201．7．6  Python引號201．7．7  Python空行201．7．8  同一行顯示多條語句201．7．9  Print輸出21第2章  線性模型222．1  一般線性回歸232．1．1  線性回歸公式表示法232．1．2  線性回歸的Python實現(xiàn)252．2  局部加權線性回歸272．3  廣義線性模型302．4  邏輯回歸分析362．5  牛頓法402．5．1  基本牛頓法的原理402．5．2  基本牛頓法的流程402．5．3  全局牛頓法402．5．4  Armijo搜索422．5．5  全局牛頓法求解線性回歸模型422．6  縮減法432．6．1  嶺回歸442．6．2  lasso回歸462．7  利用線性回歸進行預測472．7．1  訓練線性回歸模型472．7．2  對新數(shù)據(jù)的預測49第3章  樹回歸513．1  構建決策樹的準備工作523．1．1  特征選擇523．1．2  決策樹的生成和修剪603．2  Matplotlib注釋繪制樹形圖603．3  使用決策樹執(zhí)行分類673．4  決策樹的存儲713．5  Sklearn使用決策樹預測隱形眼鏡類型733．5．1  實戰(zhàn)背景733．5．2  使用Sklearn構建決策樹733．6  復雜數(shù)據(jù)的局部性建模803．7  連續(xù)型和離散型特征的樹構建813．8  分類回歸樹823．8．1  構建樹833．8．2  剪枝853．8．3  模型樹873．8．4  分類回歸的Python實現(xiàn)88第4章 K-means聚類算法924．1  K-means聚類算法的概述924．2  相似性的度量934．2．1  閔可夫斯基距離934．2．2  曼哈頓距離934．2．3  歐氏距離934．3  K-means聚類算法的原理944．3．1  K-means聚類算法的步驟944．3．2  K-means算法與矩陣分解954．3．3  K-means聚類算法的實現(xiàn)964．4  K-近鄰算法1044．5  各種聚類算法1074．5．1  劃分聚類法1074．5．2  層次聚類法1084．5．3  密度聚類法1114．5．4  譜聚類法1164．5．5  Birch聚類1194．5．6  混合高斯模型1214．6  K-means++算法1224．6．1  K-means算法存在的問題1224．6．2  K-means++算法的思路123第5章  樸素貝葉斯1275．1  樸素貝葉斯理論1275．1．1  貝葉斯決策理論1275．1．2  條件概率1285．1．3  全概率公式1285．1．4  貝葉斯推斷1295．1．5  樸素貝葉斯推斷1305．2  樸素貝葉斯算法1315．3  樸素貝葉斯算法的優(yōu)缺點140第6章  數(shù)據(jù)降維1416．1  維度災難與降維1416．2  高維數(shù)據(jù)降維的方法1416．2．1  線性降維1426．2．2  非線性降維1466．2．3  SVD降維1536．2．4  流形學習降維1596．2．5  多維縮放降維166第7章  支持向量機1707．1  支持向量機概述1707．2  分類間隔1717．2．1  函數(shù)間距1727．2．2  幾何間距1737．3  拉格朗日乘子1757．3．1  拉格朗日對偶性1757．3．2  優(yōu)化間隔分類器1767．4  核函數(shù)1787．4．1  核函數(shù)的選擇1807．4．2  松弛向量與軟間隔優(yōu)選化1807．5  SOM算法1817．5．1  坐標上升算法1827．5．2  SOM1827．6  SVM的優(yōu)缺點1857．7  SVM的Python實現(xiàn)185第8章  隨機森林1928．1  什么是隨機森林1928．2  集成學習1928．2．1  集成學習的思想1938．2．2  集成學習中的典型方法1938．3  Stacking1948．3．1  Stacking的基本思想1948．3．2  Stacking的實現(xiàn)1958．4  隨機森林算法1988．4．1  隨機森林的特點1988．4．2  隨機森林算法流程1998．5  隨機森林算法實踐2018．6  美國人口普查年收入50k分類2078．6．1  數(shù)據(jù)預處理2088．6．2  模型訓練及驗證212第9章  人工神經(jīng)網(wǎng)絡2179．1  感知機模型2179．1．1  感知機的定義2179．1．2  感知機的學習策略2189．1．3  感知機學習算法2189．1．4  感知機的Python實現(xiàn)2269．2  從感知機到神經(jīng)網(wǎng)絡2369．3  多層前饋神經(jīng)網(wǎng)絡2389．3．1  BP網(wǎng)絡算法2419．3．2  BP神經(jīng)網(wǎng)絡的學習過程2449．3．3  BP神經(jīng)網(wǎng)絡中參數(shù)的設置2499．4  神經(jīng)網(wǎng)絡的Python實現(xiàn)2530章  協(xié)同過濾算法27210．1  協(xié)同過濾的核心27210．2  協(xié)同過濾的分類27210．3  相似性的度量方法27310．3．1  歐氏距離27310．3．2  皮爾遜相關系數(shù)27310．3．3  余弦相似度27410．3．4  用Python實現(xiàn)余弦相似度的計算27410．4  基于用戶的協(xié)同過濾算法27510．4．1  基于物品的協(xié)同過濾算法27510．4．2  基于矩陣分解的協(xié)同過濾算法27610．4．3  Python實現(xiàn)27610．5  基于項的協(xié)同過濾算法28010．6  利用協(xié)同過濾算法進行推薦28110．6．1  導入用戶-商品數(shù)據(jù)28110．6．2  利用基于用戶的協(xié)同過濾算法進行推薦28210．6．3  利用基于項的協(xié)同過濾算法進行推薦2831章  基于矩陣分解的推薦算法28511．1  矩陣分解28511．2  利用矩陣分解進行預測28611．2．1  損失函數(shù)28611．2．2  損失函數(shù)的求解28611．2．3  加入正則項的損失函數(shù)即求解方法28611．2．4  預測28811．2．5  程序實現(xiàn)28911．3  非負矩陣分解29111．3．1 非負矩陣分解的形式定義29111．3．2  損失函數(shù)29111．3．3  優(yōu)化問題的求解29211．3．4  利用乘法規(guī)則進行分解和預測29411．4  基于矩陣分解的推薦方法29511．4．1  LFM法29511．4．2  SVD法29811．4．3  SVD++法3002章  集成學習30412．1  集成學習的原理及誤差30412．2  集成學習方法30512．2．1  Boosting算法30512．2．2  AdaBoost算法30512．2．3  AdaBoost與加法模型30912．2．4  提升樹31012．2．5  Bagging算法31312．2．6  誤差-分歧分解31412．2．7  多樣性增強31512．2．8  Stacking算法31612．3  Python實現(xiàn)3173章  數(shù)據(jù)預處理32213．1  數(shù)據(jù)預處理概述32213．1．1  為什么要對數(shù)據(jù)進行預處理32213．1．2  數(shù)據(jù)預處理的主要任務32313．2  去除唯一屬性32313．3  處理缺失值32413．3．1  直接使用32413．3．2  刪除特征32413．3．3  缺失值補全32413．3．4  數(shù)據(jù)清理32813．3．5  特征編碼33013．3．6  數(shù)據(jù)標準化33113．3．7  正則化33213．3．8  特征選擇33313．3．9  稀疏表示和字典學習33513．4  Python實現(xiàn)337參考文獻352