信息論基礎習題解答（第2版）

目錄第1章緒論1第2章離散信息的度量42．1知識要點42．1．1自信息和互信息42．1．2信息熵62．1．3平均互信息92．2例題精解112．3習題解答15第3章離散信源343．1知識要點343．1．1離散信源的分類與數(shù)學模型343．1．2離散無記憶信源的擴展353．1．3離散平穩(wěn)信源的熵353．1．4有限狀態(tài)馬爾可夫鏈363．1．5馬爾可夫信源373．1．6信源的相關性與剩余度383．2例題精解383．3習題解答42第4章連續(xù)信息與連續(xù)信源644．1知識要點644．1．1連續(xù)隨機變量的熵644．1．2離散時間高斯隨機變量的熵654．1．3連續(xù)最大熵定理664．1．4連續(xù)隨機變量之間的平均互信息674．1．5離散集與連續(xù)隨機變量之間的互信息674．1．6幾種重要的連續(xù)信源684．2例題精解684．3習題解答744．4補充題解89第5章無失真信源編碼925．1知識要點925．1．1概述925．1．2定長碼935．1．3變長碼945．1．4最優(yōu)編碼955．1．5幾種實用的信源編碼方法965．2例題精解975．3習題解答1035．4補充題解119第6章離散信道及其容量1246．1知識要點1246．1．1基本概念1246．1．2單符號離散信道及其容量1256．1．3級聯(lián)信道及其容量1266．1．4多維矢量信道及其容量1276．1．5信道容量的迭代算法1296．1．6有約束信道的容量1296．2例題精解1306．3習題解答136第7章有噪信道編碼1557．1知識要點1557．1．1基本概念1557．1．2最佳判決與譯碼準則1567．1．3信道編碼與最佳譯碼1577．1．4費諾不等式1577．1．5有噪信道編碼定理1587．1．6糾錯編碼技術簡介1597．2例題精解1607．3習題解答1667．4補充題解181第8章波形信道1828．1知識要點1828．1．1離散時間連續(xù)信道1828．1．2加性噪聲信道與容量1838．1．3AWGN信道的容量1848．1．4有色高斯噪聲信道1858．1．5數(shù)字調制系統(tǒng)的信道容量1868．2例題精解1868．3習題解答190第9章信息率失真函數(shù)2049．1知識要點2049．1．1基本概念2049．1．2信息率失真函數(shù)定義2059．1．3限失真信源編碼定理2059．1．4離散R(D)函數(shù)的性質與計算2059．1．5連續(xù)R(D)函數(shù)的性質與計算2069．1．6高斯信源的R(D)函數(shù)2079．1．7一般連續(xù)信源的R(D)函數(shù)2079．1．8有損數(shù)據(jù)壓縮技術簡介2079．2例題精解2079．3習題解答2139．4補充題解232第10章網(wǎng)絡信息論初步23510．1知識要點23510．1．1基本概念23510．1．2多址接入信道23610．1．3廣播信道23710．1．4中繼信道23710．1．5分布信源編碼23710．2習題解答238第11章信息理論方法及其應用26211．1知識要點26211．1．1離散信源熵的估計26211．1．2最大熵原理26211．1．3最小交叉熵原理26411．1．4信息理論方法的應用26511．2例題精解26511．3習題解答267期末考試模擬試題277期末考試模擬試題標準答案279參考文獻285