信息論與糾錯(cuò)編碼

　　內(nèi)容簡(jiǎn)介目錄 本書重點(diǎn)介紹了信息論與糾錯(cuò)編碼的基礎(chǔ)內(nèi)容及應(yīng)用，共分10章，內(nèi)容包括：信息及信息的度量，離散信源及信源熵，離散信道及信道容量，信源編碼定理和信道編碼定理，平均失真測(cè)度和信息率失真函數(shù)，率失真編碼定理，糾錯(cuò)編碼代數(shù)基礎(chǔ)，線性分組碼，循環(huán)碼和卷積碼。本書內(nèi)容深入淺出，概念清晰，對(duì)一些較難理解的概念，配有較多的例題。本書適合作為高等院校電子技術(shù)、信息工程、通信工程、雷達(dá)、計(jì)算機(jī)、自動(dòng)化、儀器儀表等相關(guān)專業(yè)的本科教材，亦可供從事信息科學(xué)、系統(tǒng)工程等的科研人員參考。前言信息論是應(yīng)用近代概率統(tǒng)計(jì)方法研究信息傳輸、交換、存儲(chǔ)和處理的一門學(xué)科，也是源于通信實(shí)踐發(fā)展起來的一門新興應(yīng)用學(xué)科。當(dāng)前人類已步入信息社會(huì)，隨著信息概念的不斷發(fā)展，信息在科學(xué)技術(shù)上的重要性也早已超越了狹義的通信工程的范疇，受到越來越多的關(guān)注。在高等院校中，信息工程類專業(yè)是最為熱門的專業(yè)之一，信息技術(shù)已經(jīng)改變了很多傳統(tǒng)電子類專業(yè)的知識(shí)結(jié)構(gòu)。在這種形式下，許多高校都在相關(guān)專業(yè)開設(shè)了信息論方面的相關(guān)課程，作為本科生、研究生的必修或選修課。一方面這門課是電子類專業(yè)的核心課程，很多學(xué)校都把它作為必修課或必選課，但另一方面教材可選余地太小，一直有教師難教、學(xué)生難學(xué)的說法，希望能盡快出版面向本科生的適用教材。本著這種精神，本書力求在內(nèi)容篩選及編排上以讀者最易接受的方式介紹信息理論的知識(shí)。本書包括"信息論與糾錯(cuò)編碼"的基本內(nèi)容及應(yīng)用。第1章為"信息論基礎(chǔ)"，介紹了信息論的基本概念，以及本書的研究對(duì)象，即各種信源和信道。第2～6章屬信息論部分。這部分介紹了信息的度量，內(nèi)容主要圍繞香農(nóng)三大定理展開，研究在不允許失真情況下信息傳輸率的極限值，以及給定信源并且允許一定失真條件下信息傳輸率的極限值，并研究在誤碼率小于給定值的條件下如何最有效地利用信道的傳輸能力。第8～10章屬糾錯(cuò)編碼部分，第7章講述了糾錯(cuò)編碼所必須的數(shù)學(xué)知識(shí)。糾錯(cuò)編碼是后人沿著香農(nóng)指明的可行方向?yàn)閷で笥行Ф煽康木幾g碼方法而發(fā)展起來的，主要研究在有噪信道條件下各種可行的編碼方案及實(shí)施技術(shù)。與現(xiàn)有的各種"信息論與編碼"教材相比，本教材有如下特色。1．本書力圖在編排上由淺入深，循序漸進(jìn)，使讀者能較容易地接受信息論與糾錯(cuò)編碼方面的基本理論知識(shí)；2．對(duì)于部分具有結(jié)論性、指導(dǎo)性的定理，本教材省去了冗繁的定理證明，注重物理概念的闡述及對(duì)后人工作的指導(dǎo)意義。3．著重介紹了糾錯(cuò)編碼部分的內(nèi)容。教材第8、9和10章分別論述糾錯(cuò)編碼中最基本的線性分組碼、循環(huán)碼和卷積碼的編譯碼理論，并例舉了幾種常用的碼，如漢明碼、BCH碼和卷積碼，介紹了它們主要的編譯碼方法。4．對(duì)一些難以理解的概念，本書配有較多的例題，以幫助學(xué)生對(duì)抽象定理的理解。各章后面配有一些難易程度不等的思考題和習(xí)題，以供選用。本書全部?jī)?nèi)容約需60學(xué)時(shí)，不同專業(yè)可根據(jù)需要進(jìn)行選擇。本書第1、7章由陳榮伶編寫，第2～6章由孫麗華編寫，第8、9、10章由謝仲華編寫，由孫麗華負(fù)責(zé)全書的策劃、修改和統(tǒng)編。本書在編寫過程中得到電子工業(yè)出版社的大力支持，王穎編輯做了大量的工作，在此一并表示衷心感謝！由于本書涉及的知識(shí)領(lǐng)域廣泛，而且變化日新月異，加上時(shí)間和水平的限制，難免有差錯(cuò)和不足之處，敬請(qǐng)讀者指正！孫麗華 第1章信息論基礎(chǔ)1.1信息的概念1.2信息傳輸系統(tǒng)1.3離散信源及其數(shù)學(xué)模型1.3.1離散無記憶信源1.3.2離散無記憶的擴(kuò)展信源1.3.3離散平穩(wěn)有記憶信源1.3.4馬爾可夫信源1.4離散信道及其數(shù)學(xué)模型1.4.1離散無記憶信道1.4.2離散無記憶的擴(kuò)展信道本章小結(jié)思考題與習(xí)題第2章信息的度量2.1自信息量和互信息量2.1.1自信息量和條件自信息量2.1.2互信息量和條件互信息量2.2離散集的平均自信息量2.2.1信息熵2.2.2熵函數(shù)的性質(zhì)2.3離散集的平均互信息量2.3.1平均互信息量2.3.2平均互信息量的性質(zhì)2.3.3有關(guān)平均互信息量的兩條定理2.4N維擴(kuò)展信源的熵和平均互信息量2.4.1N維擴(kuò)展信源的熵2.4.2N維擴(kuò)展信源的平均互信息量2.4.3有關(guān)N維平均互信息量的兩條定理本章小結(jié)思考題與習(xí)題第3章離散信源無失真編碼3.1概述3.1.1碼的分類 3.1.2平均碼長(zhǎng)的計(jì)算 3.1.3信息傳輸率3.2等長(zhǎng)碼及等長(zhǎng)編碼定理3.3變長(zhǎng)碼及變長(zhǎng)編碼定理3.3.1變長(zhǎng)碼3.3.2克拉夫特不等式3.3.3變長(zhǎng)編碼定理3.4變長(zhǎng)碼的編碼方法3.4.1香農(nóng)編碼法3.4.2費(fèi)諾編碼法3.4.3霍夫曼編碼法本章小結(jié)思考題與習(xí)題第4章率失真編碼4.1失真測(cè)度與平均失真4.2信息率失真函數(shù)R（D）4.2.1率失真函數(shù)的定義4.2.2率失真函數(shù)的值域、定義域4.2.3率失真函數(shù)的性質(zhì)4.3率失真函數(shù)的計(jì)算4.3.1兩種特殊情況下的求解4.3.2R（D）的參數(shù)表示法4.4率失真信源編碼定理本章小結(jié)思考題與習(xí)題第5章離散信道的信道容量5.1信道容量的定義5.2離散無記憶信道容量的計(jì)算5.2.1達(dá)到信道容量的充要條件5.2.2幾類特殊信道5.3組合信道的容量5.3.1獨(dú)立并行信道5.3.2和信道5.3.3串行信道本章小結(jié)思考題與習(xí)題第6章有噪信道編碼6.1信道編碼的基本概念6.2譯碼規(guī)則及錯(cuò)誤概率6.3信道編碼定理6.4費(fèi)諾不等式及信道編碼逆定理6.4.1費(fèi)諾不等式6.4.2信道編碼逆定理本章小結(jié)思考題與習(xí)題第7章糾錯(cuò)編碼代數(shù)基礎(chǔ)7.1群7.1.1群的定義7.1.2子群7.1.3群的陪集分解7.2環(huán)7.2.1環(huán)的定義7.2.2整數(shù)剩余類環(huán)7.2.3多項(xiàng)式剩余類環(huán)7.3域7.3.1域的定義7.3.2有限域7.3.3有限域的本原元7.3.4有限域的結(jié)構(gòu)7.3.5有限域的共軛根組7.3.6有限域的綜合舉例本章小結(jié)思考題與習(xí)題第8章線性分組碼8.1糾錯(cuò)編碼的基本概念8.1.1信道糾錯(cuò)編碼8.1.2差錯(cuò)控制系統(tǒng)模型及分類8.1.3糾錯(cuò)編碼的分類8.1.4差錯(cuò)類型8.2線性分組碼的編碼8.2.1生成矩陣8.2.2校驗(yàn)矩陣8.2.3編碼的實(shí)現(xiàn)8.3伴隨式與譯碼8.3.1碼的距離和重量8.3.2線性碼的糾檢錯(cuò)能力8.3.3陪集分解與伴隨式8.3.4標(biāo)準(zhǔn)陣列與譯碼表8.4漢明碼8.4.1漢明碼的構(gòu)造8.4.2漢明限與完備碼本章小結(jié)思考題與習(xí)題第9章循環(huán)碼9.1循環(huán)碼的一般概念9.1.1循環(huán)碼的定義9.1.2循環(huán)碼的多項(xiàng)式描述9.1.3循環(huán)碼的生成多項(xiàng)式9.2循環(huán)碼的編碼9.2.1利用生成多項(xiàng)式g（x）實(shí)現(xiàn)編碼9.2.2除法電路9.2.3編碼電路9.3循環(huán)碼的譯碼9.3.1伴隨式計(jì)算9.3.2循環(huán)碼的譯碼9.3.3Meggit通用譯碼器9.4一些重要的循環(huán)碼9.4.1循環(huán)漢明碼9.4.2BCH碼本章小結(jié)思考題與習(xí)題第10章卷積碼10.1卷積碼的基本概念10.1.1卷積碼概述10.1.2卷積碼的矩陣描述10.2卷積碼的概率譯碼10.2.1狀態(tài)圖和網(wǎng)格圖10.2.2最大似然譯碼10.2.3維特比譯碼算法本章小結(jié)思考題與習(xí)題參考文獻(xiàn)

暫缺《信息論與糾錯(cuò)編碼》作者簡(jiǎn)介