自然語言處理綜論（第二版）

第1章導論
1．1語音與語言處理中的知識
1．2歧義
1．3模型和算法
1．4語言、思維和理解
1．5學科現(xiàn)狀與近期發(fā)展
1．6語音和語言處理簡史
1．6．1基礎研究：20世紀40年代和20世紀50年代
1．6．2兩個陣營：1957年至1970年
1．6．3四個范型：1970年至1983年
1．6．4經(jīng)驗主義和有限狀態(tài)模型的復蘇：1983年至1993年
1．6．5不同領域的合流：1994年至1999年
1．6．6機器學習的興起：2000年至2008年
1．6．7關于多重發(fā)現(xiàn)
1．6．8心理學的簡要注記
1．7小結
1．8文獻和歷史說明
第一部分 詞匯的計算機處理
第2章正則表達式與自動機
2．1正則表達式
2．1．1基本正則表達式模式
2．1．2析取、組合與優(yōu)先關系
2．1．3一個簡單的例子
2．1．4一個比較復雜的例子
2．1．5高級算符
2．1．6正則表達式中的替換、存儲器與ELIZA
2．2有限狀態(tài)自動機
2．2．1用FSA來識別羊的語言
2．2．2形式語言
2．2．3其他例子
2．2．4非確定FSA
2．2．5使用NFSA接收符號串
2．2．6識別就是搜索
2．2．7確定自動機與非確定自動機的關系
2．3正則語言與 FSA
2．4小結
2．5文獻和歷史說明
第3章 詞與轉錄機
3．1英語形態(tài)學概觀
3．1．1屈折形態(tài)學
3．1．2派生形態(tài)學
3．1．3附著
3．1．4非毗連形態(tài)學
3．1．5一致關系
3．2有限狀態(tài)形態(tài)剖析
3．3有限狀態(tài)詞表的建造
3．4有限狀態(tài)轉錄機
3．4．1定序轉錄機和確定性
3．5用于形態(tài)剖析的FST
3．6轉錄機和正詞法規(guī)則
3．7把FST詞表與規(guī)則相結合
3．8與詞表無關的FST：Porter詞干處理器
3．9單詞和句子的詞例還原
3．9．1中文的自動切詞
3．10拼寫錯誤的檢查與更正
3．11最小編輯距離
3．12人是怎樣進行形態(tài)處理的
3．13小結
3．14文獻和歷史說明
第4章 N元語法
4．1語料庫中單詞數(shù)目的計算
4．2簡單的（非平滑的）N元語法
4．3訓練集和測試集
4．3．1N元語法及其對訓練語料庫的敏感性
4．3．2未知詞：開放詞匯與封閉詞匯
4．4N元語法的評測：困惑度
4．5平滑
4．5．1Laplace平滑
4．5．2Good Turing打折法
4．5．3Good Turing估計的一些高級專題
4．6插值法
4．7回退法
4．7．1高級專題：計算Katz回退的α和P*
4．8實際問題：工具包和數(shù)據(jù)格式
4．9語言模型建模中的高級專題
4．9．1高級的平滑方法：Kneser Ney平滑法
4．9．2基于類別的N元語法
4．9．3語言模型的自適應和網(wǎng)絡（Web）應用
4．9．4長距離信息的使用：簡要的綜述
4．10信息論背景
4．10．1用于比較模型的交叉熵
4．11高級問題：英語的熵和熵率均衡性
4．12小結
4．13文獻和歷史說明
第5章詞類標注
5．1（大多數(shù)）英語詞的分類
5．2英語的標記集
5．3詞類標注
5．4基于規(guī)則的詞類標注
5．5基于隱馬爾可夫模型的詞類標注
5．5．1計算最可能的標記序列： 一個實例
5．5．2隱馬爾可夫標注算法的形式化
5．5．3使用Viterbi算法來進行HMM標注
5．5．4把HMM擴充到三元語法
5．6基于轉換的標注
5．6．1怎樣應用TBL規(guī)則
5．6．2怎樣學習TBL規(guī)則
5．7評測和錯誤分析
5．7．1錯誤分析
5．8詞類標注中的高級專題
5．8．1實際問題：標記的不確定性與詞例還原
5．8．2未知詞
5．8．3其他語言中的詞類標注
5．8．4標注算法的結合
5．9高級專題：拼寫中的噪聲信道模型
5．9．1上下文錯拼更正
5．10小結
5．11文獻和歷史說明
第6章隱馬爾可夫模型與最大熵模型
6．1馬爾可夫鏈
6．2隱馬爾可夫模型
6．3似然度的計算：向前算法
6．4解碼：Viterbi算法
6．5HMM的訓練：向前向后算法
6．6最大熵模型：背景
6．6．1線性回歸
6．6．2邏輯回歸
6．6．3邏輯回歸：分類
6．6．4高級專題：邏輯回歸的訓練
6．7最大熵模型
6．7．1為什么稱為最大熵
6．8最大熵馬爾可夫模型
6．8．1MEMM的解碼和訓練
6．9小結
6．10文獻和歷史說明
第二部分 語音的計算機處理
第7章語音學
7．1言語語音與語音標音法
7．2發(fā)音語音學
7．2．1發(fā)音器官
7．2．2輔音：發(fā)音部位
7．2．3輔音：發(fā)音方法
7．2．4元音
7．2．5音節(jié)
7．3音位范疇與發(fā)音變異
7．3．1語音特征
7．3．2語音變異的預測
7．3．3影響語音變異的因素
7．4聲學語音學和信號
7．4．1波
7．4．2語音的聲波
7．4．3頻率與振幅：音高和響度
7．4．4從波形來解釋音子
7．4．5聲譜和頻域
7．4．6聲源濾波器模型
7．5語音資源
7．6高級問題：發(fā)音音系學與姿態(tài)音系學
7．7小結
7．8文獻和歷史說明
第8章 語音合成
8．1文本歸一化
8．1．1句子的詞例還原
8．1．2非標準詞
8．1．3同形異義詞的排歧
8．2語音分析
8．2．1查詞典
8．2．2名稱
8．2．3字位-音位轉換
8．3韻律分析
8．3．1韻律的結構
8．3．2韻律的突顯度
8．3．3音調(diào)
8．3．4更精巧的模型：ToBI
8．3．5從韻律標記計算音延
8．3．6從韻律標記計算F0
8．3．7文本分析的最后結果：內(nèi)部表示
8．4雙音子波形合成
8．4．1建立雙音子數(shù)據(jù)庫的步驟
8．4．2雙音子毗連和用于韻律的TD-PSOLA
8．5單元選擇（波形）合成
8．6評測
8．7文獻和歷史說明
第9章語音自動識別
9．1語音識別的總體結構
9．2隱馬爾可夫模型應用于語音識別
9．3特征抽取：MFCC矢量
9．3．1預加重
9．3．2加窗
9．3．3離散傅里葉變換
9．3．4Mel濾波器組和對數(shù)
9．3．5倒譜：逆向傅里葉變換
9．3．6Delta特征與能量
9．3．7總結：MFCC
9．4 聲學似然度的計算
9．4．1矢量量化
9．4．2高斯概率密度函數(shù)
9．4．3概率、對數(shù)概率和距離函數(shù)
9．5詞典和語言模型
9．6搜索與解碼
9．7嵌入式訓練
9．8評測：詞錯誤率
9．9小結
9．10文獻和歷史說明
第10章語音識別：高級專題
10．1多遍解碼：N最佳表和格
10．2A*解碼算法（“棧”解碼算法）
10．3依賴于上下文的聲學模型：三音子
10．4分辨訓練
10．4．1最大互信息估計
10．4．2基于后驗分類器的聲學模型
10．5語音變異的建模
10．5．1環(huán)境語音變異和噪聲
10．5．2說話人變異和說話人適應
10．5．3發(fā)音建模：由于語類的差別而產(chǎn)生的變異
10．6元數(shù)據(jù)：邊界、標點符號和不流利現(xiàn)象
10．7人的語音識別
10．8小結
10．9文獻和歷史說明
第11章計算音系學
11．1有限狀態(tài)音系學
11．2高級有限狀態(tài)音系學
11．2．1元音和諧
11．2．2模板式形態(tài)學
11．3計算優(yōu)選理論
11．3．1優(yōu)選理論中的有限狀態(tài)轉錄機模型
11．3．2優(yōu)選理論的隨機模型
11．4音節(jié)切分
11．5音位規(guī)則和形態(tài)規(guī)則的機器學習
11．5．1音位規(guī)則的機器學習
11．5．2形態(tài)規(guī)則的機器學習
11．5．3優(yōu)選理論中的機器學習
11．6小結
11．7文獻和歷史說明
第三部分句法的計算機處理
第12章英語的形式語法
12．1組成性
12．2上下文無關語法
12．2．1上下文無關語法的形式定義
12．3英語的一些語法規(guī)則
12．3．1句子一級的結構
12．3．2子句與句子
12．3．3名詞短語
12．3．4一致關系
12．3．5動詞短語和次范疇化
12．3．6助動詞
12．3．7并列關系
12．4樹庫
12．4．1樹庫的例子：賓州樹庫課題
12．4．2作為語法的樹庫
12．4．3樹庫搜索
12．4．4中心詞與中心詞的發(fā)現(xiàn)
12．5語法等價與范式
12．6有限狀態(tài)語法和上下文無關語法
12．7依存語法
12．7．1依存和中心詞之間的關系
12．7．2范疇語法
12．8口語的句法
12．8．1不流暢現(xiàn)象與口語修正
12．8．2口語樹庫
12．9語法和人的語言處理
12．10小結
12．11文獻和歷史說明
第13章句法剖析
13．1剖析就是搜索
13．1．1自頂向下剖析
13．1．2自底向上剖析
13．1．3自頂向下剖析與自底向上剖析比較
13．2歧義
13．3面對歧義的搜索
13．4動態(tài)規(guī)劃剖析方法
13．4．1CKY剖析
13．4．2Earley算法
13．4．3線圖剖析
13．5局部剖析
13．5．1基于規(guī)則的有限狀態(tài)組塊分析
13．5．2基于機器學習的組塊分析方法
13．5．3組塊分析系統(tǒng)的評測
13．6小結
13．7文獻和歷史說明
第14章統(tǒng)計剖析
14．1概率上下文無關語法
14．1．1 PCFG用于排歧
14．1．2PCFG用于語言建模
14．2PCFG的概率CKY剖析
14．3PCFG規(guī)則概率的學習途徑
14．4PCFG的問題
14．4．1獨立性假設忽略了規(guī)則之間的結構依存關系
14．4．2缺乏對詞匯依存關系的敏感性
14．5使用分離非終極符號的辦法來改進PCFG
14．6概率詞匯化的CFG
14．6．1Collins剖析器
14．6．2高級問題：Collins剖析器更多的細節(jié)
14．7剖析器的評測
14．8高級問題：分辨再排序
14．9高級問題：基于剖析器的語言模型
14．10人的剖析
14．11小結
14．12文獻和歷史說明
第15章特征與合一
15．1特征結構
15．2特征結構的合一
15．3語法中的特征結構
15．3．1一致關系
15．3．2中心語特征
15．3．3次范疇化
15．3．4長距離依存關系
15．4合一的實現(xiàn)
15．4．1合一的數(shù)據(jù)結構
15．4．2合一算法
15．5帶有合一約束的剖析
15．5．1把合一結合到Earley剖析器中
15．5．2基于合一的剖析
15．6類型與繼承
15．6．1高級問題：類型的擴充
15．6．2合一的其他擴充
15．7小結
15．8文獻和歷史說明
第16章語言和復雜性
16．1Chomsky 層級
16．2怎么判斷一種語言不是正則的
16．2．1抽吸引理
16．2．2證明各種自然語言不是正則語言
16．3自然語言是上下文無關的嗎
16．4計算復雜性和人的語言處理
16．5小結
16．6文獻和歷史說明
第四部分語義和語用的計算機處理
第17章意義的表示
17．1意義表示的計算要求
17．1．1可驗證性
17．1．2無歧義性
17．1．3規(guī)范形式
17．1．4推理與變量
17．1．5表達能力
17．2模型論語義學
17．3一階邏輯
17．3．1一階邏輯基礎
17．3．2變量和量詞
17．3．3λ表示法
17．3．4一階邏輯的語義
17．3．5推理
17．4事件與狀態(tài)的表示
17．4．1時間表示
17．4．2體
17．5描述邏輯
17．6意義的具體化與情境表示方法
17．7小結
17．8文獻和歷史說明
第18章計算語義學
18．1句法驅(qū)動的語義分析
18．2句法規(guī)則的語義擴充
18．3量詞轄域歧義及非確定性
18．3．1存儲與檢索方法
18．3．2基于約束的方法
18．4基于合一的語義分析方法
18．5語義與Earley分析器的集成
18．6成語和組成性
18．7小結
18．8文獻和歷史說明
第19章詞匯語義學
19．1詞義
19．2含義間的關系
19．2．1同義關系和反義關系
19．2．2上下位關系
19．2．3語義場
19．3WordNet：詞匯關系信息庫
19．4事件參與者
19．4．1題旨角色
19．4．2因素交替（Diathesis Alternations）
19．4．3題旨角色的問題
19．4．4命題庫
19．4．5FrameNet
19．4．6選擇限制
19．5基元分解
19．6高級問題：隱喻
19．7小結
19．8文獻和歷史說明
第20章計算詞匯語義學
20．1詞義排歧：綜述
20．2有監(jiān)督詞義排歧
20．2．1監(jiān)督學習的特征抽取
20．2．2樸素貝葉斯分類器和決策表分類器
20．3WSD評價方法、基準線和上限
20．4WSD：字典方法和同義詞庫方法
20．4．1Lesk算法
20．4．2選擇限制和選擇優(yōu)先度
20．5最低限度的監(jiān)督WSD：自舉法
20．6詞語相似度：語義字典方法
20．7詞語相似度：分布方法
20．7．1定義詞語的共現(xiàn)向量
20．7．2度量與上下文的聯(lián)系
20．7．3定義兩個向量之間的相似度
20．7．4評價分布式詞語相似度
20．8下位關系和其他詞語關系
20．9語義角色標注
20．10高級主題：無監(jiān)督語義排歧
20．11小結
20．12文獻和歷史說明
第21章計算話語學
21．1話語分割
21．1．1無監(jiān)督話語分割
21．1．2有監(jiān)督話語分割
21．1．3話語分割的評價
21．2文本連貫性
21．2．1修辭結構理論
21．2．2自動連貫指派
21．3指代消解
21．4指代現(xiàn)象
21．4．1指示語的五種類型
21．4．2信息狀態(tài)
21．5代詞指代消解所使用的特征
21．5．1用來過濾潛在指代對象的特征
21．5．2代詞解釋中的優(yōu)先關系
21．6指代消解的三種算法
21．6．1代詞指代基準系統(tǒng)：Hobbs算法
21．6．2指代消解的中心算法
21．6．3代詞指代消解的對數(shù)線性模型
21．6．4代詞指代消解的特征
21．7共指消解
21．8共指消解的評價
21．9高級問題：基于推理的連貫判定
21．10所指的心理語言學研究
21．11小結
21．12文獻和歷史說明
第五部分應用
第22章信息抽取
22．1命名實體識別
22．1．1命名實體識別中的歧義
22．1．2基于序列標注的命名實體識別
22．1．3命名實體識別的評價
22．1．4實用NER架構
22．2關系識別和分類
22．2．1用于關系分析的有監(jiān)督學習方法
22．2．2用于關系分析的弱監(jiān)督學習方法
22．2．3關系分析系統(tǒng)的評價
22．3時間和事件處理
22．3．1時間表達式的識別
22．3．2時間的歸一化
22．3．3事件檢測和分析
22．3．4TimeBank
22．4模板填充
22．4．1模板填充的統(tǒng)計方法
22．4．2有限狀態(tài)機模板填充系統(tǒng)
22．5高級話題：生物醫(yī)學信息的抽取
22．5．1生物學命名實體識別
22．5．2基因歸一化
22．5．3生物學角色和關系
22．6小結
22．7文獻和歷史說明
第23章問答和摘要
23．1信息檢索
23．1．1向量空間模型
23．1．2詞語權重計算
23．1．3詞語選擇和建立
23．1．4信息檢索系統(tǒng)的評測
23．1．5同形關系、多義關系和同義關系
23．1．6改進用戶查詢的方法
23．2事實性問答
23．2．1問題處理
23．2．2段落檢索
23．2．3答案處理
23．2．4事實性答案的評價
23．3摘要
23．4單文檔摘要
23．4．1無監(jiān)督的內(nèi)容選擇
23．4．2基于修辭分析的無監(jiān)督摘要
23．4．3有監(jiān)督的內(nèi)容選擇
23．4．4句子簡化
23．5多文檔摘要
23．5．1多文檔摘要的內(nèi)容選擇
23．5．2多文檔摘要的信息排序
23．6主題摘要和問答
23．7摘要的評價
23．8小結
23．9文獻和歷史說明
第24章對話與會話智能代理
24．1人類會話的屬性
24．1．1話輪和話輪轉換
24．1．2語言作為行動：言語行為
24．1．3語言作為共同行動：對話的共同基礎
24．1．4會話結構
24．1．5會話隱含
24．2基本的對話系統(tǒng)
24．2．1ASR組件
24．2．2NLU組件
24．2．3生成和TTS組件
24．2．4對話管理器
24．2．5錯誤處理：確認和拒絕
24．3VoiceXML
24．4對話系統(tǒng)的設計和評價
24．4．1設計對話系統(tǒng)
24．4．2評價對話系統(tǒng)
24．5信息狀態(tài)和對話行為
24．5．1使用對話行為
24．5．2解釋對話行為
24．5．3檢測糾正行為
24．5．4生成對話行為：確認和拒絕
24．6馬爾可夫決策過程架構
24．7高級問題：基于規(guī)劃的對話行為
24．7．1規(guī)劃推理解釋和生成
24．7．2對話的意圖結構
24．8小結
24．9文獻和歷史說明
第25章機器翻譯
25．1為什么機器翻譯如此困難
25．1．1類型學
25．1．2其他的結構差異
25．1．3詞匯的差異
25．2經(jīng)典的機器翻譯方法與Vauquois三角形
25．2．1直接翻譯
25．2．2轉換方法
25．2．3傳統(tǒng)機器翻譯系統(tǒng)中的直接和轉換相融合的方法
25．2．4中間語言的思想：使用意義
25．3統(tǒng)計機器翻譯
25．4P(F|E)：基于短語的翻譯模型
25．5翻譯中的對齊
25．5．1IBM模型1
25．5．2HMM對齊
25．6對齊模型的訓練
25．6．1訓練對齊模型的EM算法
25．7用于基于短語機器翻譯的對稱對齊
25．8基于短語統(tǒng)計機器翻譯的解碼
25．9機器翻譯評價
25．9．1使用人工評價者
25．9．2自動評價：BLEU
25．10高級問題：機器翻譯的句法模型
25．11高級問題：IBM模型3和繁衍度
25．11．1模型3的訓練
25．12高級問題：機器翻譯的對數(shù)線性模型
25．13小結
25．14文獻和歷史說明
參考文獻