自然語(yǔ)言處理與醫(yī)療文本的知識(shí)抽取

目　錄　　
第 一部分　基礎(chǔ)知識(shí)
第 1章　自然語(yǔ)言處理技術(shù)　2
1.1　自然語(yǔ)言處理概述　2
1.2　數(shù)據(jù)標(biāo)注任務(wù)　3
1.2.1　數(shù)據(jù)標(biāo)注之中文分詞　3
1.2.2　數(shù)據(jù)標(biāo)注之詞性標(biāo)注　4
1.3　詞表示學(xué)習(xí)任務(wù)　5
1.3.1　詞表示方法的類(lèi)型　5
1.3.2　詳解詞的分布式表示　6
1.3.3　詞嵌入　7
1.4　實(shí)體識(shí)別任務(wù)　9
1.5　關(guān)系抽取任務(wù)　10
1.6　事件抽取任務(wù)　12
1.7　預(yù)訓(xùn)練模型　14
1.8　小樣本學(xué)習(xí)　16
1.9　領(lǐng)域自適應(yīng)　18
1.10　多模態(tài)任務(wù)　20
1.11　對(duì)話(huà)任務(wù)　23
1.11.1　生成式對(duì)話(huà)　23
1.11.2　任務(wù)導(dǎo)向型對(duì)話(huà)　24
1.12　本書(shū)結(jié)構(gòu)　26
　參考文獻(xiàn)　26
第 2章　從統(tǒng)計(jì)機(jī)器學(xué)習(xí)模型到神經(jīng)網(wǎng)絡(luò)模型　28
2.1　統(tǒng)計(jì)機(jī)器學(xué)習(xí)方法的三要素　28
2.2　隱馬爾可夫模型　28
2.3　支持向量機(jī)　30
2.4　條件隨機(jī)場(chǎng) 　34
2.5　前饋神經(jīng)網(wǎng)絡(luò)　37
2.6　反饋神經(jīng)網(wǎng)絡(luò)　42
2.6.1　循環(huán)神經(jīng)網(wǎng)絡(luò)　42
2.6.2　遞歸神經(jīng)網(wǎng)絡(luò)　43
2.6.3　Hopfield神經(jīng)網(wǎng)絡(luò)　44
2.6.4　長(zhǎng)短期記憶網(wǎng)絡(luò)　45
2.7　注意力模型　47
2.7.1　注意力　47
2.7.2　Encoder-Decoder框架　47
2.7.3　軟注意力　49
2.7.4　硬注意力　50
2.7.5　自注意力　51
2.8　Transformer模型　53
2.9　圖神經(jīng)網(wǎng)絡(luò)模型　55
　參考文獻(xiàn)　57
第3章　詞表示學(xué)習(xí)　59
3.1　分布假設(shè)與分布式表示　59
3.2　詞向量模型CBOW　60
3.3　詞向量模型Skip-Gram　61
　參考文獻(xiàn)　62
第二部分　知識(shí)抽取
第4章　實(shí)體識(shí)別　64
4.1　基于卷積神經(jīng)網(wǎng)絡(luò)的實(shí)體識(shí)別　64
4.2　基于循環(huán)神經(jīng)網(wǎng)絡(luò)的實(shí)體識(shí)別　67
4.3　基于Transformer的實(shí)體識(shí)別模型　70
　參考文獻(xiàn)　72
第5章　關(guān)系抽取　73
5.1　基于注意力的關(guān)系抽取模型　73
5.2　基于集成學(xué)習(xí)的關(guān)系抽取模型　76
5.3　基于預(yù)訓(xùn)練的關(guān)系抽取模型　78
5.4　基于Transformer的關(guān)系抽取模型　81
5.5　基于GCN的關(guān)系抽取模型　82
　參考文獻(xiàn)　84
第6章　領(lǐng)域自適應(yīng)　86
6.1　DAN模型　86
6.2　DANN模型　87
6.3　DSN模型　90
　參考文獻(xiàn)　92
第7章　多模態(tài)任務(wù)　93
7.1　多模態(tài)數(shù)據(jù)　93
7.2　多模態(tài)融合技術(shù)　95
7.3　多模態(tài)融合技術(shù)面臨的挑戰(zhàn)　98
　參考文獻(xiàn)　99
第8章　小樣本學(xué)習(xí)　100
8.1　數(shù)據(jù)增強(qiáng)　100
8.2　遠(yuǎn)程監(jiān)督　102
8.3　元學(xué)習(xí)　103
　參考文獻(xiàn)　106
第9章　實(shí)體與關(guān)系聯(lián)合抽取　107
9.1　參數(shù)共享模式　108
9.2　新標(biāo)注策略模式　110
9.3　關(guān)系重疊問(wèn)題　111
　參考文獻(xiàn)　112
第三部分　醫(yī)療電子病歷研究與實(shí)踐
第 10章　電子病歷研究背景　114
10.1　電子病歷概述　114
10.2　電子病歷文本類(lèi)型　115
10.3　電子病歷實(shí)體分類(lèi)體系　115
10.4　電子病歷實(shí)體關(guān)系分類(lèi)體系　116
10.5　電子病歷隱私實(shí)體分類(lèi)體系　117
10.6　ICD編碼　118
10.7　電子病歷ICD自動(dòng)編碼實(shí)踐 　119
10.8　電子病歷實(shí)體識(shí)別實(shí)踐　122
　參考文獻(xiàn)　131
第 11章　電子病歷的事件抽取　132
11.1　電子病歷中的事件　132
11.2　電子病歷事件觸發(fā)詞識(shí)別　133
11.3　電子病歷事件觸發(fā)詞抽取實(shí)踐　134
11.3.1　文本預(yù)處理　134
11.3.2　引入依存句法特征的動(dòng)態(tài)多池化模型　136
11.3.3　動(dòng)態(tài)多池化卷積神經(jīng)網(wǎng)絡(luò)　138
11.3.4　實(shí)驗(yàn)結(jié)果分析　140
11.4　電子病歷事件元素抽取　141
11.4.1　電子病歷事件元素角色類(lèi)別的定義　141
11.4.2　電子病歷事件元素抽取實(shí)踐　142
11.4.3　句子編碼　142
11.4.4　混合句法特征的圖神經(jīng)網(wǎng)絡(luò)　144
　參考文獻(xiàn)　146
第 12章　醫(yī)療對(duì)話(huà)摘要生成　147
12.1　基于情景記憶網(wǎng)絡(luò)的編碼標(biāo)記模型　148
12.1.1　情景記憶網(wǎng)絡(luò)　149
12.1.2　基于情景記憶網(wǎng)絡(luò)的分層標(biāo)記模型　150
12.1.3　實(shí)驗(yàn)　151
12.2　醫(yī)療對(duì)話(huà)摘要的未來(lái)　155
　參考文獻(xiàn)　155
第四部分　前沿技術(shù)與實(shí)踐
第 13章　因果推斷技術(shù)　158
13.1　電子病歷中的因果關(guān)系　158
13.2　因果方法　158
13.2.1　因果推斷　158
13.2.2　將因果關(guān)系發(fā)現(xiàn)與不同研究方向結(jié)合　160
13.2.3　將因果關(guān)系發(fā)現(xiàn)應(yīng)用于不同領(lǐng)域　161
13.2.4　典型的因果推斷技術(shù)　161
13.3　電子病歷中的因果推斷技術(shù)　165
　參考文獻(xiàn)　166
第 14章　小樣本學(xué)習(xí)實(shí)體識(shí)別實(shí)踐　167
14.1　問(wèn)題定義　167
14.2　方法　169
14.2.1　原型網(wǎng)絡(luò)　169
14.2.2　字符感知　170
14.2.3　句子感知　171
14.2.4　聯(lián)合學(xué)習(xí)策略　172
14.3　實(shí)驗(yàn)　172
14.3.1　數(shù)據(jù)集　172
14.3.2　超參數(shù)設(shè)置　173
14.3.3　基線(xiàn)模型　173
14.3.4　整體實(shí)驗(yàn)結(jié)果　174
14.3.5　收斂速度驗(yàn)證　174
14.3.6　消融研究　176
14.3.7　整體實(shí)驗(yàn)結(jié)果　177
14.3.8　錯(cuò)誤指標(biāo)分析　179
　參考文獻(xiàn)　180
第 15章　小樣本實(shí)體關(guān)系抽取實(shí)踐　181
15.1　問(wèn)題定義　182
15.2　方法　182
15.2.1　原型網(wǎng)絡(luò)　183
15.2.2　特征級(jí)注意力　184
15.2.3　深度集成策略　185
15.2.4　微調(diào)策略　185
15.3　實(shí)驗(yàn)　186
15.3.1　數(shù)據(jù)集　186
15.3.2　超參數(shù)設(shè)置　186
15.3.3　基線(xiàn)模型　187
15.3.4　整體實(shí)驗(yàn)結(jié)果　187
15.3.5　交叉驗(yàn)證　189
15.3.6　消融研究　190
參考文獻(xiàn)　192