基于多頭卷積殘差連接的文本數(shù)據(jù)實體識別
所屬分類:技術論文
上傳者:wwei
文檔大小:1297 K
標簽: 深度學習 命名實體識別 神經(jīng)網(wǎng)絡
所需積分:0分積分不夠怎么辦?
文檔介紹:為構建工作報告中的文本數(shù)據(jù)關系型數(shù)據(jù)庫,針對非結構化文本數(shù)據(jù)中有效信息實體提取問題以及傳統(tǒng)網(wǎng)絡在提取信息時特征丟失問題,設計了一種基于深度學習的實體識別模型RoBERTa-MCR-BiGRU-CRF,首先利用預訓練模型RoBERTa作為編碼器,將訓練后的詞向量輸入到多頭卷積殘差網(wǎng)絡層MCR擴充語義信息,接著輸入到門控循環(huán)BiGRU層進一步提取上下文特征,最后經(jīng)過條件隨機場CRF層解碼進行標簽判別。經(jīng)過實驗,模型在工作報告數(shù)據(jù)集上F1值達到96.64%,優(yōu)于其他對比模型;并且在數(shù)據(jù)名稱實體類別上,F(xiàn)1值分別比BERT-BiLSTM-CRF和RoBERTa-BiGRU-CRF提高了3.18%、2.87%,結果表明該模型能較好地提取非結構化文本中的有效信息。
現(xiàn)在下載
VIP會員,AET專家下載不扣分;重復下載不扣分,本人上傳資源不扣分。