基于字詞融合和多頭注意力的專利實體識別

摘要： 為解決面向?qū)＠谋镜拿麑嶓w識別因難以利用技術(shù)詞信息導(dǎo)致識別準確率偏低的問題，提出一種基于字詞融合和多頭注意力的專利實體識別模型CWMA。依據(jù)字符在詞中位置進行字詞融合，獲得文本特征向量；通過雙向門控循環(huán)單元BiGRU從特征向量中學(xué)習上下文信息，使用多頭注意力增強字符之間的依賴關(guān)系；應(yīng)用條件隨機場CRF進行實體識別。在Resume和專利數(shù)據(jù)集上的實驗結(jié)果表明，提出模型能夠顯著提...