融合流注意力機(jī)制的中文摘要生成方法
小型微型計(jì)算機(jī)系統(tǒng)
頁(yè)數(shù): 7 2023-07-07
摘要: 針對(duì)現(xiàn)有文本摘要生成方法對(duì)源文全局語(yǔ)義信息提取不充分問(wèn)題,提出了一種融合流注意力機(jī)制的并行編碼器摘要生成算法模型.首先使用單顆粒的分詞方法對(duì)源文進(jìn)行分詞;然后在編碼階段引入多頭流注意力機(jī)制,從而更全面地提取源文的全局語(yǔ)義信息;其次運(yùn)用并行編碼器訓(xùn)練模型,使得輸入序列中語(yǔ)義信息獲得更大權(quán)重;最后將編碼得到的全局語(yǔ)義信息送入到融合指針的解碼器中,通過(guò)指針復(fù)制源文詞匯,減少生成摘要中...