融合注意力與詞邊界的防震減災(zāi)實(shí)體識別方法
測繪科學(xué)
頁數(shù): 9 2024-01-20
摘要: 針對防震減災(zāi)命名實(shí)體識別任務(wù)中存在的特征信息不足且識別效率低的問題,提出了一種“融合自注意力與MarkBERT”的防震減災(zāi)領(lǐng)域?qū)嶓w識別模型。該模型在預(yù)訓(xùn)練過程中引入MarkBERT:(1)得到含有詞邊界信息的序列;(2)利用BiLSTM獲取字符位置信息;(3)引入自注意力機(jī)制進(jìn)一步捕獲序列內(nèi)部關(guān)系并分配特征權(quán)重;(4)通過條件隨機(jī)場輸出最優(yōu)序列標(biāo)注結(jié)果。本模型基于“地震防治相關(guān)... (共9頁)