古代中国医学文献的命名实体识别——以Flat-lattice增强的SikuBERT预训练模型为例
2022-07-20分类号:R2-09;TP391.1
【部门】南京中医药大学卫生经济管理学院 南京农业大学信息管理学院
【摘要】古代中国医学文献是中华古籍的重要组成部分,含有丰富的中医学知识,是中医理论研究的重要载体和思想源泉。标注古代中医文献的命名实体,能进一步挖掘其蕴藏的中医学知识,推进中医现代化发展。文章基于BERT-base、RoBERTa、SikuBERT、SikuRoBERTa预训练模型,以《黄帝内经·素问》为研究对象、Flat-lattice Transformer结构为微调模型,构建中医文献中病证、病理、经络、穴位、五行等命名实体识别任务。实验结果表明:直接使用古文繁体BERT模型对古代中医文献进行领域命名实体识别,则基于繁体《四库全书》的SikuBERT、SikuRoBERTa预训练模型效果要优于BERT-base、RoBERTa模型;在引入Flat-lattice Transformer(FLAT)结构作为微调模型后,SikuBERT在有标点情况下表现最优,识别效果可以提升4%左右,SikuRoBERTa在无标点情况下表现最优,识别效果可以提高2%~3%。实验验证了FLAT作为微调模型对BERT模型在中医专业领域中古文献命名实体识别工作上的有效性。该微调模型可以有效避免分词错误引起的实体识别传播错误,进而提高中医命名实体的识别效率。
【关键词】命名实体识别 中医典籍 素问 SikuBERT Flat-lattice Transformer
【基金】国家社会科学基金项目 “古代中国医学文献的知识标注与知识挖掘研究”(项目编号:17BTQ060)研究成果
【所属期刊栏目】图书馆论坛
文献传递