文件大小：1M
摘要：近年来，提示微调在自然语言处理任务中展现出卓越的性能，其核心是设计与任务匹配的提示模板和答案空间。然而，在关系抽取任务中，构建合适的模板依赖专家知识，且难以有效利用关系标签语义。同时，模型预测易受实体与关系虚假关联的影响。为此，本文提出了一种基于提示微调的模型知识校准关系抽取方法。首先，将关系标签知识注入可微提示，通过注意力机制聚合模型多层表征。采用特征匹配策略和结构约束方法增强模型对关系语义和三元组结构知识的感知，协同优化提示模版。最后，通过因果分析消除实体知识带来的预测偏差。实验结果表明，在四个关系抽取基准数据集的全监督和小样本场景下，模型仍展现出具有竞争力或更优的性能。
文章目录
0 引言
1 相关研究
1.1 句子级关系抽取
1.2 提示微调
2 模型设计
2.1 特征提取模块
2.2 知识增强模块
2.3 偏差移除模块
2.4 训练说明
3 实验
3.1 数据集
3.2 实验设置与评价指标
3.3 对比实验
3.4 消融实验
4 分析与讨论
4.1 手工设计的提示模版是否影响模型性能
4.2 注意力机制是如何作用于知识特征提取
4.3 RE任务中因果推理分析偏差
5 结论
