语言模型中是否隐藏了异形同义信息?



报告人秦宇航
报告时间2026-06-25
讨论组语法理论与语言工程
关键词异形同义,文本语义相似度,大语言模型嵌入
摘要或简介

语言研究需要实现知识和数据的良性循环:知识合成数据,数据凝成知识。这一循环利于语言学研究成果同大语言模型(LLM)相结合,提升大语言模型的语言能力,因此也对语言研究提出了更高的要求。然而,语言学研究往往聚焦于具体的语言现象细节,且已有的研究基础不多,因此语言知识和语言数据同时缺乏,不利于上述循环的实现。LLM本身经过大规模语料的训练,其参数中包含语言分布的信息,可能隐藏了关于语言的知识。如果能够利用这些知识,就能进一步推进语言研究及语言数据合成。因此,本研究尝试探索能否利用文本语义相似度(Semantic Textual Similarity)任务上的判断方法,通过LLM文本嵌入(embedding)辅助在空间异形同义任务(詹卫东等,2024;Qin et al.,2025;詹卫东等,2025)上的语义异同判断。实验结果表明,简单的相似度方法在空间异形同义/异形异义句子上计算的相似度没有区分度,不能用于判定空间异形同义现象;在方位义词的词嵌入中,模型并未学习到区分不同方位义词的能力。利用文本嵌入辅助语言数据合成和语言知识发掘的方式有待进一步探究。

发布人hezonglianheng
发布范围全网
讨论记录

本次讨论主要提出了3个问题:

1. 文字表述问题:本研究尝试将空间异形同义任务转换为Semantic Textual Similarity任务,这一任务原译为“语义文本相似度”。会上提出,任务的原名和译名都值得商榷。新版已将译名改为“文本语义相似度”。然而,由于NLP社区主流已经将这一任务称为Semantic Textual Similarity任务,因此无法修改。
2. 研究动机问题:本研究的动机不够明确,究其原因是没有明确本任务的目标。一方面,本研究宣称尝试构建一个利用LLM嵌入(embedding)判断并生成语言数据的pipeline,这表示本研究的目标是扩充异形同义数据集(远景目标);另一方面,由于时间和条件有限,本研究只能测试LLM嵌入是否能辅助空间异形同义现象的判断,这表示本研究的目标是验证模型判断异形同义的能力(近期目标)。研究没有很好地处理这两个目标,导致研究动机不够明确。
3. 研究进路问题:本研究在研究进路上存在研究难度过大、跨度过大的问题。
(1) 研究难度过大:如果通过本研究的验证,发现LLM文本嵌入可以辅助空间语义异同判断,就必须说明,为何直接利用模型最终输出的方法无法达到良好的效果。这一验证是较为困难的。
(2) 研究跨度过大:目前发现,简单的相似度方法在空间异形同义/异形异义句子上计算的相似度没有区分度,这一情形折损了研究的价值。提取更细节的LLM内部表示进行分析和计算需要更深入的研究方法和更高级的计算资源,这是目前所无法轻易获得的,研究目标和方式之间存在较大的鸿沟。
因此,会上提出,不建议当下继续沿这一路线进行探索。

下载次数45
浏览次数25

下载文献(22.1 MB) 查看幻灯片(22.1 MB)  登录后可执行更多操作


© CCL of   Peking University  2019