一个由AI专家评审、关于AI研究的顶级会议，其录用论文中却出现了AI工具“捏造”的学术引用，这构成了现代学术界最具讽刺意味的一幕。
近日，加拿大初创公司GPTZero对去年12月在美国圣地亚哥举行的第39届神经信息处理系统大会上接受的4841篇论文进行了全面分析。
结果显示，至少有51篇论文中包含超过100处由AI生成的虚假引用。这些虚构的引用有些是完全编造的论文标题和作者，有些则是混合了多篇真实论文元素的“混搭体”。
01 丑闻浮现
AI检测初创公司GPTZero的报告揭示了学术界一个令人不安的趋势。该公司分析了所有4841篇被NeurIPS接受的论文，确认在51篇不同论文中存在100处虚假引用。
这些虚假引用并非偶然的笔误，而是大型语言模型典型“幻觉”现象在学术领域的体现。
在部分案例中，AI模型完全虚构了不存在的论文，包括听起来可信的标题、作者列表甚至期刊名称。
更令人担忧的是，这些虚假引用已经通过了NeurIPS的同行评审流程。每篇提交给NeurIPS的论文都经过了至少三位评审专家的审查，而会议组织者也明确要求评审人员标记出可能存在的“幻觉”内容。
即便如此，这些虚假引用仍然成功“混入”了最终的会议论文集。
02 多重虚假模式
GPTZero的分析揭示了多种类型的虚假引用模式。在部分案例中，AI模型似乎从真实论文出发，但进行了细微的改动，例如将作者的首字母扩展为猜测的全名、增删合著者或改写标题。
这种半真半假的引用尤其具有欺骗性，因为它们混合了真实和虚假的信息，使得不进行逐项核查很难发现问题。
在更极端的情况下，AI模型完全凭空捏造了引用信息，包括不存在的作者、虚构的论文标题、假的期刊或会议名称，甚至是指向无效网址的链接。
GPTZero联合创始人兼首席技术官Alex Cui指出：“有时，即使存在匹配项，你也会发现他们为一个真实论文添加了五名不存在的作者，这些错误是正常人不会犯的。”
03 规模与审查困境
虚假引用问题的背后，是AI领域学术会议面临的规模困境。2025年，NeurIPS主要研究轨道收到了21575份有效投稿，较2024年的15671份和2023年的12343份持续增长。
投稿量的激增给同行评审系统带来了巨大压力。面对数以万计的投稿，即使是数千名志愿评审专家也难以对每篇论文及其参考文献进行深入审查。
学术出版伦理专家认为，这一问题更多是规模和工作流程危机的表现，而非学术不端行为。
研究人员面临快速发表的压力，加上投稿量的指数级增长，迫使他们尽可能使用各种生产力工具。大型语言模型擅长生成看起来正确的文本，这使得虚构引用难以被发现。
04 学术诚信与责任
NeurIPS董事会就此事发表了声明，承认“AI会议中LLM的使用正在迅速发展”，并表示正在积极监测相关进展。
声明中强调：“即使1.1%的论文由于使用LLMs而出现一处或多处错误引用，论文内容本身不一定无效”。
这一立场引发了学术界对于AI辅助研究中责任归属的讨论。正如TechCrunch所质疑的：“如果世界上最顶尖的AI专家，冒着声誉受损的风险，都无法确保LLM使用在细节上的准确性，这对我们其他人意味着什么？”
在学术界，引用被视为研究者的“货币”，用于衡量其工作在同龄人中的影响力。当AI编造这些引用时，实际上稀释了这种“货币”的价值。
05 应对与未来
面对这一挑战，学术会议和期刊预计将调整其投稿处理方式。可能的发展方向包括更严格的投稿指南、要求作者声明AI辅助工具的使用情况，以及开发专门的AI检测工具。
值得注意的是，这并非NeurIPS面临的唯一困境。今年早些时候，由于会议场地限制，约400篇已被录用的论文遭到拒收，引发了学术社区的广泛不满。
这些问题共同反映了AI领域学术交流体系在快速发展中面临的结构性挑战。
GPTZero的联合创始人兼CEO Edward Tian指出，他们此前已在另一个顶级AI研究会议ICLR的投稿中发现了50处虚假引用。不同的是，在ICLR案例中，这些论文尚未被接受，但虚假引用已经通过了同行评审。
GPTZero联合创始人Alex Cui介绍，他们的幻觉检测工具会扫描每篇论文，然后在开放网络和学术数据库中搜索验证每一处引用。
对于NeurIPS的分析，公司在自动扫描后，还由机器学习团队的一名成员手动核验了每个被标记的引用，确保结果本身不是误报。
这场风波的影响可能会蔓延到2026年及以后，影响包括比特币世界Disrupt 2026在内的主要活动的投稿政策，其中关于AI伦理和实践实施的讨论肯定会参考这一NeurIPS案例。
关注 “悠AI” 更多干货技巧行业动态
相关文章
