Nature 报道：AI 论文一旦露出幻觉参考文献，作者可能被封禁一年

近日，Nature 报道称，预印本平台 arXiv 开始对论文中的 AI“幻觉参考文献”动真格：如果投稿中出现未经核验的 AI 生成错误，作者可能面临一年禁投处罚。

据 Nature 报道，arXiv重点针对的并不是“使用AI”本身，而是那些明显没有认真检查大语言模型输出的情况。比如，论文中出现不存在的参考文献、未删除的AI对话痕迹、占位符残留，或其他一眼就能看出未经核验的错误内容。

这一点也与 ICMJE、Elsevier 等出版规范的态度基本一致。ICMJE明确提出，AI工具不能被列为作者，因为它无法对论文的准确性、完整性和原创性负责；Elsevier也提醒，作者可以使用AI辅助整理和写作，但必须对AI生成内容进行人工审查，尤其要核验参考文献和引用来源。

真正让编辑部头疼的是，AI生成的错误往往并不粗糙。很多“幻觉参考文献”看起来非常像真的：作者名合理，题目像模像样，期刊名称、年份、卷期页码也都很完整。可当你去 PubMed、Crossref、Web of Science、Google Scholar 或出版社官网检索时，才发现它可能根本不存在。

这类问题已经不是个别笑话。一项针对1.11亿条参考文献、250万篇论文和预印本的研究显示，AI幻觉引用正在进入学术写作链条，研究者保守估计，仅2025年就可能出现了146,932条幻觉引用。另有针对 ICLR、ICML、NeurIPS 等会议论文的分析也指出，幻觉引用甚至已经穿过部分同行评议流程，进入正式论文记录。

Retraction Watch 也曾报道过一个典型案例：一篇发表在《Journal of Academic Ethics》的文章被发现29条参考文献中至少19条疑似伪造，通讯作者后来承认曾使用 ChatGPT 生成参考文献。讽刺的是，这篇文章本身讨论的正是伦理相关话题。

国内高校也在持续提醒AI使用边界。新华社此前报道，浙江大学教育学院团队调研20多所高校学生后发现，部分学生已经对AI形成依赖，有工科研究生意识到过度依赖AI可能带来思维惰性。在论文写作里，这种依赖很容易表现为让AI“代查文献、代写综述、代补引用”，但作者本人却没有真正读过原文，也没有逐条核查来源。

所以，AI时代的论文自查，不能只看重复率和AIGC比例。参考文献同样是高风险区。为帮助作者在投稿、送审、结题前提前排查引用风险，AiScholar 推出了参考文献真实性检测报告服务（免费体验），可针对参考文献进行真实性验证、DOI与题录信息核验、虚构/伪造风险识别等，在提交前完成一次更系统的文献“体检”。

参考文献真实性检测

已收藏 602

点赞 559