news 2026/6/10 1:22:51

谁是Samuel LeCun?NeurIPS 2025论文幻觉大赏,同行评审引争议

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
谁是Samuel LeCun?NeurIPS 2025论文幻觉大赏,同行评审引争议

NeurIPS 2025 惊现“填空式”造假,连 arXiv:XXXX 都不删。

GPTZero 团队近日发布审查报告,在 NeurIPS 2025 已发表的 4841 篇论文中,检测出超过 50 篇包含明确的 AI 幻觉。

这是继 ICLR 2026 审稿阶段爆出 50+ 篇 AI 幻觉论文后(具体分析可参考我们之前的文章),学术界再次出现大规模 AI 生成内容通过同行评审的案例。

值得注意的是,这些幻觉并非出现在只有一两人把关的边缘刊物,而是全部逃过了每篇论文至少 3 位人类审稿人的法眼。

不同的是,ICLR 尚处审稿阶段,而 NeurIPS 这批论文已正式归档,作为顶会成果被全球 20,000 多名与会者查阅引用。

报告披露了以下几类典型的 AI 生成伪造引用文献样本。

虚构图灵奖得主与期刊

在 GPTZero 披露的数据中,最典型的案例是一篇论文对深度学习经典文献的引用错误。

〓 GPTZero 报告对比真实引用与幻觉引用,作者名和期刊名均为 AI 捏造

AI 把图灵奖得主 Yann LeCun 和好莱坞影星 Samuel L. Jackson(漫威电影中“神盾局局长”的扮演者)的名字强行缝合在了一起,并顺手虚构了名为 Science & Nature 的期刊。

如此明显的错误,在正文引用和参考文献列表中均未被作者或审稿人修正。

保留 arXiv 占位符

GPTZero 将此类现象称为 Vibe Citing,仅保留引用的形式,不具备实际内容。

〓 已发表论文中保留了未修改的 arXiv 占位符,且包含多个无效引用

在论文《Efficient semantic uncertainty quantification in language models via diversity-steered sampling》中,参考文献列表包含大量 arXiv:2305.XXXX 和 arXiv:2402.XXXX。

作者直接使用了 AI 生成的带 XXXX 占位符的模板,既未补全具体的 arXiv ID,也未核实论文标题是否存在。该论文最终包含 13 处此类幻觉引用。

匿名占位符

除了具体的错误,部分论文甚至直接保留了代码模板中的默认人名。

在 GPTZero 截取的另一案例中,参考文献作者栏直接显示为 "Firstname Lastname and Others"(名·姓及其他)。

〓 参考文献作者栏直接保留了 "Firstname Lastname" 等占位符文本

此外,报告还指出部分论文出现了 "John Doe and Jane Smith" 等常见的匿名占位符名字。

〓 已发表论文中竟直接保留了“John Doe”等虚构占位符人名。

这些显而易见的错误表明作者未对 AI 生成的参考文献列表进行最基本的目视检查。

真作者,假论文

相比上述低级错误,隐蔽性更强的是半真半假的幻觉。

例如在论文《Memory-Augmented Potential Field Theory》中,AI 引用了 Mario Paolone 等 9 位真实存在的电气工程领域学者,年份(2020)也是正确的。

〓 该引用的作者真实但论文标题为虚构

但经核实,该作者团队从未发表过题为《A benchmark model for power system stability controls》的论文,其对应的卷号及页码也均为捏造。

此类幻觉极难通过肉眼识别,必须依赖数据库检索。

全景扫描:100 条幻觉引用清单

上述案例仅仅是冰山一角。为了直观呈现此次审查疏漏的波及范围,GPTZero 团队公开了完整的检测清单。

上下滑动,查看完整表单

这份包含 100 条已验证幻觉引用的表单,详细记录了从作者姓名拼接到完全虚构论文的各类造假细节。

这份清单直观反映了在海量投稿冲击下,现有同行评审机制已难以有效拦截此类 AI 伪造内容。

涉事机构分布

数据表明,AI 幻觉论文并非仅出自边缘研究机构。在 NeurIPS 2025 接收率仅为 24.52% 的背景下,这些包含明显错误的论文依然通过了评审。

〓 包含 AI 幻觉引用的论文作者机构分布统计

按作者归属机构统计,New York University (NYU) 数量最多。

榜单中还包含 Genentech、Shanghai Jiao Tong University、University of Cambridge、MIT、Google、Meta 等高校与企业。

这意味着即使是顶级研究机构,也未能完全规避 AI 生成内容的审查疏漏。

工具滥用与同行评审瓶颈

GitHub 数据显示了论文生成工具与会议截稿日的强相关性。

项目 ai-scientist 和 ai-researcher 的 GitHub Star 增长曲线出现两次垂直爬升,分别对应 2025 年 4 月(NeurIPS 截稿前夕)和 2025 年 9 月(ICLR 截稿前夕)。

〓 GitHub 上 AI 论文生成工具的 Star 增长与顶级会议截稿日高度重合

这种突发性增长导致投稿量激增,使得每篇论文分配 3-5 名人类审稿人的传统机制难以维持原有的审核精度。

GPTZero 团队指出,仅依靠扩充人类审稿人数量已难以应对 AI 生成内容的规模,学术会议引入自动化 AI 核查机制将成为必然趋势。

参考资料

[1] Shmatko, N., Adam, A., & Esau, P. (2026, January 21). GPTZero finds 100 new hallucinations in NeurIPS 2025 accepted papers. GPTZero Blog. https://gptzero.me/news/neurips/

更多阅读

#投 稿 通 道#

让你的文字被更多人看到

如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。

总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。

PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。

📝稿件基本要求:

• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注

• 稿件建议以markdown格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题

• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算

📬投稿通道:

• 投稿邮箱:hr@paperweekly.site

• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿

△长按添加PaperWeekly小编

🔍

现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/8 20:11:36

零基础理解eSPI物理接口电气特性

以下是对您提供的博文内容进行 深度润色与工程化重构后的版本 。我以一位深耕x86平台硬件设计十年、常年与EC/TPM/Flash打交道的嵌入式系统工程师身份,用更自然、更具实操感的语言重写全文—— 去掉所有AI腔调、模板化结构和空泛术语堆砌,代之以真实调…

作者头像 李华
网站建设 2026/6/8 14:42:23

小白也能用!Open-AutoGLM手机AI代理实战入门指南

小白也能用!Open-AutoGLM手机AI代理实战入门指南 1. 这不是科幻,是今天就能上手的手机AI助手 你有没有过这样的时刻: 想在小红书搜“最近爆火的咖啡店”,但手指划了三页还没找到;点外卖时反复对比五家店的满减规则&…

作者头像 李华
网站建设 2026/6/8 6:59:19

多模态检索前置:Qwen3-Embedding-4B文本编码实战

多模态检索前置:Qwen3-Embedding-4B文本编码实战 1. 为什么你需要一个真正好用的文本编码器 在构建多模态检索系统时,很多人把注意力全放在图像、视频或语音模型上,却忽略了最底层也最关键的一步——文本怎么被准确“翻译”成向量。如果文本…

作者头像 李华
网站建设 2026/6/8 19:32:42

快速理解LVGL教程工作原理:基于LittlevGL的UI设计

以下是对您提供的博文内容进行 深度润色与专业重构后的版本 。本次优化严格遵循您的全部要求: ✅ 彻底去除AI腔调与模板化结构(如“引言”“总结”等标题) ✅ 所有技术点以真实开发视角展开,穿插工程经验、调试陷阱、性能权衡与底层逻辑洞察 ✅ 语言自然流畅,像一位资…

作者头像 李华
网站建设 2026/6/8 19:31:06

Qwen3-14B工业质检应用:知识库问答系统部署实战

Qwen3-14B工业质检应用:知识库问答系统部署实战 1. 为什么工业质检需要专属知识库问答系统? 在电子元器件、汽车零部件、光伏板等制造产线,每天产生海量检测报告、设备手册、缺陷图谱、SOP作业指导书和历史维修记录。这些资料往往分散在PDF…

作者头像 李华
网站建设 2026/6/7 22:24:32

YOLO11分类任务教程:yolo11-cls模型使用指南

YOLO11分类任务教程:yolo11-cls模型使用指南 1. 为什么选择YOLO11-cls做图像分类 你是不是也遇到过这些情况: 想快速验证一张图属于什么类别,但加载ResNet或ViT模型要配环境、写数据加载器、调预处理参数,半天跑不起来&#xf…

作者头像 李华