新智元报道
编辑：桃子
ChatGPT 潜入学术圈，已有超 700 篇论文偷用 AI 不报备。甚至，一些顶刊主动删除了 100 多篇论中的 AI 语。今天，最新 Nature 文章揭秘了学术论文背后的乱象。
「截至我最后的知识更新」，「重新生成响应」，「作为一个 AI 语言模型」......
这些短句，已经成为顶刊论文中的常态。
2024 年，一篇发表在 Radiology Case Reports 上论文，因文中出现了「我是一个 AI 语言模型」，直接被撤稿。
令人震惊的是，这句话不仅没有引起作者注意，更逃过了编辑、审稿人、排版人的审查。
Nature 最新头版文章中，直接戳破了当前顶刊现状——学术文献中大量使用 AI 撰稿。
路易斯维尔大学 Alex Glynn 创建了一个在线追踪器「Academ-AI」，已经记录了超 700 篇带有 AI 使用痕迹的论文。
其中，一些 AI 生成的内容较为隐晦，比如「当然，这里是」，典型机器味儿的句子。
Glynn 的分析还显示，前 500 篇被标记论文中，其中 13% 刊登在 Elsevier、Springer Nature 和 MDPI 大型出版商的期刊上。
论文地址：https://arxiv.org/pdf/2411.15218
顶刊破案现场，AI「嘴脸」藏不住了
近年来，ChatGPT 生成式 AI 席卷学术界，深刻改变了论文写作与出版的生态。
研究人员们越来越依赖这些工具来起草、润色，甚至审稿，但与此同时，一个令人担忧的现象浮出水面：许多论文在未披露的情况下使用了 AI。
甚至，在被发现后，他们又悄无声息地「修正」，这对科学诚信构成了潜在危险。
下面这篇在爱思唯尔发表了一篇锂电池论文中，第一部分介绍一张口就是老 ChatGPT 了。
同样的案例，不胜枚举。
再比如，这篇讲肝损伤的论文，在总结部分一句话亮了——
「总之，非常抱歉，由于我是人工智能语言模型，我无法获得实时信息或患者的具体数据……」
另一篇名为「Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway」 论文中的一幅 AI 插图引全网热议。
除了 Alex Glynn 的发现，来自波兰卡托维兹经济大学的研究员 Artur Strzelecki 也在知名期刊中发现了类似的问题。
他在 Scopus 学术数据库中，筛选出 64 篇发表在顶刊上的论文，这些期刊理应有严格的编辑和审稿流程，却依然未披露 AI 使用的痕迹。
Nature 团队联系几家被标记过的顶刊，比如 Springer Nature、Taylor&Francis、IEEE，他们提到了内部 AI 政策——
在某些情况下，这些政策不要求作者披露 AI 使用，或只要求在特定情况下披露。
比如，Springer 表示，「辅助文稿编辑的 AI 不需要被标记，这包括出于可读性、风格以及语法或拼写错误而所做的修改」。
即便是在审查人员当中，许多人使用 AI 帮助准备手稿的接受度也在上升。
Glynn 表示，「如果使用 AI 改善语言，随着这些工具的普及，简单披露以某种方式使用了 AI 将变得基本上毫无意义」。
因此，论文中，作者应该明确说明，自己具体如何使用 AI，能够帮助编辑和读者判断他们需要在哪些地方施加更多的审查。
论文顶刊悄悄删掉「罪证」
有的人或许会说，删除明显的短语不一定需要发布更正，只需提到这一更改的注释就足够了。
然而，若不标记这些更改，谁能确保论文本身没有其他的问题？
比如，去年发表在 PLoS ONE 一篇论文（现已被撤回），专家发现了「重新生成响应」短语，甚至还发现了其他问题，包括该论文的许多参考文献无法核实。
更令人担忧的是，一些论文在被发现有 AI 痕迹后，出版商选择悄悄移除这些标志性短语，却不发布任何说明或勘误。
这种做法被称为「隐秘更正」。Strzelecki 发现了 1 例，Glynn 则发现了 5 例。
举个栗子，2023 年发表在爱思唯尔期刊 Toxicology 上一篇论文，「重新生成响应」被无声删除。
这个顶刊的 AI 政策规定，作者应在稿件中披露使用生成式 AI 和 AI 辅助技术。
爱思唯尔发言人在声明中表示，「我们调查涉嫌未披露生成式 AI 工具使用的已提交和已发表论文，必要时纠正记录」
不仅如此，Glynn 和图卢兹大学的计算机科学家 Guillaume Cabanac 等人发现，在一篇发表于 2 月的论文中，有超 100+ 篇存在类似的无声更改，其中部分与未披露的 AI 使用有关。
最严重的秘密修改顶刊有 BAKIS Productions LTD、MDPI、爱思唯尔，都超 20 多次。
修改的类型中，内容变更高达 92 次。
Cabanac 表示，出版商需要迅速采取行动，筛选现有论文并建立更严格审查机制。
不过，他也指出，这类问题仅占发表研究极小部分，所有人不应动摇对科学的信任。
参考资料：
