孙书军：AI可以辅助科研，学术责任必须由人承担

李媛 / 中国科学报

一篇手稿在同行评审中被质疑引用有误，或引用了根本不存在的文献。面对期刊询问，作者承认使用ChatGPT撰写手稿，却没有核实生成内容及其来源。作者提出删除相关内容、重新修改，稿件最终仍遭拒绝。9月11日，在主题为“学术与科研场景下的AI”的第十七届创新发展论坛上，《虚拟现实与智能硬件》编辑部主任孙书军在报告中介绍的一起案例。

《虚拟现实与智能硬件》编辑部主任孙书军。摄影：张喆

会场上，他以《学术出版中AIGC使用规则边界》为题，从出版实践出发，讨论AIGC进入科研流程后必须回答的问题：哪些工作可以交给工具辅助，哪些判断和责任必须由人承担。

孙书军介绍，AIGC已应用于科研与学术出版的多个环节，能够帮助科研人员提高效率。与此同时，回答不准确、版权争议、隐私泄露和大模型幻觉等问题也随之出现。他举例说，使用AI检索论文的数字对象标识符（DOI）时，工具可能给出一个看似合理、实际上并不存在的结果。“AIGC具备生成答案的能力，并不能保证答案真实。”他强调。

润色后的内容仍需审核

结合报告主题，孙书军梳理了不同环节的AIGC使用边界。AIGC可以帮助梳理文献、发现信息来源、跟踪研究进展，但其提供的参考文献可能虚构，也可能过时。孙书军强调，研究人员必须阅读并验证相关建议和参考文献，核实来源的可信性。深度研究功能也不能免除核验责任。对于采集到的观点类资料，还需监督和核查，避免偏颇信息被不当传播。

进入数据分析与论文撰写环节，边界同样具体。AI可以辅助统计计算、基础分析和结果描述，但不能替代研究人员对数据的独立解读与专业判断。所有数据都须经过人的审核，以保证结果的可靠性、有效性和可验证性。在文字表达上，工具可以改善可读性、逻辑性和句式结构；涉及科学与智力贡献的任务，则应由研究人员亲自完成，不能让工具直接代写全文、解释数据或得出科学结论。

孙书军并未否定AI在语言润色中的价值。他指出，语言不应成为学术交流与科学传播的障碍，AI可以帮助非英语母语研究人员提高稿件的语言质量。但润色后的内容仍需人工审核，向公共工具输入材料时，还须考虑这些内容是否会被收集、储存并用于后续训练，是否涉及隐私或侵权问题。

图像使用的边界，则直接关系到研究证据是否真实。孙书军强调，呈现研究结果与数据的关键图像，必须来自真实研究过程和原始数据，不能由AIGC直接生成或篡改。例如，蛋白质印迹图、细胞或组织染色图像等，不能以生成内容替代真实实验记录。

但这并不意味着所有图表辅助操作都被排除。报告区分了修改数据与改善呈现：在不改变原始信息的前提下，可以调整图表的字号、标注、图例、颜色等；期刊封面的艺术美化，也应在获得许可等条件下使用。对图像特征进行局部增强、模糊、移动、删除或人为添加，则触及红线。

AI能当作者吗？

当AI参与论文生产，能否被列为作者？孙书军给出的回答是否定的。他解释，AI工具不能为已发表作品或研究承担责任，也不具备履行版权转让等要求的能力，因此不能履行文章作者的角色。相应地，研究人员不能以使用了AI为由转移责任。报告中的拒稿案例也强调，所有列名作者都对稿件的完整性共同负责。

比给工具署名更需要落实的，是准确披露它的使用情况。孙书军介绍，可在研究方法、注释、致谢或附加材料等相应位置作出说明。他展示的披露模板包括：在哪一部分使用了什么工具和版本、辅助完成了什么工作、使用时间及相关提示词等，并说明作者已对生成内容全面审查、修改，对相关内容承担责任。披露与核验需要同时落实。

在同行评议中，孙书军强调应先看委托期刊的规定。只有在允许使用的前提下，才能负责任地借助工具提取信息、辅助整理意见，最终审稿意见仍应由专家定稿。作者借助AI回复审稿意见，也要遵循期刊要求。审稿意见及回复涉及保密内容，不应上传公开网络或工具。报告列举的多家期刊与出版商对此设有限制，不能把写作辅助的许可直接套用于审稿。

这些环节背后，是报告介绍的透明度与问责、隐私与数据安全、公平、可持续发展等原则。其中，问责涉及研究人员，也涉及研究机构、资助者、政策制定者和出版商，需要共同明确责任标准。孙书军提出，应从人员、政策和技术三个方面加强治理：以自律为基础，强化科研诚信意识；通过政策指引促进合理、透明使用；运用技术工具辅助识别风险，同时注意检测可能出现误报。

在报告结尾，孙书军强调，AIGC在学术研究中潜力巨大，学术共同体有责任持续学习、了解并遵守规范。只有以严谨、透明的态度运用工具，才能使技术创新与学术诚信并行。提高效率的同时，必须守住真实研究、专业判断和明确责任。

来源：中国科学报、科学网、科学新闻杂志

已收藏 0

点赞 3