物理世界|陷于“虚构信息”的泥沼

文章介绍

本文选自《物理》2026年第10期

在人工智能时代的今天，我们比以往任何时候更需要学术技能。

2008年，美国作家斯蒂芬森出版了科幻小说“Anathem” (译者注：中译名《飞越修道院》、《失落的星阵》等)。故事发生在假想的“Arbre”类地行星上，涉及一群不同等级修行的僧侣，他们大多与世隔绝，但偶尔会开放接受外界信息。

书中，斯蒂芬森探讨了互联网的“黑暗时代”。那时，公司让网络涌入大量“看似合理其实虚假”的信息，以此迫使消费者购买本公司开发的工具来鉴别真伪。

正如斯蒂芬森所言，这种“胡扯”起初由人完成，但最终这一过程由所谓的“Artificial Inanity” (人工废话)运行，它可为每个合法文件创建成百上千个虚假版本(bogons，即“虚构信息”)。

机器的崛起。由大语言模型驱动的聊天机器人使得搜索结果和社媒信息泛滥

今天，我们正面临斯蒂芬森的“黑暗时代”。我们获取的信息中越来越多地充斥着人工智能(AI)垃圾，远不止AI生成的离奇小猫视频以及政客和名人的古怪举止。

随着大语言模型(LLM)驱动的聊天机器人的兴起，我们的搜索、社媒甚至学术期刊都被污染了。乍一看，这些数据有用且合理，但在其华丽表象背后却没有任何价值。

作为科学家，我们必须将自身工作与近期的其他研究联系起来。然而，当我们不得不从虚构成果中分辨出真实时，这项任务变得愈发艰难。随着大语言模型生成的劣质内容侵蚀我们此前信赖的知识库，我们正面临着一个迅速恶化的信息环境。

以前可以将一个想法追溯到人类作者(对学术不端承担后果)的论文；但未来，除评估科学价值外，我们还必须质疑文章的作者、机构或实验是否真实存在。

这并非杞人忧天。2024年，哥德堡大学医学研究团队虚构了一种名为“bixonimania”的疾病，并通过Medium 平台上的帖子和两篇预印本论文进行宣传。团队旨在测试AI聊天机器人是否会捕捉和传播虚假疾病信息，结果却得到肯定答案。值得一提的是，团队插入的若干信息已明确表明这一研究造假，如致谢“星际舰队学院”的一位同事、感谢“魔戒联盟大学”的资助，甚至在文章一开头就写道“整篇论文胡编乱造”。

困于沼泽

物理学家也不能幸免信息糟粕的危害。大量LLM生成的文章迫使预印本库arXiv今年5月宣布对“基于LLM生成”论文的作者的惩罚，包括引用“虚假参考文献”。措施包括：禁投arXiv一年，此后的手稿必须经过“信誉良好的同行评审”之后才能被接受。

我起初对这一举措表示欢迎。严重的后果将防范LLM的滥用，尤其是针对那些粗制滥造的投机行为。然而，我越想越不对劲，arXiv新的惩罚机制可能最终会落在那些不用LLM写论文的作者们身上。

抄近路是省事的。比如，你正在写一篇综述，你读过并信任论文A，考虑引用其中的一个要点，但你注意到该要点其实出现在论文B中(论文A只是引用)。很简单，直接滚动鼠标至参考文献，复制论文B并引用(相信我们中大多数都这么干过)。

但随着信息环境的恶化，这种捷径有可能让你违反arXiv等的新政策。看似有效的引文(甚至包含你熟悉的作者)，也许根本就不存在。

研究也可能完全伪造。例如，一组研究人员在同行评审的文章中引用“bixonimania”预印本之一。期刊编辑不顾作者反对，撤回了该文。简单地复制粘贴引文而不进行检查，你可能会无意间被列入黑名单，你和合作者都将被禁用arXiv。

我并不认为arXiv有政策缺陷。相反，我觉得那些希望自己的写作不受AI影响的同行必须保持警惕。我们必须努力提升专业技能，包括科学判断、信息甄别、沟通技巧和严谨的学术态度。虽然AI公司声称LLM能够取而代之，我们还是应该致力于训练并传授这些技能。

在《飞越修道院》中，某位角色可以挥挥手离开那个充满虚构信息的互联网，而我们不可能这样解决问题。相反，随着信息环境的恶化，我们发现自己深陷泥沼。为了摆脱，我们必须认真计划下一步，不能想当然。看似可靠的途径，也可能被证明是危险的。安全前行是一个缓慢过程，在获得可信赖的方案和工具时，我们必须加倍努力推敲。

仅仅在写作时选择不用LLM已经不切实际了，我们必须依靠学术技能来分辨真伪。若想摆脱困境，所有人都必须放慢脚步。