在科学出版物和学术文本中，识别人工智能的使用正变得越来越困难。计算语言学家 Fırat Mıhcı 开展的最新研究表明，人工智能模型可以通过重写自己生成的草稿，彻底绕过检测系统。这些文本经由人类编辑审核并以真实姓名发表，导致机器生成的语言模式随着时间推移被接受为标准人类词汇的一部分。
研究分析了 18 千 989 篇学术摘要
该研究详细分析了 2019 年至 2026 年间在3个不同学科发表的 18 千 989 篇学术摘要。对比人工智能工具在 2022 年末开始普及之前和之后的时期后发现，在计算语言学领域的摘要中，与人工智能相关的词语比例从每 10 千个词中的 1.9 上升至 14.0。这一增幅约为7倍。
在神经科学摘要中也发现了类似趋势。该领域的比例从每 10 千个词中的 1.7 上升至 8.7，增幅约为5倍。而在数学摘要中，这一比例则从 0.9 上升至 1.3。研究人员将这一在统计学上存在不确定性的变化作为对照组进行考察。
教育机构方面，MIT 的报告等研究曾指出，本科作业此前已经被自动化，并提醒人们关注人工智能对学术生产的影响。新研究则通过具体数据，揭示了这种影响在多大程度上反映在已发表的文献中。
常用词语的变化
频率分析显示，人工智能输出中广泛使用的词语会随着时间推移而发生变化。在所分析的摘要中，2024 年使用比例为 2.75% 的“delve”（深入研究）一词，在2026 年尚未完成的数据集中，其使用频率已降至 0.12%。另一方面，研究发现，“intricate”、“showcase”、“nuanced”和“underscore”等人工智能经常使用的术语已经融入学术文献。
研究发现，审稿人和编辑在这些文本发表前，并未注明其可能源自人工智能。
检测系统中的恶性循环
人工智能生成的文本通过自我修改，逐渐接近人类写作的外观，这给现有的检测软件带来了双重风险。使用旧文本训练的检测系统，可能会将受人工智能影响的真实人类作者的原创文本误标记为人工智能生成内容。另一方面，使用最新论文训练的新模型将人工智能塑造的语言视为正常基准，因此无法有效识别未来生成的人工智能文本。
研究人员指出，以文本为基础的审查机制正在失去可靠性。他们表示，人类写作的概念会随着时间推移而变化，并强调，为了维护学术诚信，需要采用超越文风审查的方法。