在新墨西哥州从事刑事辩护律师工作超过40年的 Stephen Aarons 因在一份针对谋杀罪定罪的上诉状中使用 ChatGPT 生成的虚假证词和错误法律引文而受到处罚。新墨西哥州最高法院指出，Aarons 在签署并提交上诉状之前，没有核实其中的事实和法律主张，也没有将这一情况告知委托人。
Aarons 负责 Oscar Renee Sandoval 的上诉。Sandoval 因杀害自己的伴侣及其孩子的母亲 Shiereen Al-Jibury 被判有罪，并于2025年2月被判处终身监禁。Aarons 在2025年8月提交的上诉状中，使用了仿佛来自庭审中从未被传唤的证人的陈述。法院表示，除使用了署名为 Officer Michelle Amarillo、Officer Sanchez、Manal Al-Jibury 和 Teresa Marquez 的“完全捏造”的证词外，上诉状还使用了错误归于 Danny Stanton、Linda Stanton 和 Mariah Chavez 的陈述。上诉状还错误地转述了涉及真实案件的法律判决。
Aarons 在8月21日的听证会上表示，他将由计算机生成的谋杀案庭审记录及案卷中的其他文件上传至 ChatGPT。他称，自己使用的是基于 OpenAI 于2025年初发布的 o3 模型运行的 ChatGPT 版本，并表示自己不知道人工智能“可能会对事实产生幻觉”，还以为该系统能够生成可靠的摘要。不过，他承认上诉状是自己撰写的，目录和摘要部分存在大量错误。
法院将 Aarons 之前提交的所有诉状从案卷中撤下，并下令为 Sandoval 指派一名新律师。该案将在法院2026-27审理期审理。在纪律调查结束之前，Aarons 被禁止在最高法院代理案件；此外，他还被处以 $5,000 罚款，罚款将支付给 New Mexico 州律师协会的委托人保护基金。纪律程序中还可能实施其他制裁。
法官们强调，使用人工智能本身并不是问题，但签署诉状的律师必须核实其中内容的准确性。Aarons 承认，他没有向 Sandoval 说明这一问题，只告诉家人诉状中存在问题。首席法官 Julie Vargas 则表示，这一情况给被羁押的当事人带来了严重后果。
为何重要
这项裁决表明，与其说法律领域禁止使用生成式人工智能，不如说，使用这些工具准备的内容，其责任仍由律师承担。这一区分意味着，尤其是在旨在重新审查定罪结果的上诉等程序中，进入案卷的每一项信息都必须经过独立核查。如果未进行核查，由此产生的风险就不只限于职业声誉受损或纪律处分；它还可能影响被羁押人员申诉的可信度以及获得法律援助的权利。Sandoval 的案件将如何在新律师的代理下推进，以及针对 Aarons 的纪律程序是否会实施额外制裁，目前仍是两个尚未解决的核心问题。
背景
ChatGPT 并不是 FikirPilot 档案中的新名字：在过去90天里，我们发布了17篇提到这一名称的新闻，最新一篇发布于2026年9月10日。