AI 幻觉被“定价”：美国律师用 ChatGPT 编造假证词，被罚 5000 美元

发生了什么

据英国《独立报》报道，美国新墨西哥州最高法院最近判了一件事：一位叫 Stephen Aarons 的辩护律师，在为一桩谋杀罪当事人写上诉状时，用了 ChatGPT 生成的文书——结果里面出现了凭空编造的警方证词和根本不存在的证人。法院认定他“没核实提交内容的准确性、缺乏悔意”，判藐视法庭、罚款 5000 美元（约 3.35 万元），并把他移交律师纪律委员会调查。

这位律师说自己去年接案后用 AI 整理过庭审记录，当时没意识到 AI“幻觉”（一本正经胡说）会严重到这种程度。法官当庭质问：“你平时不看新闻吗？律师依赖 AI 幻觉几乎天天上头条。”

这不是孤例。研究者 Damien Charlotin 维护的“AI 幻觉判例库”专门收录法院认定文书含 AI 编造内容的案件，截至 2026 年 9 月初已超 2000 起，处罚从轻则数千美元罚款，到重则停业、转介纪律委员会不等。

对我有什么用

这事给所有人提了个醒：AI 编出来的东西，看起来跟真的一样，但可能是完全虚构的。律师因为“偷懒没核实”付出了真金白银和职业声誉的代价。对普通用户来说同理——你让 AI 帮你写材料、查资料、做总结，它也可能给你塞一段看起来权威、实则瞎编的内容。

我可以怎么做

1. 关键事实必须复核：让 AI 写合同、简历、论文、法律/医疗相关的内容，凡是涉及具体人名、条款、数据、出处，手动去原始来源核对一遍。
2. 让 AI 标出处、再点开看：要求它给出可点击的来源链接，并且你真的点进去确认存在，而不是只看它写的“据某某报道”。
3. 别把 AI 当“搜索引擎”：AI 的优势是理解和生成，短板是“会不会编”。查确定性事实，用专业数据库/官网更稳。
4. 重要文件加一句免责核查：自己或让 AI 在末尾标注“以上内容需人工核实”，形成习惯。

温馨提醒

• “AI 说的”不等于“真的”：这是使用所有大模型的第一准则，越是它说得自信、格式越规范，越要警惕。
• 责任在你自己：AI 编错了，后果由使用人承担（就像那位律师），别指望“是 AI 生成的”能免责。
• 延伸阅读：本期同类风险还有《支付宝假 App 伪造转账截图》——都是“看起来真的，其实是假的”，本质都是别轻信界面和话术。