11 万美元。迄今美国最大的 AI 幻觉制裁案。
俄勒冈州一名联邦法官在 2026 年对两名律师处以 11 万美元制裁,原因是他们提交的文书中包含 23 条捏造引用和 8 条虚构引语。仅 2026 年第一季度(Q1),美国法院就针对法律文书中的 AI 幻觉问题处以超过 14.5 万美元的制裁。
Fortune,2026-05-16;Sterne Kessler 2025 年制裁综述
Damien Charlotin 的幻觉数据库收录了全球 1,353 起以上的法院判决,这些判决都指出了法律文件中由 AI 生成的捏造内容,且这一趋势在 2026 年明显加速。ABA Model Rule 1.1 规定,对签署和提交内容负责的是律师本人,而非模型。俄勒冈州一名联邦法官在 2026 年对两名律师处以11 万美元的制裁,原因是他们提交的文书中包含 23 条捏造引用和 8 条虚构引语,这是美国司法史上迄今为止最大的 AI 幻觉制裁案。仅 2026 年第一季度(Q1),美国法院对多起案件处以的 AI 幻觉相关制裁金额就超过14.5 万美元。VeriSwarm 生成的审计证据可以证明,法律 AI 代理的输出在生成的那一刻——而非在 Rule 11 动议提出之后——就已经过依据核实、审查和批准。可与 LangChain、CrewAI、AutoGen、贵所内部起草技术栈,或您使用的任何其他框架配合使用。
五项职业道德义务贯穿每一份 AI 辅助文书。我们将每一项都对应到能够生成法院所需证据的 VeriSwarm 能力——以及输出该证据的 API 端点。
“律师必须了解相关技术的益处与风险。对签署和提交内容负责的是律师,而非模型。”
AI 辅助起草的每一步都会连同提示词、模型、输出和审查人操作一起记录在不可篡改的链条中。律师的审查本身也会成为一条带有时间戳和批准人身份的 Vault 事件。
审计证据: 按草稿留存的溯源记录,显示每一次 AI 交互和每一步人工审查。律师对技术的掌握程度有据可查,而非仅凭口头主张。
POST /v1/workflows/execute“律师不得明知而向法庭作出虚假的事实或法律陈述。引用核实是一项义务,而非可选项。”
引用会经过多个 LLM,并就其真实性和准确性达成多数一致意见。每一处引用段落都会记录依据的来源归属。存在幻觉的引用在草稿可被触碰之前就会在验证关卡被拦截。
审计证据: 按引用留存的验证记录,显示哪个模型说了什么以及对应的权威来源。Rule 11 动议可以用 JSON 导出文件来回应。
POST /v1/suite/guard/scan“受特免权保护的内容不得通过 AI 工具泄露。客户姓名、案件编号和机密事实不得成为训练数据或模型日志的一部分。”
在调用 LLM 之前,对客户姓名、案件编号和受特免权保护的标识符进行递归式令牌替换。Guard Proxy 会透明地拦截 MCP 工具流量,实现实时执行。
审计证据: 按会话留存的记录,显示哪些内容被令牌化、哪些内容到达了模型,以及为律师还原了哪些内容。特免权通过加密方式得以保全。
POST /v1/suite/guard/pii/tokenize“律师需对非律师助理的行为负责——包括他们使用的 AI 工具。”
按代理计算的信任评分,涵盖身份、风险、可靠性和自主性。签名凭证具备受众绑定,TTL 为 1 小时。监督律师可随时暂停、限制或撤销某个代理的权限。
审计证据: 按代理留存的信任评分时间线、监督人审批记录、终止开关事件。该监督记录满足 Rule 5.3 的文档化要求。
POST /v1/decisions/check“Federal Rules of Civil Procedure Rule 11 —— 每一份提交文书都必须被证明并非无理取闹,而是基于事实,且有现行法律或对现行法律的非无理延伸主张作为依据。”
起草工作流中设有强制性人工审查关卡。批准人身份、时间戳以及被批准的差异内容均作为 Vault 事件记录。链条验证证明审查确实发生过。
审计证据: 按提交文书留存的 Vault 链导出记录——每一次 AI 输入、每一次引用核查、每一次审查人批准。制裁动议一旦提出,这条链就是答案。
GET /v1/suite/vault/verify基础检出率如今已是每日发生;制裁力度也在不断加大。
来源: Damien Charlotin AI 幻觉案例数据库;Sterne Kessler 2025 年综述;Reason / Volokh Conspiracy 2026-04-06;Fortune 2026-05-16。
检出机制如今已成常态。问题在于,当它找上你时,你手上有什么证据。
俄勒冈州一名联邦法官在 2026 年对两名律师处以 11 万美元制裁,原因是他们提交的文书中包含 23 条捏造引用和 8 条虚构引语。仅 2026 年第一季度(Q1),美国法院就针对法律文书中的 AI 幻觉问题处以超过 14.5 万美元的制裁。
Fortune,2026-05-16;Sterne Kessler 2025 年制裁综述
法律领域最全面的 AI 幻觉案例公开追踪工具。可按国家、当事方、AI 工具和结果进行搜索。该数据库本身已被多份法院判决引用,其配套的自动参考文献核查工具 PelAIkan 目前也已用于核查新提交的文书。
damiencharlotin.com/hallucinations,访问于 2026-05-19
根据 Reason / Volokh Conspiracy 的追踪,美国有 17 份独立的法院判决在同一天指出法律文书中存在疑似 AI 幻觉。日检出量如今已属常态。问题不再是“你的工具是否会产生幻觉”,而是“当 Rule 11 动议到来时,你能拿出什么证据”。
Reason.com / Volokh Conspiracy,2026-04-06
每一份 AI 辅助文书背后都有两项认证支撑:职业责任伦理(ABA Model Rules + 各州律师协会意见)以及提交前的制裁抗辩(FRCP Rule 11 + 俄勒冈州 11 万美元先例)。
选择您最近被问及最多的那项职业道德义务。我们将在 30 分钟内基于真实代理流量,为您展示对应该义务的审计证据成果。没有演示数据 —— 由您提出问题。
来源: Damien Charlotin AI 幻觉案例数据库(访问于 2026-05-19);ABA 诉讼动态(2025 年);Reason/Volokh Conspiracy(2026-04-06);Fortune(2026-05-16);Sterne Kessler 2025 年制裁综述。