Damien Charlotin의 환각 데이터베이스는 전 세계 1,353건 이상의 법원 판결을 집계하고 있으며, 법률 서면에서 AI가 생성한 조작 사례를 지적하는 속도는 2026년 들어 급격히 빨라지고 있습니다. ABA Model Rule 1.1은 모델이 아닌 변호사에게 책임을 지웁니다. 오레곤주의 한 연방판사는 2026년 두 명의 변호사에게 11만 달러의 제재금을 부과했습니다. 조작된 인용 23건과 허위 인용문 8건이 이유였으며, 이는 미국 법조 역사상 최대 규모의 AI 환각 제재입니다. 2026년 1분기(Q1)에만 미국 법원은 14만 5,000달러가 넘는 AI 환각 관련 제재를 여러 사건에서 부과했습니다. VeriSwarm은 법률 AI 에이전트의 산출물이 근거에 기반해 생성되고, 검토되고, 승인되었음을 증명하는 감사 증거를 — Rule 11 신청 이후가 아니라 생성 시점에 — 만들어냅니다. LangChain, CrewAI, AutoGen, 귀사 내부의 문서 작성 스택, 또는 사용 중인 다른 어떤 프레임워크와도 함께 작동합니다.
다섯 가지 윤리적 의무가 AI 지원 서면 작성 전 과정에 관련됩니다. 각 의무를 법원이 요구하는 증거를 생성하는 VeriSwarm 기능 — 그리고 그것을 내보내는 API 엔드포인트 — 에 매핑했습니다.
“변호사는 관련 기술의 이점과 위험을 이해해야 합니다. 서명하고 제출하는 내용에 대한 책임은 모델이 아니라 변호사에게 있습니다.”
AI 지원 초안 작성의 각 단계는 프롬프트, 모델, 출력, 검토자의 조치와 함께 변경 불가능한 체인에 기록됩니다. 변호사의 검토 자체도 타임스탬프와 승인자 신원이 포함된 Vault 이벤트가 됩니다.
감사 증거: 모든 AI 교환과 인간 검토 단계를 보여주는 초안별 출처 증적 기록. 변호사의 기술 역량은 주장이 아니라 문서로 증명됩니다.
POST /v1/workflows/execute“변호사는 법원에 사실이나 법률에 관해 알면서 허위 진술을 해서는 안 됩니다. 인용 검증은 선택이 아니라 의무입니다.”
인용문은 여러 LLM을 거쳐 존재 여부와 정확성에 대한 다수결 합의를 얻습니다. 인용된 모든 구절에 대해 근거의 출처 귀속이 기록됩니다. 환각으로 생성된 인용문은 초안을 손댈 수 있게 되기 전에 검증 게이트에서 걸러집니다.
감사 증거: 어느 모델이 무엇을 말했는지와 해당 출처를 보여주는 인용별 검증 기록. Rule 11 신청에는 JSON 내보내기로 답할 수 있습니다.
POST /v1/suite/guard/scan“특권이 부여된 내용은 AI 도구를 통해 유출되어서는 안 됩니다. 의뢰인 이름, 사건 번호, 기밀 사실은 학습 데이터나 모델 로그가 되어서는 안 됩니다.”
LLM 호출 전에 의뢰인 이름, 사건 번호, 특권이 부여된 식별자를 재귀적으로 토큰으로 치환합니다. Guard Proxy는 실시간 적용을 위해 MCP 도구 트래픽을 투명하게 가로챕니다.
감사 증거: 무엇이 토큰화되었는지, 무엇이 모델에 도달했는지, 변호사를 위해 무엇이 복원되었는지를 보여주는 세션별 기록. 특권은 암호학적으로 보존됩니다.
POST /v1/suite/guard/pii/tokenize“변호사는 AI 도구를 포함해 변호사가 아닌 보조인력의 행위에 대해 책임을 집니다.”
정체성, 위험, 신뢰성, 자율성에 걸친 에이전트별 신뢰 점수. 오디언스 바인딩과 1시간 TTL을 갖춘 서명된 자격 증명. 감독 변호사는 언제든 에이전트의 권한을 일시 중지, 제한, 취소할 수 있습니다.
감사 증거: 에이전트별 신뢰 점수 타임라인, 감독자 승인 기록, 킬 스위치 이벤트. 이 감독 기록은 Rule 5.3의 문서화 요건을 충족합니다.
POST /v1/decisions/check“Federal Rules of Civil Procedure Rule 11 — 모든 서면은 근거 없는 주장이 아니라 사실에 기반하고, 현행법 또는 현행법의 비합리적이지 않은 확장 주장에 의해 뒷받침됨을 인증받아야 합니다.”
작성 워크플로 내 필수 인간 검토 게이트. 승인자 신원, 타임스탬프, 승인된 diff가 모두 Vault 이벤트로 기록됩니다. 체인 검증은 검토가 실제로 이루어졌음을 증명합니다.
감사 증거: 서면별 Vault 체인 내보내기 — 모든 AI 입력, 모든 인용 확인, 모든 검토자 승인. 제재 신청이 들어와도 이 체인이 답이 됩니다.
GET /v1/suite/vault/verify기본 적발률은 이미 매일 수준이며, 제재 규모는 점점 커지고 있습니다.
출처: Damien Charlotin AI 환각 사례 데이터베이스; Sterne Kessler 2025년 리뷰; Reason / Volokh Conspiracy 2026-04-06; Fortune 2026-05-16.
적발 체계는 이미 상시화되었습니다. 문제는 그것이 당신에게 닥쳤을 때 어떤 증거를 갖고 있느냐입니다.
오레곤주의 한 연방판사는 2026년, 조작된 인용 23건과 허위 인용문 8건이 포함된 서면을 제출한 두 명의 변호사에게 11만 달러의 제재금을 부과했습니다. 2026년 1분기(Q1)에만 미국 법원은 법률 서면의 AI 환각에 대해 14만 5,000달러가 넘는 제재를 부과했습니다.
Fortune, 2026-05-16; Sterne Kessler 2025년 제재 리뷰
법률 분야 AI 환각 사례를 추적하는 가장 포괄적인 공개 트래커입니다. 국가, 당사자, AI 도구, 결과별로 검색할 수 있습니다. 이 데이터베이스 자체도 여러 법원 판결에서 인용되었으며, 함께 제공되는 자동 참고문헌 검증기 PelAIkan은 이제 새로운 서면에도 적용되고 있습니다.
damiencharlotin.com/hallucinations, 2026-05-19 접속 기준
Reason / Volokh Conspiracy의 추적에 따르면, 미국 법원 판결 17건이 하루 동안 법률 서면에서 AI 환각이 의심되는 사례를 지적했습니다. 일일 적발 건수는 이미 일상이 되었습니다. 이제 질문은 더 이상 "당신의 도구가 환각을 일으킬지 여부"가 아니라, "Rule 11 신청이 들어왔을 때 어떤 증거를 제시할 것인지"입니다.
Reason.com / Volokh Conspiracy, 2026-04-06
AI 지원 서면마다 두 가지 증명이 뒷받침됩니다: 직업적 책임 윤리(ABA Model Rules + 주 변호사회 의견)와 제출 전 제재 방어(FRCP Rule 11 + 오레곤주의 11만 달러 선례)입니다.
최근 가장 많이 질문받은 윤리적 의무를 선택하세요. 실제 에이전트 트래픽을 바탕으로 30분 만에 생성한 해당 의무에 대한 감사 증거 아티팩트를 보여드립니다. 데모 데이터는 사용하지 않습니다 — 질문은 직접 가져오세요.
출처: Damien Charlotin AI 환각 사례 데이터베이스(2026-05-19 접속 기준); ABA 소송 뉴스(2025년); Reason/Volokh Conspiracy(2026-04-06); Fortune(2026-05-16); Sterne Kessler 2025년 제재 리뷰.