한 노령견을 둘러싼 양육권 분쟁 과정에서 AI가 생성한 거짓 정보가 법적 판단에 영향을 미치는 사건이 발생했습니다. 이 사건은 인공지능 기술이 얼마나 그럴듯하게 거짓을 만들어낼 수 있는지, 그리고 이것이 실제 분쟁 해결에 어떤 문제를 초래할 수 있는지를 보여줍니다.
AI가 만든 가짜 판례, 법정을 혼란에 빠뜨리다
캘리포니아의 한 개 양육권 소송이 AI가 만든 허위 판례 인용으로 양쪽 변호사 모두에게 벌금을 받는 사건으로 끝났습니다. 16살 래브라도 리트리버 ‘카이라’를 두고 벌어진 이 소송에서 한 변호사가 AI가 만든 가짜 판례 두 건을 제출했고, 상대방 법무팀도 이를 확인하지 못한 채 같은 가짜 사건을 자신들의 소장에 인용했습니다. 심지어 판사가 서명한 법원 명령서에까지 이 허위 판례들이 포함되는 사태가 발생했습니다.
변호사들이 AI 생성 판례로 인해 곤욕을 치르는 사건들이 계속 늘어나고 있습니다. 프랑스 연구자 다미엔 샤를로탱이 관리하는 AI 환각 데이터베이스에는 현재 1,174건의 사례가 등록되어 있으며, 이 중 약 750건이 미국 법원 사건입니다. 이는 빙산의 일각일 가능성이 높으며, 특히 주(state) 법원에서는 적발되지 않은 사건들이 훨씬 많을 것으로 추정됩니다.
UCLA 법대 교수 유진 볼로크는 “과거에는 변호사들이 기록을 왜곡하거나 거짓말을 할 수 있었지만, 존재하지 않는 판례를 인용하는 일은 거의 없었다”고 지적했습니다. 이는 AI 환각이라는 새로운 오류의 원천이 없었기 때문입니다. 과거에는 판례를 약간 잘못 인용하거나 내용을 잘못 해석할 수는 있었지만, 아예 존재하지 않는 사건을 언급하는 일은 불가능했던 것입니다.
판사들의 경고: 사법부 신뢰도가 흔들리고 있습니다
항소법원 판사는 “가짜 판례에 대한 의존은 판결의 무결성을 심각하게 훼손하고 사법부에 대한 국민 신뢰를 약화시킨다”고 경고했습니다. 이에 따라 법원과 소송 당사자 모두가 모든 명령서의 판례가 진정한 것인지 검증해야 한다고 강조했습니다. 특히 AI 도구가 만든 환각 판례 인용이 증가하는 추세 속에서 이러한 검증이 매우 중요하다고 덧붙였습니다.
판사들은 변호사가 자신의 잘못을 인정하고 법원의 자비를 구하는 경우에는 관대한 편입니다. 그러나 AI 사용을 부인하거나 책임을 회피하려는 변호사들에게는 점점 더 엄격한 태도를 보이고 있습니다. 최근 오리건주 메드포드의 연방 판사 마크 클라크는 민사소송에서 15건의 가짜 판례 인용과 8건의 오류 인용을 한 변호사들에게 90,000달러 이상의 법정 비용 지불을 명령했습니다.
클라크 판사는 이를 “매우 이례적인 처벌”이라고 표현했으며, 이는 샤를로탱의 데이터베이스에 기록된 사건 중 가장 큰 벌금입니다. 그는 판결문에서 “AI 오용으로 인한 제재가 빠르게 증가하는 상황에서 이 사건은 정도와 규모 면에서 악명 높은 이상치”라고 썼습니다. 특히 원고 측 변호사들이 자신들의 잘못을 제대로 인정하지 않았다는 점을 지적하며, 이것이 종료 제재를 부여하기에 적절한 사건이라고 판단했습니다.
카이라 사건: 가짜 판례가 법정 기록에 남기까지
카이라 사건은 2024년에 시작되었으며, 2년 전 샌디에이고 가정법원 판사가 호안 토레스 캄포스와 뮤노즈의 동거 관계를 해제한 후 발생했습니다. 해제 명령서는 각자의 재산은 보유하도록 했지만 뮤노즈와 함께 살고 있던 개에 대해서는 언급하지 않았습니다. 토레스 캄포스는 이후 카이라의 공동 양육권과 방문 권리를 요청했습니다.
뮤노즈는 토레스 캄포스가 개를 진정으로 돌보지 않으며 단지 자신을 괴롭히려는 의도라고 주장하며 요청을 거절했습니다. 가정법원 판사는 뮤노즈의 손을 들어주었지만, 토레스 캄포스는 항소했습니다. 뮤노즈의 변호사 록산느 청 보나르는 1984년과 1995년 캘리포니아 판례를 인용하며 방문 권리 거절을 정당화했습니다. 그런데 두 판례 모두 허위였습니다.
1984년 사건인 ‘토리지 혼인사건’은 아예 존재하지 않았으며, 보나르의 인용은 “애완동물이나 양육권 결정과 무관한” 형사 사건을 가리키고 있었습니다. 두 번째 인용인 ‘티가든 혼인사건’은 1995년이 아닌 1986년에 판결되었으며, 역시 해당 사건과 무관한 내용이었습니다. 토레스 캄포스의 변호사는 이 판례들이 가짜라는 사실을 언급하지 않았으며, 아마도 직접 확인하지 않았을 가능성이 높습니다. 가정법원 판사는 가짜 판례를 포함한 제안된 명령서에 서명했고, 이로 인해 허위 판례들이 공식 기록에 남게 되었습니다.
변호사의 실수가 쌓여 더 큰 문제로
항소 과정에서 토레스 캄포스의 변호사가 두 판례가 ‘만들어진 판례법’임을 처음 언급했습니다. 그러자 보나르는 ‘더블다운’을 시도했습니다. 토리지가 ‘유효하고 공표된 판례’라고 주장하며 같은 사건에 대해 세 개의 추가 인용을 제시했는데, 이들도 원래 인용만큼 허위였습니다. 캘리포니아 항소법원 판사 마틴 부캐넌은 판결문에서 이를 명확히 지적했습니다.
보나르는 더 나아가 토레스 캄포스의 변호사가 “기본적인 법률 조사를 수행하지 못했다”고 비난하며, 그의 “판례를 찾지 못한 무능함이 항소 기각으로 이어졌다”고 주장했습니다. 그러나 이는 자신이 저지른 실수를 외면하는 것이었습니다. 토리지 판례의 출처는 결국 오리건의 한 블로거이자 동물 구조 활동가인 ‘새서프래스 패터데일’이라는 필명으로 활동하는 사람이 레딧에 올린 글에서 비롯된 것으로 밝혀졌습니다.
뮤노즈는 친구로부터 받은 이 글을 보나르에게 전달했고, 보나르는 이를 법정에 제출했습니다. 이는 AI 환각이 어떻게 실제 법정 기록에 침투하는지를 보여주는 전형적인 사례입니다. 한 번의 실수가 여러 변호사를 거쳐 법원 명령서에까지 포함되는 과정에서 누구도 기본적인 검증을 수행하지 않았습니다.
※ 독립적 조사와 전문가 상담 없이 투자·법률·의료 결정을 내리지 마세요.
