[Invest&Law]이 판결, 존재하지 않습니다

서면에 인용한 판결 5개
AI 환각이 만든 가짜 첫 적발
"변호사가 확인도 안 하나"

한국에서도 생성형 인공지능(AI)이 만든 허위 판례를 인용한 서면을 법원에 제출했다가 적발되는 사건이 발생했다. 변호사 윤리를 넘어 사법 시스템의 근간을 흔들 수 있다는 우려가 나온다.

최근 한 지방 소재 법원 형사 재판부는 A 변호사가 제출한 의견서에 인용된 판결 5개를 법원 전산망에서 조회한 결과, 해당 판결이 존재하지 않는 것을 확인했다. A 변호사는 다음 기일이 열리기 전 문제가 된 판례를 철회한다는 의견서를 냈다. 하지만 재판부는 공판에서 이에 대한 출처를 물었고, A 변호사는 'AI를 사용했다'고 인정했다. AI 환각 현상이 만든, 존재하지 않는 가짜 판례를 검증하지 않고 그대로 제출했다가 발각된 것이다.

"법원 기망 소송 사기"

한국 법원에서 이런 사건이 보고된 것은 이번이 처음이다. 수도권 법원의 한 판사는 "이제는 질문 하나면 몇 초 만에 AI가 그럴듯한 가짜 법리를 만들어 주는 세상이 됐다"며 "법률 전문가인 변호사가 제대로 확인조차 하지 않고 의견서를 제출했다는 게 무척 당혹스러운 일"이라고 말했다. 한 중견 로펌의 파트너 변호사는 "변호사가 알고도 그렇게 행동했다면, 이것은 법원을 기망한 소송 사기"라고 말했다.

해외에서는 종종 발생하는 이 같은 일이 더 이상 남의 일만은 아니게 됐다. 변호사 업계에서는 "AI와 싸우고 있는 것 같다"는 말이 나올 정도로 AI 사용 일상화에 따른 부작용이 업무에 지장을 주고 있다. B 변호사는 AI를 통해 얻은 잘못된 정보를 근거로 "이런 판결이 있던데요"라고 묻는 의뢰인이 늘어 상담 시간이 불필요하게 길어지고 있다고 전했다. C 변호사는 상대방 서면에서 처음 보는 대법원 판시를 발견하고 수없이 검색했지만, 결국 존재하지 않는 판례라는 사실을 확인했다.

경찰, 허위 판시 인용?

경찰이 실제 판결문에는 존재하지 않는 법리를 근거로 불송치 결정을 내린 사실이 확인되기도 했다<2025년 9월 26일 디지털 법률신문 단독 보도 '경찰, 가짜 판례로 아동학대 불송치 결정' 참조>. 한 아동 학대 고소 사건에서 경찰은 혐의 없음 처분을 내리고 불송치 결정문에 대법원 판결과 서울북부지법 판결의 판시를 인용했는데, 인용된 판시는 실제 해당 판결에는 없는 내용이었다. 불송치 결정문에 인용된 문구는 판결문 어디에서도 확인되지 않았다. 전문가들은 수사기관이 AI가 만든 환각 정보를 제대로 검증하지 않았을 가능성을 제기하고 있다.

법원행정처 "대응 검토"

AI는 '나 홀로 소송' 당사자에게 도움이 될 수 있지만, 법률 전문가가 아닌 일반인들이 거짓 정보를 그대로 믿을 수 있어 활용 범위나 윤리에 대한 논의가 필요하다는 지적이 나온다. D 판사는 "변호사 없는 당사자 소송에서 AI를 활용한 서면이 늘어 잘못된 법조문이나 법리가 인용된 것을 확인하느라 이전보다 서면 검토에 시간이 오래 걸린다"고 말했다.

법원행정처도 AI 환각으로 존재하지 않는 판례 등이 서면에 제출되는 사례가 늘고 있음을 인지하고 있다. 법원행정처 관계자는 "아직 관련 지침(가이드라인)을 만들지는 않았지만, 대응 방안 검토의 필요성은 느끼고 있다"고 말했다.

박수연 법률신문 기자

※이 기사는 법률신문에서 제공받은 콘텐츠로 작성되었습니다.