재판 과정에서 인공지능(AI)이 만들어낸 가짜 판례와 법령이 소송자료에 인용되는 사례가 잇따르자 대법원이 제재 방안 마련에 나섰다. 법관들을 대상으로 한 조사에서는 관련 사례를 경험한 응답자 가운데 80% 이상이 실제로 존재하지 않는 판례가 인용된 경우를 접한 것으로 나타났다.
대법원 법원행정처는 2일 전국 각급 법원 법관을 대상으로 실시한 "AI 허위 판례 등 인용 관련 설문조사" 결과를 공개했다.
조사는 지난 10월 6일부터 16일까지 진행됐으며 법관 360명이 참여했다. 법원행정처는 소송 과정에서 AI가 생성한 허위 판례와 법령, 문헌 등이 실제 재판에 어떤 영향을 미치고 있는지 파악하기 위해 조사를 실시했다.
조사 결과 관련 사례를 경험한 법관들 사이에서는 존재하지 않는 판례를 인용한 경우가 가장 많았다.
해당 사례를 경험했다고 답한 법관은 196명으로 80.7%를 차지했다. 실제 판례를 허위로 인용한 사례는 159명으로 65.4%였다.
존재하지 않거나 내용이 잘못된 법령을 인용한 사례를 경험한 법관은 41명으로 16.9%였으며, 허위 논문이나 문헌 등 자료가 제출된 사례는 10명으로 4.1%였다.
이 비율은 전체 설문 참여자 360명이 아니라 관련 문항에 응답한 법관을 기준으로 산출된 수치다. 따라서 전체 법관 10명 중 8명이 가짜 판례를 경험했다고 일반화하기보다는 관련 사례 경험자 중 상당수가 존재하지 않는 판례의 인용을 접한 것으로 해석해야 한다.
허위 판례 등을 인용한 주체는 소송 당사자 본인뿐 아니라 법률전문가인 변호사까지 포함됐다.
당사자 본인이 허위 자료를 인용한 사례를 경험했다는 응답은 164명으로 69.5%였다. 변호사인 소송대리인이나 형사사건 변호인이 관련 자료를 인용한 사례를 경험한 법관도 136명으로 57.6%에 달했다.
이는 AI가 생성한 자료를 검증하지 않은 채 소송서류에 반영하는 문제가 일반 소송 당사자에 한정되지 않고 있음을 보여준다.
실제 법원에 제출된 자료 가운데는 대법원 판결서의 형식을 그대로 모방해 AI로 작성한 허위 판결서도 있었다.
판결서의 외형은 실제 법원 문서와 유사했지만 해당 판결 자체가 존재하지 않는 사례다.
대법원 사건번호와 함께 새로운 법리를 제시했으나 실제 판례 검색에서는 해당 사건을 확인할 수 없었던 경우도 보고됐다.
이미 존재하는 판례의 내용을 바꾸거나 판결 취지를 원래와 다르게 인용한 사례도 있었다.
AI가 만들어낸 가짜 사건번호뿐 아니라 실제 판결의 일부 내용을 왜곡해 자신에게 유리한 법적 근거처럼 제시한 것이다.
소송서류에 AI와 나눈 대화 내용이나 소송 전략에 관한 문구가 그대로 남아 있는 사례도 확인됐다.
이는 AI가 작성한 초안을 충분히 검토하지 않은 상태에서 법원에 제출했을 가능성을 보여주는 사례다.
법률 문서에서 판례는 주장을 뒷받침하는 중요한 근거다. 특히 대법원 판결은 법률 해석과 재판 실무에서 중요한 판단 기준으로 활용된다.
존재하지 않는 판례가 실제 판결처럼 인용되면 재판부는 해당 사건의 존재 여부와 판시 내용을 별도로 확인해야 한다.
실제 판례가 존재하더라도 판결의 취지가 왜곡돼 있다면 원문과 인용 내용을 대조하는 추가 검증이 필요하다.
이러한 과정은 소송 당사자의 주장과 법적 근거를 검토하는 재판 절차에 불필요한 부담을 줄 수 있다.
법관들은 AI가 생성한 허위 자료의 인용에 대해 제도적 대응이 필요하다는 의견을 나타냈다.
전체 응답자의 91.7%가 대응 방안 마련이 필요하다고 답했다. 이 가운데 64.8%는 "매우 필요하다"고 응답했다.
구체적인 대응 방안으로는 허위 판례 등을 인용한 경우 과태료를 부과할 수 있는 법적 근거를 마련해야 한다는 의견이 가장 많았다.
과태료 부과 근거 마련에 찬성한 응답자는 215명으로 해당 문항 응답자의 61.4%였다.
이어 인용한 판례와 법령 등에 대한 검증의무 부과가 214명으로 61.1%, AI 활용 사실 기재 의무 부과가 212명으로 60.6%였다.
변호사에 대한 징계의뢰 등 제재 방안을 마련해야 한다는 의견도 194명으로 55.4%를 차지했다.
법관들의 응답은 AI 활용 자체를 금지하기보다 소송서류에 포함된 법률자료의 정확성을 확보하고 허위 인용에 책임을 부과하는 방향에 집중됐다.
법원행정처는 이번 조사 결과를 바탕으로 민사소송법과 형사소송법 개정을 검토할 계획이다.
핵심은 허위 판례나 법령 등을 인용한 경우 과태료를 부과할 수 있는 근거 규정을 마련하는 방안이다.
다만 과태료 부과는 현재 확정된 제도가 아니라 법률 개정을 통해 도입 여부를 검토하는 단계다.
구체적인 제재 대상과 과태료 금액, 고의 또는 과실의 판단 기준 등은 향후 입법 과정에서 논의가 필요하다.
AI를 사용했다는 사실만으로 제재할 것인지, 허위 자료임을 알면서도 제출했거나 검증의무를 위반한 경우에 한정할 것인지도 구분해야 할 문제다.
법원행정처는 변호사와 소송 당사자가 AI를 활용할 경우 인용한 판례와 법령, 문헌 등이 실제로 존재하는지 직접 확인하도록 유도하는 방안도 검토한다.
전자소송 사이트에 AI 활용 시 주의사항을 안내하고 법률자료의 정확성을 확인하도록 하는 방식도 논의 대상이다.
최근 생성형 AI는 법률 문서 작성과 판례 검색, 소송 쟁점 정리 등에 활용되고 있다. 방대한 자료를 빠르게 요약하고 문서 초안을 작성할 수 있다는 장점이 있지만 실제로 존재하지 않는 정보를 사실처럼 생성하는 오류도 발생한다.
이른바 AI 환각 현상이다.
법률 분야에서는 이러한 오류가 단순한 정보 착오를 넘어 재판의 판단 근거를 왜곡할 수 있다는 점에서 문제가 된다.
특히 사건번호와 선고일, 재판부 명칭 등 구체적인 형식을 갖춘 허위 판례는 실제 법원 자료와 구분하기 어려울 수 있다.
따라서 판례 검색 결과를 확인하고 판결문 원문과 인용 내용을 대조하는 절차가 중요하다.
변호사 등 법률전문가에게는 소송서류에 기재한 법률적 주장과 증거의 정확성을 확인할 책임이 요구된다. 일반 소송 당사자 역시 AI가 제공한 내용을 그대로 법원에 제출할 경우 잘못된 자료에 의존할 위험이 있다.
이번 조사에서 허위 판례를 경험한 법관의 비율이 높게 나타났지만, 설문 참여자 360명이 전국 법관 전체를 대표하는 표본인지는 별도로 검토해야 한다.
또한 한 명의 법관이 여러 유형의 허위 인용 사례를 경험했을 수 있어 유형별 응답 비율을 단순 합산해 전체 발생 건수로 볼 수는 없다.
법원행정처의 이번 조사는 AI가 생성한 허위 법률자료가 실제 소송 과정에서 발견되고 있다는 점을 수치와 사례로 제시했다는 데 의미가 있다.
앞으로는 법률자료의 검증 책임을 어디까지 부과할지, 허위 인용에 대한 제재를 어떤 기준으로 적용할지가 입법 과정의 주요 쟁점이 될 것으로 보인다.
AI 활용이 법률 업무 전반으로 확대되는 상황에서 재판의 효율성을 높이는 기술 활용과 법률자료의 신뢰성을 확보하기 위한 검증의무를 어떻게 조화시킬 것인지가 사법부의 과제로 남았다.
이수민 기자
