이런 사고가 더 자주 일어날 지도 모르겠군요. 
원문: A lawyer used ChatGPT for legal research, but later found the chatbot created fake cases - Neowin
(번역은 DeepL을 이용했습니다.)
최근 법정 소송에서 한 변호사가 법률 조사를 위해 ChatGPT에 의존한 결과 허위 정보를 제출하는 사건이 발생했습니다. 이 사건은 잘못된 정보의 전파를 포함하여 법률 분야에서 AI와 관련된 잠재적 위험을 조명합니다.
이 사건은 개인 상해 혐의로 항공사를 상대로 소송을 제기한 한 남성을 중심으로 전개되었습니다. 원고의 법률팀은 자신의 주장을 뒷받침하기 위해 이전의 여러 법원 판례를 인용한 요약본을 제출하여 자신의 주장에 대한 법적 선례를 확립하고자 했습니다. 그러나 항공사의 변호사는 참고한 판례 중 일부가 존재하지 않는다는 사실을 발견하고 즉시 재판장에게 알렸습니다.
사건을 주재한 케빈 카스텔 판사는 이 상황을 "전례 없는 상황"이라고 표현하며 놀라움을 표했습니다. 판사는 원고 측 법률팀에 설명을 요구했습니다.
수석 변호사의 동료인 스티븐 슈워츠는 유사한 법적 판례를 찾기 위해 ChatGPT를 활용했다고 고백했습니다. 슈워츠는 서면 진술서에서 "법률 조사에 AI를 사용한 적이 없으며 그 내용이 허위일 수 있다는 사실을 알지 못했다"며 깊은 유감을 표했습니다.
서류에 첨부된 스크린샷에는 슈워츠와 ChatGPT 간의 대화가 담겨 있습니다. 이 대화에서 슈워츠는 특정 사건인 바르게스 대 중국남방항공의 진위 여부를 물었습니다.
ChatGPT는 이 사건의 진위 여부를 확인하면서 LexisNexis 및 Westlaw와 같은 법률 참조 데이터베이스에서 해당 사건을 찾을 수 있다고 답했습니다. 그러나 이후 조사 결과 해당 사건은 존재하지 않는 것으로 밝혀져 ChatGPT가 제공한 다른 사건에 대한 의구심이 더욱 커졌습니다.
이 사건과 관련하여 이 사건에 연루된 두 변호사, 로펌 레비도우, 레비도우 앤 오버만(Levidow, Levidow & Oberman)의 피터 로두카와 스티븐 슈워츠는 6월 8일에 예정된 징계 청문회에 소환되어 자신의 행동에 대해 해명할 예정입니다.
이번 사건을 계기로 법조계에서는 법률 조사에 AI 도구를 적절히 사용하고 유사한 사례를 방지하기 위한 포괄적인 가이드라인의 필요성에 대한 논의가 활발하게 이루어지고 있습니다.