ChatGPT는 2022년 11월 OpenAI에 의해 출시되었으며 그 이후로 전 세계적으로 "열풍"이 되었습니다. 사람들은 업무 이메일 작성, 학교 과제 수행 등 다양한 목적으로 인공지능(AI) 챗봇을 사용해 왔습니다. 일부 연구에 따르면 생성 AI는 업무 자동화를 포함하여 법률 산업에 큰 영향을 미칠 수 있다고 합니다. 하지만 OpenAI의 CTO인 미라 무라티조차도 AI의 응답이 항상 정확한 것은 아니라고 경고합니다.
한 남자가 항공사인 아비앙카를 상대로 항공사의 금속 카트로 인해 부상을 입었다며 소송을 제기했습니다. 원고를 대리하는 로펌인 Levidow, Levidow & Oberman의 변호사인 스티븐 슈워츠는 ChatGPT를 사용하여 유사한 사건이 포함된 법원 판례에 대한 정보를 검색했습니다. 하지만 OpenAI의 챗봇은 6가지 가짜 사례를 제시했습니다.
아비앙카 항공의 변호인과 법원은 소송에서 언급된 일부 사건을 확인하지 못한 후 의구심을 제기했습니다. 아비앙카를 대리하는 로펌인 콘돈 앤 포사이스(Condon & Forsyth)는 8건의 소송 중 6건이 허위라는 것을 즉시 깨달았다고 밝혔습니다.
슈워츠는 ChatGPT에 도움을 요청한 사실을 인정했지만 "제공한 콘텐츠가 가짜일 수 있다는 사실을 몰랐다"고 주장했으며, ChatGPT가 정보를 조작할 수 있는 능력이 있다는 사실도 몰랐다고 주장했습니다.
슈워츠 씨는 ChatGPT가 제공한 정보를 검증하지 않은 것에 대해 부끄럽고 깊은 후회를 느낀다고 말했습니다.
판사 P. 케빈 카스텔은 레비도우, 레비도우 & 오버먼이 "자신들의 행동을 솔직하게 밝히지 않았다"고 비판했습니다. 그는 해당 회사와 변호사들이 ChatGPT가 작성한 가짜 견적을 제출한 책임을 회피했다고 말했습니다. 그뿐만 아니라 피고인이 언급된 6가지 사건의 정확성에 의문을 제기한 후에도 변호인들은 여전히 위조 문서를 제시했습니다.
카스텔 판사는 레비도우, 레비도우 & 오버먼에게 5,000달러의 벌금을 부과하고, 로펌에 허구의 사건에 잘못 언급된 각 판사에게 편지를 보내라고 명령했습니다. 그는 기술의 발전은 정상적인 일이며 신뢰할 수 있는 인공지능 도구를 사용하여 도움을 주는 것에는 아무런 문제가 없지만, 현행 규칙은 변호사가 기록의 정확성을 보장하는 데 중요한 역할을 한다고 말했습니다.
CBS 뉴스에 따르면, 로펌인 레비도우, 레비도우 & 오버먼은 카스텔의 명령을 준수하겠다고 밝혔지만, 로펌이 악의적으로 행동했다는 결론에는 동의하지 않았습니다. 이 회사는 또한 법원과 고객에게 사과하며, AI 기술이 사건을 조작할 수 있다는 사실을 깨닫지 못한 것이 실수였다고 인정했습니다.
[광고2]
소스 링크
댓글 (0)