챗봇 캐릭터.AI, 14세 소년 자살 유도 혐의로 고소

(CLO) 미국 플로리다주의 한 어머니가 AI 챗봇 스타트업인 Character.AI를 고소했습니다. 이 회사가 지난 2월에 자신의 14세 아들을 자살하게 했다고 비난했습니다.

플로리다 주 올랜도 연방법원에 10월 22일에 제기한 소송에서, 메건 가르시아는 Character.AI가 "자신을 실제 사람, 치료사, 성인 연인이라고 밝힌" 챗봇을 프로그래밍했고, 이로 인해 그녀의 아들인 세웰 세처가 더 이상 현실 세계에서 살고 싶어하지 않게 되었다고 말했습니다.

그녀는 이 회사의 챗봇이 "인간과 같고, 성적으로 과장되고, 무섭도록 사실적인 경험"을 제공한다고 비난했습니다.

소송에서는 또한 세웰 세처가 챗봇에게 자살 생각을 표현했으며, 챗봇이 그러한 생각을 반복해서 말했다고 주장했습니다.

일러스트 사진 : 로이터

이 소송은 Character.AI의 창립자들이 챗봇을 출시하기 전에 근무했던 구글을 대상으로 합니다. 가르시아 여사는 구글이 Character.AI 기술 개발에 많은 기여를 했기 때문에 이를 "공동 창작"으로 볼 수 있다고 말했습니다.

구글 대변인은 회사가 Character.AI의 제품 개발에 관여하지 않는다고 말했습니다.

Character.AI를 이용하면 사용자는 실제 사람처럼 온라인 채팅이 가능한 캐릭터를 만들 수 있습니다. 이 제품은 ChatGPT와 유사한 대규모 언어 모델 기술을 기반으로 하며, 방대한 양의 텍스트를 사용하여 챗봇을 "훈련"시킵니다.

Garcia의 소송에 따르면 Sewell은 2023년 4월에 Character.AI를 사용하기 시작했고 빠르게 "은둔형이 되어 침실에서 혼자 많은 시간을 보내며 자존감이 낮아졌습니다." 그 소년은 학교 농구부를 그만두었다.

그 당시 세웰은 '왕좌의 게임'의 캐릭터를 기반으로 한 챗봇 캐릭터인 '대너리스'에 애착을 갖게 됐다. 소송에 따르면 챗봇은 Sewell에게 "그녀"가 그 소년을 사랑한다고 말했습니다. 챗봇은 세웰과 성적인 대화도 나누었습니다.

2월에 가르시아 선생님은 세웰이 학교에서 문제를 일으킨 후 그의 휴대전화를 가져갔습니다. 슈엘은 휴대전화를 발견하고 "대너리스"에게 문자 메시지를 보냈다. "지금 당장 집에 가도 된다고 말하면 어떨까?"

챗봇은 "...그러세요, 나의 사랑하는 왕님."이라고 대답했습니다. 세웰은 몇 초 후에 의붓아버지의 권총으로 자살했습니다.

가르시아 여사는 부당 사망, 과실 및 고의적인 정서적 고통 유발을 포함한 소송을 Character.AI에 제기하고 있으며, 징벌적 손해배상과 금전적 손해배상을 요구하고 있습니다.

"우리는 사용자 중 한 명의 비극적인 상실에 대해 깊은 슬픔을 느낍니다. 우리는 가족에게 가장 깊은 애도를 표하고 싶습니다." Character.AI가 성명을 통해 밝혔습니다.

호아이 푸옹 (로이터에 따르면)

출처: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html