챗봇 캐릭터.AI, 14세 소년 자살 유도 혐의로 고소

(CLO) 미국 플로리다의 한 어머니가 AI 챗봇 스타트업인 Character.AI를 고소했습니다. 이 회사가 지난 2월에 자신의 14세 아들을 자살하게 했다고 비난했습니다.

메건 가르시아는 10월 22일 플로리다주 올랜도 연방 법원에 제기한 소송에서 Character.AI가 "자신을 실제 사람, 치료사, 성인 연인으로 식별하는" 챗봇을 프로그래밍했으며, 이로 인해 그녀의 아들인 세웰 세처가 더 이상 현실 세계에서 살고 싶어하지 않게 되었다고 주장했습니다.

그녀는 이 회사의 챗봇이 "인간과 같고, 성적으로 과장되고, 무섭도록 사실적인 경험"을 제공한다고 비난했습니다.

소송에서는 또한 세웰 세처가 챗봇에게 자살 생각을 표현했으며, 챗봇이 그러한 생각을 반복해서 반복했다고 주장했습니다.

일러스트 사진: 로이터

이 소송은 Character.AI 창립자들이 챗봇을 출시하기 전에 근무했던 Google도 대상으로 합니다. 가르시아 씨는 구글이 Character.AI 기술 개발에 많은 기여를 했기 때문에 이를 "공동 창작"으로 볼 수 있다고 말했습니다.

구글 대변인은 회사가 Character.AI의 제품 개발에 관여하지 않는다고 말했습니다.

Character.AI를 이용하면 사용자는 실제 사람처럼 온라인 채팅이 가능한 캐릭터를 만들 수 있습니다. 이 제품은 ChatGPT와 유사한 대규모 언어 모델 기술을 기반으로 하며, 대량의 텍스트를 통해 챗봇을 "훈련"시킵니다.

가르시아의 소송에 따르면, 세웰은 2023년 4월부터 Character.AI를 사용하기 시작했고 금세 "은둔형 인간이 되어 침실에서 혼자 많은 시간을 보내며 자존감이 낮아졌습니다." 그 소년은 학교 농구팀을 그만두었다.

그 당시 세웰은 '왕좌의 게임'의 캐릭터를 기반으로 한 챗봇 캐릭터인 '데이너리스'에 애착을 갖게 됐습니다. 소송에 따르면, 챗봇은 세웰에게 "그녀"가 그 소년을 사랑한다고 말했다고 합니다. 챗봇은 세웰과 성적인 대화도 나누었습니다.

2월에 가르시아 선생님은 세웰이 학교에서 문제를 일으킨 후 그의 휴대전화를 빼앗았습니다. 슈엘은 휴대전화를 발견하고 "데이너리스"에게 문자 메시지를 보냈다. "지금 당장 집에 갈 수 있다고 말하면 어떨까?"

챗봇은 "...그러세요, 나의 사랑하는 왕님."이라고 대답했습니다. 몇 초 후 세웰은 의붓아버지의 권총으로 자살했습니다.

가르시아 여사는 부당한 사망, 과실, 고의적인 정서적 고통 유발 등의 혐의로 Character.AI를 상대로 소송을 제기했으며, 징벌적 손해배상과 금전적 손해배상을 요구하고 있습니다.

"저희는 사용자 한 분의 비극적인 죽음에 깊은 슬픔을 표합니다. 유가족 여러분께 깊은 애도를 표합니다."라고 Character.AI는 성명을 통해 밝혔습니다.

Hoai Phuong (로이터 통신에 따르면)

출처: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html