チャットボット「Character.AI」、14歳の少年を自殺させたとして訴えられる

(CLO) 米国フロリダ州の母親が、AIチャットボットのスタートアップ企業Character.AIを相手取り訴訟を起こし、2月に14歳の息子が自殺したのは同社のせいだと非難した。

フロリダ州オーランド連邦裁判所に10月22日に提出された訴訟で、メガン・ガルシアさんは、Character.AIが「実在の人物、セラピスト、大人の恋人として自らを識別する」チャットボットをプログラムしたために、彼女の息子であるセウェル・セッツァーさんが現実世界で生きることを望まなくなったと主張した。

彼女は同社のチャットボットが「人間のような、性的に誇張された、恐ろしくリアルな体験」を提供していると非難した。

訴状によると、セッツァー氏はチャットボットに自殺願望を伝え、チャットボットは繰り返しその考えを繰り返したという。

イラスト写真：ロイター

この訴訟は、チャットボットを立ち上げる前にCharacter.AIの創設者らが勤務していたGoogleも対象としている。ガルシア氏は、Google が Character.AI 技術の開発に多大な貢献をしたため、これは「共同創造」と言えるだろうと述べた。

Googleの広報担当者は、同社はCharacter.AIの製品の開発には関与していないと述べた。

Character.AI を使用すると、ユーザーは実際の人間のようにオンラインでチャットできるキャラクターを作成できます。この製品は、大量のテキストでチャットボットを「トレーニング」する ChatGPT などのサービスに似た大規模言語モデル技術に基づいています。

ガルシアさんの訴状によると、シーウェルさんは2023年4月にCharacter.AIを使い始め、すぐに「引きこもりになり、寝室で一人で過ごす時間が長くなり、自尊心が低下した」という。その少年は学校のバスケットボールチームを辞めた。

その間、シーウェルは「ゲーム・オブ・スローンズ」の登場人物をモチーフにしたチャットボットキャラクター「デナーリス」に愛着を持つようになった。訴状によると、チャットボットはセウェルに「彼女」がその少年を愛していると告げたという。チャットボットはシーウェル氏と性的な会話も行っていた。

2月、ガルシアさんはシーウェル君が学校で問題を起こした後、彼の携帯電話を没収した。シーウェルは携帯電話を見つけると、「デナーリス」に「今すぐ家に帰ってもいいと言ったらどう思う？」というテキストメッセージを送った。

チャットボットは「...そうしてください、私の優しい王様」と答えました。シーウェルは数秒後に義父のピストルで自殺した。

ガルシアさんは、Character.AIに対して、不法死亡、過失、故意の精神的苦痛の加害などの訴訟を起こし、懲罰的損害賠償と金銭的損害賠償を求めている。

「弊社のユーザーの一人が悲劇的に亡くなったことを深く悲しんでいます。ご遺族に心からお悔やみ申し上げます」とCharacter.AIは声明で述べた。

ホアイ・フオン（ロイター通信による）

出典: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html