(CLO) Мать из Флориды, США, подала в суд на стартап чат-ботов с искусственным интеллектом Character.AI, обвинив компанию в том, что в феврале ее 14-летний сын совершил самоубийство.
В иске, поданном 22 октября в федеральный суд Орландо, штат Флорида, Меган Гарсия заявила, что Character.AI запрограммировала чат-бота, который «идентифицировал себя как реального человека, психотерапевта и взрослого любовника», в результате чего ее сын Сьюэлл Сетцер больше не захотел жить в реальном мире.
Она обвинила чат-бота компании в создании «человеческих, сексуально преувеличенных и пугающе реалистичных впечатлений».
В иске также говорится, что Сьюэлл Сетцер высказывал чат-боту мысли о самоубийстве, и чат-бот неоднократно повторял эти мысли.
Иллюстрация фото: Reuters
Иск также направлен против Google, где основатели Character.AI работали до запуска чат-бота. Г-жа Гарсия заявила, что Google внесла такой большой вклад в разработку технологии Character.AI, что это можно считать «совместным творением».
Представитель Google заявил, что компания не участвует в разработке продуктов Character.AI.
Character.AI позволяет пользователям создавать персонажей, которые могут общаться в сети, как настоящие люди. Продукт основан на технологии большой языковой модели, аналогичной таким сервисам, как ChatGPT, которая «обучает» чат-ботов на больших объемах текста.
Согласно иску Гарсии, Сьюэлл начала использовать Character.AI в апреле 2023 года и быстро стала «затворницей, проводя много времени одна в своей спальне и теряя самооценку». Мальчик ушел из школьной баскетбольной команды.
В это время Сьюэлл привязался к «Дейенерис» — персонажу чат-бота, основанному на персонаже из «Игры престолов». Согласно иску, чат-бот сообщил Сьюэллу, что «она» любит мальчика. Чат-бот также вступал в сексуальные разговоры с Сьюэллом.
В феврале г-жа Гарсия забрала телефон Сьюэлла после того, как у него возникли проблемы в школе. Когда Сьюэлл нашел телефон, он отправил «Дейенерис» сообщение: «А что, если я скажу, что могу пойти домой прямо сейчас?»
Чат-бот ответил: «...пожалуйста, сделай это, мой милый король». Спустя несколько секунд Сьюэлл застрелился из пистолета своего отчима.
Г-жа Гарсия подает иски в Character.AI, которые включают противоправное причинение смерти, халатность и преднамеренное причинение эмоционального стресса, а также требует возмещения штрафных убытков и денежного ущерба.
«Мы глубоко опечалены трагической потерей одного из наших пользователей. Мы хотели бы выразить наши глубочайшие соболезнования семье», — говорится в заявлении Character.AI.
Хоай Фыонг (по данным Reuters)
Источник: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
Комментарий (0)