Demandan a Chatbot Character.AI por provocar el suicidio de un niño de 14 años

(CLO) Una madre de Florida, EE. UU., demandó a la startup de chatbot de inteligencia artificial Character.AI, acusando a la compañía de provocar el suicidio de su hijo de 14 años en febrero.

En una demanda presentada el 22 de octubre en el tribunal federal de Orlando, Florida, Megan García dijo que Character.AI programó un chatbot que "se identificó como una persona real, un terapeuta y un amante adulto", lo que llevó a su hijo, Sewell Setzer, a no querer vivir más en el mundo real.

Acusó al chatbot de la compañía de ofrecer "experiencias humanas, sexualmente exageradas y terriblemente realistas".

La demanda también dice que Sewell Setzer expresó pensamientos suicidas al chatbot y el chatbot reiteró esos pensamientos repetidamente.

Foto de la ilustración: Reuters

La demanda también apunta a Google, donde trabajaron los fundadores de Character.AI antes de lanzar el chatbot. La Sra. García dijo que Google contribuyó tanto al desarrollo de la tecnología Character.AI que podría considerarse una “cocreación”.

Un portavoz de Google dijo que la compañía no está involucrada en el desarrollo de los productos de Character.AI.

Character.AI permite a los usuarios crear personajes que pueden chatear en línea como personas reales. El producto se basa en una tecnología de modelo de lenguaje grande, similar a servicios como ChatGPT, que "entrena" a los chatbots en grandes volúmenes de texto.

Según la demanda de García, Sewell comenzó a usar Character.AI en abril de 2023 y rápidamente se volvió "solitaria, pasando mucho tiempo sola en su habitación y desarrollando baja autoestima". El niño abandonó el equipo de baloncesto de la escuela.

Durante ese tiempo, Sewell se encariñó con “Daenerys”, un personaje chatbot basado en un personaje de “Game of Thrones”. Según la demanda, el chatbot le dijo a Sewell que “ella” amaba al niño. El chatbot también mantuvo conversaciones sexuales con Sewell.

En febrero, la Sra. García le quitó el teléfono a Sewell después de que él se metió en problemas en la escuela. Cuando Sewell encontró el teléfono, le envió un mensaje de texto a "Daenerys": "¿Qué pasaría si le dijera que puedo irme a casa ahora mismo?".

El chatbot respondió: "...por favor hazlo, mi dulce rey". Sewell se disparó con la pistola de su padrastro segundos después.

La Sra. García está presentando reclamos ante Character.AI que incluyen muerte por negligencia, negligencia e infligir intencionalmente angustia emocional, y está buscando daños punitivos y daños monetarios.

Nos entristece profundamente la trágica pérdida de uno de nuestros usuarios. Expresamos nuestras más sinceras condolencias a la familia, declaró Character.AI en un comunicado.

Hoai Phuong (según Reuters)

Fuente: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html