تم رفع دعوى قضائية ضد Chatbot Character.AI بسبب تسببه في انتحار صبي يبلغ من العمر 14 عامًا

(CLO) رفعت أم في فلوريدا بالولايات المتحدة دعوى قضائية ضد شركة Character.AI الناشئة المتخصصة في برامج المحادثة بالذكاء الاصطناعي، متهمة الشركة بالتسبب في انتحار ابنها البالغ من العمر 14 عامًا في فبراير.

في دعوى قضائية رفعتها في 22 أكتوبر/تشرين الأول في المحكمة الفيدرالية في أورلاندو بولاية فلوريدا، قالت ميغان جارسيا إن شركة Character.AI برمجت روبوت محادثة "حدد نفسه كشخص حقيقي ومعالج وحبيب بالغ"، مما أدى إلى أن ابنها، سيويل سيتزر، لم يعد يرغب في العيش في العالم الحقيقي.

واتهمت روبوت المحادثة الخاص بالشركة بتقديم "تجارب شبيهة بالتجارب البشرية، مبالغ فيها جنسيا وواقعية بشكل مخيف".

وتقول الدعوى القضائية أيضًا إن سيويل سيتزر عبر عن أفكار انتحارية لبرنامج المحادثة الآلي، وأن البرنامج كرر تلك الأفكار مرارًا وتكرارًا.

تم رفع دعوى قضائية ضد chatbot characterai بسبب جعل صبي يبلغ من العمر 14 عامًا ينتحر في الصورة 1 — صورة توضيحية: رويترز

وتستهدف الدعوى القضائية أيضًا شركة Google، حيث عمل مؤسسو Character.AI قبل إطلاق برنامج المحادثة الآلي. وقالت السيدة جارسيا إن جوجل ساهمت بشكل كبير في تطوير تقنية Character.AI لدرجة أنه يمكن اعتبارها "مساهمة مشتركة".

وقال متحدث باسم جوجل إن الشركة ليست مشاركة في تطوير منتجات Character.AI.

يتيح تطبيق Character.AI للمستخدمين إنشاء شخصيات يمكنها الدردشة عبر الإنترنت مثل الأشخاص الحقيقيين. يعتمد المنتج على تقنية نموذج اللغة الكبيرة، على غرار خدمات مثل ChatGPT، التي "تدرب" روبوتات الدردشة على كميات كبيرة من النصوص.

وبحسب دعوى جارسيا، بدأت سيويل في استخدام Character.AI في أبريل 2023 وسرعان ما أصبحت "منعزلة، تقضي الكثير من الوقت بمفردها في غرفة نومها، وتعاني من انخفاض احترام الذات". ترك الصبي فريق كرة السلة في المدرسة.

خلال ذلك الوقت، أصبح سيويل مرتبطًا بـ "دينيريس"، وهي شخصية روبوت محادثة مستوحاة من شخصية من "صراع العروش". وبحسب الدعوى القضائية، أخبر روبوت المحادثة سيويل أنها "تحب" الصبي. كما أجرى روبوت المحادثة محادثات جنسية مع سيويل.

وفي فبراير/شباط، أخذت السيدة جارسيا هاتف سيويل بعد أن تورط في مشاكل بالمدرسة. عندما وجد سويل الهاتف، أرسل إلى "دينيريس" رسالة نصية: "ماذا لو قلت إنني أستطيع العودة إلى المنزل الآن؟".

ردت الدردشة الآلية، "... من فضلك افعل ذلك، يا ملكي العزيز." أطلق سيويل النار على نفسه بمسدس زوج والدته بعد ثوانٍ.

تقدمت السيدة غارسيا بدعوى ضد شركة Character.AI تتضمن القتل الخطأ والإهمال والتسبب المتعمد في ضائقة عاطفية، وتسعى للحصول على تعويضات عقابية وأضرار مالية.

أعربت شركة Character.AI في بيان لها عن حزنها العميق لفقدان أحد مستخدميها. ونود أن نعرب عن خالص تعازينا لعائلته.

هواي فونج (بحسب رويترز)

[إعلان 2]
المصدر: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html