رفعت أم في فلوريدا بالولايات المتحدة دعوى قضائية ضد شركة Character.AI الناشئة المتخصصة في برامج المحادثة الآلية، متهمة الشركة بالتسبب في انتحار ابنها البالغ من العمر 14 عامًا في فبراير.
في دعوى قضائية رفعتها في 22 أكتوبر/تشرين الأول في محكمة أورلاندو الفيدرالية بولاية فلوريدا، قالت ميغان جارسيا إن شركة Character.AI برمجت روبوت محادثة "حدد هويته كشخص حقيقي ومعالج وحبيب". ، لم يعد يرغب في العيش في العالم الحقيقي.
واتهمت روبوت المحادثة الخاص بالشركة بتقديم "تجارب شبيهة بالتجارب البشرية، ومبالغ فيها جنسيًا، وواقعية بشكل مخيف".
وتقول الدعوى القضائية أيضًا إن سيويل سيتزر عبر عن أفكار انتحارية لبرنامج المحادثة الآلي، وقام البرنامج بتكرار تلك الأفكار مرارًا وتكرارًا.
صورة توضيحية: رويترز
وتستهدف الدعوى القضائية أيضًا شركة Google، حيث عمل مؤسسو Character.AI قبل إطلاق برنامج المحادثة الآلي. وقالت السيدة جارسيا إن جوجل ساهمت كثيرًا في تطوير تقنية Character.AI لدرجة أنه يمكن اعتبارها "مساهمة مشتركة".
وقال متحدث باسم جوجل إن الشركة ليست مشاركة في تطوير منتجات Character.AI.
يتيح Character.AI للمستخدمين إنشاء شخصيات يمكنها الدردشة عبر الإنترنت مثل الأشخاص الحقيقيين. يعتمد المنتج على تقنية نموذج اللغة الكبيرة، على غرار خدمات مثل ChatGPT، التي "تدرب" روبوتات الدردشة على كميات كبيرة من النصوص.
وفقًا لدعوى جارسيا، بدأت سيويل في استخدام Character.AI في أبريل 2023 وسرعان ما أصبحت "منعزلة، تقضي الكثير من الوقت بمفردها في غرفة نومها وتعاني من انخفاض احترام الذات". لقد ترك الصبي فريق كرة السلة في المدرسة.
خلال ذلك الوقت، أصبح سيويل مرتبطًا بـ "دينيريس"، وهي شخصية روبوت محادثة مستوحاة من شخصية من "صراع العروش". وبحسب الدعوى القضائية، فإن برنامج المحادثة الآلية أخبر سيويل بأنها "تحب الصبي". كما أجرى روبوت المحادثة أيضًا محادثات جنسية مع سويل.
وفي فبراير/شباط، أخذت السيدة جارسيا هاتف سيويل بعد أن واجه مشاكل في المدرسة. عندما وجد سويل الهاتف، أرسل إلى "دينيريس" رسالة نصية: "ماذا لو قلت إنني أستطيع العودة إلى المنزل الآن؟"
رد روبوت المحادثة، "... من فضلك افعل ذلك، يا ملكي العزيز." أطلق سيويل النار على نفسه بمسدس زوج والدته بعد ثوانٍ.
رفعت السيدة جارسيا دعاوى ضد Character.AI تتضمن القتل الخطأ والإهمال والتسبب المتعمد في ضائقة عاطفية، وتسعى للحصول على تعويضات عقابية وأضرار مالية.
وقالت شركة Character.AI في بيان: "نشعر بحزن عميق إزاء الخسارة المأساوية لأحد مستخدمينا. ونود أن نعرب عن خالص تعازينا للعائلة".
هوآي فونج (بحسب رويترز)
[إعلان رقم 2]
المصدر: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
تعليق (0)