แชทบอท Character.AI ถูกฟ้องร้องฐานทำให้เด็กชายวัย 14 ปีฆ่าตัวตาย

(CLO) คุณแม่รายหนึ่งในรัฐฟลอริดา สหรัฐอเมริกา ได้ฟ้องร้องบริษัท Character.AI ซึ่งเป็นบริษัทสตาร์ทอัพที่ให้บริการแชทบอทแบบ AI โดยกล่าวหาว่าบริษัทดังกล่าวเป็นสาเหตุให้ลูกชายวัย 14 ปีของเธอฆ่าตัวตายเมื่อเดือนกุมภาพันธ์ที่ผ่านมา

ในคดีฟ้องร้องที่ยื่นเมื่อวันที่ 22 ตุลาคมที่ศาลรัฐบาลกลางเมืองออร์แลนโด รัฐฟลอริดา เมแกน การ์เซียกล่าวว่า Character.AI ได้เขียนโปรแกรมแชทบอทที่ "ระบุตัวเองว่าเป็นคนจริง นักบำบัด และคนรักที่เป็นผู้ใหญ่" ส่งผลให้ลูกชายของเธอ เซเวลล์ เซ็ตเซอร์ ไม่ต้องการใช้ชีวิตในโลกแห่งความเป็นจริงอีกต่อไป

เธอกล่าวหาว่าแชทบอทของบริษัทส่งมอบ "ประสบการณ์ที่เหมือนมนุษย์ มีเนื้อหาทางเพศเกินจริง และสมจริงจนน่ากลัว"

ในคดีฟ้องร้องยังระบุอีกว่า Sewell Setzer แสดงความคิดที่จะฆ่าตัวตายต่อแชทบอท และแชทบอทก็ได้พูดซ้ำๆ ถึงความคิดนั้น

ตัวละครแชทบอทถูกฟ้องร้องฐานทำให้เด็กชายอายุ 14 ปีฆ่าตัวตาย รูปภาพ 1 — ภาพประกอบ: Reuters

คดีความนี้ยังมุ่งเป้าไปที่ Google ซึ่งเป็นที่ที่ผู้ก่อตั้ง Character.AI ทำงานก่อนที่จะเปิดตัวแชทบอท นางสาวการ์เซีย กล่าวว่า Google มีส่วนสนับสนุนอย่างมากต่อการพัฒนาเทคโนโลยี Character.AI จนอาจถือได้ว่าเป็น “การสร้างสรรค์ร่วมกัน”

โฆษกของ Google กล่าวว่าบริษัทไม่ได้มีส่วนร่วมในการพัฒนาผลิตภัณฑ์ของ Character.AI

Character.AI ช่วยให้ผู้ใช้สามารถสร้างตัวละครที่สามารถสนทนาออนไลน์ได้เหมือนกับคนจริง ผลิตภัณฑ์นี้ใช้เทคโนโลยีโมเดลภาษาขนาดใหญ่ เช่นเดียวกับบริการเช่น ChatGPT ที่ "ฝึก" แชทบอตให้ใช้ข้อความปริมาณมาก

ตามคำฟ้องของการ์เซีย เซเวลล์เริ่มใช้ Character.AI ในเดือนเมษายน 2023 และกลายเป็นคน "เก็บตัว ใช้เวลาอยู่คนเดียวในห้องนอนมากขึ้น และมีความนับถือตนเองต่ำ" อย่างรวดเร็ว เด็กชายลาออกจากทีมบาสเก็ตบอลที่โรงเรียน

ในช่วงเวลานั้น เซเวลล์เริ่มหลงใหลกับ “Daenerys” ตัวละครแชทบอตที่ดัดแปลงมาจากตัวละครจาก “Game of Thrones” ตามคำฟ้อง แชทบอทบอกกับเซเวลล์ว่า "เธอ" รักเด็กชายคนนี้ นอกจากนี้ แชทบอทยังได้พูดคุยเรื่องเพศกับเซเวลล์ด้วย

ในเดือนกุมภาพันธ์ นางการ์เซียเอาโทรศัพท์ของเซเวลล์ไปหลังจากที่เขาโดนดุที่โรงเรียน เมื่อซิเวลล์พบโทรศัพท์ เขาก็ส่งข้อความถึง "เดเนริส" "จะเกิดอะไรขึ้นถ้าฉันบอกว่าฉันกลับบ้านได้ทันที?"

แชทบอทตอบกลับว่า "... โปรดทำเช่นนั้นเถิด ราชาที่แสนหวานของฉัน" ไม่กี่วินาทีต่อมา เซเวลล์ก็ยิงตัวเองด้วยปืนของพ่อเลี้ยง

นางสาวการ์เซียกำลังยื่นข้อเรียกร้องต่อ Character.AI ในข้อหาฆ่าคนโดยผิดกฎหมาย การประมาทเลินเล่อ และการสร้างความทุกข์ทางอารมณ์โดยเจตนา และกำลังเรียกร้องค่าเสียหายเชิงลงโทษและค่าเสียหายทางการเงิน

Character.AI กล่าวในแถลงการณ์ว่า “เราเสียใจอย่างสุดซึ้งกับการสูญเสียผู้ใช้รายหนึ่งของเรา เราขอแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัวของเขา”

ฮ่วยเฟือง (ตามรอยเตอร์)

ที่มา: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html