เอฟบีไอระบุ AI ถูกใช้เพื่อ 'การกรรโชก' และคุกคาม

ในคำเตือนที่เผยแพร่เมื่อสัปดาห์นี้ FBI ระบุว่าเมื่อไม่นานนี้พบว่ามีเหยื่อแบล็กเมล์เพิ่มมากขึ้น โดยเหยื่อเหล่านี้อ้างว่าตนเองตกเป็นเป้าหมายการใช้ AI ในการแก้ไขรูปภาพปกติจากโพสต์ออนไลน์ ข้อความส่วนตัว หรือวิดีโอแชท ให้กลายเป็นภาพปลอม

เอฟบีไอเผยใครคือผู้ถูกใช้เพื่อรวบรวมและปั่นเงิน ภาพที่ 1 — ครั้งหนึ่งตำรวจสเปนได้จับกุมโปรแกรมเมอร์ที่ใช้ AI สร้างภาพลามกอนาจารเด็กปลอม ภาพ : เดลี่เมล์

“จากนั้นผู้ไม่ประสงค์ดีจะส่งภาพเหล่านี้ไปยังเหยื่อโดยตรงเพื่อแบล็กเมล์หรือคุกคามทางเพศ เมื่อเผยแพร่ออกไปแล้ว เหยื่ออาจเผชิญกับความท้าทายที่สำคัญในการป้องกันไม่ให้มีการแชร์เนื้อหาที่ถูกปรับแต่งต่อไป รวมถึงการลบเนื้อหาดังกล่าวออกจากอินเทอร์เน็ต” คำเตือนระบุ

สำนักงานฯ กล่าวว่าภาพดังกล่าวดูเหมือนจริงมาก และระบุว่ามีเด็กๆ ตกเป็นเป้าหมายในบางกรณีด้วย

ในเดือนกุมภาพันธ์ ตำรวจในสเปนได้จับกุมโปรแกรมเมอร์คอมพิวเตอร์ผู้ใช้ AI สร้างภาพการล่วงละเมิดเด็กอันน่าสยดสยอง ซึ่งเชื่อว่าจะเป็นหนึ่งในการจับกุมครั้งแรกๆ ในลักษณะนี้

FBI ไม่ได้ให้รายละเอียดเกี่ยวกับโปรแกรม AI ที่ใช้สร้างภาพทางเพศ แต่ระบุว่าความก้าวหน้าทางเทคโนโลยีช่วย “ปรับปรุงคุณภาพ การปรับแต่ง และการเข้าถึงการสร้างเนื้อหาที่ขับเคลื่อนด้วย AI อย่างต่อเนื่อง”

การแก้ไขรูปภาพปกติเพื่อสร้างภาพเซ็กซี่นั้นมีมานานพอๆ กับการถ่ายภาพเลย แต่ในปัจจุบันเครื่องมือ AI โอเพนซอร์สได้รับความนิยมเพิ่มขึ้นอย่างมาก ทำให้ขั้นตอนดังกล่าวง่ายขึ้นกว่าเดิมมาก

รูปถ่ายหรือวิดีโอปลอมมักจะแยกแยะจากเวอร์ชันในชีวิตจริงไม่ได้ ในความเป็นจริง เว็บไซต์และเครือข่ายโซเชียลหลายแห่งที่สร้างขึ้นเพื่อสร้างและแลกเปลี่ยนภาพทางเพศที่ขับเคลื่อนด้วย AI ได้ถือกำเนิดขึ้นในช่วงไม่กี่ปีที่ผ่านมา

สิ่งนี้ถือเป็นหนึ่งในความเสี่ยงหลายประการที่ปัญญาประดิษฐ์อาจก่อให้เกิดขึ้นต่อสังคม ตามที่ผู้เชี่ยวชาญได้ออกมาแสดงความกังวลและเตือนเมื่อเร็วๆ นี้

ฮวง อันห์ (ตามรายงานของเดลี่เมล์ และรอยเตอร์)

แหล่งที่มา