Deepfake เกี่ยวกับสงครามกาซาทำให้เกิดความกังวลเกี่ยวกับ AI

ภาพเหล่านี้เป็นภาพ Deepfake ที่สร้างขึ้นโดยใช้ปัญญาประดิษฐ์ และมีผู้เข้าชมหลายล้านครั้งบนแพลตฟอร์มออนไลน์ หากสังเกตอย่างใกล้ชิด คุณจะเห็นร่องรอยที่บอกเหตุได้ เช่น นิ้วที่โค้งงออย่างประหลาด หรือดวงตาที่เปล่งประกายด้วยแสงที่ไม่เป็นธรรมชาติ

อย่างไรก็ตาม ความไม่พอใจที่ภาพ Deepfake เหล่านี้ก่อให้เกิดขึ้นนั้นเป็นเรื่องจริง

ภาพถ่ายจากสงครามอิสราเอล-ฮามาสแสดงให้เห็นอย่างชัดเจนและเจ็บปวดถึงอันตรายของ AI ที่เป็นเครื่องมือโฆษณาชวนเชื่อที่ใช้สร้างภาพที่เหมือนจริง

นับตั้งแต่การสู้รบเริ่มต้นขึ้นเมื่อเดือนที่แล้ว รูปถ่ายที่ผ่านการปรับแต่งทางดิจิทัลที่แพร่หลายบนโซเชียลมีเดียถูกนำไปใช้เพื่อกล่าวอ้างเท็จเกี่ยวกับความรับผิดชอบต่อผู้เสียชีวิต หรือเพื่อทำให้ผู้คนเข้าใจผิดเกี่ยวกับความโหดร้ายที่ไม่เคยเกิดขึ้นจริง

ภาพ Deepfake ของสงครามกาซาสร้างความกังวลใหม่ ภาพที่ 1 — ชาวปาเลสไตน์เก็บข้าวของใต้ซากปรักหักพังในฉนวนกาซา ภาพเอพี

ความก้าวหน้าทางเทคโนโลยีเกิดขึ้นบ่อยครั้งมากขึ้นและมีการควบคุมดูแลน้อยมาก ซึ่งทำให้ความเสี่ยงที่ AI จะกลายเป็นอาวุธอีกประเภทหนึ่งชัดเจน และยังทำให้เห็นภาพคร่าวๆ ว่าจะเกิดอะไรขึ้นในความขัดแย้ง การเลือกตั้ง และเหตุการณ์สำคัญอื่นๆ ในอนาคต

Jean-Claude Goldenstein ซีอีโอของ CREOpoint บริษัทเทคโนโลยีที่มีฐานอยู่ในซานฟรานซิสโกและปารีส ซึ่งใช้ AI ในการประเมินความถูกต้องของการร้องเรียนทางออนไลน์ กล่าวว่า "สิ่งต่างๆ จะแย่ลงมากก่อนที่จะดีขึ้น"

บริษัทของเขาได้รวบรวมฐานข้อมูลภาพ Deepfake ที่เป็นกระแสไวรัลมากที่สุดซึ่งปรากฏในกาซา “ภาพ วิดีโอ และเสียง ด้วย AI ที่สร้างสรรค์ นี่จะเป็นก้าวไปข้างหน้าแบบที่คุณไม่เคยเห็นมาก่อน” เขากล่าว

อิมราน อาห์เหม็ด ซีอีโอของ Center for Countering Digital Hate ซึ่งเป็นองค์กรไม่แสวงหากำไรที่ติดตามข้อมูลเท็จเกี่ยวกับสงคราม กล่าวว่านักโฆษณาชวนเชื่อที่สร้างภาพดังกล่าวมีความชำนาญในการกำหนดเป้าหมายที่แรงกระตุ้นและความวิตกกังวลที่ลึกที่สุดของผู้คน

ยิ่งภาพน่ากลัวมากเท่าไหร่ ผู้ใช้ก็ยิ่งมีแนวโน้มที่จะจดจำและแชร์ภาพนั้นมากขึ้นเท่านั้น ซึ่งจะทำให้ข้อมูลที่เป็นเท็จแพร่กระจายไปโดยไม่ได้ตั้งใจ เนื้อหาเท็จที่สร้างโดย AI เริ่มแพร่ระบาดอย่างรวดเร็วหลังจากความขัดแย้งระหว่างรัสเซียและยูเครน

ทุกๆ ฤดูกาลแห่งความขัดแย้งหรือการเลือกตั้ง มักเปิดโอกาสให้เกิดการแพร่ข่าวปลอม ทำให้ผู้เชี่ยวชาญด้าน AI และนักการเมืองหลายคนออกมาเตือนถึงความเสี่ยงในปีหน้า เมื่อประเทศต่างๆ หลายประเทศจัดการเลือกตั้งครั้งใหญ่ รวมถึงสหรัฐอเมริกา อินเดีย ปากีสถาน ยูเครน อินโดนีเซีย และเม็กซิโก

ความเสี่ยงที่ AI และโซเชียลมีเดียอาจถูกนำไปใช้ในการเผยแพร่ข้อมูลเท็จต่อผู้มีสิทธิเลือกตั้งชาวอเมริกันทำให้เกิดความวิตกกังวลต่อสมาชิกรัฐสภาจากทั้งสองพรรคการเมืองในวอชิงตัน ในการพิจารณาคดีล่าสุดเกี่ยวกับอันตรายของเทคโนโลยี deepfake นาย Gerry Connolly สมาชิกสภาผู้แทนราษฎรสหรัฐฯ จากพรรคเดโมแครตแห่งรัฐเวอร์จิเนีย กล่าวว่าสหรัฐฯ จำเป็นต้องลงทุนในการจัดหาเงินทุนเพื่อพัฒนาเครื่องมือ AI ที่ออกแบบมาเพื่อต่อต้าน AI ประเภทอื่นๆ

David Doermann ศาสตราจารย์จากมหาวิทยาลัยบัฟฟาโลกล่าวว่า การตอบสนองต่อความท้าทายทางการเมืองและสังคมที่เกิดจากข้อมูลเท็จที่เกิดจาก AI ได้อย่างมีประสิทธิภาพจะต้องใช้ทั้งเทคโนโลยีที่ดีขึ้นและกฎระเบียบที่ดีขึ้น

มาย อันห์ (ตามรายงานของเอพี)

แหล่งที่มา