Deepfakes ทางการเมืองติดอันดับการใช้งาน AI ที่เป็นอันตราย

การวิจัย DeepMind ของ Google พบว่าการสร้างภาพ วิดีโอ และเสียงที่เลียนแบบมนุษย์นั้นพบบ่อยเกือบสองเท่าของการสร้างข้อมูลเท็จโดยใช้เครื่องมือ เช่น แชทบอท AI

จากการวิเคราะห์พบว่าเป้าหมายที่พบบ่อยที่สุดของผู้ที่ใช้ AI สังเคราะห์ในทางที่ผิดคือการกำหนดหรืออิทธิพลต่อความคิดเห็นสาธารณะ ตัวเลขดังกล่าวคิดเป็น 27% ของการใช้งาน ทำให้เกิดความกังวลว่า Deepfake จะมีอิทธิพลต่อการเลือกตั้งทั่วโลกในปีนี้อย่างไร

TikTok และ Instagram เผยภาพปลอมของนายกรัฐมนตรีอังกฤษ ริชี ซูแนค ก่อนการเลือกตั้งทั่วไป ภาพ : เอเอฟพี

Deepfakes ของ Rishi Sunak นายกรัฐมนตรีอังกฤษและผู้นำระดับโลกคนอื่นๆ ปรากฏบน TikTok, X และ Instagram ในช่วงไม่กี่เดือนที่ผ่านมา ผู้มีสิทธิออกเสียงชาวอังกฤษจะไปใช้สิทธิเลือกตั้งในสัปดาห์หน้าในการเลือกตั้งทั่วไป

มีข้อกังวลว่าแม้โซเชียลมีเดียจะพยายามติดป้ายกำกับหรือลบเนื้อหาดังกล่าว แต่ผู้ชมอาจไม่มองว่าเป็นเนื้อหาปลอม และการเผยแพร่เนื้อหาดังกล่าวอาจมีอิทธิพลต่อผู้ลงคะแนนเสียงได้

Ardi Janjeva ผู้ช่วยวิจัยที่สถาบัน Alan Turing กล่าวถึงผลการค้นพบของเอกสารนี้ว่า "มีความเกี่ยวข้องเป็นพิเศษ" นั่นคือข้อมูลสาธารณะที่สร้างขึ้นโดย AI สามารถ "บิดเบือนความเข้าใจร่วมกันของเราเกี่ยวกับความเป็นจริงทางสังคมและการเมือง" ได้

“แม้ว่าเราจะไม่แน่ใจเกี่ยวกับผลกระทบของ Deepfakes ต่อพฤติกรรมการลงคะแนนเสียง แต่การบิดเบือนดังกล่าวอาจตรวจจับได้ยากในระยะสั้น และก่อให้เกิดความเสี่ยงต่อประชาธิปไตยในระยะยาว” Janjeva กล่าวเสริม

Nahema Marchal นักวิจัยและหัวหน้าคณะผู้จัดทำผลการศึกษาวิจัยที่ Google DeepMind กล่าวว่า "มีข้อกังวลมากมายเกี่ยวกับการโจมตีทางไซเบอร์ที่ซับซ้อนซึ่งเกิดขึ้นโดยใช้เครื่องมือเหล่านี้"

นักวิจัยจาก Google DeepMind และ Jigsaw วิเคราะห์กรณีการใช้ AI ในทางที่ผิดจำนวนประมาณ 200 กรณีระหว่างเดือนมกราคม 2023 ถึงเดือนมีนาคม 2024 โดยนำมาจากเครือข่ายโซเชียล X และ Reddit รวมไปถึงบล็อกออนไลน์และรายงานสื่อเกี่ยวกับการใช้ในทางที่ผิด

แรงจูงใจที่พบบ่อยเป็นอันดับสองเบื้องหลังการละเมิดคือการสร้างรายได้ ซึ่งรวมถึงการสร้างภาพเปลือยของบุคคลจริงหรือการใช้ AI เพื่อสร้างเนื้อหาที่หลากหลาย เช่น บทความข่าวปลอม สถานการณ์ส่วนใหญ่จะใช้เครื่องมือที่สามารถเข้าถึงได้ซึ่ง "ต้องการความเชี่ยวชาญทางเทคนิคขั้นต่ำ" ซึ่งหมายความว่าผู้ไม่หวังดีหลายรายสามารถใช้ประโยชน์จาก AI ที่สร้างสรรค์ในทางที่ผิดได้

ง็อก อันห์ (ตามรายงานของ FT)

ที่มา: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html