เมื่อวันจันทร์ สำนักงานอัยการสูงสุดของรัฐนิวแฮมป์เชียร์ประกาศว่ากำลังเริ่มการสืบสวนการทุจริตการเลือกตั้งที่อาจเกิดขึ้น เหตุการณ์นี้เกิดขึ้นหลังจากที่มีคำร้องเรียนเกี่ยวกับเสียงปลอม ซึ่งฟังดูเหมือนกับเสียงของประธานาธิบดีโจ ไบเดนของสหรัฐฯ อย่างยิ่ง โดยเรียกร้องให้ผู้มีสิทธิเลือกตั้งไม่ไปลงคะแนนในการเลือกตั้งขั้นต้นของรัฐ
นักวิจัยยังเตือนถึงการใช้เสียงแบบ Deepfake เพื่อเลียนแบบนักการเมืองและผู้นำ โดยกรณีที่โดดเด่นเกิดขึ้นในปี 2023 ในสหราชอาณาจักร อินเดีย ไนจีเรีย ซูดาน เอธิโอเปีย และสโลวาเกีย
บุคคลหนึ่งลงคะแนนเสียงในการเลือกตั้งขั้นต้นในรัฐนิวแฮมป์เชียร์ สหรัฐอเมริกา ภาพ: Getty
ผู้เชี่ยวชาญเผยว่าเสียงแบบ Deepfake กลายเป็นรูปแบบหนึ่งของข้อมูลที่ผิดพลาดเนื่องจากมีเครื่องมือ AI ที่มีราคาถูกและมีประสิทธิภาพเกิดขึ้นจากสตาร์ทอัพจำนวนมาก Microsoft ยังได้พัฒนาโมเดล AI ใหม่ที่สามารถจำลองเสียงได้ตั้งแต่การบันทึกเพียงสามวินาที
Henry Ajder ผู้เชี่ยวชาญด้าน AI และ Deepfake และที่ปรึกษาของ Adobe, Meta และ EY กล่าวว่า “เมื่อพูดถึงการปรับแต่งภาพ ทุกคนคุ้นเคยกับ Photoshop หรืออย่างน้อยก็รู้ว่ามันมีอยู่” มีความรู้เพียงเล็กน้อยมากว่าเสียงจะถูกดัดแปลงอย่างไร ดังนั้น สำหรับฉันแล้ว นั่นทำให้เราตกอยู่ในความเสี่ยงจริงๆ”
ในเดือนกันยายน NewsGuard ซึ่งเป็นระบบที่ให้คะแนนคุณภาพและความน่าเชื่อถือของเว็บไซต์ข่าว ได้ค้นพบเครือข่ายบัญชี TikTok ที่แอบอ้างเป็นเว็บไซต์ข่าวที่ถูกกฎหมาย โดยใช้เนื้อหาที่สร้างด้วย AI เพื่อเผยแพร่ทฤษฎีสมคบคิดและข้อมูลที่ผิดพลาดทางการเมือง การบันทึกเสียงแบบ Deepfake รวมถึงเสียงของอดีตประธานาธิบดีบารัค โอบามาของสหรัฐฯ มีผู้เข้าชมหลายร้อยล้านครั้ง
เสียงพากย์ปลอมเหล่านี้ดูเหมือนว่าจะสร้างขึ้นโดยเครื่องมือที่จัดทำโดย ElevenLabs ที่ได้รับการสนับสนุนจาก Andreessen Horowitz ในขณะที่คลิปเหล่านี้มีผู้เข้าชมหลายร้อยล้านครั้ง NewsGuard กล่าว
“ผู้ใช้บนแพลตฟอร์มของเรามากกว่า 99% กำลังสร้างเนื้อหาที่น่าสนใจ สร้างสรรค์ และเป็นประโยชน์ แต่เราตระหนักว่ายังมีบางกรณีของการใช้งานในทางที่ผิด และเราได้พัฒนาและนำมาตรการป้องกันมาใช้เพื่อจำกัดการใช้งานดังกล่าวอย่างต่อเนื่อง” ElevenLabs กล่าว
ElevenLabs ก่อตั้งเมื่อสองปีก่อนโดย Piotr Dabkowski และ Mati Staniszewski อดีตพนักงานของ Google และ Palantir โดยนำเสนอเครื่องมือสร้างเสียงด้วย AI ขั้นพื้นฐานให้ใช้งานฟรีเพียงคลิกเดียว แผนการสมัครสมาชิกมีตั้งแต่เดือนละ 1 เหรียญไปจนถึงเดือนละ 330 เหรียญขึ้นไปสำหรับผู้ที่ต้องการบริการที่ซับซ้อนมากขึ้น
เมื่อปีที่แล้ว หน่วยข่าวกรองของสหรัฐฯ ได้ออกมาเตือนในรายงานว่า “การหลอกลวงโดยใช้ AI แบบเฉพาะบุคคลได้เพิ่มขึ้นอย่างมีนัยสำคัญ เนื่องมาจากมีการเผยแพร่โมเดลการโคลนเสียงด้วย AI ที่ซับซ้อนและผ่านการฝึกฝนมาเป็นอย่างดี”
นอกจากการหลอกลวงทางการเงินแล้ว ผู้เชี่ยวชาญทางการเมืองยังกำลังส่งสัญญาณเตือนเกี่ยวกับคลิปเสียง Deepfake ที่เป็นไวรัล รวมถึงการใช้ Deepfake ในการโทรโฆษณาหรือการรณรงค์ด้วย “คุณสามารถสร้างแคมเปญเผยแพร่ข้อมูลเท็จที่มีพลังและแพร่หลายได้โดยการกำหนดเป้าหมายไปที่โทรศัพท์” AJ Nash รองประธานและผู้เชี่ยวชาญด้านข่าวกรองแห่งกลุ่มความปลอดภัยทางไซเบอร์ ZeroFox กล่าว
บริษัทบางแห่งได้พยายามหาหนทางอื่นอย่างจริงจังในการต่อสู้กับข้อมูลที่ผิดพลาด Microsoft ได้ออกแถลงการณ์เกี่ยวกับจริยธรรม โดยกระตุ้นให้ผู้ใช้รายงานการใช้งานเครื่องมือเสียง AI โดยมิชอบ ElevenLabs ได้สร้างเครื่องมือตรวจจับของตัวเองเพื่อระบุการบันทึกที่สร้างขึ้นโดยระบบของตน
ในระหว่างการเลือกตั้งไนจีเรียปี 2023 คลิปที่ถูกปรับแต่งโดย AI กลายเป็นกระแสไวรัลในโซเชียลมีเดีย "โดยอ้างว่าผู้สมัครฝ่ายค้านกำลังวางแผนที่จะทุจริตการเลือกตั้ง" ตามที่กลุ่มสิทธิมนุษยชน Freedom House เปิดเผย
ในประเทศสโลวาเกีย การบันทึกเสียงปลอมของผู้สมัครฝ่ายค้าน Michal Šimečka ซึ่งดูเหมือนจะวางแผนทุจริตการเลือกตั้ง กลายเป็นกระแสไวรัลเพียงไม่กี่วันก่อนการเลือกตั้งประธานาธิบดีของประเทศในเดือนกันยายน
Robert Weissman ประธานกลุ่ม Public Citizen ซึ่งเป็นกลุ่มสนับสนุนผู้บริโภคที่ไม่แสวงหากำไร กล่าวว่า “Deepfake ในรัฐนิวแฮมป์เชียร์เป็นเครื่องเตือนใจให้เห็นว่า Deepfake สามารถสร้างความเข้าใจผิดและหลอกลวงได้หลายวิธี” ช่วงเวลาแห่งการหลอกลวงทางการเมืองได้มาถึงแล้ว ผู้กำหนดนโยบายต้องดำเนินการอย่างรวดเร็วเพื่อกำหนดมาตรการป้องกัน มิฉะนั้น เราจะเผชิญกับความโกลาหลในการเลือกตั้ง”
มาย อันห์ (ตามรายงานของ FT)
แหล่งที่มา
การแสดงความคิดเห็น (0)