ระวังคนร้ายใช้ AI ปลูกถ่ายใบหน้าเหยื่อเพื่อขู่กรรโชกและแบล็กเมล์

เมื่อเทียบกับช่วงก่อนหน้านี้ที่การเข้าถึงเครื่องมือเทียมสำหรับการสร้างวิดีโอ Deepfake ค่อนข้างจำกัด เครื่องมือ AI จำนวนมาก เช่น Grok, ChatGPT, Meta AI, Gemeni, DeepSeek ได้รับการเผยแพร่กันอย่างแพร่หลายและอนุญาตให้ใช้คุณสมบัติพื้นฐานได้ฟรี รวมถึงการสร้างรูปภาพด้วย ผู้ใช้สามารถสร้างรูปร่างที่ต้องการหรือแม้แต่ครอบตัดและแก้ไขได้โดยไม่จำเป็นต้องเข้าใจเทคนิคการประมวลผลเฉพาะทาง ส่งผลให้มีการใช้ AI มากขึ้นในการสร้างหน้าเพื่อจุดประสงค์ต่างๆ ตั้งแต่ความบันเทิงไปจนถึงภัยคุกคามบนอินเทอร์เน็ต

นางสาว YN (เขต 1 นครโฮจิมินห์) กล่าวว่าครั้งหนึ่งเธอเคยตกเป็นเหยื่อของการปรับแต่งรูปภาพโดยใช้ AI เพื่อข่มขู่ผู้คน และถูกขอให้จ่ายเงินเป็นจำนวนมากหากต้องการกู้ข้อมูล "ที่ละเอียดอ่อน" แม้ว่าข้อมูลทั้งหมดจะถูกสร้างขึ้นโดยเครื่องมือปัญญาประดิษฐ์ก็ตาม โดยเฉพาะภาพส่วนตัวของเธอถูกเหล่าอาชญากรเก็บรวบรวมไว้ และใบหน้าของพวกเขาก็ถูกแก้ไขให้มีเนื้อหาที่ไม่เหมาะสม อีกทั้งยังสร้างช่องแชทที่ละเอียดอ่อนขึ้น จากนั้นพวกเขาก็ติดตามนางสาว YN เพื่อแบล็กเมล์เธอ

อาชญากรใช้ AI เพื่อแก้ไข ครอบตัด และแบล็กเมล์เหยื่อ

“พวกเขาแสดงภาพหน้าจอแชท รูปภาพ และคลิปวิดีโอปลอมที่พวกเขาสร้างขึ้นให้ฉันดู และขอเงิน 100 ล้านดองเพื่อลบเนื้อหานั้น ฉันต้องยอมรับว่ารูปภาพที่รวมกันนั้นไม่สามารถแยกแยะได้ว่าเป็นของจริงหรือของปลอม” เหยื่อเล่า พร้อมเสริมว่าเธอได้รายงานพฤติกรรมดังกล่าวให้เจ้าหน้าที่ทราบแล้ว

กรณีของนางสาว YN เป็นเพียงหนึ่งในหลายเหตุการณ์ล่าสุดที่เกี่ยวข้องกับการใช้ AI และเครื่องมือแก้ไขรูปภาพในทางที่ผิดเพื่อจุดประสงค์ที่เป็นอันตราย ในปัจจุบัน ผู้ใช้งานโซเชียลเน็ตเวิร์กในเวียดนามยังคง "กังวล" อย่างมากในการแชร์ภาพส่วนตัว เพื่อน และญาติๆ ทางออนไลน์และสาธารณะ แม้ว่าผู้เชี่ยวชาญในด้านความปลอดภัยข้อมูลเกี่ยวกับปัญหานี้มากมายจะได้รับคำเตือนก็ตาม

ล่าสุด กระทรวงความมั่นคงสาธารณะ ยังได้ส่งคำเตือนถึงผู้ใช้โทรศัพท์มือถือเกี่ยวกับสถานการณ์ของกลุ่มคนร้ายที่ใช้ประโยชน์จากภาพและวิดีโอของผู้คนซึ่งเผยแพร่สู่สาธารณะบนอินเทอร์เน็ต แล้วตัดต่อ ตัดต่อ และรวมเข้าด้วยกันเพื่อสร้างเนื้อหาที่ละเอียดอ่อน เพื่อจุดประสงค์ในการข่มขู่และแบล็กเมล์ “ขอแนะนำให้ประชาชนระมัดระวังเมื่อได้รับข้อความหรือโทรศัพท์ที่มีเนื้อหาข้างต้น และไม่ควรโอนเงินเมื่อถูกคุกคาม เมื่อตรวจพบสัญญาณการฉ้อโกงหรือการกรรโชกทรัพย์ ควรแจ้งตำรวจที่ใกล้ที่สุดโดยเร็วและแจ้งผ่านแอปพลิเคชัน VNeID” ประกาศดังกล่าวระบุ

นอกจากวัตถุประสงค์ในการแบล็กเมล์แล้ว ผู้กระทำความผิดยังสามารถใช้รูปภาพและวิดีโอส่วนบุคคลของเหยื่อจำนวนมากเพื่อสร้างเนื้อหาปลอมเพื่อทำลายชื่อเสียงในสภาพแวดล้อมการทำงาน แก้แค้นส่วนตัว และก่อให้เกิดความเสียหายต่อจิตวิญญาณและเกียรติยศ ที่น่าสังเกตคือ เอกสารปลอมเหล่านี้มีความซับซ้อนมากขึ้นและยากต่อการแยกแยะทั้งสำหรับบุคคลทั่วไปและผู้ที่สนใจในสาขาปัญญาประดิษฐ์

การศึกษาวิจัยที่ดำเนินการโดย Tidio บริษัทสัญชาติโปแลนด์ที่เชี่ยวชาญด้านการพัฒนาแชทบอท AI เพื่อสนับสนุนการขาย เมื่อปลายปีที่แล้ว แสดงให้เห็นว่าผู้ใช้อินเทอร์เน็ตส่วนใหญ่ประสบปัญหาในการแยกแยะภาพที่สร้างด้วย AI มากขึ้นเรื่อยๆ บริษัทอ้างว่าผู้เข้าร่วมถึง 87% สับสนระหว่างภาพ AI กับภาพคนจริง นอกจากนี้ ผู้ตอบแบบสอบถาม 62% แสดงความสนใจใน AI และการเรียนรู้ของเครื่องจักร แต่ครึ่งหนึ่งของกลุ่มนี้ล้มเหลวในการระบุรูปภาพที่สร้างโดยปัญญาประดิษฐ์ได้อย่างถูกต้อง

ขณะนี้ยังไม่มีกฎระเบียบเฉพาะสำหรับการใช้ AI ในการก่ออาชญากรรมทางไซเบอร์ แต่การใช้รูปภาพของบุคคลอื่นเพื่อข่มขู่ แบล็กเมล์ หรือเผยแพร่ข้อมูลเท็จ ยังคงสามารถดำเนินการได้ภายใต้บทบัญญัติที่เกี่ยวข้องกับอาชญากรรมของการทำให้ผู้อื่นอับอาย รีดไถทรัพย์สิน หรือเผยแพร่ผลิตภัณฑ์ทางวัฒนธรรมที่อนาจาร

เมื่อเผชิญกับสถานการณ์ดังกล่าว ผู้เชี่ยวชาญแนะนำว่าผู้ใช้ควรระมัดระวังในการแชร์ภาพส่วนตัวบนเครือข่ายสังคมออนไลน์ และใช้เครื่องมือความปลอดภัยเพื่อควบคุมความเป็นส่วนตัว

ที่มา: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm