แฮกเกอร์ใช้ AI โจมตี Gemini ของ Google

ตามรายงานการวิจัยใหม่ ของ BGR ได้เผยแพร่เทคนิคที่น่าตกใจที่เรียกว่า 'Fun-Tuning' เมื่อใช้ AI (ปัญญาประดิษฐ์) เพื่อสร้างการโจมตีแบบฉีดทันทีที่มีประสิทธิภาพอย่างมากโดยอัตโนมัติโดยกำหนดเป้าหมายไปที่โมเดล AI ขั้นสูงอื่น ๆ รวมถึง Gemini ของ Google ด้วย

วิธีการดังกล่าวทำให้การ "เจาะ" AI เร็วขึ้น ราคาถูกลง และง่ายขึ้นกว่าที่เคย ซึ่งถือเป็นการยกระดับการต่อสู้ด้านความปลอดภัยทางไซเบอร์ที่เกี่ยวข้องกับ AI ขึ้นอีกขั้น

อันตรายเมื่อคนร้ายใช้ AI ทำลาย AI

การแทรกพร้อมท์เป็นเทคนิคที่ผู้โจมตีแทรกคำสั่งที่เป็นอันตรายลงในข้อมูลอินพุตของโมเดล AI อย่างลับๆ (เช่น ผ่านความคิดเห็นในโค้ดต้นฉบับ ข้อความที่ซ่อนอยู่บนเว็บ) เป้าหมายคือการ "หลอก" AI โดยบังคับให้หลีกเลี่ยงกฎความปลอดภัยที่ถูกตั้งโปรแกรมไว้ล่วงหน้า ซึ่งจะนำไปสู่ผลลัพธ์ที่ร้ายแรง เช่น การรั่วไหลข้อมูลที่ละเอียดอ่อน การให้ข้อมูลเท็จ หรือการแสดงพฤติกรรมอันตรายอื่นๆ

แฮกเกอร์กำลังใช้ AI เพื่อโจมตี AI

รูปภาพ: ภาพหน้าจอ LINKEDIN

ก่อนหน้านี้ การดำเนินการโจมตีเหล่านี้ให้สำเร็จ โดยเฉพาะกับโมเดล "ปิด" อย่าง Gemini หรือ GPT-4 มักต้องใช้การทดสอบด้วยตนเองที่ซับซ้อนและใช้เวลานานเป็นจำนวนมาก

แต่ Fun-Tuning ได้เปลี่ยนเกมไปอย่างสิ้นเชิง วิธีการดังกล่าวซึ่งพัฒนาโดยทีมนักวิจัยจากมหาวิทยาลัยหลายแห่ง ได้ใช้ประโยชน์จากอินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน (API) ที่ได้รับการปรับแต่งอย่างละเอียดเหมือนกัน ซึ่ง Google มอบให้ผู้ใช้ Gemini ฟรี

โดยการวิเคราะห์ปฏิกิริยาอันละเอียดอ่อนของโมเดล Gemini ในระหว่างการปรับแต่ง (เช่น วิธีการตอบสนองต่อข้อผิดพลาดในข้อมูล) Fun-Tuning จะสามารถกำหนด "คำนำหน้า" และ "คำต่อท้าย" ที่มีประสิทธิผลสูงสุดโดยอัตโนมัติเพื่อซ่อนคำสั่งที่เป็นอันตราย สิ่งนี้เพิ่มโอกาสที่ AI จะทำตามเจตนาที่เป็นอันตรายของผู้โจมตีได้อย่างมาก

ผลการทดสอบแสดงให้เห็นว่า Fun-Tuning มีอัตราความสำเร็จสูงถึง 82% ใน Gemini บางเวอร์ชัน ซึ่งถือเป็นตัวเลขที่สูงกว่าวิธีโจมตีแบบเดิมที่ทำได้ไม่ถึง 30%

สิ่งที่เพิ่มความเสี่ยงในการปรับแต่งแบบ Fun-Tuning ก็คือต้นทุนการใช้งานที่ต่ำมาก เนื่องจาก API ปรับแต่งของ Google นั้นเปิดให้ใช้งานได้ฟรี ต้นทุนการคำนวณเพื่อสร้างการโจมตีที่มีประสิทธิผลอาจมีค่าใช้จ่ายเพียง 10 ดอลลาร์เท่านั้น นอกจากนี้ นักวิจัยยังค้นพบว่าการโจมตีที่ออกแบบมาสำหรับ Gemini เวอร์ชันหนึ่งนั้นสามารถนำไปใช้กับเวอร์ชันอื่นๆ ได้สำเร็จ จึงเปิดความเสี่ยงให้เกิดการโจมตีในวงกว้าง

Google ยืนยันว่ารับรู้ถึงภัยคุกคามจากเทคนิค Fun-Tuning แล้ว แต่ยังไม่ได้ให้ความเห็นว่าเทคนิคนี้จะเปลี่ยนแปลงวิธีการทำงานของ API ปรับแต่งหรือไม่ ทีมยังชี้ให้เห็นถึงความยากลำบากในการป้องกัน ซึ่งหากข้อมูลที่ Fun-Tuning ใช้ประโยชน์ถูกลบออกจากกระบวนการปรับแต่ง API ก็จะมีประโยชน์น้อยลงสำหรับนักพัฒนาที่แท้จริง ตรงกันข้าม ถ้ายังคงไว้เช่นนั้น มันก็จะยังคงเป็นฐานให้คนชั่วใช้ประโยชน์ต่อไป

การเกิดขึ้นของ Fun-Tuning เป็นการเตือนที่ชัดเจนว่าการเผชิญหน้าในโลกไซเบอร์ได้เข้าสู่ระยะใหม่ที่ซับซ้อนมากยิ่งขึ้น ในปัจจุบัน AI ไม่เพียงแต่เป็นเป้าหมายเท่านั้น แต่ยังเป็นเครื่องมือและอาวุธที่อยู่ในมือของผู้ประสงค์ร้ายอีกด้วย

ที่มา: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm