ปัญญาประดิษฐ์ (AI) เผชิญกับความท้าทายมากมายในยุคใหม่

เมื่อปัญญาประดิษฐ์ (AI) เข้าถึงได้ง่ายขึ้น และบุคคลและธุรกิจต่างๆ ใช้ AI ผ่านเครื่องมือทั่วไปมากขึ้น แฮกเกอร์ก็สามารถทำการโจมตีโดยอัตโนมัติ เร่งกระบวนการปฏิบัติงาน และใช้แคมเปญที่ซับซ้อนยิ่งขึ้นเพื่อให้บรรลุเป้าหมายที่ผิดกฎหมายได้ในเวลาเดียวกัน

Kaspersky เปิดเผยประเภทของการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI

ต่อไปนี้คือวิธีการโจมตีบางส่วนที่ Kaspersky ตรวจพบ: ChatGPT สามารถใช้ในการพัฒนาโปรแกรมมัลแวร์และโจมตีเหยื่อหลายรายโดยอัตโนมัติ; โปรแกรม AI แทรกซึมเข้าไปในข้อมูลผู้ใช้บนสมาร์ทโฟน และด้วยการวิเคราะห์ข้อมูลที่ละเอียดอ่อน ผู้โจมตีสามารถ "ขโมย" ข้อความ รหัสผ่าน และรหัสธนาคารจากเหยื่อได้อย่างสมบูรณ์; อัลกอริทึมปัญญาประดิษฐ์แบบกลุ่ม (Swarm intelligence algorithms) ช่วยให้เครือข่ายคอมพิวเตอร์กู้คืนเครือข่ายที่เป็นอันตรายที่ถูกกำจัดโดยโซลูชันด้านความปลอดภัยโดยอัตโนมัติ (bonet)

งานวิจัยของ Kaspersky เกี่ยวกับการใช้ AI ในการถอดรหัสผ่านชี้ให้เห็นว่า รหัสผ่านส่วนใหญ่ถูกเข้ารหัสโดยใช้อัลกอริธึมการแฮช เช่น MD5 และ SHA ดังนั้น การดำเนินการง่ายๆ ก็สามารถแปลงรหัสผ่านให้เป็นข้อความที่เข้ารหัสได้ แต่การย้อนกลับกระบวนการทั้งหมดนั้นเป็นความท้าทายอย่างมาก

ด้วยปัญญาประดิษฐ์ (AI) ผู้ไม่ประสงค์ดีสามารถใช้ประโยชน์จากเนื้อหาปลอมแปลง รวมถึงข้อความ รูปภาพ เสียง และ วิดีโอ เพื่อทำการโจมตีที่ไม่ต้องใช้เทคนิคขั้นสูง โมเดลภาษาขนาดใหญ่ เช่น ChatGPT-4o ถูกนำมาใช้สร้างสถานการณ์และข้อความฟิชชิ่งที่ซับซ้อน AI สามารถเอาชนะอุปสรรคทางภาษาและเขียนอีเมลที่ดูเหมือนจริงได้โดยอาศัยข้อมูลจากโซเชียลมีเดียเพียงอย่างเดียว นอกจากนี้ยังสามารถเลียนแบบสไตล์การเขียนของเหยื่อ ทำให้การตรวจจับการหลอกลวงทำได้ยากยิ่งขึ้น

ในขณะเดียวกัน เทคโนโลยี Deepfake ได้กลายเป็น "ปัญหา" ในด้านความปลอดภัยทางไซเบอร์ แม้ว่าก่อนหน้านี้จะถูกมองว่าเป็นผลผลิตจากการวิจัย ทางวิทยาศาสตร์ ก็ตาม การปลอมตัวเป็นคนดังเพื่อผลประโยชน์ทางการเงินเป็นวิธีการที่พบได้บ่อยที่สุด นอกจากนี้ มิจฉาชีพยังใช้ Deepfake เพื่อขโมยบัญชีและโทรศัพท์ปลอมไปยังเพื่อนและญาติของเหยื่อเพื่อข่มขู่เรียกเงินอีกด้วย

นอกจากการใช้เทคโนโลยี AI เพื่อกิจกรรมที่ผิดกฎหมายแล้ว ผู้ไม่ประสงค์ดียังสามารถโจมตีอัลกอริธึม AI ได้อีกด้วย ซึ่งรวมถึงการโจมตีแบบ "แทรกคำสั่ง" โดยการแทรกคำสั่งที่เป็นอันตรายเข้าไปในแบบจำลองภาษาขนาดใหญ่ แม้กระทั่งขัดกับกฎที่จำกัดไว้ก่อนหน้านี้ และการโจมตีแบบต่อต้าน โดยการเพิ่มฟิลด์ข้อมูลที่ซ่อนไว้ลงในรูปภาพหรือเสียงเพื่อส่งผลกระทบต่อความสามารถในการจำแนกภาพของระบบการเรียนรู้ของเครื่อง

ปัญญาประดิษฐ์ (AI) ถูกบูรณาการเข้ากับทุกแง่มุมของชีวิตมนุษย์มากขึ้นเรื่อยๆ ตั้งแต่ Apple Intelligence และ Google Gemini ไปจนถึง Microsoft Copilot ดังนั้น การจัดการกับช่องโหว่ของ AI จึงควรเป็นสิ่งสำคัญอันดับต้นๆ Kaspersky ใช้เทคโนโลยี AI เพื่อปกป้องลูกค้าและพันธมิตรมานานหลายปี โดยค้นหาช่องโหว่ในระบบ AI อย่างต่อเนื่องเพื่อเพิ่มความยืดหยุ่น และวิจัยเทคนิคการโจมตีทางไซเบอร์อย่างจริงจัง เพื่อให้การป้องกันที่เชื่อถือได้ต่อการโจมตีที่ใช้ AI เป็นฐาน

คิม ทันห์

ที่มา: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html