เนื่องจาก AI เข้าถึงได้มากขึ้น โดยมีบุคคลและธุรกิจต่างๆ มากขึ้นเรื่อยๆ ที่ใช้ AI ผ่านเครื่องมือหลักๆ แฮกเกอร์สามารถทำให้การโจมตีเป็นระบบอัตโนมัติได้ ทำให้กระบวนการรวดเร็วขึ้น ดำเนินการและปรับใช้แคมเปญที่ซับซ้อนมากขึ้นเพื่อบรรลุวัตถุประสงค์ที่ผิดกฎหมาย
ต่อไปนี้คือประเภทของการโจมตีที่ Kaspersky ตรวจพบ: ChatGPT สามารถใช้ในการพัฒนามัลแวร์และเผยแพร่การโจมตีไปยังเหยื่อหลายรายโดยอัตโนมัติ โปรแกรม AI แทรกซึมข้อมูลของผู้ใช้บนสมาร์ทโฟน และผ่านกระบวนการวิเคราะห์ข้อมูลที่ละเอียดอ่อน ผู้ร้ายสามารถ "อ่าน" ข้อความ รหัสผ่าน และรหัสธนาคารของเหยื่อได้อย่างสมบูรณ์ ระบบปัญญาประดิษฐ์ช่วยให้เครือข่ายคอมพิวเตอร์อัตโนมัติ (bonets) กู้คืนเครือข่ายที่เป็นอันตรายที่ถูกกำจัดไปแล้วได้ โซลูชั่นด้านความปลอดภัย
การวิจัยของ Kaspersky เกี่ยวกับการใช้ AI ในการแคร็กพาสเวิร์ดแสดงให้เห็นว่าพาสเวิร์ดส่วนใหญ่ถูกเข้ารหัสโดยใช้อัลกอริทึมแฮชเช่น MD5 และ SHA ด้วยเหตุนี้ จึงใช้เพียงการดำเนินการง่ายๆ เท่านั้นในการแปลงรหัสผ่านให้เป็นบรรทัดข้อความที่เข้ารหัส แต่การย้อนกระบวนการทั้งหมดถือเป็นความท้าทายครั้งใหญ่
ผ่านทาง AI ผู้กระทำความผิดสามารถใช้ประโยชน์จากเนื้อหาฉ้อโกง รวมถึงข้อความ รูปภาพ เสียง และวิดีโอ เพื่อเปิดตัวการโจมตีทางวิศวกรรมสังคม โมเดลภาษาขนาดใหญ่เช่น ChatGPT-4o ถูกใช้เพื่อสร้างสคริปต์และข้อความที่ซับซ้อนสูง AI สามารถเขียนอีเมลที่แท้จริงโดยใช้ข้อมูลบนเครือข่ายโซเชียลเพื่อเอาชนะอุปสรรคด้านภาษาได้ AI ยังสามารถเลียนแบบสไตล์การเขียนของเหยื่อได้ ซึ่งทำให้พฤติกรรมฉ้อโกงถูกตรวจจับได้ยากยิ่งขึ้น
ในขณะเดียวกัน Deepfake ยังคงเป็น "ปัญหา" ในด้านความปลอดภัยทางไซเบอร์ แม้ว่าก่อนหน้านี้จะถือว่าเป็นผลจากการวิจัยทางวิทยาศาสตร์ก็ตาม การปลอมตัวเป็นคนดังเพื่อผลประโยชน์ทางการเงินถือเป็นวิธีที่พบบ่อยที่สุด ถัดมา ผู้หลอกลวงยังใช้ Deepfake เพื่อขโมยบัญชี โทรปลอมหาเพื่อนและญาติของเหยื่อเพื่อขโมยเงินอีกด้วย
นอกจากการใช้ประโยชน์จากเทคโนโลยี AI เพื่อกิจกรรมที่ผิดกฎหมายแล้ว คนร้ายยังสามารถโจมตีอัลกอริทึม AI ได้อีกด้วย เช่นการโจมตีแบบ "Prompt Injection" โดยการป้อนคำสั่งที่เป็นอันตรายลงในโมเดลภาษาขนาดใหญ่ แม้จะขัดกับกฎที่ถูกจำกัดไว้ก่อนหน้านี้ก็ตาม การโจมตีเชิงต่อต้านเกี่ยวข้องกับการเพิ่มฟิลด์ข้อมูลที่ซ่อนอยู่ลงในรูปภาพหรือเสียงเพื่อส่งผลต่อความสามารถของระบบการเรียนรู้ของเครื่องในการจำแนกภาพ
AI ค่อยๆ ถูกบูรณาการเข้ากับทุกด้านของชีวิตมนุษย์ตั้งแต่ Apple Intelligence, Google Gemini จนถึง Microsoft Copilot ดังนั้นการแก้ไขช่องโหว่ AI จึงควรเป็นเรื่องสำคัญสูงสุด Kaspersky ใช้เทคโนโลยี AI เพื่อปกป้องลูกค้าและพันธมิตรมาเป็นเวลาหลายปี โดยค้นหาจุดอ่อนในระบบ AI อย่างต่อเนื่อง เพื่อเพิ่มความยืดหยุ่นของระบบ และค้นคว้าเทคนิคการโจมตีอย่างต่อเนื่อง เพื่อให้การป้องกันที่เชื่อถือได้ต่อการโจมตีด้วย AI
คิม ทันห์
ที่มา: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html
การแสดงความคิดเห็น (0)