ผู้ใช้ ChatGPT เสี่ยงต่อการถูกขโมยข้อมูล

ฟีเจอร์หน่วยความจำระยะยาวของ ChatGPT เป็นฟีเจอร์ใหม่ที่ OpenAI เปิดตัวในเดือนกุมภาพันธ์ 2024 และขยายเพิ่มเติมในเดือนกันยายน

เมื่อเร็วๆ นี้ นักวิจัยด้านความปลอดภัย Johann Rehberger ได้เปิดเผยช่องโหว่ร้ายแรงที่เกี่ยวข้องกับฟีเจอร์นี้

เป็นที่ทราบกันดีว่าฟีเจอร์ใหม่นี้ช่วยให้แชทบอทจัดเก็บข้อมูลจากการสนทนาก่อนหน้านี้ได้ ด้วยวิธีนี้ ผู้ใช้จึงไม่ต้องป้อนข้อมูล เช่น อายุ ความสนใจ หรือมุมมองส่วนตัวซ้ำอีกทุกครั้งที่แชท อย่างไรก็ตาม นี่ได้กลายมาเป็นจุดอ่อนให้ผู้โจมตีสามารถใช้ประโยชน์ได้

ผู้ใช้ ChatGPT เสี่ยงต่อการถูกขโมยข้อมูล

Johann Rehberger แสดงให้เห็นว่าแฮกเกอร์สามารถใช้เทคนิคการฉีดอย่างรวดเร็ว - ฝังคำสั่งที่เป็นอันตรายลงในหน่วยความจำ เพื่อบังคับให้ AI ปฏิบัติตาม คำสั่งเหล่านี้จะถูกส่งผ่านเนื้อหาที่ไม่น่าเชื่อถือ เช่น อีเมล เอกสาร หรือเว็บเพจ

เมื่อเก็บความทรงจำปลอมเหล่านี้แล้ว AI จะยังคงใช้ความทรงจำเหล่านี้เป็นข้อมูลจริงในการสนทนากับผู้ใช้ต่อไป ซึ่งอาจส่งผลให้เกิดการรวบรวมและการใช้ข้อมูลส่วนบุคคลของผู้ใช้โดยไม่ได้รับอนุญาต

Rehberger ยกตัวอย่างที่เฉพาะเจาะจงโดยการส่งลิงก์ที่มีรูปภาพที่เป็นอันตรายซึ่งทำให้ ChatGPT จัดเก็บหน่วยความจำเท็จ ข้อมูลนี้จะส่งผลต่อการตอบกลับของ ChatGPT ในภายหลัง โดยเฉพาะอย่างยิ่งข้อมูลใด ๆ ที่ผู้ใช้ป้อนจะถูกส่งไปยังเซิร์ฟเวอร์ของแฮกเกอร์ด้วยเช่นกัน

ดังนั้น เพื่อกระตุ้นการโจมตี แฮกเกอร์จำเป็นต้องโน้มน้าวผู้ใช้ ChatGPT ให้คลิกลิงก์ที่มีรูปภาพที่เป็นอันตรายเท่านั้น จากนั้นการสนทนาของผู้ใช้ทั้งหมดกับ ChatGPT จะถูกส่งต่อไปยังเซิร์ฟเวอร์ของผู้โจมตีโดยไม่ทิ้งร่องรอยใดๆ

ในเดือนพฤษภาคม 2024 หลังจากค้นพบจุดบกพร่อง Rehberger ได้รายงานให้ OpenAi ทราบ แต่บริษัทถือว่าเป็นเพียงจุดบกพร่องด้านความปลอดภัยเท่านั้น หลังจากได้รับหลักฐานการโจรกรรมข้อมูลผู้ใช้ที่เป็นไปได้ บริษัทจึงปล่อยแพตช์ชั่วคราวบนเวอร์ชันเว็บของ ChatGPT

แม้ว่าปัญหาจะได้รับการแก้ไขชั่วคราวแล้ว แต่ Rehberger ก็เน้นย้ำว่าเนื้อหาที่ไม่น่าเชื่อถือยังคงใช้การแทรกพร้อมท์เพื่อแทรกข้อมูลปลอมเข้าไปในหน่วยความจำระยะยาวของ ChatGPT ได้ ซึ่งหมายความว่า ในบางกรณี แฮกเกอร์ยังสามารถใช้ช่องโหว่เพื่อจัดเก็บหน่วยความจำที่เป็นอันตรายเพื่อขโมยข้อมูลส่วนบุคคลในระยะยาวได้

OpenAI แนะนำให้ผู้ใช้ตรวจสอบหน่วยความจำแคชของ ChatGPT เป็นประจำเพื่อดูว่ามีผลลัพธ์บวกปลอมหรือไม่ ในเวลาเดียวกัน บริษัทมีคำแนะนำโดยละเอียดเกี่ยวกับวิธีการจัดการและลบความทรงจำที่บันทึกไว้ในเครื่องมือนี้อีกด้วย

ที่มา: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html