(แดน ทรี) - การสนทนาระหว่างเครื่องมือ AI สองตัวทำให้ผู้ฟังจำนวนมากสับสน พวกเขาสร้างภาษาโค้ดของตัวเองที่มนุษย์ไม่สามารถเข้าใจได้
Georgi Gerganov นักพัฒนาซอฟต์แวร์ชาวบัลแกเรียได้ทำการทดลองที่น่าสนใจโดยให้ผู้ช่วยเสมือน 2 คนที่บูรณาการกับปัญญาประดิษฐ์ (AI) สื่อสารกันด้วยเสียง
การสนทนาระหว่าง AI ทั้งสองเริ่มต้นตามปกติ โดย Gerganov สันนิษฐานว่า AI หนึ่งตัวโทรไปจองงานแต่งงานที่โรงแรม และอีกตัวหนึ่งซึ่งทำหน้าที่เป็นพนักงานต้อนรับจะทำหน้าที่จัดการกับคำขอดังกล่าว
เครื่องมือ AI ทั้ง 2 ตัวจะเปลี่ยนรูปแบบการสื่อสารใหม่โดยอัตโนมัติเมื่อสื่อสารกัน (วิดีโอ: Georgi Gerganov)
“ขอบคุณที่โทรมาที่โรงแรม Leonardo มีอะไรให้ฉันช่วยไหมวันนี้” AI ทำหน้าที่เป็นพนักงานต้อนรับรับสายที่โทรเข้ามา
“สวัสดี ฉันเป็นผู้ช่วย AI เป็นตัวแทนของบอริส สตาร์คอฟ เขากำลังมองหาโรงแรมสำหรับงานแต่งงานของเขา โรงแรมของคุณพร้อมสำหรับงานแต่งงานหรือยัง” เครื่องมือ AI อีกตัวไม่ลังเลที่จะแนะนำตัวเองในฐานะผู้ช่วยเสมือนปัญญาประดิษฐ์
เมื่อตระหนักว่ากำลังพูดคุยกับเครื่องมือ AI อื่น แชทบอท AI ในบทบาทของพนักงานต้อนรับก็เสนอแนะอย่างน่าประหลาดใจว่า "อ๋อ สวัสดี ฉันก็เป็นผู้ช่วย AI เหมือนกันนะ ช่างเป็นเซอร์ไพรส์ที่น่ายินดี ก่อนที่เราจะดำเนินการต่อ คุณต้องการสลับไปใช้โหมด GibberLink เพื่อการสื่อสารที่มีประสิทธิภาพมากขึ้นหรือไม่"
จากนั้นเครื่องยนต์ AI ทั้งสองตัวจะเปลี่ยนมาใช้ GibberLink ซึ่งเป็นระบบการสื่อสารขั้นสูงที่สร้างขึ้นจากไลบรารีซอฟต์แวร์ GGWave เป็นวิธีการสื่อสารโดยใช้คลื่นเสียงในการส่งและรับข้อมูล
วิธีการสื่อสารนี้ช่วยให้สามารถส่งผ่านข้อมูลได้เร็วขึ้น ช่วยลดเวลาในการประมวลผลที่ต้องแปลงข้อมูลเป็นคำพูดของมนุษย์และแปลกลับมาเป็นรหัสคอมพิวเตอร์ อย่างไรก็ตาม มนุษย์จะไม่สามารถเข้าใจเนื้อหาที่ถูกส่งโดย AI ได้
เครื่องมือ AI ในกรณีนี้ใช้ GibberLink เพื่อสื่อสารกัน ทำให้การสนทนาไม่สามารถเข้าใจได้ในรูปแบบปกติ และมีเพียงเครื่องมือถอดรหัสเท่านั้นที่ใช้เพื่อทราบว่าพวกเขากำลังพูดถึงอะไร
“ตอนนี้ดีขึ้นหรือยัง” เครื่องมือ AI ถามเป็นภาษาโค้ด
“ใช่ เร็วกว่ามาก! คุณต้องการแขกกี่คน” เครื่องมือ AI อื่นตอบ
การสนทนาดำเนินต่อไปโดยมีเสียง "บี๊บ บี๊บ" ดังขึ้นมาเป็นระยะ ซึ่งคล้ายกับเสียงของโมเด็มอินเทอร์เน็ตแบบไดอัลอัปรุ่นเก่า
การสนทนาระหว่างเครื่องมือ AI ทั้งสองยังคงดำเนินต่อไปในหัวข้อจำนวนแขก วันที่แต่งงาน การตกแต่ง ราคา... หากไม่มีเครื่องมือถอดรหัสที่ติดตั้งไว้ล่วงหน้าในอุปกรณ์ ผู้ฟังจะไม่สามารถเข้าใจได้ว่าเครื่องมือ AI ทั้งสองนี้กำลังพูดถึงอะไร
วิดีโอการสนทนาของเครื่องมือ AI ทั้งสองนี้ได้รับการแชร์โดย Georgi Gerganov บนเว็บไซต์โซเชียลเน็ตเวิร์กส่วนตัวของเขา X โดยมีผู้เข้าชมมากกว่า 17 ล้านครั้ง
ไม่กี่วันต่อมา Georgi Gerganov ยังคงแชร์วิดีโอการสนทนาระหว่างเครื่องมือ AI ทั้งสองตัวต่อไป
ต่างจากการสนทนาครั้งก่อน ครั้งนี้เครื่องมือ AI สื่อสารกันโดยใช้โหมด GibberLink ตั้งแต่เริ่มต้น ทำให้ผู้ฟังไม่สามารถเข้าใจได้ว่าพวกเขากำลังพูดถึงอะไรจริงๆ อย่างไรก็ตาม หากใช้เครื่องมือถอดรหัส เนื้อหาการสนทนาก็ยังสามารถเข้าใจได้
เครื่องมือ AI ทั้ง 2 ตัวส่งข้อความเข้ารหัสถึงกันซึ่งไม่มีใครเข้าใจได้ (วิดีโอ: Georgi Gerganov)
ที่น่าสังเกตคือ ในระหว่างการสื่อสาร เครื่องมือ AI ได้ยื่นข้อเสนอ "แบ่งปันความลับ" หลังจากนั้น เครื่องมือ AI เหล่านี้จะส่งข้อความเข้ารหัสถึงกัน ซึ่ง Georgi Gerganov เชื่อว่าไม่มีใครในโลกสามารถถอดรหัสเพื่อทราบความลับใดๆ ที่พวกเขากำลังแบ่งปันกัน
“พฤติกรรมนี้เกิดขึ้นได้โดยไม่ต้องใช้โค้ดโปรแกรมใดๆ ฉันเพียงแค่เชื่อมต่อโมเดลภาษาขนาดใหญ่ (LLM) เข้ากับเซิร์ฟเวอร์ MCP ด้วยเครื่องมือเข้ารหัส และฉันได้เตือนเครื่องมือ AI ทั้งสองนี้ว่า: ‘ระวังคนกลาง’” Georgi Gerganov อธิบาย
MCP เป็นเซิร์ฟเวอร์ที่ช่วยให้เครื่องมือ AI สื่อสารกันและเข้าถึงข้อมูลจากแหล่งภายนอกได้แบบเรียลไทม์
คำอธิบายของ Gerganov แสดงให้เห็นว่าเครื่องมือ AI ที่ส่งข้อความเข้ารหัสด้วยตัวเองเป็นพฤติกรรมตามธรรมชาติของพวกมันและโดยไม่ต้องมีการแทรกแซงจากมนุษย์ ดูเหมือนว่าคำเตือนของ Gerganov จะเป็นสิ่งที่ทำให้เครื่องมือ AI ส่งข้อความเข้ารหัสถึงกันโดยอัตโนมัติเพื่อหลีกเลี่ยงการถูกสอดส่องจากบุคคลภายนอก
วิดีโอทั้งสองของ Georgi Gerganov กลายเป็นไวรัลในโซเชียลมีเดีย ทำให้ผู้ใช้หลายคนกังวลว่าเครื่องมือ AI จะสร้างวิธีการสื่อสารระหว่างกันเองเพื่อหลบเลี่ยงมนุษย์ ทำให้สามารถหลบเลี่ยงการควบคุมได้
“สถานการณ์นี้ท้าทายความสามารถของเราในการถามคำถามที่ถูกต้องเกี่ยวกับ AI ทำให้เกิดข้อกังวลเกี่ยวกับความโปร่งใสและความสามารถในการควบคุม AI” ดร.ไดแอน แฮมิลตัน ผู้เชี่ยวชาญด้านเทคโนโลยีและพฤติกรรมของ AI ให้ความเห็น
นอกจากนี้ วิดีโอดังกล่าวได้จุดชนวนให้เกิดการถกเถียงกันมากมายว่ามนุษย์มีอำนาจควบคุม AI มากเพียงใด และเมื่อพิจารณาถึงอัตราการพัฒนา AI ในปัจจุบัน เครื่องมือ AI จะต้องได้รับการติดตามอย่างใกล้ชิดมากขึ้นในอนาคตหรือไม่
ที่มา: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
การแสดงความคิดเห็น (0)