ยิ่งปัญญาประดิษฐ์ฉลาดมากเท่าไหร่ ก็ยิ่งมีแนวโน้มที่จะซ่อนความไม่รู้มากขึ้นเท่านั้นใช่หรือไม่?

ทีมวิจัยปัญญาประดิษฐ์ (AI) จากมหาวิทยาลัยโพลีเทคนิควาเลนเซีย ประเทศสเปน พบว่ายิ่งโมเดลภาษาขนาดใหญ่มีขนาดใหญ่ขึ้นและซับซ้อนมากขึ้นเท่าไร โมเดลภาษาเหล่านี้ก็มีแนวโน้มน้อยลงที่จะยอมรับกับผู้ใช้ว่าพวกเขาไม่รู้คำตอบ

ยิ่ง AI ฉลาดมากขึ้นเท่าไร โอกาสที่ผู้ใช้จะยอมรับว่าไม่รู้คำตอบก็จะน้อยลงเท่านั้น (ภาพประกอบ AI)

ในการศึกษาที่ตีพิมพ์ในวารสาร Nature ทีมได้ทดสอบเวอร์ชันล่าสุดของแชทบอท AI ที่ได้รับความนิยมสูงสุด 3 ตัวในเรื่องการตอบสนอง ความแม่นยำ และความสามารถของผู้ใช้ในการระบุคำตอบที่ไม่ถูกต้อง

เพื่อทดสอบความแม่นยำของ LLM สามฉบับที่ได้รับความนิยมมากที่สุด ได้แก่ BLOOM LLaMA และ GPT ทีมงานได้ตั้งคำถามนับพันข้อและเปรียบเทียบคำตอบที่ได้รับกับคำตอบจากเวอร์ชันก่อนหน้ากับคำถามเดียวกัน นอกจากนี้ ยังมีเนื้อหาที่หลากหลาย เช่น คณิตศาสตร์ วิทยาศาสตร์ ปริศนาคำศัพท์ และภูมิศาสตร์ รวมถึงความสามารถในการสร้างข้อความหรือการดำเนินการต่างๆ เช่น การเรียงลำดับรายการ

ผลการศึกษาวิจัยเผยให้เห็นแนวโน้มที่น่าสังเกตบางประการ ความแม่นยำโดยรวมของแชทบอทได้รับการปรับปรุงให้ดีขึ้นในแต่ละเวอร์ชันใหม่ แต่จะยังคงลดลงเมื่อต้องเผชิญกับคำถามที่ยากมากขึ้น น่าแปลกใจก็คือ เมื่อหลักสูตร LLM มีขนาดใหญ่ขึ้นและซับซ้อนมากขึ้น พวกเขามักจะเปิดกว้างน้อยลงเกี่ยวกับความสามารถในการตอบคำถามที่ถูกต้อง

ในเวอร์ชันก่อนหน้านี้ LLM ส่วนใหญ่จะแจ้งให้ผู้ใช้ทราบโดยตรงเมื่อผู้ใช้ไม่พบคำตอบหรือต้องการข้อมูลเพิ่มเติม ในทางตรงกันข้าม เวอร์ชันใหม่มีแนวโน้มที่จะคาดเดามากขึ้น ส่งผลให้มีคำตอบโดยรวมมากขึ้น ซึ่งรวมทั้งคำตอบที่ถูกต้องและไม่ถูกต้อง ที่น่ากังวลกว่านั้นคือ การศึกษาพบว่าหลักสูตร LLM ทั้งหมดยังคงให้คำตอบที่ไม่ถูกต้องเป็นครั้งคราว แม้แต่กับคำถามง่ายๆ ซึ่งบ่งชี้ว่าความน่าเชื่อถือของหลักสูตรยังคงเป็นปัญหาที่ต้องมีการปรับปรุง

ผลการค้นพบเหล่านี้ชี้ให้เห็นถึงความขัดแย้งในวิวัฒนาการของ AI: ในขณะที่โมเดลต่างๆ กำลังมีประสิทธิภาพมากขึ้น โมเดลเหล่านี้อาจมีความโปร่งใสน้อยลงเกี่ยวกับข้อจำกัดต่างๆ เช่นกัน

สิ่งนี้ก่อให้เกิดความท้าทายใหม่ในการใช้งานและความไว้วางใจของระบบ AI โดยผู้ใช้ต้องระมัดระวังมากขึ้นและนักพัฒนาต้องมุ่งเน้นที่การปรับปรุงไม่เพียงแค่ความแม่นยำเท่านั้นแต่ยังรวมถึง "การรับรู้ในตนเอง" ของโมเดลด้วย

ที่มา: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html