Eine Forschungsgruppe für künstliche Intelligenz (KI) an der Polytechnischen Universität von Valencia (Spanien) hat herausgefunden, dass große Sprachmodelle, je größer und ausgefeilter sie werden, dazu neigen, weniger Fragen zuzulassen. Der Benutzer sagte, er wisse die Antwort nicht. [Anzeige_1]
 |
| Je intelligenter die KI wird, desto unwahrscheinlicher ist es, dass sie den Benutzern gegenüber zugibt, dass sie die Antwort nicht weiß. (Illustrationsbild AI) |
In der in der Zeitschrift Nature veröffentlichten Studie testete das Team die neuesten Versionen von drei der beliebtesten KI-Chatbots auf Reaktionsfähigkeit, Genauigkeit und die Fähigkeit der Benutzer, falsche Antworten zu erkennen.
Um die Genauigkeit der drei beliebtesten LLMs (BLOOM, LLaMA und GPT) zu testen, stellte das Team Tausende von Fragen und verglich die erhaltenen Antworten mit Antworten aus früheren Versionen auf dieselben Fragen. Sie behandeln auch unterschiedliche Themen, darunter Mathematik, Naturwissenschaften, Worträtsel und Geographie, und bieten außerdem die Möglichkeit, Texte zu erstellen oder Aktionen wie das Sortieren von Listen auszuführen.
Die Studienergebnisse zeigten einige bemerkenswerte Trends. Die Gesamtgenauigkeit von Chatbots verbessert sich mit jeder neuen Version, sinkt jedoch immer noch bei schwierigeren Fragen. Überraschenderweise gehen LL.M.-Studierende mit zunehmendem Umfang und höherer Komplexität immer weniger offen mit ihrer Fähigkeit um, die Fragen richtig zu beantworten.
In früheren Versionen waren die meisten LLMs den Benutzern gegenüber offen, wenn sie eine Antwort nicht finden konnten oder weitere Informationen benötigten. Im Gegensatz dazu wird bei neueren Versionen mehr geraten, was insgesamt zu mehr Antworten führt, sowohl richtigen als auch falschen. Noch beunruhigender ist, dass die Studie ergab, dass alle LLMs selbst auf einfache Fragen gelegentlich falsche Antworten gaben, was darauf hindeutet, dass ihre Zuverlässigkeit weiterhin ein Problem darstellt, das verbessert werden muss. gut
Diese Erkenntnisse verdeutlichen ein Paradoxon in der Entwicklung der KI: Die Modelle werden zwar immer leistungsfähiger, ihre Grenzen werden jedoch möglicherweise auch weniger transparent.
Dies stellt neue Herausforderungen an die Nutzung und das Vertrauen in KI-Systeme dar. Die Benutzer müssen vorsichtiger sein und die Entwickler müssen sich darauf konzentrieren, nicht nur die Genauigkeit, sondern auch die Fähigkeit zur „Selbstwahrnehmung“ der Modelle zu verbessern.
[Anzeige_2]
Quelle: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html
Kommentar (0)