Die Welt ist nicht bereit, eine KI zu entwickeln, die so intelligent ist wie das menschliche Gehirn.

Laut einem leitenden Forscher bei OpenAI ist die Welt noch nicht bereit für künstliche allgemeine Intelligenz (AGI) oder für den Moment, in dem künstliche Intelligenz so intelligent ist wie das menschliche Gehirn.

Ist allgemeine künstliche Intelligenz ein Risiko?

Seit Jahren spekulieren Forscher über die Entstehung einer künstlichen allgemeinen Intelligenz (AGI), bei der künstliche Systeme eine Vielzahl von Aufgaben wie Menschen bewältigen werden. Viele betrachten sein Aufkommen als existenzielles Risiko, da es Computern ermöglichen könnte, auf eine Art und Weise zu funktionieren, die sich der Mensch nicht hätte vorstellen können.

Laut Miles Brindage ist die Welt noch nicht bereit für die Einführung künstlicher allgemeiner Intelligenz (AGI).

Nun gibt der Mann, der dafür sorgen soll, dass der ChatGPT-Entwickler OpenAI für die Ankunft der AGI bereit ist, zu, dass weder die Welt noch das Unternehmen selbst für den nächsten Schritt „bereit“ seien. Miles Brundage war OpenAIs „leitender Berater für AGI-Bereitschaft“, gab jedoch diese Woche seinen Rücktritt bekannt, als das Unternehmen die Gruppe auflöste.

„Weder OpenAI noch irgendein anderes Pionierlabor ist bereit [für AGI], und die Welt auch nicht. Um es klar zu sagen: Ich glaube nicht, dass dies eine umstrittene Aussage der OpenAI-Führung ist, sondern vielmehr die Frage, ob das Unternehmen und die Welt auf dem richtigen Weg sind, rechtzeitig bereit zu sein“, sagte Brundage, der sechs Jahre lang die KI-Sicherheitsinitiativen des Unternehmens mitgestaltet hat.

Brundages Abgang ist der jüngste in einer Reihe bemerkenswerter Abgänge aus den Sicherheitsteams von OpenAI. Jan Leike, ein bekannter Forscher, verließ das Unternehmen, nachdem er behauptet hatte, dass „Sicherheitskultur und -prozesse gegenüber glänzenden Produkten in den Hintergrund gerückt seien“. Auch Mitbegründer Ilya Sutskever verließ das Unternehmen, um sein eigenes KI-Startup zu gründen, das sich auf die Entwicklung sicherer AGI konzentriert.

Brundages Auflösung seiner „AGI Readiness“-Gruppe erfolgte nur wenige Monate, nachdem das Unternehmen seine „Superalignment“-Gruppe aufgelöst hatte, die sich der Eindämmung langfristiger KI-Risiken widmete. Dies offenbarte Spannungen zwischen der ursprünglichen Mission von OpenAI und den kommerziellen Ambitionen des Unternehmens.

Profitdruck bringt OpenAI vom sicheren Weg ab

Berichten zufolge steht OpenAI unter Druck, innerhalb von zwei Jahren von einer gemeinnützigen zu einer gewinnorientierten Firma zu werden – andernfalls besteht die Gefahr, dass das Unternehmen seine Finanzierung aus der jüngsten Investitionsrunde in Höhe von 6,6 Milliarden US-Dollar verliert. Dieser Trend zur Kommerzialisierung bereitet Brundage schon lange Sorgen. Schon 2019, als OpenAI seine gewinnorientierte Abteilung gründete, äußerte er Bedenken.

OpenAI-CEO Sam Altman hat „Kopfschmerzen“ aufgrund des Drucks, der auf dem Unternehmen lastet, Gewinne zu erzielen.

Als Begründung für seinen Weggang nannte Brundage zunehmende Einschränkungen seiner Forschungs- und Publikationsfreiheit bei dem renommierten Unternehmen. Er betonte, dass es in den Diskussionen zur KI-Politik unabhängiger Stimmen bedarf, die frei von Branchenvorurteilen und Interessenkonflikten sind. Nachdem er die Führung von OpenAI bei den internen Vorbereitungen beraten hat, glaubt er, dass er nun von außerhalb der Organisation einen größeren Einfluss auf die globale KI-Governance haben kann.

Der Abgang spiegelt auch eine tiefere kulturelle Kluft innerhalb von OpenAI wider. Viele Forscher haben sich zusammengeschlossen, um die KI-Forschung voranzutreiben und befinden sich nun in einem zunehmend produktorientierten Umfeld. Die interne Ressourcenzuweisung ist zu einem Streitpunkt geworden – Berichten zufolge wurde Leikes Team vor seiner Auflösung die Rechenleistung für die Sicherheitsforschung verweigert.

OpenAI wurde in den letzten Monaten zu seinen Plänen für die Entwicklung künstlicher Intelligenz und dazu, wie ernst das Unternehmen die Sicherheit nimmt, befragt. Obwohl ChatGPT als gemeinnützige Organisation mit dem Ziel gegründet wurde, die sichere Entwicklung künstlicher Intelligenz zu erforschen, hat der Erfolg von ChatGPT enorme Investitionen und den Druck mit sich gebracht, die neue Technologie gewinnbringend einzusetzen.

Quelle: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm