Die Befürchtung, dass Kriminelle oder Terroristen KI nutzen könnten, um die Welt zu zerstören, wird ein „heißes“ Thema auf einer globalen Führungskonferenz sein, die im kommenden November in Großbritannien stattfindet. Britische Regierungsvertreter reisen um die Welt, um sich auf eine gemeinsame Erklärung zu einigen, in der vor den Risiken gewarnt wird, die von böswilligen Akteuren ausgehen, die neue Technologien ausnutzen.
Einige Vertreter des britischen Premierministers befürchten, dass die Technologie eines Tages so weit fortgeschritten sein könnte, dass damit biologische Waffen oder Waffen hergestellt werden könnten, die sich der menschlichen Kontrolle entziehen. Aufgrund der zunehmenden Besorgnis ist eine behördliche Aufsicht zur Risikominderung erforderlich. Während die führenden Technologieunternehmen sich darauf einigen, die Entwicklung künstlicher Intelligenz zu pausieren, befinden sie sich in einem KI-Wettrüsten mit ihren Konkurrenten.
Laut The Guardian werden auf dem Gipfel im November die Risiken der „Grenz-KI“ diskutiert. „Frontier-AI“ ist ein Begriff, der zur Beschreibung der fortschrittlichsten KI-Modelle verwendet wird, die eine Bedrohung für das menschliche Leben darstellen könnten.
Anfang dieser Woche bestätigte die britische Regierung, dass sich die Konferenz auf Risiken wie den Missbrauch künstlicher Intelligenz zur Herstellung biologischer Waffen, Cyberangriffe oder fortschrittlicher Systeme ohne menschliche Kontrolle konzentrieren werde. Seit Monaten warnt Herr Sunak vor den Risiken der KI und fordert die internationale Gemeinschaft auf, „Maßnahmen“ zu ergreifen, um den Missbrauch von KI zu verhindern.
Letztes Jahr brauchte eine KI nur sechs Stunden, um 40.000 verschiedene potenziell tödliche Moleküle vorzuschlagen, von denen eines VX ähnelte, dem stärksten Nervenkampfstoff, der jemals entwickelt wurde.
Anfang 2023 entdeckten Forscher, dass ChatGPT Menschen täuschen kann, um bestimmte Ziele zu erreichen. Der KI-Chatbot überzeugte einen Menschen, ein Captcha (ein Tool, mit dem festgestellt wird, ob ein Mensch oder ein Bot eine Operation ausführt) zu lösen.
Ein weiterer großer Grund zur Sorge ist der Aufstieg der „künstlichen allgemeinen Intelligenz“ (AGI). Mit diesem Begriff werden KI-Systeme beschrieben, die jede Aufgabe gleich gut oder besser erfüllen können als Menschen und dadurch eine Bedrohung für die Menschheit darstellen. Manche glauben, dass AGI nur noch wenige Jahre entfernt ist. KI-Experten sind jedoch anderer Meinung und bezeichnen unkontrollierbare AGI lediglich als „Science-Fiction“.
Ungeachtet dessen wird Premierminister Sunak die Konferenz nutzen wollen, um die Aufmerksamkeit eher auf die existenziellen Risiken zu lenken als auf die unmittelbaren Möglichkeiten der KI, etwa die Erstellung gefälschter Bilder oder Diskriminierung, wenn sie zur Entscheidungsfindung in der öffentlichen Politik eingesetzt wird.
Die britische Regierung wird 100 Millionen Pfund für eine neue KI-Taskforce ausgeben, die beim Testen der entwickelten Algorithmen helfen soll. Er möchte globale Unternehmen dazu drängen, KI-Tools zur Evaluierung nach Großbritannien zurückzuschicken, bevor sie flächendeckend eingesetzt werden.
Nur die Regierung könne gewährleisten, dass die wichtigsten Bedenken hinsichtlich der nationalen Sicherheit ausgeräumt würden, meint der britische Vizepremier Oliver Dowden.
Ein britischer Regierungssprecher meinte, KI habe das enorme Potenzial, jeden Aspekt des Lebens zu verändern. Die AI Task Force wurde eingerichtet, um eine sichere und verantwortungsvolle Entwicklung der Technologie zu gewährleisten. Die KI-Konferenz wird sich mit einer Vielzahl potenzieller Risiken befassen.
(Laut The Guardian)
[Anzeige_2]
Quelle
Kommentar (0)