Warnung: KI könnte einen „Überlebenswillen“ entwickeln, der sich der menschlichen Kontrolle entzieht

Der führende Computerwissenschaftler Yoshua Bengio warnt, wenn die KI außer Kontrolle gerate, „könnte die Menschheit innerhalb von 10 Jahren verschwunden sein“.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 1. — Wissenschaftler befürchten, dass die Kontrolle über die KI verloren gehen könnte – Illustration: ChatGPT

Am 7. Februar warnte ein führender Informatiker vor der Möglichkeit, dass der Mensch in Zukunft „die Kontrolle“ über Systeme der künstlichen Intelligenz (KI) verlieren könnte, wenn diese künstlichen Produkte einen „Überlebenswillen“ entwickeln.

In seiner Rede auf dem AI Action Summit in Paris forderte der Informatiker Yoshua Bengio strengere internationale Regulierungen und umfangreichere Forschungen zur Sicherheit von KI, die derzeit nur einen kleinen Teil der großen Investitionen in diesem Bereich ausmacht.

Das Erscheinen des leistungsstarken und kostengünstigen KI-Modells DeepSeek im letzten Monat hat den Wettlauf um die Sicherheit beschleunigt, so der Gewinner des renommierten Turing Award 2018 für Informatik. Herr Yoshua Bengio warnte, wenn wir die Kontrolle über die KI verlieren, „könnte die Menschheit innerhalb von 10 Jahren verschwunden sein“.

Er forderte außerdem eine staatliche Führungsrolle bei der Regulierung von KI. Der Aufruf erfolgte vor dem Hintergrund, dass die USA, das weltweit führende KI-Land, unter dem neuen Präsidenten Donald Trump viele Schritte unternommen hat, um die Entwicklung dieser Technologie „auf die Beine zu stellen“.

Aktuell weist der von Yoshua Bengio auf der Konferenz vorgestellte International AI Safety Report auch auf bekannte Risiken hin, etwa die Nutzung von KI zur Erstellung gefälschter oder irreführender Inhalte auf Online-Plattformen. Gleichzeitig tauchen ständig weitere Risiken auf, etwa biologische Angriffe oder Cyber-Attacken.

Mit Beiträgen von rund 100 Experten aus 30 Ländern, den Vereinten Nationen, der Europäischen Union und der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) ist dies der erste Bericht zur internationalen KI-Sicherheit, der seit dem KI-Sicherheitsgipfel in Großbritannien im November 2023 erstellt wurde.

Cảnh báo AI có thể phát triển 'ý chí sinh tồn', vượt kiểm soát của con người - Ảnh 2.

EU steht vor schwierigem Problem des KI-Managements

Am 4. Februar veröffentlichte die Europäische Kommission ein Dokument mit Leitlinien für die Umsetzung der Bestimmungen des Gesetzes über künstliche Intelligenz (KI), das ab dem 2. Februar in Kraft tritt und unterschiedliche Reaktionen hervorrief.

[Anzeige_2]
Quelle: https://tuoitre.vn/canh-bao-ai-co-the-phat-trien-y-chi-sinh-ton-vuot-kiem-soat-cua-con-nguoi-20250207104202015.htm