Lassen Sie nicht zu, dass KI das Überleben der Menschheit bedroht

Die „Paten der KI“, Gewinner des VinFuture 2024-Preises, sind der Ansicht, dass Wissenschaftler sicherstellen müssen, dass KI-Szenarien das Überleben der Menschheit nicht bedrohen.

Heute, am 7. Dezember, tauschten sich die Gewinner des VinFuture 2024-Preises mit Studenten und jungen Wissenschaftlern der VinUni-Universität über wissenschaftliche Forschung und Zukunftsaussichten in den von ihnen verfolgten Bereichen aus. Hier sprachen die Gewinner der Hauptpreise, brillante Wissenschaftler, deren bahnbrechende Arbeit den Grundstein für die heutige KI-Revolution legte, über die unglaublichen Fortschritte in der KI.

Professor Yann LeCun (Mitte) und Professor Yoshua Bengio (linkes Cover) bei der Austauschsitzung

„Wir haben das Gefühl, zehn Jahre in die Zukunft gesprungen zu sein.“

Professor Geoffrey Hinton von der Universität Toronto in Kanada reiste nicht nach Vietnam, um die Auszeichnung entgegenzunehmen, nahm aber per Video an dem Austausch teil. Er erhielt 2018 zusammen mit Professor Yann LeCun und Professor Yoshua Bengio den Turing Award (eine Auszeichnung, die als Nobelpreis der Informatik gilt) und alle drei werden von den internationalen Medien als „KI-Paten“ bezeichnet. Nun werden alle drei zusammen mit zwei weiteren Wissenschaftlern, Professor Fei Fei Li (USA) und Herrn Jensen Huang (CEO NVIDIA), von VinFuture 2024 im Hauptpreis geehrt.

Laut Professor Hinton ist der jüngste Boom der KI das Ergebnis dreier Faktoren. Das erste ist die Forschung zur Entwicklung effizienterer Methoden zum Lernen neuronaler Netzwerke, die er, Professor Yoshua, Professor Yann und viele andere durchgeführt haben. Hinzu kommen die extrem schnelle Rechenleistung von Grafikprozessoren (GPUs) und die enorme Datenmenge, die wir sammeln können.

Professor Geoffrey Hinton teilt per Video

„Ein großer Vorteil dieser Auszeichnung (VinFuture 2024) ist die Anerkennung der Pionierarbeit von Herrn Jensen Huang bei der Entwicklung von GPU-Boards, die für KI nützlich sind. Die Kombination aus Jensen Huangs GPU-Board und den Datensätzen von Professor Fei Fei Li spielte eine wichtige Rolle in der modernen Entwicklung der KI. Es ist großartig, dass ihre Arbeit neben der Arbeit an neuronalen Netzwerkalgorithmen anerkannt wird“, sagte Professor Hinton.

Wir stellten fest, dass neuronale Netze, die wir mit GPUs trainierten, 30-mal schneller waren. Das war ein Quantensprung. Es war, als wäre die Rechengeschwindigkeit ihrer Zeit zehn Jahre voraus. Plötzlich waren wir der Zukunft in Sachen Rechengeschwindigkeit zehn Jahre voraus. Das war ein absoluter Wendepunkt für die KI, es war unglaublich! sagte Professor Hinton.

Auch heute noch versuchen Wissenschaftler, die Zusammenhänge innerhalb neuronaler Netzwerke besser zu verstehen. Dies würde Wissenschaftlern dabei helfen, eine Art künstlicher Intelligenz zu schaffen, die der menschlichen Intelligenz ähnlicher ist und sogar Intuition erklären könnte. Der traditionelle logische Ansatz hat das nie getan.

„Ich fange an, Angst vor KI zu bekommen“

Professor Hinton bemerkte, dass die heutigen großen neuronalen Netzwerke über eine ähnliche Intuition wie der Mensch verfügen. Seit letztem Jahr befürchtet er, dass es nur fünf bis zwanzig Jahre dauern könnte, bis die KI so intelligent wie der Mensch ist. „Damals begann ich, Angst vor KI zu bekommen. Die Entwicklung zu stoppen, ist keine Option. Die einzige Möglichkeit besteht darin, herauszufinden, wie wir sicherstellen können, dass KI sicher ist, wenn sie intelligenter wird als wir“, erklärte Professor Hinton.

„Aber ich glaube nicht, dass das Ende der Welt unvermeidlich ist“, sagt Professor Hinton. Die Möglichkeiten dürfen jedoch nicht ignoriert werden, und wir müssen hart daran arbeiten, sie zu verhindern. Hoffentlich entscheiden sich die talentiertesten Studierenden für ein Studium der KI-Sicherheit, das sich mit einem breiten Spektrum von Bedrohungen befasst – von langfristigen Bedrohungen wie der Machtübernahme durch KI bis hin zu kurzfristigen Bedrohungen wie Cyberkriminalität.

Professor Yoshua Bengio und Professor Yann LeCun

Professor Yann Lecun sagte, er sei auch besorgt über das Risiko, dass die KI, wenn sie so intelligent wie der Mensch sei, die Menschen dominieren werde. Die aktuelle Antwort lautet jedoch nein. „Wir können beim Schachspielen mit einem kleinen Spielzeug verlieren, das 30 Euro kostet. Ist das gefährlich? Die Antwort ist nein. KI wird nur dann gefährlich, wenn wir eine Motivation (menschliche Kontrolle) für KI schaffen. Aber im Moment verfügt KI nur über Wissen, nicht über Motivation“, sagte Professor Yann.

Laut Professor Yann ist die Entwicklung einer KI, die dem Menschen aktiv dient, lediglich ein technisches Problem. Da KI intelligent ist, ist die Annahme, dass KI die Menschen dominieren wird, ein Vorurteil. Denn die Realität zeigt, dass es in der Gesellschaft zwar viele intelligente Menschen gibt, diese jedoch nicht die Welt beherrscht haben! KI ist immer noch ein Werkzeug. Das Problem liegt beim Menschen, nicht bei der KI.

Laut Professor Yoshua Bengio können wir nicht subjektiv sein, denn schon ein kleines Problem kann das Überleben der Menschheit beeinträchtigen. Menschen können Maschinen motivieren. Jemand möchte beispielsweise die Maschine in einen Menschen verwandeln und der Maschine das Bedürfnis vermitteln, „zu überleben“. Wir möchten die Maschine ausschalten, aber sie lässt sich nicht ausschalten. „Natürlich müssen wir sicherstellen, dass dieses Szenario nicht eintritt“, sagte Professor Bengio.

Quelle: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm