Lassen Sie nicht zu, dass KI das Überleben der Menschheit bedroht

Die „Paten der KI“, Gewinner des VinFuture 2024-Preises, sind der Ansicht, dass Wissenschaftler sicherstellen müssen, dass KI-Szenarien das Überleben der Menschheit nicht bedrohen.

Heute, am 7. Dezember, tauschten sich die Gewinner des VinFuture 2024-Preises mit Studierenden und Nachwuchswissenschaftlern der VinUni über wissenschaftliche Forschung und die Zukunftsaussichten ihrer Forschungsfelder aus. Die Gewinner des Hauptpreises – herausragende Wissenschaftler, deren bahnbrechende Arbeiten den Grundstein für die heutige KI-Revolution gelegt haben – sprachen über die erstaunlichen Fortschritte der KI.

Professor Yann LeCun (Mitte) und Professor Yoshua Bengio (linkes Cover) bei der Austauschsitzung

„Wir haben das Gefühl, zehn Jahre in die Zukunft gesprungen zu sein.“

Professor Geoffrey Hinton von der Universität Toronto, Kanada, reiste nicht nach Vietnam, um den Preis entgegenzunehmen, nahm aber am Video- Austausch teil. Er, Professor Yann LeCun und Professor Yoshua Bengio erhielten 2018 den Turing Award (eine Auszeichnung, die mit dem Nobelpreis für Informatik vergleichbar ist) und werden von den internationalen Medien als „KI-Paten“ bezeichnet. Alle drei werden nun von VinFuture 2024 zusammen mit zwei weiteren Wissenschaftlern, Professor Fei Fei Li (USA) und Jensen Huang (CEO von NVIDIA), im Rahmen des Hauptpreises geehrt.

Der jüngste Boom der KI sei auf drei Faktoren zurückzuführen, sagt Hinton. Erstens auf die Arbeit an der Entwicklung effizienterer Lernmethoden für neuronale Netze, die er, Yoshua, Yann und viele andere bereits geleistet haben. Zweitens auf die unglaublich hohe Rechenleistung von Grafikprozessoren (GPUs) und die enormen Datenmengen, die wir sammeln können.

Professor Geoffrey Hinton teilt per Video

„Ein großer Vorteil dieser Auszeichnung (VinFuture 2024) ist die Anerkennung der Pionierarbeit von Herrn Jensen Huang bei der Entwicklung von GPU-Boards, die für KI nützlich sind. Die Kombination aus Jensen Huangs GPU-Board und den Datensätzen von Professor Fei Fei Li spielte eine wichtige Rolle in der modernen Entwicklung der KI. Es ist großartig, dass ihre Arbeit neben der Arbeit an neuronalen Netzwerkalgorithmen anerkannt wird“, sagte Professor Hinton.

„Wir stellten fest, dass neuronale Netze, die wir mit GPUs trainierten, 30-mal schneller waren. Das war ein Quantensprung. Es war, als wäre die Rechengeschwindigkeit ihrer Zeit zehn Jahre voraus. Plötzlich waren wir der Zukunft in Sachen Rechengeschwindigkeit zehn Jahre voraus. Das war ein kompletter Wendepunkt für die KI, es war unglaublich!“, sagte Professor Hinton.

Wissenschaftler arbeiten weiterhin daran, die Zusammenhänge in neuronalen Netzwerken besser zu verstehen. Dies wird ihnen helfen, künstliche Intelligenz zu entwickeln, die der menschlichen Intelligenz ähnlicher ist und sogar Intuition erklären kann. Traditionelle logische Ansätze werden dazu nie in der Lage sein.

„Ich fange an, Angst vor KI zu bekommen“

Professor Hinton sagte, dass die heutigen großen neuronalen Netzwerke eine ähnliche Intuition wie der Mensch hätten. Letztes Jahr begann er sich Sorgen zu machen, dass es nur fünf bis 20 Jahre dauern könnte, bis KI so intelligent wie der Mensch ist. „Damals begann ich mir Sorgen um KI zu machen. Die Entwicklung zu stoppen ist keine Option. Die einzige Möglichkeit besteht darin, herauszufinden, wie man ihre Sicherheit gewährleisten kann, wenn sie intelligenter wird als wir“, erklärte Professor Hinton.

„Ich glaube aber nicht, dass der Weltuntergang unausweichlich ist“, sagt Professor Hinton. „Aber die Möglichkeiten können nicht ignoriert werden, und wir müssen hart daran arbeiten, ihn zu verhindern. Hoffentlich entscheiden sich die talentiertesten Studierenden für ein Studium der KI-Sicherheit, das sich mit einem breiten Spektrum von Bedrohungen auseinandersetzt – von langfristigen Bedrohungen wie der Machtübernahme durch KI bis hin zu kurzfristigen Bedrohungen wie Cyberkriminalität.“

Professor Yoshua Bengio und Professor Yann LeCun

Professor Yann Lecun äußerte sich besorgt über das Risiko, dass KI den Menschen dominieren könnte, wenn sie so intelligent wie er wäre. Die aktuelle Antwort lautet jedoch noch nicht: „Wir können beim Schachspielen mit einem kleinen Spielzeug im Wert von 30 Euro verlieren. Ist das gefährlich? Die Antwort lautet nein. KI wird erst dann gefährlich, wenn wir Motivation für sie schaffen (um Menschen zu kontrollieren). Aber im Moment verfügt KI nur über Wissen, nicht über Motivation“, sagte Professor Yann.

Laut Professor Yann ist die Entwicklung einer KI, die dem Menschen aktiv dient, lediglich ein technisches Problem. Da KI intelligent ist, ist die Annahme, dass sie den Menschen dominieren wird, ein Vorurteil. Denn die Realität zeigt, dass es in der Gesellschaft zwar viele intelligente Menschen gibt, aber sie haben die Welt nicht dominiert! KI ist immer noch ein Werkzeug; das Problem liegt beim Menschen, nicht bei der KI.

Laut Professor Yoshua Bengio können wir nicht subjektiv sein; schon ein kleines Problem kann das Überleben der Menschheit gefährden. Menschen können Maschinen motivieren. Beispielsweise möchte jemand die Maschine in einen Menschen verwandeln und ihr das Bedürfnis zu „überleben“ vermitteln. Wir möchten die Maschine ausschalten, aber sie weigert sich. „Natürlich müssen wir dafür sorgen, dass dieses Szenario nicht eintritt“, sagte Professor Bengio.

Quelle: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm