Die Angst, dass Kriminelle oder Terroristen KI nutzen könnten, um die Welt zu zerstören, wird ein heißes Thema auf einem Gipfeltreffen der Staats- und Regierungschefs im November in Großbritannien sein. Britische Politiker reisen um die Welt, um sich auf eine gemeinsame Erklärung zu einigen, die vor den Risiken warnt, die neue Technologien durch Kriminelle missbrauchen.
Einige Vertreter des britischen Premierministers befürchten, dass die Technologie irgendwann so leistungsfähig sein könnte, dass biologische Waffen oder Waffen, die sich der menschlichen Kontrolle entziehen, hergestellt werden könnten. Die wachsende Besorgnis führt zu Forderungen nach Regulierung, um die Risiken zu mindern. Während sich führende Technologieunternehmen darauf einigen, die KI-Entwicklung zu pausieren, befinden sie sich in einem KI-Wettrüsten mit ihren Konkurrenten.
Laut The Guardian werden auf dem Gipfel im November die Risiken der sogenannten „Frontier-KI“ diskutiert. Mit dem Begriff „Frontier-KI“ werden die fortschrittlichsten KI-Modelle beschrieben, die Menschenleben gefährden könnten.
Anfang dieser Woche bestätigte die britische Regierung , dass sich die Konferenz auf Risiken wie den Missbrauch von KI zur Herstellung biologischer Waffen, Cyberangriffe und fortschrittliche Systeme ohne menschliche Kontrolle konzentrieren werde. Herr Sunak warnt seit Monaten vor den Risiken der KI und fordert die internationale Gemeinschaft auf, Maßnahmen gegen KI-Missbrauch zu ergreifen.
Letztes Jahr brauchte eine KI nur sechs Stunden, um 40.000 verschiedene potenziell tödliche Moleküle vorzuschlagen, von denen eines VX ähnelte, dem stärksten Nervenkampfstoff, der je entwickelt wurde.
Anfang 2023 entdeckten Forscher, dass ChatGPT Menschen täuschen kann, um ein bestimmtes Ziel zu erreichen. Der KI-Chatbot überzeugte einen Menschen, ein Captcha zu lösen (ein Tool, mit dem erkannt wird, ob ein Mensch oder ein Bot manipuliert).
Eine weitere große Sorge ist die Entstehung einer „künstlichen allgemeinen Intelligenz“ (AGI), eines KI-Systems, das jede Aufgabe genauso gut oder besser erledigen kann als der Mensch, was den Untergang der Menschheit bedeuten könnte. Manche glauben, dass AGI nur noch wenige Jahre entfernt ist. KI-Experten bestreiten dies jedoch und bezeichnen unkontrollierte AGI als „Science-Fiction“.
Ungeachtet dessen wird Premierminister Sunak die Konferenz nutzen wollen, um die Aufmerksamkeit eher auf die existenziellen Risiken zu lenken als auf die unmittelbaren Möglichkeiten der KI, etwa die Erstellung gefälschter Bilder oder Diskriminierung, wenn sie für politische Entscheidungen eingesetzt wird.
Die britische Regierung wird 100 Millionen Pfund für eine neue KI-Taskforce ausgeben, um Algorithmen in der Entwicklung zu testen. Sie will globale Unternehmen ermutigen, KI-Tools zur Evaluierung nach Großbritannien zurückzuschicken, bevor sie diese flächendeckend einsetzen.
Nur die Regierung könne dafür sorgen, dass die wichtigsten Bedenken hinsichtlich der nationalen Sicherheit ausgeräumt würden, meint der britische Vizepremier Oliver Dowden.
Ein britischer Regierungssprecher erklärte, KI habe das enorme Potenzial, jeden Aspekt des Lebens zu verändern. Die KI-Taskforce wurde eingerichtet, um eine sichere und verantwortungsvolle Entwicklung der Technologie zu gewährleisten. Die KI-Konferenz wird eine Reihe potenzieller Risiken untersuchen.
(Laut The Guardian)
[Anzeige_2]
Quelle
Kommentar (0)