Diese Bilder wurden millionenfach online angesehen und sind Deepfakes, die mithilfe künstlicher Intelligenz erstellt wurden. Wer genau hinsieht, erkennt verräterische Anzeichen: seltsam gekrümmte Finger oder Augen, die in einem unnatürlichen Licht funkeln.
Die Empörung, die diese Deepfake-Bilder ausgelöst haben, ist jedoch real.
Fotos aus dem Krieg zwischen Israel und der Hamas veranschaulichen auf anschauliche und schmerzhafte Weise die Gefahren der KI als Propagandainstrument zur Erzeugung lebensechter Bilder.
Seit Beginn der Kämpfe im vergangenen Monat werden in den sozialen Medien digital manipulierte Fotos verwendet, um falsche Behauptungen über die Verantwortung für Opfer aufzustellen oder die Menschen über Gräueltaten zu täuschen, die nie stattgefunden haben.
Ein Palästinenser sammelt Habseligkeiten aus den Trümmern im Gazastreifen auf. AP-Foto.
Technologische Fortschritte finden immer häufiger und ohne größere Kontrolle statt. Das verdeutlicht das Risiko, dass KI zu einer weiteren Waffe wird, und bietet einen ersten Einblick in zukünftige Konflikte, Wahlen und andere wichtige Ereignisse.
„Die Dinge werden noch viel schlimmer werden, bevor sie besser werden“, sagte Jean-Claude Goldenstein, CEO von CREOpoint, einem in San Francisco und Paris ansässigen Technologieunternehmen, das KI nutzt, um die Gültigkeit von Online-Beschwerden zu bewerten.
Sein Unternehmen hat eine Datenbank mit den viralsten Deepfake-Bildern aus Gaza zusammengestellt. „Bilder, Videos und Audio: Dank generativer KI ist das ein Fortschritt, den es so noch nie gegeben hat“, sagte er.
Imran Ahmed, CEO des Center for Countering Digital Hate, einer gemeinnützigen Organisation, die Desinformation aus dem Krieg verfolgt, sagte, die Propagandisten, die solche Bilder erstellen, seien geschickt darin, die tiefsten Impulse und Ängste der Menschen anzusprechen.
Je erschreckender das Bild, desto wahrscheinlicher ist es, dass sich Nutzer daran erinnern und es teilen, wodurch unabsichtlich weitere Fehlinformationen verbreitet werden. Ähnliche, von KI generierte Fehlinformationen verbreiten sich seit dem Russland-Ukraine-Konflikt rasant.
Jeder neue Konflikt oder jede neue Wahlsaison bietet Desinformationsakteuren neue Möglichkeiten. Viele KI-Experten undPolitikwissenschaftler warnen daher vor Risiken im kommenden Jahr, wenn in mehreren Ländern, darunter den USA, Indien, Pakistan, der Ukraine, Indonesien und Mexiko, wichtige Wahlen stattfinden.
Abgeordnete beider Parteien in Washington warnen vor dem Risiko, dass KI und soziale Medien dazu genutzt werden könnten, amerikanische Wähler zu belügen. Bei einer kürzlichen Anhörung zu den Gefahren der Deepfake-Technologie sagte der demokratische US-Abgeordnete Gerry Connolly aus Virginia, die USA müssten in die Entwicklung von KI-Tools investieren, die anderen KI-Technologien entgegenwirken sollen.
Um wirksam auf die politischen und sozialen Herausforderungen zu reagieren, die durch von KI generierte Fehlinformationen entstehen, seien sowohl bessere Technologien als auch bessere Regulierungen erforderlich, sagte David Doermann, Professor an der University of Buffalo.
Mai Anh (laut AP)
[Anzeige_2]
Quelle
Kommentar (0)