Der legendäre Kampf gegen Desinformation, Deepfakes und Betrug

(NB&CL) Neben Krieg, bewaffneter Gewalt und tiefen globalengeopolitischen Spaltungen steht die Welt auch 2024 vor einem weiteren großen Kampf gegen Desinformation, Fake News und Betrug. Dieses Problem wird eine legendäre Geschichte sein, die nur schwer zu beenden ist und sich voraussichtlich noch weiter verschärfen wird, wenn die Welt nicht gemeinsam drastische Maßnahmen ergreift.

Informationschaos – eine wachsende Gefahr

Informationsverstöße, insbesondere Desinformation und Cyberbetrug, gelten als „globale Pandemie“, ein weltweiter Kampf, in dem traditionelle Nachrichtenorganisationen mit ihrer Mission, die Wahrheit zu bewahren, eine führende Rolle spielen müssen. Dieser Kampf kann jedoch nur erfolgreich sein, wenn in jedem Land und in globalen Organisationen drastische und grundlegende Maßnahmen ergriffen werden.

Fake News, Desinformation und insbesondere betrügerische Aktivitäten sind mittlerweile unvermeidliche Folgen und negative Aspekte des neuen Medienzeitalters. Die Bühne ist nicht mehr nur Medienagenturen und zensierten Zeitungen vorbehalten. Wie wir wissen, ermöglicht die explosionsartige Verbreitung des Internets, hochtechnologischer Geräte und insbesondere sozialer Netzwerke jedem, zum „Journalisten“, „Reporter“ oder sogar zum „Sprecher“ zu werden, dem Millionen von Menschen folgen.

Soziale Netzwerke, eine Welt ohne Regeln

Alles hat zwei Seiten. Die explosionsartige Verbreitung sozialer Netzwerke hat viele Vorteile mit sich gebracht, beispielsweise die schnelle und weite Verbreitung von Informationen und Wissen auf spektakuläre Weise. Heutzutage erreichen Informationen über einen Unfall jeden innerhalb weniger Minuten, selbst wenn er sich am anderen Ende der Welt befindet. Auch Informationen über Naturkatastrophen wie Überschwemmungen, Stürme, Waldbrände usw. werden über soziale Netzwerkplattformen schnell von jedem aktualisiert oder geteilt, was zu einer effektiven Verbreitung oder Warnung beiträgt.

Doch neben den positiven Aspekten bringen soziale Netzwerke und Community-Sharing-Plattformen auch besorgniserregende Folgen mit sich. Noch beängstigender ist, dass derzeit nicht nur Menschen, sondern auch Maschinen und insbesondere die rasante Verbreitung künstlicher Intelligenz (KI) die Internetwelt im Allgemeinen und Technologieplattformen im Besonderen zu einem Ort mit zu vielen Risiken machen.

„Informationspandemie“ in sozialen Netzwerken

Laut einer von Redline veröffentlichten Statistik von Ende Juni 2024 gibt es weltweit 4,9 Milliarden Social-Media-Nutzer. Laut dieser Umfrage unter Amerikanern misstrauen die meisten Social-Media-Nutzer der Richtigkeit der auf diesen Plattformen – von Facebook über TikTok bis hin zu YouTube – verbreiteten Informationen. Daher verwendete diese Organisation den Begriff „Infodemie“, um den aktuellen Stand der Desinformation in den sozialen Medien zu beschreiben.

Die Welt der sozialen Netzwerke gleicht einem Urwald, in dem es kaum Regeln gibt. Dort genießen die Menschen Fruchtbarkeit, Freiheit und Erholung, doch gleichzeitig lauern auch tödliche Fallen. Bis heute kämpft fast jedes Land mit der Verwaltung und Organisation dieses „Urwalds“ und unternimmt sogar erste Schritte, um gegen Verstöße vorzugehen, obwohl diese „Welt“ die gesamte Menschheit erfasst hat.

Ende November dieses Jahres erließ Australien als erstes Land der Welt offiziell ein Gesetz, das Kindern den Zugang zu dieser faszinierenden, aber auch gefährlichen und nahezu gesetzlosen „primitiven“ Welt verbietet. Konkret verbot Australien Kindern unter 16 Jahren die Nutzung sozialer Netzwerke und verhängt hohe Geldstrafen von bis zu 32 Millionen Dollar, wenn soziale Netzwerke gegen das Gesetz verstoßen.

Vor diesem Hintergrund wird die explosionsartige Verbreitung von Fake News, Fehlinformationen und insbesondere Betrug in sozialen Netzwerken (sowie über andere hochtechnologische Formen wie Softwareanwendungen, betrügerische Websites usw.) zu einem globalen Problem. In Vietnam hören wir täglich herzzerreißende Geschichten über Opfer, die Opfer von Online-Betrug geworden sind. Auch weltweit ist dies ein Problem für jedes Land.

Im März berichtete Interpol, dass Cyberbetrug in Südostasien weltweit zugenommen hat und jährlich 3 Billionen US-Dollar (etwa das BIP Frankreichs) einbringt. Sogar ein britischer Technologieriese verlor 25 Millionen US-Dollar, nachdem Betrüger mithilfe von Deepfakes als Führungskräfte imitiert und Geldtransfers veranlasst hatten. Dies sind natürlich nur einige Beispiele für Millionen von Cyberbetrügereien.

Der Umgang mit der Verbreitung von Fehlinformationen in sozialen Medien ist eine unmögliche Mission?

Obwohl Länder und globale Organisationen ständige Anstrengungen unternehmen, illegale Aktivitäten im Cyberspace, insbesondere auf großen sozialen Plattformen wie TikTok, Facebook oder X, zu verhindern oder zu bestrafen, ist die Zahl der behandelten Fälle immer noch sehr gering.

Bemerkenswerter ist, dass bisher kaum ein Land und keine Organisation soziale Netzwerke für Fehlverhalten wie die Verbreitung falscher Informationen oder gar Gesetzesverstöße zur Verantwortung gezogen hat. Im Mai dieses Jahres gab Meta selbst zu, auf seinen Facebook- und Instagram-Plattformen Inhalte gefunden zu haben, die „wahrscheinlich von KI generiert“ und zur Verzerrung oder Täuschung verwendet wurden. Diese Aussage zeigt, dass soziale Netzwerke selbst glauben, bei der Verbreitung schädlicher Informationen „unschuldig“ zu sein, sonst hätten sie sich nicht so offen zugegeben.

Tatsächlich mussten Big-Tech-Unternehmen wie Meta, TikTok, Google, Microsoft oder X weltweit Milliardenstrafen für ihre Verstöße zahlen, doch diese beziehen sich ausschließlich auf Verstöße gegen Datenschutzbestimmungen oder Kartellrecht. Und es gab fast keine Strafen gegen sie, weil sie Verstöße in ihrem „Haus“ zugelassen haben.

Der bemerkenswerteste Fall in diesem Bereich war die Verhaftung von Telegram-CEO Pavel Durov in Frankreich. Ihm wurde vorgeworfen, kriminelle Aktivitäten auf der Messaging-Plattform gefördert zu haben. Die Verhaftung, die angeblich politisch motiviert war, erfolgte jedoch im Geheimen. Sie war kein öffentliches Gerichtsverfahren gegen ein soziales Netzwerk oder ein normales Unternehmen. Tatsächlich gab es nie eine einzige Bestrafung für Telegram im Zusammenhang mit kriminellen Aktivitäten auf der Plattform, obwohl die Vereinten Nationen im Oktober 2024 einen Bericht veröffentlichten, der besagte, dass die Plattform von kriminellen Banden für illegale Transaktionen genutzt wurde.

Die Welt kämpft weiterhin mit dem Problem von Fake News, Fehlinformationen und Betrug auf Social-Media-Plattformen. Bild: IJNET

Auch wenn es bei derartigen offensichtlich illegalen Aktivitäten nicht möglich ist, sich mit Social-Media-Plattformen oder Community-Sharing auseinanderzusetzen, ist klar, dass die Kontrolle toxischer Inhalte, gefälschter Nachrichten und Fehlinformationen extrem weit entfernt ist.

Die Plattformen haben also nicht nur keine Angst, sondern zeigen zunehmend Anzeichen dafür, dass sie „nach ihren eigenen Regeln handeln“: Sie fördern kontroverse, sensationelle, unsinnige oder toxische Informationen, um mithilfe ihrer immer ausgefeilteren Algorithmen Zuschauer anzulocken. Bemerkenswert ist, dass die großen Technologieunternehmen auch bereit sind, Druck auszuüben oder jegliche Maßnahmen zu ihrer Bestrafung zu bekämpfen. Der Milliardär Elon Musk, Inhaber des sozialen Netzwerks X, äußerte im September 2024 seinen Widerstand gegen einen neuen australischen Gesetzentwurf, der vorsieht, Social-Media-Unternehmen zu bestrafen, wenn sie es nicht schaffen, Online-Desinformation zu verhindern.

Nach dem noch australischen Gesetzentwurf könnten Internetplattformen für die Verbreitung von Falschinformationen mit Geldstrafen von bis zu 5 % ihres weltweiten Umsatzes belegt werden. Auch andere große Technologieplattformen wie Google und Meta haben Bedenken geäußert und den neuen australischen Gesetzentwurf angefochten. Es handelt sich um einen weltweit seltenen Gesetzentwurf, der die Bestrafung sozialer Netzwerke für die Verbreitung von Falschinformationen, Fake News und betrügerischen Aktivitäten vorsieht.

Betrachtet man die Welt der traditionellen Medien und des Journalismus, ist dieses Paradoxon schwer zu akzeptieren. Jeder weiß: Wenn eine Zeitung oder ein Fernsehsender auch nur einen kleinen fachlichen Fehler begeht oder gar falsche oder illegale Informationen verbreitet, kann die gesamte Agentur schwer bestraft werden. Und im schlimmsten Fall wenden sich die Leser ab, nicht nur der Reporter oder Redakteur, der die Informationen geliefert hat.

Die „globale Pandemie“ gerät außer Kontrolle

Man kann sagen, dass das Problem von Fehlinformationen, Fake News, toxischen Nachrichten und Betrug schwerwiegender ist als jeder Krieg oder jede Pandemie, da es eine ganze Generation weltweit betreffen kann, insbesondere junge Menschen. Zahlreiche Studien zeigen, wie schädlich soziale Netzwerke, insbesondere die süchtig machenden Kurzvideofunktionen von Facebook, TikTok oder Google, für die körperliche und geistige Gesundheit von Kindern sind.

Eine aktuelle Studie von UNICEF ergab, dass soziale Medien darauf ausgelegt sind, die Aufmerksamkeit der Nutzer möglichst lange zu fesseln. Dabei nutzen sie unsere Vorurteile und psychischen Schwächen aus, wie etwa den Wunsch nach Anerkennung oder die Angst vor Ablehnung. Übermäßige Social-Media-Nutzung wird mit Neidgefühlen, Minderwertigkeitsgefühlen und geringer Lebenszufriedenheit in Verbindung gebracht. Studien deuten sogar darauf hin, dass diese Gewohnheit zu Depressionen, Angstzuständen und Schlafmangel führen kann, wobei psychische Erkrankungen am häufigsten auftreten.

Sängerin Taylor Swift ist eine der Prominenten, die Opfer eines KI-Deepfakes geworden sind. Foto: Herbert Wang

Vietnams Regelung, die soziale Netzwerke zur Authentifizierung ihrer Nutzer zwingt, tritt in Kraft

Das Dekret 147/2024/ND-CP über die Verwaltung, Bereitstellung und Nutzung von Internetdiensten und Online-Informationen, das kürzlich von der vietnamesischen Regierung erlassen wurde, tritt am 25. Dezember 2024 in Kraft. Demnach verpflichtet die Verordnung soziale Netzwerke zur Authentifizierung ihrer Nutzer über Telefonnummer oder persönliche Identifikationsnummer. Nur authentifizierte Konten dürfen Informationen bereitstellen (Artikel schreiben, kommentieren, Livestreams erstellen) und in sozialen Netzwerken teilen. Dieses Dekret soll die Verbreitung gefälschter und irreführender Informationen sowie insbesondere betrügerischer Aktivitäten in sozialen Netzwerken deutlich einschränken.

Es gibt viele Beispiele dafür, wie Fehlinformationen, Fake News und Deepfakes das reale Leben ernsthaft beeinträchtigen und zu einer globalen Bedrohung werden können. Im August dieses Jahres kam es zu Unruhen aufgrund der falschen Behauptung in den sozialen Medien, der Verdächtige für den Messermord an einem jungen Mädchen in Großbritannien sei ein radikaler muslimischer Einwanderer (der in Wirklichkeit Brite war). Die Unruhen führten zu Tausenden Festnahmen durch die Polizei.

Auch im Zusammenhang mit dem Attentat auf Donald Trump im Juli 2024 wurden die sozialen Medien mit Falschmeldungen und Verschwörungstheorien überschwemmt, beispielsweise mit der Behauptung, ein italienischer Journalist (in Wirklichkeit ein 20-jähriger Amerikaner) sei verdächtigt worden. Darüber hinaus gab es in den sozialen Medien verzerrende Darstellungen, wonach der Verdächtige Chinese sei oder der Vorfall inszeniert worden sei. Die Verbreitung falscher Informationen verstärkt zudem den Hass auf alle Konflikte und Brennpunkte der Welt, wie etwa den Krieg zwischen Russland und der Ukraine, Israel und Palästina oder das Problem der Islamophobie und des Antisemitismus.

Und doch gerät der Kampf gegen Desinformation mit der explosionsartigen Verbreitung von KI außer Kontrolle. Deepfake-Tools und billige KI-Modelle breiten sich ohne nennenswerte Kontrollen aus.

Laut DeepMedia-Statistiken ist die Anzahl der Deepfake-Videos und -Stimmen jedes Jahr sprunghaft angestiegen. Im Jahr 2023 hat sich die Anzahl der Deepfake-Videos im Vergleich zu 2022 mehr als verdreifacht und die der Deepfake-Stimmen mehr als verachtfacht. Prognosen zufolge werden im Jahr 2024 weltweit rund 500.000 Deepfake-Videos und -Stimmen in sozialen Netzwerken geteilt.

Anfang 2024 verbreitete sich eine Reihe KI-generierter pornografischer Bilder der Sängerin Taylor Swift in den sozialen Medien und sorgte weltweit für Aufsehen. Darüber hinaus wurden weltweit zahlreiche Politiker Opfer des Deepfake-Problems, darunter US-Präsident Joe Biden sowie führende Politiker in Großbritannien, Indien, Nigeria, Sudan, Äthiopien und der Slowakei.

Das Problem von Fake News, Fehlinformationen und insbesondere betrügerischen Aktivitäten im Cyberspace wird daher immer ernster. Im kommenden KI-Zeitalter könnte diese „globale Pandemie“ außer Kontrolle geraten, wenn nicht die gemeinsamen Anstrengungen der ganzen Welt, insbesondere der politischen Entscheidungsträger in jedem Land, sie verhindern.

Hoang Hai

Quelle: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html