Vorsicht vor KI-generierten Bildern, wenn die Informationssicherheit gefährdet ist

Im Zeitalter rasanter technologischer Entwicklung verbreitet sich der Trend, künstliche Intelligenz (KI) zur Bildgestaltung einzusetzen, auf sozialen Netzwerkplattformen und erregt die Aufmerksamkeit vieler Nutzer, insbesondere junger Menschen. Mit KI erstellte Fotos sind äußerst kreativ, dienen der Unterhaltung, personalisieren Inhalte und bringen Persönlichkeit zum Ausdruck. Hinter dieser Attraktivität verbergen sich jedoch potenzielle Risiken für die Sicherheit und Informationssicherheit.

Unterhaltung oder potenzieller Auslöser?

Laut Angaben der Polizei von Hanoi gibt es in letzter Zeit einen Trend zur Verwendung künstlicher Intelligenz (KI) zur Erstellung von Bildern, der die Aufmerksamkeit vieler Nutzer auf sich zieht. Obwohl diese Bilder hauptsächlich zu Unterhaltungszwecken dienen, birgt ihre Verbreitung viele potenzielle Risiken und beeinträchtigt die Informationssicherheit direkt, insbesondere während des 80. Jahrestages der Augustrevolution und des Nationalfeiertags des Landes am 2. September.

Derzeit können Nutzer mithilfe von KI-Software problemlos auf Bilder zugreifen und diese erstellen und diese als Avatare, Nachrichten und Artikel in sozialen Netzwerken wie Zalo, Tiktok, Facebook usw. verwenden. Wenn Nutzer jedoch unvorsichtig und politisch unsensibel sind und die von der KI generierten Bilder nicht kontrollieren, verwenden sie möglicherweise ungenaue Bilder, beispielsweise Bilder einer Karte Vietnams ohne Informationen über die Archipele Hoang Sa und Truong Sa. Diese Bilder sind für Vietnamesen ungeeignet. Die Verwendung dieser ungenauen Bilder wird die öffentliche Meinung im Cyberspace stark beeinflussen und kann zu einer falschen Wahrnehmung von Fragen der Grenzsouveränität sowie der Geschichte und der nationalen kulturellen Traditionen führen.

KI erstellt Bild von Ao Dai, gedruckt mit einer Vietnamkarte, auf der die Archipele Hoang Sa und Truong Sa fehlen. (Foto: Polizei der Stadt Hanoi)

Ein Social-Media-Nutzer in Hanoi erstellte mithilfe einer KI-Software ein Foto eines Ao Dai mit einer darauf gedruckten Karte Vietnams und postete es auf TikTok, um auf den „Nationalstolz“-Trend zu reagieren. Auf dem von der KI erstellten Bild fehlten jedoch die Inselgruppen Hoang Sa und Truong Sa. Der Beitrag verbreitete sich schnell viral und wurde tausendfach angesehen und geteilt, stieß aber auch auf heftige Reaktionen der Online-Community. Die Behörden schritten ein, forderten die Entfernung des Inhalts und warnten vor der Verbreitung falscher Informationen im Zusammenhang mit der nationalen Souveränität .

Warnung der Behörden

Laut Herrn Vu Ngoc Son, Technischer Direktor der Vietnam National Cyber Security Technology Company (NCS), haben sich KI und KI-basierte Anwendungen in letzter Zeit in vielen Lebensbereichen stark weiterentwickelt. ChatGPT ist eigentlich eine Anwendung, die für die meisten Menschen, die keine IT-Experten sind, leicht zugänglich ist, sodass sie schnell für Furore sorgte.

Technisch gesehen ist ChatGPT im Vergleich zu anderen bestehenden KI-basierten Technologien kein Durchbruch. Datentechnisch war ChatGPT jedoch sehr erfolgreich, da es auf einer riesigen Datenmenge in vielen Bereichen basiert und den Benutzern das Gefühl gibt, „alles zu wissen“. Das ist auch der Reiz von ChatGPT bis jetzt.

In Bezug auf die Sicherheit wurde ChatGPT als Frage-und-Antwort-Dienst entwickelt. Das größte Risiko besteht daher darin, dass die Inhalte, die ChatGPT den Benutzern antwortet, von jemandem kontrolliert oder „vergiftet“ werden, um ChatGPT dazu zu bringen, falsche Informationen bereitzustellen. Derzeit gibt es keine Hinweise darauf, dass ChatGPT angegriffen werden kann, da die Eingabedaten von diesem Unternehmen von Menschen kontrolliert, überprüft und sogar gekennzeichnet werden. Daher sind die oben genannten Risiken begrenzt. Wenn dieser Dienst jedoch in Zukunft weiter expandiert und die Nachfrage nach zusätzlichen Eingabedaten dramatisch steigt, werden die Risiken der Datenkontrolle von den Herstellern strengere Sicherheitsmaßnahmen erfordern.

KI-Software bietet viele Vorteile, darunter die Möglichkeit, attraktive, kreative Bilder zu erstellen. Bei verantwortungslosem Einsatz kann sie jedoch zu einem „zweischneidigen Schwert“ werden. Die Abteilung für Cybersicherheit und High-Tech-Kriminalitätsprävention der Stadtpolizei Hanoi empfiehlt:

1. Erstellen und verwenden Sie auf keinen Fall Bilder der Karte Vietnams oder Bilder, die falsch sind, gegen gesetzliche Bestimmungen verstoßen oder im Widerspruch zu vietnamesischen Traditionen, Bräuchen und der Kultur stehen.

2. Geben Sie regelmäßig Warnhinweise an Verwandte, Freunde und die Gemeinschaft weiter, um das Bewusstsein zu schärfen und Komplotte und Machenschaften feindlicher Kräfte zu verhindern. Lassen Sie nicht zu, dass Personen wichtige politische Ereignisse im Land ausnutzen, um illegale Handlungen zu begehen.

3. Seien Sie vorsichtig bei der Installation und Verwendung nicht verifizierter KI-Anwendungen, um das Risiko der Erfassung Ihrer persönlichen Daten zu vermeiden.

4. Zeigen Sie Verantwortungsbewusstsein gegenüber sich selbst und der Gemeinschaft, wenn Sie an Aktivitäten in sozialen Netzwerken teilnehmen.

Verstöße werden streng nach den gesetzlichen Bestimmungen geahndet.

Jeder Nutzer muss im Cyberspace Verantwortung übernehmen. Trends zu verfolgen, darf nicht mit Ignoranz oder der unabsichtlichen Unterstützung von Missständen verwechselt werden. Die Aufgabe der Medien besteht nicht nur darin, Nachrichten zu berichten, sondern auch die öffentliche Meinung zu beeinflussen und so zum Schutz der Wahrheit und der nationalen Werte beizutragen.

Quelle: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html