Beim zweiten Hinsehen erkannte sie, dass es sich lediglich um ein KI-Foto handelte, das von einer Facebook-Seite zur Illustration eines sentimentalen Posts verwendet wurde. Es war bereits das zweite Mal, dass sie beinahe von einer KI getäuscht worden wäre. Zuvor hatte sie das Video „Rentner treffen Sommerurlauber“ bereits für echte Menschen und reale Ereignisse gehalten.
Frau Linh arbeitet in der Medienbranche und ist regelmäßig mit KI-Inhalten konfrontiert. Sie muss zugeben, dass sich diese Technologie so schnell und ausgereift entwickelt hat, dass es schwierig ist, zwischen echt und gefälscht zu unterscheiden.
Experten stimmen dieser Ansicht zu. Tools wie Google Veo 3, Kling AI, DALL·E 3, Midjourney... haben es geschafft, unglaublich realistische Bilder und Videos zu erstellen.
Herr Do Nhu Lam, Schulungsleiter am Blockchain Technology and Artificial Intelligence Institute ABAII, wies darauf hin, dass diese Tools dank multimodaler Technologie und fortschrittlicher Sprachmodelle Bilder, Töne, Gesichtsausdrücke und natürliche Bewegungen synchronisieren und so äußerst überzeugende Produkte schaffen können.
Herr Lam erklärte, dass die Fortschritte in der KI großes Potenzial in Bereichen wie Content-Erstellung, Werbung, Unterhaltung und Bildung eröffnen. Diese Fähigkeit, „wahrhaftig“ nachzubilden, bringt jedoch auch viele Herausforderungen in Bezug auf Ethik, Kontrolle und Informationssicherheit mit sich, da die Grenzen zwischen Realität und Virtualität zunehmend verschwimmen.
Der Facebook-Beitrag, den Frau Linh sah, löste fast 300.000 Interaktionen und über 16.000 Kommentare aus. Viele Nutzer gratulierten oder drückten ihre Gefühle aus, ohne zu wissen, dass es sich lediglich um eine KI-Illustration handelte. Einige „nüchternere“ Leute kritisierten die „Internetnutzer“ für ihre Naivität und dafür, dass sie sich von der KI täuschen ließen.
In Facebook-Gruppen und Foren sind KI-Videos, die von Nutzern erstellt und geteilt werden, leicht zu finden. Insbesondere mit dem Erscheinen von Google Veo 3 hat sich die Qualität der Videos deutlich verbessert, insbesondere die Stimme passt zur Mundform der Figur. Wer nicht aufmerksam ist und genau hinschaut, kann leicht verwirrt werden.
Wach bleiben im Zeitalter der KI
Fotos und Videos, die von KI erstellt wurden, sind schwer zu unterscheiden und bergen große Risiken für Nutzer, insbesondere für gefährdete Gruppen ohne technische Kenntnisse. Laut Vu Thanh Thang, Direktor für Künstliche Intelligenz (CAIO) der SCS Cyber Security Joint Stock Company, wird KI von Cyberkriminellen für Betrugszwecke (Umgehung biometrischer Systeme, eKYC usw.) eingesetzt. Sie geben sich als berühmte Personen aus, um falsche Informationen zu verbreiten und so die Öffentlichkeit zu verwirren. Es gibt zahlreiche Fälle, in denen Hightech-Kriminelle KI nutzen, um Deepfake-Fotos zu erstellen oder sich als Verwandte auszugeben, um Videoanrufe zu tätigen und so Geld zu ergaunern.
Laut Herrn Thang sind Unternehmen auch potenzielle Ziele für KI-Kriminelle. Sie können KI-Deepfake nutzen, um sich als Mitarbeiter auszugeben, Sicherheitssysteme zu umgehen, um die Anwesenheit zu ermitteln, und sich als Unternehmensleiter auszugeben, um zu diffamieren und den Ruf zu zerstören.
Herr Do Nhu Lam von ABAII vertrat dieselbe Meinung und wies auf drei Folgen hin, die KI für einzelne Nutzer mit sich bringt: Finanzbetrug, Rufschädigung und Missbrauch privater Informationen. Für Unternehmen erlitt das Unternehmen Arup einen Verlust von 25 Millionen US-Dollar, nachdem Mitarbeiter seiner Hongkonger Niederlassung dazu verleitet wurden, an einem Deepfake-Videomeeting teilzunehmen und wie gewünscht Geld zu überweisen.
Ein weiteres, ebenso ernstes Risiko besteht darin, dass das Vertrauen der Öffentlichkeit in die Medien und offiziellen Nachrichtenquellen untergraben wird, wenn die Menschen nicht mehr zwischen echten und gefälschten Nachrichten unterscheiden können.
Herr Lam zitierte einen Bericht des Reuters Institute aus dem Jahr 2024, aus dem hervorgeht, dass der Anteil der weltweiten Nutzer, die Nachrichten auf Medienplattformen vertrauen, auf den niedrigsten Stand seit einem Jahrzehnt gesunken ist, was größtenteils auf das Aufkommen von Deepfake-Inhalten zurückzuführen ist.
Laut Experte Vu Thanh Thang „leben wir in einer Ära, in der alle Informationen gefälscht werden können und kein ‚Risiko‘ mehr darstellen.“ Daher ist es notwendig, das Bewusstsein zu schärfen und persönliche Schutzmaßnahmen zu ergreifen sowie mehr über KI zu erfahren, um in Frieden leben zu können.
Die beiden Experten empfehlen Nutzern, Informationen vor Entscheidungen stets zu überprüfen und zu authentifizieren, sich mit Wissen auszustatten, um gefälschte Inhalte zu erkennen, die Weitergabe persönlicher Daten im Internet einzuschränken und die Verbreitung gefälschter Inhalte zu melden. „Nur durch proaktives und informiertes Handeln können sich Nutzer wirklich schützen und zu einem sichereren Cyberspace im digitalen Zeitalter beitragen“, sagte Herr Lam.
Quelle: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html
![[OCOP REVIEW] Tu Duyen Sirup - Die Essenz von Kräutern aus den Bergen und Wäldern von Nhu Thanh](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2025/6/5/58ca32fce4ec44039e444fbfae7e75ec)
Kommentar (0)