Deepfakes sind weit verbreitet – Niemand ist vor KI-Identitätstricks sicher

Stimmenimitation, Gesichtsimitation, Lippensynchronisation … KI dient heute nicht nur der Arbeit und Unterhaltung, sondern entwickelt sich auch zu einem gefährlichen Instrument für kommerziellen Betrug. Bilder von Prominenten, Ärzten und sogar Mönchen werden von KI imitiert, um Produkte in sozialen Netzwerken zu verkaufen. Echte Menschen wissen nichts davon, und Käufer verlieren das Vertrauen.

Ein „geliehenes Gesicht“ für den Verkauf von Waren

„Egal, wie Ihr Knie ursprünglich beschaffen war, wenden Sie einfach unsere Methode an. Wir garantieren Ihnen eine deutliche Besserung innerhalb von 7 Tagen. Sollte sie völlig wirkungslos sein, bin ich bereit, Ihnen als aufrichtige Entschuldigung eine Entschädigung von 1 Milliarde VND zu zahlen. Sollten Sie tatsächlich keine Wirkung feststellen, verpflichten wir uns zu einer 100-prozentigen Rückerstattung, und ich bin selbst bereit, eine Entschädigung von 1 Milliarde VND zu zahlen. Nicht jeder traut sich so eine Verpflichtung.“ So äußerte sich eine berühmte Sängerin, die für eine Massagecreme zur Linderung von Gelenkschmerzen wirbt. Erwähnenswert ist jedoch, dass diese Werbung vollständig von einer künstlichen Intelligenz erstellt wurde.

Der obige Werbeclip wurde von einem TikTok-Konto namens LShop verwendet. Dabei wurden Bild, Stimme und Körpersprache der Sängerin auf eine realistische Weise dargestellt, die ohne genaue Beobachtung nicht zu erkennen ist. Das Konto hat fast 9.000 Follower, 67.000 Likes und jeder Clip wurde tausendfach angesehen. Allein das Werbevideo mit dem Bild der Sängerin erhielt über 1.000 Likes und fast 100 Kaufempfehlungen.

Mit derselben Massagecreme „produzierten“ Vertriebskanäle auch eine weitere Deepfake-Version, diesmal einen Arzt. Im Clip versprach die Figur kategorisch: „Ich bin der renommierteste Orthopäde in Hanoi und garantiere, dass selbst der schwerste Meniskusriss in nur drei Tagen vollständig geheilt werden kann. Dieses Gel wurde vom renommiertesten orthopädischen Verband Vietnams zertifiziert.“ Dieser Satz wurde von der KI für eine Reihe anderer „Ärzte“ nachgeahmt, sodass Zuschauer ihn leicht für echt halten konnten.

Der Clip erhielt fast 4.000 Likes und über 120 Kommentare. Auf unsere Kaufanfrage reagierte der Account jedoch nicht und interagierte auch nicht mit den Zuschauern im Kommentarbereich. Das Produkt blieb lediglich im Warenkorb liegen, sodass es direkt gekauft werden konnte. Das angebotene Produkt stammt aus China, und die Produktinformationen sind sehr vage.

Von Sängern und Prominenten bis hin zu Ärzten – alle wurden von Vertriebskanälen imitiert, die KI-Clips erstellen, um gesundheitsbezogene Produkte zu verkaufen.

Doch damit nicht genug: Der Deepfake-Trick hat sich auch auf spirituelle Themen ausgeweitet. Ein TikTok-Konto namens Phat Phap NM veröffentlicht nicht nur die Vorträge von Meister TPH, sondern nutzt KI-Technologie auch, um Bilder des „Meisters“ zu erstellen, der Produkte wie Bodhi-Blätter und Adlerholzarmbänder verkauft.

Als Zuschauer Kommentare mit Kaufaufforderungen hinterließen, antwortete der Kanal: „Wenn die Dinge nicht wie geplant laufen, gehen Sie in den Anzeigebereich meines Kontos und suchen Sie sich aus, was Sie brauchen. Seien Sie nicht geizig mit dem Kleingeld und ignorieren Sie das größere.“ Unmittelbar danach musste dieser Mönch selbst das Wort ergreifen und klarstellen, dass er nie Werbung für solche Produkte gemacht oder daran beteiligt gewesen sei.

Die Grenze zwischen Kreativität und Rechtsverletzung

Der Cybersicherheitsexperte Ngo Minh Hieu (Hieu PC) vom National Cyber ​​Security Monitoring Center (NCSC) erklärte, dass gefälschte Werbeclips, die in sozialen Netzwerken verbreitet werden, hauptsächlich mit Deepfake-Software erstellt werden. Diese Software ist keine Seltenheit, und viele Dienste bieten sogar kostengünstige und einfach zu bedienende Pakete an. Obwohl es positive Anwendungen im Bereich der digitalen Inhaltserstellung und Medienproduktion gibt, liege das Problem laut Herrn Hieu darin, dass manche diese Technologie für negative Zwecke wie Betrug, Identitätsfälschung, die Verbreitung von Fake News oder die Diffamierung anderer durch echt aussehende Videos missbrauchen.

Herr Hieu nannte auch einige Anzeichen, die dabei helfen könnten, Deepfake-Clips zu erkennen, etwa einen etwas steifen Gesichtsausdruck im Video oder Mundformen und -bewegungen, die nicht zum Dialog passen. Herr Hieu warnte, dass es schon ernstere Fälle gegeben habe, in denen KI dazu verwendet wurde, die Gesichter von Opfern in sensible Videos einzufügen, um sie einzuschüchtern, zu nötigen und Profit zu machen.

Laut Rechtsanwalt Tran Duc Phuong von der Anwaltskammer Ho-Chi-Minh-Stadt stellt die Verwendung von KI zur Erstellung von Bildern von Prominenten (oder bestimmten Personen) ohne deren Zustimmung eine Verletzung der Persönlichkeitsrechte dar, insbesondere des Rechts am eigenen Bild gemäß Artikel 32 des Zivilgesetzbuches von 2015. Das Gesetz besagt: „Jeder Mensch hat das Recht am eigenen Bild. Die Verwendung des Bildes einer Person bedarf der Zustimmung dieser Person. Für die Verwendung eines Bildes zu kommerziellen Zwecken ist eine Vergütung an die Person zu zahlen, deren Bild verwendet wird, sofern die Parteien nichts anderes vereinbart haben.“

Wenn also der Inhaber eines Social-Network-Kontos künstlich nachgebildete Bilder aus echten Fotos, alten Videos usw. ohne Erlaubnis für Werbe- oder Verkaufszwecke verwendet, verstößt er gegen das Gesetz. Verstößt die Verwendung eines Bildes gegen die Bestimmungen dieses Artikels, hat der Inhaber des Bildes das Recht, gerichtlich eine Entscheidung zu beantragen, die den Verletzer sowie die zuständigen Behörden, Organisationen und Einzelpersonen dazu verpflichtet, das Bild zurückzuziehen, zu vernichten und die Nutzung zu beenden, Schadensersatz zu leisten und weitere Maßnahmen gemäß den gesetzlichen Bestimmungen zu ergreifen.

CAM NUONG

Quelle: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html