In einer diese Woche verbreiteten Warnung teilte das FBI mit, dass es in letzter Zeit einen Anstieg der Zahl von Erpressungsopfern beobachtet habe, die angaben, mithilfe künstlicher Intelligenz gezielt darauf abgezielt worden zu sein, gewöhnliche Bilder aus Online-Posts, persönlichen Nachrichten oder Videochats in gefälschte Versionen zu bearbeiten.
Die spanische Polizei verhaftete einen Programmierer, der mithilfe künstlicher Intelligenz gefälschte Kinderpornografie-Bilder erstellte. Foto: Daily Mail
„Die Bilder werden dann von böswilligen Akteuren direkt an die Opfer gesendet, um sie zu erpressen oder sexuell zu belästigen. Nach der Verbreitung kann es für die Opfer zu erheblichen Herausforderungen kommen, die weitere Verbreitung der manipulierten Inhalte zu verhindern und sie aus dem Internet zu entfernen“, heißt es in der Warnung.
Das Amt sagte, die Bilder wirkten „lebensecht“, merkte jedoch an, dass in einigen Fällen auch Kinder betroffen gewesen seien.
Im Februar verhaftete die Polizei in Spanien einen Computerprogrammierer, der mithilfe künstlicher Intelligenz grausame Bilder von Kindesmissbrauch erstellt hatte. Es handelte sich vermutlich um eine der ersten Verhaftungen dieser Art.
Das FBI ging nicht näher auf die KI-Programme ein, die zur Erstellung sexueller Bilder verwendet wurden, merkte jedoch an, dass der technologische Fortschritt „die Qualität, Anpassungsfähigkeit und Zugänglichkeit der KI-gestützten Inhaltserstellung kontinuierlich verbessert“.
Die Bearbeitung gewöhnlicher Fotos zur Erstellung erotischer Bilder ist fast so alt wie die Fotografie selbst, doch die jüngste explosionsartige Verbreitung von Open-Source-KI-Tools hat diesen Prozess einfacher denn je gemacht.
Gefälschte Fotos oder Videos sind oft nicht von echten Versionen zu unterscheiden und in den letzten Jahren sind sogar mehrere Websites und soziale Netzwerke entstanden, die sich der Erstellung und dem Austausch KI-gestützter sexueller Bilder widmen.
Dies gilt als eines von mehreren Risiken, die künstliche Intelligenz für die Gesellschaft darstellen kann, wie Experten in jüngster Zeit besorgt und gewarnt haben.
Hoang Anh (laut Daily Mail, Reuters)
[Anzeige_2]
Quelle
Kommentar (0)