El riesgo de que la IA manipule imágenes personales

El desarrollo de la inteligencia artificial (IA) no sólo amenaza los empleos de los artistas de todo el mundo , sino que también pone a los usuarios de Internet en riesgo de que sus imágenes sean manipuladas de diversas maneras.

Las herramientas de IA crean fácilmente productos tecnológicos falsos. (Foto ilustrativa)

“La era de los deepfakes”

Por otro lado, la IA, en malas manos, puede robar fácilmente imágenes de las cuentas de redes sociales de las personas y convertirlas en referencias no deseadas. Por ejemplo, los sitios web pornográficos pueden usar imágenes de personas sin su consentimiento.

“Estamos en la era de los deepfakes”, afirmó Hadi Salman, investigador del Instituto Tecnológico de Massachusetts (MIT). “Ahora cualquiera puede manipular imágenes y vídeos para que la gente haga algo que en realidad no hizo”.

Deepfake es una combinación de las palabras “deep learning” y “fake”, que es un método de uso de IA para crear productos tecnológicos falsos en forma de audio, imágenes o incluso vídeos .

En tan solo unos segundos, con unas simples órdenes, la IA puede crear cualquier imagen que los "malos" quieran. Por ejemplo, alguien podría pedirle a la IA que cree una foto del Papa con un abrigo de Balenciaga y luego publicarla en internet antes de que se descubra que la foto es falsa.

La tecnología de IA también ha sorprendido a los usuarios con su capacidad para crear obras de arte al estilo de un artista en particular. Por ejemplo, se puede crear un cuadro de un gato que parezca pintado al estilo del famoso pintor Vincent Van Gogh.

Para los artistas visuales, estas herramientas corren el riesgo de dejarlos sin trabajo, ya que los modelos de IA imitan sus estilos únicos y crean obras de arte sin su permiso.

Hélice de IA

Eveline Fröhlich, que vive en Stuttgart, Alemania, es una de los cada vez más numerosos artistas que luchan contra el alcance excesivo de la IA y tratan de encontrar formas de proteger sus obras visuales en línea de la manipulación.

Recientemente, la Sra. Fröhlich conoció una herramienta llamada Glaze, desarrollada por científicos informáticos de la Universidad de Chicago (EE. UU.) para evitar el abuso de los modelos de IA.

Ben Zhao, profesor de informática en la Universidad de Chicago y uno de los investigadores principales del proyecto Glaze, dijo a CNN que la herramienta está destinada a proteger el trabajo único de los artistas de aquellos que entrenan modelos de IA.

El software Glaze utiliza algoritmos de aprendizaje automático para realizar pequeños cambios en las imágenes digitales que son invisibles a simple vista, pero crean una capa protectora para el trabajo en el entorno en línea, engañando a los modelos de IA y haciéndolos incapaces de copiar el estilo del autor.

Gracias a Glaze, las obras de arte quedan “cubiertas con una capa de invisibilidad”, impidiendo que la IA “lea” la imagen.

Por ejemplo, explica Zhao, un artista podría subir la imagen de su propia pintura al óleo, que se procesa mediante Glaze. Cuando los modelos de IA "leen" la pintura, la verían como un boceto a carboncillo, mientras que una persona la reconocería inmediatamente como una pintura al óleo. Tras procesarla mediante Glaze, la obra de arte se vería significativamente diferente a los ojos de la IA.

El equipo de Zhao lanzó la primera versión de Glaze en marzo pasado, y ha sido descargada más de un millón de veces. La semana pasada, el equipo lanzó una versión gratuita de Glaze en línea.

El equipo espera que la herramienta Glaze ayude a proteger los derechos de autor de los artistas hasta que se establezcan regulaciones y leyes específicas.

Desde que se presentó Glaze, dijo el Sr. Zhao, ha visto un aumento en el número de actores de voz, novelistas, músicos y periodistas que se comunican con su equipo para preguntar sobre una versión de Glaze para su campo.

El artista visual residente en California, Jon Lam, utiliza la herramienta Glaze para proteger sus obras de arte en línea y evitar que se utilicen para entrenar modelos de IA, y dice que ahora usa la aplicación para todas las obras de arte que comparte en línea.

Durante años, artistas como él han publicado su trabajo en alta resolución en línea como un motivo de orgullo, dijo. "Queremos que la gente vea lo detalladas e increíbles que son las fotos en Full HD. Sin embargo, los artistas desconocen que su trabajo puede ser devorado por modelos de IA, que luego copian su estilo y los exponen a una competencia desleal".

Ahora sabemos que la gente está usando nuestro trabajo de alta resolución para alimentar máquinas de IA y competir en el mismo espacio que nosotros. Por eso, debemos ser más cautelosos y empezar a pensar en cómo protegernos, dijo.

Salman y su equipo acaban de lanzar otra herramienta para proteger las imágenes de la IA. La aplicación, llamada PhotoGuard, permite a los usuarios colocar una capa invisible de protección sobre las imágenes para evitar que los modelos de IA las manipulen.

El objetivo de PhotoGuard es proteger las fotos que ya han sido subidas a Internet por sus autores de la “manipulación maliciosa de la IA”, dijo Salman.

La aplicación PhotoGuard ajusta los píxeles de una imagen de forma imperceptible para los humanos. Sin embargo, este cambio, imperceptible a simple vista, es lo suficientemente potente como para eludir con precisión cualquier intento de manipulación de la imagen por parte de los modelos de IA.

Esto significa que si alguien intenta editar una foto usando IA después de haberla protegido con PhotoGuard, la foto resultante "no será realista en absoluto", explicó Salman.

Sin licencia

Por otro lado, incluso si las herramientas de IA toman y manipulan imágenes, lo que crean no se reconoce como susceptible de derechos de autor.

Desde su aparición y popularidad, la IA ha suscitado simultáneamente un debate: ¿están estas obras protegidas por derechos de autor? De ser así, ¿a quién pertenecen?

La Oficina de Derechos de Autor de Estados Unidos (USCO) ha tomado una decisión oficial sobre estas obras. Según la USCO, las imágenes generadas por IA mediante comandos (como las aplicaciones actuales Midjourney, Dall-E y Stable Diffusion) no estarán sujetas a derechos de autor en Estados Unidos.

La ley estadounidense establece que la propiedad intelectual solo puede estar sujeta a derechos de autor si es producto de la creatividad humana. Actualmente, la USCO solo reconoce obras creadas por humanos. Por lo tanto, las máquinas de IA no se considerarán autores, y los productos que creen no estarán sujetos a derechos de autor.

“Si los elementos tradicionales de los derechos de autor de una obra son creados por una máquina, entonces la obra no está protegida por derechos de autor de un ser humano y la USCO no la registrará”, dijo la directora de la USCO, Shira Perlmutter.

Fuente: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html