Nick Clegg, presidente de asuntos globales de Meta, afirmó que la compañía utilizará un conjunto de marcadores integrados en los archivos. Aplicará etiquetas a cualquier contenido publicado en sus servicios de Facebook, Instagram y Threads, indicando a los usuarios que las imágenes (que pueden parecer fotos reales) son en realidad creaciones digitales generadas por inteligencia artificial. La compañía también ha etiquetado el contenido creado con sus propias herramientas de IA, según Reuters.
Una vez que el nuevo sistema esté en funcionamiento, Meta hará lo mismo con las imágenes generadas en servicios de OpenAI, Microsoft, Adobe, Midjourney, Shutterstock y Alphabet. El anuncio es la primera noticia de un nuevo estándar que las empresas tecnológicas están desarrollando para mitigar los efectos nocivos de la IA generativa, que puede crear contenido falso a partir de contenido simple.
El etiquetado de imágenes generado por IA ayudará a frenar la desinformación y las estafas
El enfoque se basa en un patrón establecido durante la última década por las empresas para coordinar la eliminación de contenido prohibido en las plataformas, como representaciones de violencia masiva y explotación infantil.
Clegg cree que en este momento las empresas pueden etiquetar de forma confiable las imágenes generadas por IA, aunque señala que aún se están desarrollando herramientas de etiquetado de contenido de audio y video más sofisticadas.
En el futuro próximo, Meta comenzará a exigir a los usuarios que etiqueten el contenido de audio y video alterado e impondrá sanciones si no lo hacen. Sin embargo, Clegg afirmó que actualmente no existe un mecanismo viable para etiquetar el texto generado por herramientas de IA como ChatGPT.
La junta de supervisión independiente de Meta criticó la política de la compañía sobre videos editados engañosamente, diciendo que el contenido debería ser etiquetado en lugar de eliminado, por lo que Clegg dijo que la nueva medida de Meta podría ayudar a clasificar mejor dicho contenido.
[anuncio_2]
Enlace de origen
Kommentar (0)