Los niños corren el riesgo de convertirse en víctimas de IA cuando sus padres publican fotos en línea

La explosión de información y conexiones en las redes sociales, en particular, y en internet, en general, ha hecho que muchas personas se acostumbren a compartir todas sus emociones y acontecimientos personales en internet sin prever los peligros que ello conlleva. No solo publican imágenes y vídeos de sí mismos en línea, sino que muchos adultos también se otorgan el derecho de publicar contenido con rostros o voces de niños sin permiso. Una vez que estas imágenes y vídeos aparecen en línea, cualquiera con acceso puede usarlos sin restricciones.

El pasado julio, la operadora de red alemana Deutsche Telekom publicó un anuncio simulado que mostraba cómo se podían abusar de imágenes de niños pequeños en línea mediante IA (inteligencia artificial) con diversos fines. Titulado "Un mensaje de Ella" , el vídeo utiliza IA y deepfake para crear una versión para adultos de imágenes y vídeos de la pequeña Ella publicados en línea por sus padres.

'Ella adulta' creada por IA a partir de imágenes de redes sociales de Ella, de 9 años, en el video de advertencia de Deutsche Telekom

"AI Ella" puede moverse y hablar como una persona real, lo que sorprendió a sus padres al ver a su hija en la pantalla gigante del cine. Incluso puede llorar y expresarse como una persona real.

Sé que para ti, estas fotos son recuerdos. Pero para otros, son datos. Y para mí, podrían ser el comienzo de un futuro terrible donde podrían robarme la identidad y acabar en la cárcel por cosas que no hice... Lo que compartes en línea son hitos digitales que me acompañarán el resto de mi vida —compartió Ella, el personaje de IA—.

Con solo compartir una foto, la IA puede crear la versión adulta de una niña de 9 años. Deepfake separa las voces de los videos y las convierte en voces adultas. Las imágenes y los videos pueden ser completamente falsificados, y los datos de identificación personal se convierten en información valiosa robada con fines ilegales. Además, los delincuentes pueden usar imágenes recopiladas en línea para cortar y pegar, usar la IA para crear pornografía infantil o una serie de fotos que se burlan, difaman y distorsionan la verdad...

Christian Loefert, director de Comunicación y Marketing de Deutsche Telekom, afirmó: «Estudios recientes muestran que un niño promedio de cinco años tiene alrededor de 1.500 fotos publicadas en línea sin su consentimiento, publicadas nada menos que por la persona en la que más confía: su madre o su padre».

Según The New Yorker, los expertos estiman que para 2030, dos tercios del robo de identidad se deberán a la difusión incontrolada de fotos en redes sociales. Deutsche Telekom también citó un informe que reveló que más del 75 % de los padres comparten datos sobre sus hijos en redes sociales. Mientras tanto, ocho de cada diez padres tienen miembros en redes sociales que siguen sus cuentas sin siquiera conocerlos en persona.

Recientemente, el desarrollo de herramientas de IA se ha vuelto cada vez más popular, llegando al usuario común a través de una serie de aplicaciones para dispositivos móviles. En lugar de ser cautelosos con estos programas, muchas personas, sin darse cuenta, comparten fotos personales o familiares en redes sociales. Esta acción proporciona, sin darse cuenta, a la IA una gran cantidad de datos gratuitos para aprender sobre las personas, desde la estructura facial hasta el entorno.

Muchos expertos en seguridad advierten que en todas las situaciones, incluso con las nuevas tendencias, los usuarios deben seguir siendo cautelosos y no intercambiar datos personales, especialmente los faciales propios y de sus seres queridos, por unos minutos de diversión en las redes sociales.

Enlace de origen: https://thanhnien.vn/rui-ro-tre-em-thanh-nan-nhan-cua-ai-khi-cha-me-dang-hinh-len-mang-185230911090311966.htm