Cambiar para proteger mejor a los niños

SGGP 29/11/2023 06:52

El gobierno australiano ha publicado propuestas para un plan que busca aumentar las obligaciones de las empresas en línea para proteger a los niños y otros usuarios de Internet de contenido dañino.

Australia espera que los cambios regulatorios propuestos mantengan a los niños más seguros en línea

Los cambios propuestos llegan después de las críticas de que el gobierno no estaba haciendo lo suficiente para mantener a los niños seguros en línea, según la ministra de Comunicaciones de Australia, Michelle Rowland.

Los cambios propuestos ampliarían el alcance de la regulación para incluir algoritmos, inteligencia artificial sintética (IA) y garantizarían que los intereses superiores de los niños estén en primer plano al diseñar cualquier servicio, dijo Rowland.

“Sabemos que los niños son vulnerables al contenido dañino en línea y es importante priorizar su bienestar en el diseño y la implementación de los servicios”, afirmó la Sra. Rowland, explicando por qué los niños deben ser prioritarios en el diseño del contenido al que pueden acceder. La consulta sobre los cambios propuestos a los proveedores de servicios en línea, incluidos los servicios de redes sociales, finalizará en febrero de 2024. En agosto, eSafety, el organismo australiano de control de la seguridad en línea, solicitó la supervisión regulatoria del sector de las tecnologías de la comunicación.

Según eSafety, la agencia ha recibido quejas sobre niños que usan computadoras para crear imágenes pornográficas de sus compañeros con fines de acoso. eSafety afirma que los proveedores de servicios deben tomar “medidas razonables” para minimizar de manera proactiva el grado en que las capacidades de IA crean material o condiciones para actividades ilegales o dañinas, incluidas películas falsas generadas por IA.

eSafety ha advertido que se necesitan procedimientos de verificación de edad más estrictos en los sitios web utilizados por menores para evitar que se les obligue a crear material o contenido sexualmente abusivo. El análisis de más de 1300 denuncias de abuso sexual infantil recibidas por eSafety reveló que 1 de cada 8 menores "creó" el contenido ellos mismos porque los "depredadores" los obligaron a filmarse y fotografiarse en actos sexualmente explícitos. De hecho, los menores pueden eludir fácilmente la verificación de edad al participar en sitios web en línea.

El 26 de noviembre, Estados Unidos, el Reino Unido y más de 10 países anunciaron un acuerdo internacional sobre la seguridad de la IA. Según funcionarios estadounidenses, este es el primer acuerdo detallado sobre cómo garantizar el uso seguro de la tecnología de IA y, al mismo tiempo, insta a las empresas tecnológicas a crear sistemas de IA seguros desde la fase de diseño. Según el documento, 18 países han acordado que las empresas que diseñan y utilizan IA deben desarrollar e implementar esta tecnología avanzada. El acuerdo no es vinculante y ofrece principalmente recomendaciones generales, como la vigilancia del abuso de la IA y la protección de datos.

Fuente: https://www.sggp.org.vn/thay-doi-de-bao-ve-tre-em-tot-hon-post716112.html