Según el Ministerio de Ciencia y Tecnología , siguiendo la tendencia general a nivel mundial, se evalúa que los sistemas de inteligencia artificial aporten grandes beneficios a las personas, la sociedad y la economía vietnamita, apoyando y resolviendo problemas complejos que enfrentan las personas y las comunidades. Paralelamente, es necesario investigar y adoptar medidas para minimizar los riesgos en el desarrollo y uso de la inteligencia artificial, así como para equilibrar los factores económicos, éticos y legales relacionados. Por lo tanto, los organismos especializados deben investigar y desarrollar estándares y directrices de orientación, incluso si se trata de regulaciones flexibles y no vinculantes.
En las directrices, el Ministerio de Ciencia y Tecnología establece nueve principios para la investigación y el desarrollo responsables de sistemas de inteligencia artificial.
En primer lugar, está el espíritu de cooperación, promoviendo la innovación: los desarrolladores deben considerar la conectividad e interoperabilidad entre sus sistemas de inteligencia artificial y otros sistemas de inteligencia artificial considerando la diversidad de los sistemas para mejorar los beneficios del sistema, al tiempo que mejoran la coordinación para controlar los riesgos.
En segundo lugar, la transparencia: Los sistemas de IA que cumplen con este principio suelen ser sistemas que pueden afectar la vida, la integridad física, la privacidad o la propiedad de los usuarios o de terceros relacionados. En este caso, los desarrolladores deben prestar atención a la capacidad de identificar claramente las entradas y salidas del sistema, así como a la explicabilidad relacionada, basándose en las características de la tecnología aplicada y su uso, para garantizar la confianza de la sociedad, incluidos los usuarios.
En tercer lugar, controlabilidad: Para evaluar los riesgos asociados a la controlabilidad del sistema, los desarrolladores deben realizar una evaluación previa para determinar si el sistema cumple con los requisitos y estándares técnicos pertinentes. Uno de los métodos de evaluación de riesgos consiste en realizar pruebas en un espacio separado con medidas de seguridad implementadas antes de su puesta en marcha.
En cuarto lugar, el principio de seguridad: los desarrolladores deben garantizar que el sistema de inteligencia artificial no cause daños a la vida, el cuerpo o la propiedad de los usuarios o de terceros, incluso a través de intermediarios.
En quinto lugar, los principios de seguridad: además de cumplir con los documentos, instrucciones e implementar las medidas de seguridad de la información según lo prescrito, los desarrolladores deben prestar atención a puntos tales como: confiabilidad y resistencia a ataques físicos o accidentes del sistema; confidencialidad; integridad; y disponibilidad de la información necesaria relacionada con la seguridad de la información del sistema...
6. Privacidad: Los desarrolladores deben garantizar que los sistemas de IA no violen la privacidad de los usuarios ni de terceros. La privacidad incluye la privacidad espacial (tranquilidad en la vida personal), la privacidad de la información (datos personales) y la confidencialidad de las comunicaciones. Los desarrolladores deben aplicar la normativa y las directrices vigentes; pueden consultar las normas y directrices internacionales sobre privacidad.
Los desarrolladores deben realizar una evaluación previa de los riesgos y el impacto en la privacidad. En la medida de lo posible, deben tomar medidas adecuadas a las características de la tecnología aplicada durante el desarrollo del sistema para evitar vulneraciones de la privacidad al implementarla.
Séptimo, respeto a los derechos humanos y la dignidad: Al desarrollar sistemas de inteligencia artificial que involucran a humanos, los desarrolladores deben tener especial cuidado en respetar los derechos humanos y la dignidad de las personas involucradas. En la medida de lo posible, dependiendo de las características de la tecnología aplicada, los desarrolladores deben tomar medidas para garantizar que no se produzca discriminación ni injusticia debido al sesgo en los datos durante el entrenamiento del sistema.
Los desarrolladores deben tomar precauciones para garantizar que el sistema no viole los valores humanos y la ética social de acuerdo con los principios básicos de Vietnam (por ejemplo, valores que incluyen patriotismo, solidaridad, autosuficiencia, lealtad, honestidad, responsabilidad, disciplina, creatividad, etc.).
8º, soporte al usuario: Para apoyar a los usuarios, los desarrolladores de sistemas deben prestar atención a puntos como: Crear interfaces listas para usar para proporcionar información oportuna y apropiada para ayudar a los usuarios a tomar decisiones y usarlo cómodamente; implementar medidas para que el sistema sea más fácil de usar para las personas vulnerables de la sociedad (los ancianos, los discapacitados)...
9. Responsabilidad: Los desarrolladores deben rendir cuentas de los sistemas que desarrollan para garantizar la confianza de los usuarios. En concreto, deben proporcionar a los usuarios información que les ayude a elegir y utilizar el sistema. Además, para aumentar la aceptación social de los sistemas, los desarrolladores deben hacer más: proporcionar a los usuarios información y descripciones de las características técnicas de los sistemas que desarrollan, algoritmos, mecanismos de seguridad, etc.; escuchar las opiniones y dialogar con las partes interesadas.
[anuncio_2]
Fuente: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html
Kommentar (0)