¡Tratemos a la IA como un arma biológica, no como una bomba nuclear!

Recientemente, Gizmodo.com, un sitio web de tecnología de la información que se especializa en actualizar noticias de actualidad sobre tendencias tecnológicas mundialmente famosas, ha publicado un análisis sobre cómo las personas deberían tratar la tecnología de inteligencia artificial (IA).

Ilustración para el llamado a considerar la IA como un arma biológica. (Fuente: gizmodo.com)

En el artículo Tratar la IA como un arma biológica, no como un arma nuclear de Emilia Javorsky, científica -médica y directora del Future of Life Institute (EE.UU.), la autora sostiene que a pesar de que recientemente el mundo ha comparado repetidamente la IA con bombas nucleares, existe un enfoque más adecuado, que es regular este tipo de tecnología como un arma biológica o biotecnología.

Según el autor, la IA es quizás la tecnología más poderosa de la historia de la humanidad que se está desarrollando hoy en día. Sus efectos nocivos, como la discriminación, las amenazas a la democracia y la concentración de influencia, están bien documentados.

Sin embargo, las empresas líderes de IA están compitiendo para construir sistemas de IA cada vez más poderosos, lo que aumenta los riesgos a un ritmo sin precedentes en la historia de la humanidad.

Mientras los líderes luchan por contener y controlar el auge de la IA y sus riesgos asociados, deben considerar los ajustes y estándares que la humanidad ha aprovechado para crearla en el pasado.

El ajuste y la innovación pueden coexistir, especialmente cuando están en juego vidas humanas.

Una advertencia de la tecnología nuclear

Aunque la energía nuclear es más de 600 veces más segura que el petróleo en términos de mortalidad y es enormemente eficiente, pocos países la utilizan debido a las consecuencias que han visto debido a su enfoque de larga data hacia la energía nuclear.

El mundo aprendió sobre la tecnología nuclear con la bomba atómica y la bomba de hidrógeno. Con estas armas, por primera vez en la historia, la humanidad desarrolló una tecnología capaz de acabar con la civilización humana, fruto de una carrera armamentista que priorizó la velocidad y la innovación sobre la seguridad y el control.

Los fallos posteriores en la seguridad técnica y la gestión de riesgos, notoriamente responsables de los desastres nucleares de Chernóbil y Fukushima, destruyeron cualquier posibilidad de que la gente aceptara los aspectos positivos de la energía nuclear.

A pesar de la evaluación general favorable de los riesgos de la energía nuclear y de las décadas que los científicos llevan intentando convencer al mundo de su viabilidad, el concepto mismo de “nuclear” sigue… contaminado.

Cuando una tecnología causa daños en sus etapas iniciales, la concienciación social y la reacción exagerada pueden limitar permanentemente sus beneficios potenciales. Debido a los errores iniciales con la energía nuclear, la humanidad no ha podido aprovechar su fuente de energía limpia y segura, y la neutralidad de carbono y la estabilidad energética siguen siendo una quimera.

El enfoque correcto hacia la biotecnología

Sin embargo, en algunas áreas, los humanos han acertado. La biotecnología es uno de esos campos, impulsado a un rápido desarrollo en un contexto donde muchos pacientes sufren y muchos mueren cada día por enfermedades incurables.

El lema de esta investigación no es «moverse rápido y romper cosas», sino innovar con la mayor rapidez y seguridad posibles. Los seres humanos limitan el ritmo de la innovación en este campo mediante un sistema de regulaciones, ética y normas que protegen el bienestar de la sociedad y de las personas, y protegen a la industria de la paralización ante reacciones adversas que podrían provocar un desastre.

Cuando se prohibieron las armas biológicas en la Convención sobre Armas Biológicas durante la Guerra Fría, las superpotencias opositoras acordaron que su creación no beneficiaría a nadie. Los líderes comprendieron que estas tecnologías, difíciles de controlar pero de fácil acceso, no debían considerarse un mecanismo para ganar la carrera armamentística, sino una amenaza para la humanidad misma.

Emilia Javorsky es una de las científicas que firmó recientemente una carta abierta solicitando una moratoria de seis meses al desarrollo de la IA. También firmó una declaración advirtiendo que la IA representa un riesgo de extinción para la humanidad.

La pausa en la carrera de las armas biológicas permite a los humanos desarrollarlas a un ritmo responsable. Los científicos y los organismos reguladores aplican estándares estrictos a cualquier innovación que pueda potencialmente dañar a los humanos.

Estos ajustes no han sido gratuitos, pero han establecido una bioeconomía con aplicaciones en áreas que van desde la energía limpia hasta la agricultura.

Durante la pandemia de Covid-19, los biólogos han aplicado la tecnología de ARNm para producir vacunas efectivas a una velocidad sin precedentes en la historia de la humanidad.

Una encuesta reciente a investigadores de IA reveló que el 36 % de los encuestados creía que la IA podría causar un desastre de magnitud nuclear. Sin embargo, las respuestas y regulaciones gubernamentales han tardado en adaptarse al ritmo de la adopción de la tecnología, y la aplicación ChatGPT ya supera los 100 millones de usuarios.

El rápido aumento de los riesgos de la IA ha llevado a 1800 directores ejecutivos y 1500 profesores universitarios en Estados Unidos a firmar recientemente una carta solicitando una pausa de seis meses en el desarrollo de la IA y un proceso urgente de regulación y mitigación de riesgos. Esta pausa daría tiempo a la comunidad global para limitar el daño causado por la IA y prevenir el riesgo de un desastre irreversible para nuestra sociedad.

Al evaluar los riesgos y los posibles daños de la IA, también debemos considerar cómo no perder de vista el potencial positivo de esta tecnología. Si desarrollamos la IA responsablemente ahora, podremos obtener increíbles beneficios de ella. Por ejemplo, los beneficios de aplicar la IA al descubrimiento y desarrollo de fármacos, la mejora de la calidad y el coste de la atención médica, y el acceso a médicos y tratamientos médicos.

DeepMind de Google ha demostrado que la IA tiene el potencial de resolver problemas fundamentales de la biología que la humanidad ha evitado durante mucho tiempo. Según el estudio, la IA podría acelerar la consecución de todos los Objetivos de Desarrollo Sostenible de las Naciones Unidas, impulsando a la humanidad hacia un futuro de mejor salud, equidad, prosperidad y paz.

Ahora es el momento de que la comunidad global se una, como lo hizo hace 50 años en la Convención sobre Armas Biológicas, para garantizar que el desarrollo de la IA sea seguro y responsable. Si no actuamos pronto, corremos el riesgo de destruir el prometedor futuro de la IA y nuestra sociedad actual.

Fuente: https://baoquocte.vn/chuyen-gia-my-hay-doi-xu-voi-ai-nhu-vu-khi-sinh-hoc-khong-phai-bom-hat-nhan-230623.html