Preocupación de que la IA pueda leer las mentes y manipular las decisiones humanas

(CLO) La última investigación de la Universidad de Cambridge ha revelado una verdad alarmante: la IA no es solo una herramienta de apoyo, sino que también tiene la capacidad de manipular nuestros pensamientos, convirtiéndonos en marionetas en una obra tecnológica.

Los investigadores han acuñado un nuevo concepto llamado « economía de la intención». En esta economía, las empresas pueden recopilar y analizar enormes cantidades de datos sobre nuestro comportamiento, preferencias y hábitos para predecir nuestros próximos pasos.

Luego pueden vender esta información a otras empresas que quieran orientar su publicidad hacia nosotros con mayor precisión.

La IA tiene la capacidad de moldear nuestros pensamientos y acciones. Ilustración: IA

Por ejemplo, supongamos que busca un teléfono nuevo. La IA rastreará su comportamiento en línea, las palabras clave que busca e incluso sus conversaciones para comprender mejor sus necesidades. Las compañías telefónicas pueden usar esta información para mostrarle anuncios sobre los teléfonos más adecuados para usted.

“Si no se controla, la economía de la intención podría convertirse en una herramienta para manipular nuestras decisiones”, advierte el Dr. Jonnie Penn, historiador de tecnología de la Universidad de Cambridge. “Las empresas podrían usar la IA para hacernos comprar productos que no necesitamos, o incluso influir en nuestras decisiones de voto”.

Los autores también indicaron que un modelo de IA gestionaría las conversaciones para servir a anunciantes, empresas y terceros. Los anunciantes podrían usar las herramientas generadas por IA para crear anuncios en línea personalizados.

El informe cita el ejemplo de un modelo de IA creado por Meta, llamado Cicero, que logró una capacidad “a nivel humano” para jugar al juego de mesa Diplomacia, un juego que, según los autores, depende de inferir y predecir las intenciones de los oponentes.

Los principales expertos en el campo de la tecnología han advertido sobre la capacidad de la IA para predecir e influir en el comportamiento humano.

En concreto, el director ejecutivo de Nvidia, Jensen Huang, compartió una visión destacada en un discurso el año pasado. Argumentó que los modelos avanzados de IA podrán "descifrar tus intenciones, tus deseos, lo que intentas hacer y presentarte la información de la mejor manera posible".

Hoang Anh (según CUN, Nvidia, Guardian)

Fuente: https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html