¿Qué tan bien entiendes la IA? 7 términos que debes conocer

[anuncio_1]

El rápido desarrollo de la inteligencia artificial (IA) ha suscitado preocupación porque se está desarrollando más rápido de lo que los humanos pueden comprender su impacto.

¿Qué tan bien entiendes a alguien? Aquí tienes 7 términos que necesitas saber (imagen 1). — Foto: ST

El uso de la IA general ha aumentado significativamente tras la aparición de herramientas como ChatGPT. Si bien estas herramientas ofrecen numerosas ventajas, también pueden utilizarse de forma indebida y perjudicial.

Para gestionar este riesgo, Estados Unidos y varios otros países han conseguido acuerdos con siete empresas, entre ellas Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, para comprometerse a adoptar prácticas seguras en el desarrollo de tecnología de IA.

El anuncio de la Casa Blanca viene con una jerga propia que puede resultar desconocida para el ciudadano medio, con palabras como "red teaming" y "watermarking". Aquí hay siete términos relacionados con la IA que conviene tener en cuenta.

aprendizaje automático

Esta rama de la IA busca entrenar máquinas para que realicen una tarea específica con precisión mediante la identificación de patrones. La máquina puede entonces hacer predicciones basadas en esos datos.

aprendizaje profundo

Las tareas creativas de IA a menudo se basan en el aprendizaje profundo, un método que implica entrenar computadoras usando redes neuronales, un conjunto de algoritmos diseñados para imitar las neuronas del cerebro humano, para hacer conexiones complejas entre patrones para generar texto, imágenes u otro contenido.

Debido a que los modelos de aprendizaje profundo tienen múltiples capas de neuronas, pueden aprender patrones más complejos que el aprendizaje automático tradicional.

Modelo de lenguaje grande

Un modelo de lenguaje grande, o LLM, se entrena con grandes cantidades de datos y su objetivo es modelar el lenguaje o predecir la siguiente palabra de una secuencia. Los modelos de lenguaje grande, como ChatGPT y Google Bard, pueden utilizarse para tareas como resumen, traducción y conversación.

Algoritmo

Un conjunto de instrucciones o reglas que permiten a las máquinas realizar predicciones, resolver problemas o completar tareas. Los algoritmos pueden ofrecer recomendaciones de compra y ayudar con la detección de fraudes y las funciones de chat de atención al cliente.

Inclinación

Dado que la IA se entrena con grandes conjuntos de datos, puede incorporar información perjudicial, como discursos de odio. El racismo y el sexismo también pueden aparecer en los conjuntos de datos utilizados para entrenar la IA, lo que genera contenido engañoso.

Las empresas de IA han acordado profundizar en cómo evitar sesgos dañinos y discriminación en los sistemas de IA.

Equipo rojo

Uno de los compromisos que las empresas han asumido con la Casa Blanca es realizar “equipos rojos” dentro y fuera de los modelos y sistemas de IA.

El "equipo rojo" consiste en probar un modelo para descubrir posibles vulnerabilidades. El término proviene de una práctica militar en la que un equipo simula las acciones de un atacante para desarrollar estrategias.

Este método se utiliza ampliamente para probar vulnerabilidades de seguridad en sistemas como plataformas de computación en la nube de empresas como Microsoft y Google.

Marca de agua

Una marca de agua permite saber si un audio o video fue creado por IA. Los datos verificados pueden incluir información sobre quién lo creó, así como cómo y cuándo se creó o editó.

Microsoft, por ejemplo, se ha comprometido a añadir marcas de agua a las imágenes creadas con sus herramientas de IA. Las empresas también se han comprometido con la Casa Blanca a añadir marcas de agua a las imágenes o registrar su origen para identificarlas como generadas por IA.

Las marcas de agua también se utilizan comúnmente para rastrear violaciones de propiedad intelectual. Las marcas de agua para imágenes generadas por IA pueden aparecer como ruido imperceptible, como un ligero cambio cada siete píxeles.

Sin embargo, colocar una marca de agua en un texto generado por IA puede ser más complejo y puede implicar modificar la plantilla de Word para que pueda identificarse como contenido generado por IA.

Hoang Ton (según Poynter)

[anuncio_2]
Fuente