Connaissez-vous bien l'IA ? Voici sept termes à connaître

Le développement rapide de l’intelligence artificielle (IA) a suscité des inquiétudes quant au fait qu’elle se développe plus vite que les humains ne peuvent en comprendre l’impact.

Dans quelle mesure comprenez-vous quelqu'un ? Voici 7 termes à connaître (image 1). — Photo : ST

L'utilisation de l'IA générale a considérablement augmenté depuis l'émergence d'outils comme ChatGPT. Si ces outils présentent de nombreux avantages, ils peuvent également être utilisés à mauvais escient.

Pour gérer ce risque, les États-Unis et plusieurs autres pays ont obtenu des accords de la part de sept entreprises, dont Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, pour s’engager à adopter des pratiques sûres dans le développement de la technologie de l’IA.

L'annonce de la Maison Blanche s'accompagne d'un jargon qui lui est propre, parfois méconnu du grand public, avec des termes comme « red teaming » et « watermarking ». Voici sept termes liés à l'IA à surveiller.

Apprentissage automatique

Cette branche de l'IA vise à entraîner les machines à effectuer une tâche spécifique avec précision en identifiant des schémas. La machine peut ensuite formuler des prédictions à partir de ces données.

Apprentissage profond

Les tâches d’IA créatives s’appuient souvent sur l’apprentissage profond, une méthode qui consiste à former des ordinateurs à l’aide de réseaux neuronaux, un ensemble d’algorithmes conçus pour imiter les neurones du cerveau humain, afin d’établir des connexions complexes entre des modèles pour générer du texte, des images ou d’autres contenus.

Étant donné que les modèles d’apprentissage profond comportent plusieurs couches de neurones, ils peuvent apprendre des modèles plus complexes que l’apprentissage automatique traditionnel.

Grand modèle de langage

Un modèle de langage à grande échelle (MLL) est entraîné à partir d'énormes quantités de données et est destiné à modéliser le langage ou à prédire le mot suivant dans une séquence. Les modèles de langage à grande échelle, tels que ChatGPT et Google Bard, peuvent être utilisés pour des tâches telles que le résumé, la traduction et la conversation.

Algorithme

Un ensemble d'instructions ou de règles permettant aux machines de faire des prédictions, de résoudre des problèmes ou d'accomplir des tâches. Les algorithmes peuvent fournir des recommandations d'achat et contribuer à la détection des fraudes et aux fonctions de chat du service client.

Biais

L'IA étant entraînée sur de grands ensembles de données, elle peut y intégrer des informations préjudiciables, telles que des discours haineux. Le racisme et le sexisme peuvent également apparaître dans les ensembles de données utilisés pour entraîner l'IA, donnant lieu à des contenus trompeurs.

Les entreprises d’IA ont convenu d’approfondir leurs recherches sur la manière d’éviter les préjugés et la discrimination préjudiciables dans les systèmes d’IA.

Équipe rouge

L’un des engagements pris par les entreprises auprès de la Maison Blanche est de mener des « équipes rouges » à l’intérieur et à l’extérieur des modèles et systèmes d’IA.

Le « red teaming » consiste à tester un modèle pour identifier des vulnérabilités potentielles. Ce terme provient d'une pratique militaire où une équipe simule les actions d'un attaquant pour élaborer des stratégies.

Cette méthode est largement utilisée pour tester les vulnérabilités de sécurité dans des systèmes tels que les plateformes de cloud computing d’entreprises comme Microsoft et Google.

Filigrane

Un filigrane permet de savoir si un fichier audio ou vidéo a été créé par l'IA. Les informations vérifiées peuvent inclure des informations sur l'auteur, ainsi que sur la manière et la date de création ou de modification.

Microsoft, par exemple, s'est engagé à filigraner les images créées par ses outils d'IA. Des entreprises se sont également engagées auprès de la Maison Blanche à filigraner les images ou à enregistrer leur origine… afin de les identifier comme générées par l'IA.

Les filigranes sont également couramment utilisés pour détecter les violations de propriété intellectuelle. Les filigranes des images générées par l'IA peuvent apparaître sous forme de bruit imperceptible, comme un léger changement tous les sept pixels.

Cependant, le tatouage numérique du texte généré par l'IA peut être plus complexe et peut impliquer de modifier le modèle de mot, afin qu'il puisse être identifié comme un contenu généré par l'IA.

Hoang Ton (selon Poynter)

Source