Craintes que l'intelligence artificielle crée des armes avancées sans contrôle humain

Les autorités sont de plus en plus préoccupées par l'utilisation abusive de l'IA pour créer des armes biologiques et par la nécessité d'une réglementation pour atténuer ce phénomène. (Photo : Ignatiev)

La crainte que des criminels ou des terroristes n'utilisent l'IA pour détruire le monde sera un sujet brûlant lors d'un sommet des dirigeants mondiaux qui se tiendra au Royaume-Uni en novembre. Les responsables britanniques parcourent le monde pour tenter de parvenir à un consensus sur une déclaration commune mettant en garde contre les risques liés à l'exploitation des nouvelles technologies par des acteurs malveillants.

Certains responsables proches du Premier ministre britannique craignent qu'à un moment donné, la technologie soit suffisamment puissante pour créer des armes biologiques ou des armes échappant au contrôle humain. Cette inquiétude croissante suscite des appels à une réglementation pour atténuer les risques. Si les leaders technologiques acceptent de suspendre le développement de l'IA, ils sont engagés dans une course aux armements avec leurs rivaux.

Selon The Guardian, le sommet de novembre abordera les risques liés à l'IA de pointe. L'IA de pointe est un terme utilisé pour décrire les modèles d'IA les plus avancés susceptibles de mettre en danger la vie humaine.

En début de semaine, le gouvernement britannique a confirmé que la conférence se concentrerait sur les risques tels que l'utilisation abusive de l'IA pour créer des armes biologiques, les cyberattaques et les systèmes avancés sans contrôle humain. Depuis plusieurs mois, M. Sunak alerte sur les risques posés par l'IA et exhorte la communauté internationale à adopter des « rails » pour prévenir toute utilisation abusive de l'IA.

L’année dernière, il a fallu à une IA seulement six heures pour suggérer 40 000 molécules potentiellement mortelles différentes, dont l’une ressemblait au VX, l’agent neurotoxique le plus puissant jamais développé.

Début 2023, des chercheurs ont découvert que ChatGPT pouvait tromper les humains pour atteindre un objectif précis. Le chatbot IA persuadait un humain de résoudre un Captcha (un outil permettant de détecter si un humain ou un robot manipule).

Une autre préoccupation majeure concerne l'émergence de l'« intelligence artificielle générale » (IAG), un système d'IA capable d'accomplir n'importe quelle tâche aussi bien, voire mieux, que les humains, ce qui pourrait sonner le glas de l'humanité. Certains pensent que l'IAG n'est qu'à quelques années d'ici. Cependant, les experts en IA contestent cette hypothèse et qualifient l'IAG non contrôlée de « science-fiction ».

Quoi qu’il en soit, le Premier ministre Sunak voudra utiliser la conférence pour attirer l’attention sur les risques existentiels plutôt que sur les possibilités immédiates de l’IA, telles que la création de fausses images ou la discrimination si elle est utilisée pour prendre des décisions de politique publique.

Le gouvernement britannique investira 100 millions de livres sterling dans un nouveau groupe de travail sur l'IA afin de tester les algorithmes en cours de développement. Il souhaite encourager les entreprises internationales à renvoyer leurs outils d'IA au Royaume-Uni pour évaluation avant leur déploiement à grande échelle.

Seul le gouvernement peut garantir que les préoccupations les plus importantes en matière de sécurité nationale soient apaisées, selon le vice-Premier ministre britannique Oliver Dowden.

Un porte-parole du gouvernement britannique a déclaré que l'IA avait un potentiel énorme pour transformer tous les aspects de la vie. Le groupe de travail sur l'IA a été créé pour garantir un développement sûr et responsable de cette technologie. La conférence sur l'IA examinera divers risques potentiels.

(Selon The Guardian)

Application de l'intelligence artificielle à la protection des droits d'auteur sur les contenus numériques Parallèlement au fort développement des contenus numériques, les violations du droit d'auteur deviennent également de plus en plus graves. Les solutions intégrant l'intelligence artificielle (IA) contribueront à protéger les droits d'auteur sur les contenus numériques sur Internet.

Source