Inquiétudes quant à la capacité de l’IA à lire dans les pensées et à manipuler les décisions humaines

(CLO) Les dernières recherches de l’Université de Cambridge ont révélé une vérité alarmante : l’IA n’est pas seulement un outil de soutien, mais a également la capacité de manipuler nos pensées, nous transformant en marionnettes dans une pièce de théâtre technologique.

Les chercheurs ont inventé un nouveau concept appelé « économie de l'intention ». Dans cette économie, les entreprises peuvent collecter et analyser d'énormes quantités de données sur nos comportements, nos préférences et nos habitudes afin de prédire nos prochaines actions.

Ils peuvent ensuite vendre ces informations à d’autres entreprises qui souhaitent cibler plus précisément leur publicité vers nous.

L'IA a la capacité de façonner nos pensées et nos actions. Illustration : IA

Par exemple, imaginons que vous cherchiez un nouveau téléphone. L'IA analysera votre comportement en ligne, les mots-clés que vous recherchez et même vos conversations pour mieux comprendre vos besoins. Les opérateurs téléphoniques pourront ensuite utiliser ces informations pour vous proposer des publicités sur les téléphones les mieux adaptés à vos besoins.

« Si rien n'est fait, l'économie de l'intention pourrait devenir un outil de manipulation de nos décisions », prévient le Dr Jonnie Penn, historien des technologies à l'Université de Cambridge. « Les entreprises pourraient utiliser l'IA pour nous inciter à acheter des produits dont nous n'avons pas besoin, voire influencer nos décisions de vote. »

Les auteurs ont également indiqué qu'un modèle d'IA piloterait les conversations pour servir les annonceurs, les entreprises et d'autres tiers. Les annonceurs pourraient utiliser les outils générés par l'IA pour créer des publicités en ligne personnalisées.

Le rapport cite l’exemple d’un modèle d’IA créé par Meta, appelé Cicero, qui a atteint une capacité « de niveau humain » pour jouer au jeu de société Diplomacy — un jeu qui, selon les auteurs, dépend de la déduction et de la prédiction des intentions des adversaires.

D’éminents experts du domaine technologique ont mis en garde contre la capacité de l’IA à prédire et à influencer le comportement humain.

Plus précisément, Jensen Huang, PDG de Nvidia, a exprimé un point de vue remarquable lors d'un discours l'année dernière. Il a affirmé que les modèles d'IA avancés seront capables de « déterminer vos intentions, vos désirs, ce que vous essayez de faire, et de vous présenter l'information de la meilleure façon possible ».

Hoang Anh (selon CUN, Nvidia, Guardian)

Source : https://www.congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html