Les outils d’intelligence artificielle conversationnelle (IA) pourraient bientôt « influencer de manière dissimulée » la prise de décision des utilisateurs dans une nouvelle frontière commerciale appelée « économie de l’intention », ont averti des chercheurs de l’Université de Cambridge dans un article publié hier.

L’étude soutient que le marché potentiellement « lucratif mais troublant » qui émerge pour les « signaux numériques d’intention » pourrait, dans un avenir proche, influencer tout, de l’achat de billets de cinéma au vote pour les candidats politiques.

« Notre familiarité croissante avec les chatbots, les tuteurs numériques et d’autres agents d’IA dits « anthropomorphes » contribue à rendre possible cette nouvelle gamme de « technologies persuasive », a-t-elle ajouté.

Si rien n’est fait, cela pourrait permettre une « manipulation sociale à l’échelle industrielle », ont soutenu les deux chercheurs dans l’article.

Il caractérise la manière dont ce secteur émergent, surnommé « économie de l’intention », profilera l’attention et les styles de communication des utilisateurs et les connectera aux modèles de comportement et aux choix qu’ils font.

« Des outils d’IA sont déjà en cours de développement pour susciter, déduire, collecter, enregistrer, comprendre, prévoir et finalement manipuler et marchandiser les plans et les objectifs humains », a déclaré le co-auteur Yaqub Chaudhary.

La nouvelle IA s’appuiera sur ce que l’on appelle les grands modèles de langage, ou LLM, pour cibler la cadence, la politique, le vocabulaire, l’âge, le sexe, l’historique en ligne et même les préférences d’un utilisateur en matière de flatterie et d’ingratiation, selon la recherche.

Le co-auteur Jonnie Penn a averti : « À moins d’être réglementée, l’économie de l’intention traitera vos motivations comme la nouvelle monnaie.  Ce sera une ruée vers l’or pour ceux qui ciblent, orientent et vendent les intentions humaines ».

The post Etude : Les outils IA pourraient bientôt "manipuler" les décisions de ses utilisateurs appeared first on Hespress Français - Actualités du Maroc.