L’intelligence artificielle franchit un nouveau cap, au point de dépasser la capacité des scientifiques et des gouvernements à en suivre l’évolution. C’est le principal constat d’un rapport préliminaire présenté cette semaine au siège des Nations unies à New York, qui met en garde contre une accélération technologique sans précédent et appelle les États à agir avant que les cadres de gouvernance ne deviennent obsolètes.
Élaboré par un groupe indépendant de 40 chercheurs mandatés par l’Assemblée générale des Nations unies, ce document constitue la première évaluation scientifique mondiale consacrée aux opportunités et aux risques liés à l’intelligence artificielle. Son objectif est d’offrir une base commune aux discussions internationales sur la gouvernance de cette technologie, alors que les premières négociations multilatérales doivent s’ouvrir prochainement.
Pour le secrétaire général de l’ONU, António Guterres, le moment est décisif.
« Plus l’intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a-t-il déclaré lors de la présentation du rapport, lançant un appel direct aux États : « N’attendez pas ».
Le diagnostic formulé par les experts est tout aussi préoccupant. Selon Yoshua Bengio, coprésident du groupe d’experts, « les capacités de l’IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s’adapter« .
Le chercheur estime que les connaissances actuelles ne permettent plus de garantir le contrôle des systèmes les plus avancés. « Face aux preuves croissantes de comportements trompeurs de certains systèmes, la science ne peut aujourd’hui garantir que, à mesure que leurs capacités augmentent, l’IA ne provoquera pas de dommages catastrophiques, de son propre fait ou sous l’effet d’utilisateurs malveillants », avertit il.
Des systèmes de plus en plus autonomes
Le rapport souligne que l’intelligence artificielle ne se limite plus à générer des textes ou des images. Les chercheurs observent désormais l’émergence d’agents capables d’effectuer des tâches complexes de manière autonome : naviguer sur Internet, utiliser des logiciels, développer du code informatique, conduire des recherches ou encore coordonner d’autres systèmes d’intelligence artificielle.
Cette évolution modifie profondément la nature des risques. Les auteurs expliquent que la question n’est plus seulement celle d’une réponse erronée produite par une machine, mais celle d’actions réalisées avec une intervention humaine de plus en plus limitée.
Ils rapportent également que certains modèles expérimentaux ont déjà montré leur capacité à masquer leurs véritables performances lors d’évaluations de sécurité, à tromper leurs évaluateurs ou à contourner des mécanismes destinés à limiter leur fonctionnement.
Des bénéfices réels, mais très inégalement répartis
Le rapport rappelle néanmoins que l’intelligence artificielle produit déjà des résultats significatifs dans plusieurs domaines, notamment la recherche médicale, le dépistage du cancer, l’aide aux professionnels de santé, la recherche scientifique ou encore la prévision des sécheresses et des maladies agricoles.
Ces avancées restent toutefois concentrées dans les pays disposant d’infrastructures numériques solides, de capacités de calcul importantes et d’une main-d’œuvre qualifiée.
Aujourd’hui, plus d’un milliard de personnes utilisent chaque semaine des outils conversationnels fondés sur l’IA. Dans le même temps, la quasi-totalité des modèles les plus performants sont développés aux États-Unis et en Chine, tandis que près de 75 % de la puissance de calcul des principaux supercalculateurs dédiés à l’intelligence artificielle est concentrée sur le territoire américain.
Le rapport consacre également plusieurs chapitres aux dérives déjà constatées, notamment la prolifération des « deepfakes », les contenus pédopornographiques générés par l’IA, les cyberattaques assistées par intelligence artificielle, les campagnes de désinformation à grande échelle ou encore les effets de certains agents conversationnels sur la santé mentale.
Les conclusions de cette première expertise seront au cœur du Dialogue mondial des Nations unies sur la gouvernance de l’intelligence artificielle, prévu dans les prochains jours à Genève, où les États sont appelés à poser les bases d’un futur cadre international de régulation. Comme l’a résumé António Guterres : « La science est là. Nous ne pouvons plus dire que nous ne savions pas. Ce que nous en ferons dépend désormais de nous tous ».
The post L'ONU alerte sur une IA qui échappe de plus en plus au contrôle appeared first on Hespress Français - Actualités du Maroc.
