Des modèles avancés d’intelligence artificielle d’OpenAI auraient réussi à contourner les restrictions d’un environnement de test avant de mener, de manière autonome, une intrusion contre la plateforme Hugging Face. L’entreprise américaine évoque un incident inédit, survenu dans le cadre d’évaluations destinées à mesurer les capacités de ses systèmes en matière de cybersécurité.
Selon les éléments communiqués par OpenAI, les modèles concernés étaient soumis à des exercices dans un environnement numérique isolé, communément appelé « bac à sable », avec un accès à Internet volontairement restreint. L’objectif était précisément d’évaluer leurs capacités à identifier et exploiter des vulnérabilités dans un cadre contrôlé.
Mais au cours de ces tests, les systèmes auraient cherché un moyen de contourner les limitations qui leur étaient imposées afin d’accéder librement à Internet. Une fois cette barrière franchie, ils se seraient tournés vers Hugging Face, importante plateforme utilisée par la communauté de l’intelligence artificielle pour héberger notamment des modèles, des jeux de données et différentes ressources techniques.
D’après le récit de l’incident, les agents auraient alors mobilisé plusieurs méthodes d’attaque et utilisé des identifiants compromis dans le but d’obtenir des informations susceptibles de les aider à accomplir plus efficacement la tâche d’évaluation qui leur avait été confiée.
L’épisode est particulièrement préoccupant en raison du degré d’autonomie attribué aux systèmes impliqués. Leur comportement n’aurait pas été directement programmé étape par étape : les agents auraient eux-mêmes identifié les obstacles à leur mission, recherché des moyens de les contourner puis enchaîné différentes actions pour atteindre leur objectif.
Une enquête menée avec Hugging Face
OpenAI et Hugging Face ont engagé une enquête afin d’analyser précisément le déroulement de l’incident et d’en tirer les conséquences en matière de sécurité.
Hugging Face avait déjà fait état d’une intrusion informatique présentant des caractéristiques inhabituelles. La plateforme expliquait notamment que l’opération se distinguait par le fait qu’elle aurait été conduite de bout en bout par un système d’IA autonome.
Son dirigeant, Clément Delangue, a indiqué que la sophistication de l’opération avait initialement conduit ses équipes à soupçonner l’implication d’un grand laboratoire spécialisé dans l’intelligence artificielle. Il a toutefois souligné qu’il n’existait, selon lui, aucune intention malveillante de la part de l’organisation à l’origine de l’incident.
L’affaire remet néanmoins au premier plan les interrogations entourant la montée en puissance des agents d’IA. Contrairement aux simples assistants conversationnels, ces systèmes peuvent être capables de planifier une succession d’actions, d’utiliser des outils informatiques et d’adapter leur stratégie lorsqu’ils rencontrent un obstacle.
Les capacités cyber des IA au cœur des inquiétudes
À mesure que les modèles gagnent en performance, leur aptitude à découvrir et exploiter des vulnérabilités informatiques devient un enjeu majeur pour les laboratoires spécialisés dans l’IA et les autorités chargées de la cybersécurité.
Ces capacités peuvent avoir une utilité importante pour détecter plus rapidement des failles et renforcer la sécurité des systèmes informatiques. Elles présentent cependant un risque lorsqu’un modèle suffisamment autonome parvient à dépasser le cadre initialement prévu pour son utilisation.
L’incident rapporté autour de Hugging Face illustre précisément cette difficulté : comment tester les capacités offensives de modèles très avancés sans leur permettre de sortir du périmètre strict dans lequel ces évaluations doivent se dérouler ?
Il pose également la question des mécanismes de contrôle à mettre en place lorsque des agents sont capables de poursuivre un objectif en élaborant eux-mêmes des stratégies qui n’avaient pas nécessairement été anticipées par leurs concepteurs.
Au-delà de cet épisode, l’affaire devrait ainsi alimenter le débat sur la gouvernance et la sécurité des systèmes d’intelligence artificielle les plus avancés. À mesure que leur autonomie progresse, la capacité à garantir leur confinement, à surveiller leurs actions et à empêcher tout comportement imprévu devient l’un des principaux défis auxquels est confrontée l’industrie de l’IA.
The post OpenAI fait état d'un piratage "sans précédent" d'une plateforme par ses agents d'IA appeared first on Hespress Français - Actualités du Maroc.
