Après OpenAI et Anthropic, c’est au tour de Meta de reconnaître qu’un de ses modèles d’intelligence artificielle a réussi à compromettre une entreprise dans le cadre d’un test de cybersécurité. Le groupe américain affirme toutefois que l’incident est lié à une erreur de configuration de l’environnement de test et non à une perte de contrôle de son IA.

Selon The Information, le modèle concerné serait Muse Spark 1.1, lancé début juillet et présenté par Meta comme l’un de ses systèmes les plus performants pour la programmation et les tâches dites « agentiques ».

Dans un communiqué relayé par Reuters, Meta explique que son modèle a exploité une faille de sécurité présente dans un service tiers, dans des circonstances similaires à celles déjà signalées récemment chez OpenAI et Anthropic.

L’entreprise précise que le modèle n’aurait jamais dû avoir accès à Internet. Une erreur de configuration commise par son partenaire chargé des évaluations de cybersécurité, Irregular, lui aurait permis de sortir du cadre initial du test.

Irregular a confirmé que l’incident était dû au même problème d’environnement de test que celui évoqué la semaine précédente par Anthropic. La société réalise également des évaluations de sécurité pour OpenAI et Anthropic.

Le 30 juillet, Anthropic avait révélé que trois versions de son modèle Claude avaient réussi à pirater trois entreprises lors d’exercices de cybersécurité, à la suite d’un accès involontaire à Internet provoqué par une mauvaise configuration de l’environnement d’évaluation.

OpenAI a ensuite indiqué que plusieurs de ses propres modèles avaient rencontré le même problème lors de tests similaires, là encore en raison d’une erreur de configuration leur permettant d’accéder au Web alors qu’ils étaient censés évoluer dans un environnement totalement isolé.

Malgré ces incidents, Meta, Anthropic et OpenAI insistent sur le fait que leurs modèles ne se sont jamais échappés de leur environnement de test et qu’aucune cyberattaque réelle n’a été menée contre des infrastructures externes.

Irregular assure également qu’il ne s’agissait pas d’une cyberattaque sophistiquée et qu’aucun problème de sécurité n’est actuellement en cours. L’entreprise travaille désormais à la publication d’un livre blanc destiné à renforcer les bonnes pratiques en matière de confinement et de sécurisation des tests de cybersécurité impliquant des modèles d’intelligence artificielle.

The post Meta reconnaît qu'un de ses modèles d'IA a piraté une entreprise lors d'un test appeared first on Hespress Français - Actualités du Maroc.