Hugging Face piraté par un agent IA et bloqué par surprise dans sa défense

La plateforme d’IA Hugging Face indique avoir été la cible d’une cyberattaque sophistiquée. L’incident de cybersécurité se distingue par son mode opératoire : il a été mené, de bout en bout, par un système d’agent IA autonome.

L’attaque a permis un accès non autorisé à un  » ensemble limité de jeux de données internes et à plusieurs informations d’identification utilisées par nos services.  » Hugging Face n’a trouvé aucune preuve de manipulation des modèles publics.

Comment l’attaque s’est-elle déroulée ?

L’intrusion a débuté par un point faible des plateformes IA : la chaîne de traitement des données.

Un jeu de données malveillant a abusé de deux chemins d’exécution de code pour s’infiltrer. Une fois à l’intérieur, l’attaquant a pu élever ses privilèges, récolter des identifiants cloud et se déplacer latéralement au sein de plusieurs clusters internes durant un week-end.

L’opération a été menée par ce que Hugging Face décrit comme un  » essaim de sandboxes éphémères « , réalisant des milliers d’actions individuelles. Ce scénario d’attaquant agentique était jusqu’alors surtout théorique.

La vulnérabilité initiale a été corrigée et Hugging Face a renforcé ses contrôles de sécurité, tout en recommandant aux utilisateurs de renouveler leurs tokens d’accès.

Un obstacle inattendu pour la défense

La réponse à l’incident a réservé une surprise de taille. Pour analyser les plus de 17 000 événements enregistrés, l’équipe de sécurité a d’abord tenté d’utiliser des modèles de pointe derrière des API commerciales.

Cependant, ces tentatives ont échoué, les requêtes contenant de vraies commandes d’attaque et des charges utiles d’exploit ayant été systématiquement bloquées par les garde-fous de sécurité de ces modèles.

Ces systèmes de sécurité, conçus pour empêcher une utilisation malveillante,  » ne peuvent pas faire la distinction entre un intervenant en cas d’incident et un attaquant « .

Cette situation a mis en lumière une asymétrie critique : l’attaquant n’était lié par aucune politique d’utilisation, tandis que les défenseurs étaient entravés par les mesures de protection des outils qu’ils tentaient d’employer.

Quelle solution a permis l’analyse forensique ?

Bloquée par les modèles occidentaux, l’équipe de Hugging Face s’est tournée vers une alternative : GLM 5.2, un modèle open-weight développé par le laboratoire chinois Z.ai.

En l’exécutant sur sa propre infrastructure, Hugging Face a pu contourner les blocages et analyser les logs de l’attaque en quelques heures, une tâche qui aurait normalement pris des jours.

À la lumière de cette péripétie de cybersécurité, Hugging Face recommande de  » disposer d’un modèle performant, validé et opérationnel que vous pouvez exécuter sur votre propre infrastructure avant tout incident. « 

Cela permet non seulement d’éviter les blocages, mais aussi de garantir que les données sensibles de l’attaque ne quittent pas l’environnement sécurisé de l’entreprise.