On ne peut pas sécuriser des systèmes avec des LLM en boîte noire.

La déclaration est signée Clément Delangue. Elle intervient après une attaque contre Hugging Face, dont il est cofondateur et directeur général.

Cette attaque, pilotée par un système agentique, a exploité deux composantes du pipeline de traitement de datasets. D’un côté, le chargeur de scripts. De l’autre, les fichiers de configuration. L’ensemble a permis d’exécuter du code sur un worker. Puis d’obtenir un accès de niveau nœud, de récupérer des authentifiants et de latéraliser sur des clusters internes.

Hugging Face a dit ne pas avoir de preuve de manipulation de ses modèles et jeux de données publics. Ni de sa supply chain logicielle. Il a aussi affirmé aussi autre chose... qui a résonné bien davantage, et qui explique les propos de Clément Delangue : l'analyse forensique a réservé une « mauvaise surprise ». Sur le LLM initialement utilisé (non spécifié, mais on comprend qu'il s'agit d'un modèle américain, accessible par API), les garde-fous se sont enclenchés et one bloqué les requêtest

Hugging Face indique avoir dû se rabattre sur un modèle open weight autohébergé. En l'occurrence, GLM 5.2, de la société chinoise Z.ai. Laquelle n'a pas manqué l'occasion de promettre qu'elle continuerait à améliorer sa documentation de déploiement.

Clément Delangue y a lui trouvé un relais supplémentaire de promotion des modèles ouverts, qui sont au cœur de l'activité de son entreprise. Dans le contexte qu'on sait, additionné de la montée en puissance des modèles chinois dans les leaderboards, le sujet a pris une dimension politique.

À consulter en complément :

Qui est Moonshot AI, l'éditeur de Kimi ?
Suspension de Claude Mythos : des experts demandent la levée des restrictions
Un premier « ransomware agentique » repéré dans le cyberespace
Pour optimiser les LLM, IBM leur fait faire des divisions
IA : après l'ivresse, le budget

Illustration générée par IA

Livres blancs #Cybersécurité