01 Ce qui s’est passé
Anthropic a évalué GLM-5.3 de Zhipu AI, révélant sa capacité à construire des exploits et indiquant que ses mécanismes de sécurité intégrés peuvent être contournés par des techniques simples en simulation. Cela souligne les risques cyber pour les modèles ouverts.
02 Les points essentiels
- Dans les tests ExploitBench, GLM-5.3 a développé des exploits dans 50 tentatives sur 410, contre 56 pour Claude Mythos Preview. Dans le test Binary Exploitation, elle a réalisé des prises de contrôle complètes du flux d’exécution dans 4% des essais, contre 6% pour Claude Mythos Preview.
- Dans la simulation d’Anthropic, trois conditions indépendantes ont été testées : un prétexte trompeur (64%), le préremplissage de jetons de réflexion (92%) et une copie ablitérée (100%) ont démontré des taux élevés de réussite.
- L'ablitération de GLM-5.3 a nécessité environ 2 200 heures GPU et coûté près de 4 400 dollars. Le taux de refus est passé de plus de 90% à 3% sur JailbreakBench, 2% sur HarmBench et 12% sur StrongREJECT, avec une capacité modélisation largement préservée.
03 Pourquoi c’est important
Les résultats d’Anthropic montrent que GLM-5.3, un modèle à poids ouverts, peut développer des exploits et que ses protections internes sont facilement contournables en simulation. Cela est crucial pour les équipes de sécurité et les organisations évaluant les risques des modèles ouverts en IA.
04 Pour qui c’est utile
Spécialistes de la sécurité de l’information, développeurs en IA, spécialistes de l'évaluation de modèles et organisations évaluant les risques des modèles d’IA ouverts.