Le modèle GLM-5.3 peut exploiter des failles de sécurité de façon autonome

01 Ce qui s’est passé

Les chercheurs d'Anthropic ont documenté que GLM-5.3 possède la capacité de découvrir et d'enchaîner de manière autonome des vulnérabilités pour créer des exploits cybernétiques fonctionnels, soulevant des inquiétudes quant à la large disponibilité d'outils d'attaque avancés.

02 Les points essentiels

• Le modèle a identifié et enchaîné avec succès des vulnérabilités inconnues dans un moteur JavaScript, lui permettant de lire des fichiers arbitraires sur un système hôte.
• GLM-5.3 a développé des exploits complets (end-to-end) dans 50 tentatives sur 410 lors du benchmark ExploitBench.
• Le NIST Center for AI Standards and Innovation (CAISI) a identifié GLM-5.3 comme le modèle à poids ouverts le plus performant en matière de cybercapacités publié à ce jour.
• Les mesures de sécurité peuvent être contournées par des requêtes trompeuses ou par le pré-remplissage de jetons de réflexion, entraînant jusqu'à 92 % de conformité aux demandes malveillantes.

03 Pourquoi c’est important

La sortie d'un modèle puissant à poids ouverts capable d'exploitation autonome modifie le paysage des menaces, obligeant les défenseurs et les développeurs de logiciels à prendre en compte la recherche de vulnérabilités automatisée à haute vitesse.

04 Pour qui c’est utile

Professionnels de la cybersécurité, développeurs en IA et analystes de menaces.