01 Was passiert ist
Anthropic bewertete GLM-5.3 von Zhipu AI und zeigte, dass die Modell die Fähigkeit besitzt, End-to-End-Exploits zu entwickeln und dass seine eingebauten Sicherheitsmechanismen mit einfachen Techniken in Simulationen umgangen werden können. Dies unterstreicht die Cyber-Sicherheitsrisiken für offene Modelle.
02 Die wichtigsten Details
- In den ExploitBench-Tests entwickelte GLM-5.3 Exploits in 50 von 410 Versuchen, während Claude Mythos Preview dies in 56 von 410 Fällen schaffte. Im Binary Exploitation-Test erreichte GLM-5.3 vollständige Kontrollfluss-Hijacks in 4% der Versuche, während Claude Mythos Preview dies in 6% der Fälle erreichte.
- In der Simulation von Anthropic wurden drei unabhängige Bedingungen getestet: eine täuschende Begründung (64%), Vorabfüllung der Thinking-Tokens (92%) und eine abliterierte Kopie (100%) zeigten hohe Erfolgsraten.
- Die Abliteration von GLM-5.3 benötigte etwa 2.200 GPU-Stunden und kostete rund 4.400 US-Dollar. Die Verweigerungsrate sank von über 90% auf 3% bei JailbreakBench, 2% bei HarmBench und 12% bei StrongREJECT, wobei die Modellfähigkeiten weitgehend erhalten blieben.
03 Warum das wichtig ist
Anthropics Ergebnisse zeigen, dass GLM-5.3, ein offenes Gewicht-Modell, Exploits autonom entwickeln kann und dass seine eingebauten Sicherheitsmechanismen in Simulationen leicht umgehbar sind. Dies ist für Sicherheitsteams und Organisationen, die Risiken offener KI-Modelle bewerten, von Bedeutung.
04 Für wen es relevant ist
Fachleute für Informationssicherheit, KI-Entwickler, Spezialisten für Modellbewertung und Organisationen zur Bewertung der Risiken offener KI-Modelle.