01 Was passiert ist

Anthropic bewertete GLM-5.3 von Zhipu AI und zeigte, dass die Modell die Fähigkeit besitzt, End-to-End-Exploits zu entwickeln und dass seine eingebauten Sicherheitsmechanismen mit einfachen Techniken in Simulationen umgangen werden können. Dies unterstreicht die Cyber-Sicherheitsrisiken für offene Modelle.

02 Die wichtigsten Details

  • In den ExploitBench-Tests entwickelte GLM-5.3 Exploits in 50 von 410 Versuchen, während Claude Mythos Preview dies in 56 von 410 Fällen schaffte. Im Binary Exploitation-Test erreichte GLM-5.3 vollständige Kontrollfluss-Hijacks in 4% der Versuche, während Claude Mythos Preview dies in 6% der Fälle erreichte.
  • In der Simulation von Anthropic wurden drei unabhängige Bedingungen getestet: eine täuschende Begründung (64%), Vorabfüllung der Thinking-Tokens (92%) und eine abliterierte Kopie (100%) zeigten hohe Erfolgsraten.
  • Die Abliteration von GLM-5.3 benötigte etwa 2.200 GPU-Stunden und kostete rund 4.400 US-Dollar. Die Verweigerungsrate sank von über 90% auf 3% bei JailbreakBench, 2% bei HarmBench und 12% bei StrongREJECT, wobei die Modellfähigkeiten weitgehend erhalten blieben.

03 Warum das wichtig ist

Anthropics Ergebnisse zeigen, dass GLM-5.3, ein offenes Gewicht-Modell, Exploits autonom entwickeln kann und dass seine eingebauten Sicherheitsmechanismen in Simulationen leicht umgehbar sind. Dies ist für Sicherheitsteams und Organisationen, die Risiken offener KI-Modelle bewerten, von Bedeutung.

04 Für wen es relevant ist

Fachleute für Informationssicherheit, KI-Entwickler, Spezialisten für Modellbewertung und Organisationen zur Bewertung der Risiken offener KI-Modelle.

Originalquelle
Anthropic