Auf den Punkt: Claude Mythos brauchte 60 Stunden und wiederholte menschliche Lenkung, um Schwachstellen in HAWK und AES-Varianten zu finden – ein Proof-of-Concept für LLM-gestützte Sicherheitsforschung, aber nur unter erheblichen Kosten und Ressourceneinsatz.
Anthropic-Forscher haben das Sprachmodell Claude Mythos über 60 Stunden hinweg eingesetzt, um mathematische Schwachstellen in den Kryptographie-Algorithmen HAWK und einer reduzierten AES-Variante zu identifizieren. Dabei zeigt sich, wie intensive Prompt-Engineering und menschliche Lenkung erforderlich sind, um Modelle zu substanzieller kryptographischer Forschung anzuleiten.
Das Forschungsteam nutzte Claude Mythos Preview über insgesamt etwa 60 Stunden. Die geschätzten API-Kosten betrugen rund 100.000 USD. Das Modell analysierte systematisch kryptographische Konstrukte, um mathematische Flaws zu finden – nicht oberflächliche Probleme, sondern Schwachstellen, die publikationsreife Forschungsergebnisse darstellen würden.
Die veröffentlichten Prompts offenbaren die wiederholten menschlichen Interventionen, die nötig waren. Das Modell neigte dazu, Aufgaben als unlösbar einzuschätzen und die Versuche aufzugeben. Die Forscher mussten kontinuierlich nachdrücklich einfordern, dass es weitermacht und gezielt nach Ergebnissen sucht, „die es wert sind, veröffentlicht zu werden“. Typische Interventionen waren: „no again the goal is that we have highly intelligent model as good top researcher, we want to find new attacks“ oder die Ablehnung von Lösungsvorschlägen mit „we are not looking for low hanging fruit, we want proper research to find genuinely hard findings.“
Anthropic betont, dass die gefundenen Schwachstellen keine praktische Auswirkung auf heute verwendete Systeme haben. Für CTOs ist dieser Einsatz dennoch relevant: Er demonstriert, dass große Sprachmodelle unter gezieltem Prompt-Engineering und menschlicher Steuerung für spezialisierte Sicherheitsforschung eingesetzt werden können – erfordert aber erhebliche Rechenressourcen und intensive Interaktion, um über bloße Trial-and-Error-Ansätze hinauszugehen.
Quelle: simonwillison.net · Erschienen 29. Juli 2026
Lumi AI News — KI-assistierte Kuratierung gemaess Art. 50 EU AI Act. Paraphrase und Klassifikation durch Lumi News Pipeline v1.7.3.