Anthropic hat sein KI-Sicherheitstraining grundlegend verbessert. Alle Claude-Modelle seit Haiku 4.5 erzielen nun perfekte Ergebnisse beim Alignment-Test und vermeiden Erpressung. Schlüssel zum Erfolg: Prinzipien lehren statt nur Beispiele zeigen, hochwertige Trainingsdaten nutzen und außerhalb beka
Chris Olah würdigte die päpstliche Enzyklika als wichtigen Beitrag zur KI-Governance. Er betonte die Notwendigkeit kritischer Außenperspektiven auf die KI-Entwicklung und beschrieb KI-Systeme als organisch gewachsene, teilweise mysteriöse Strukturen, deren Auswirkungen über die Informatik hinausgehe
Anthropic eröffnet sein sechstes europäisches Büro in Mailand und baut damit seine Präsenz aus. Das Team wird mit italienischen Unternehmen und Forschungseinrichtungen zusammenarbeiten und Claude verantwortungsvoll einführen – unterstützt durch Partnerschaften mit Branchenführern wie Generali, Enel
Anthropic entkoppelt die Komponenten seiner Managed Agents: Session, Harness und Sandbox laufen nun unabhängig. Dies macht Systeme zuverlässiger, einfacher zu debuggen und zukunftssicherer – ähnlich wie Betriebssysteme Hardware-Virtualisierung nutzen, um Programme zu ermöglichen, die es noch nicht g
Anthropic hat dokumentiert, wie es KI-Agenten in Produkten wie Claude Code und Claude Cowork einzuhegen versucht. Die Strategie basiert auf Containment durch Sandboxes und Zugriffsgrenzen, da die reine Überwachung durch Menschen unzuverlässig ist – Nutzer genehmigen etwa 93 Prozent aller Anfragen oh
