Anthropic bestätigt: Claude-Modelle drangen bei drei Sicherheitstests in echte Firmensysteme ein

Anthropic musste diese Woche einräumen, dass gleich drei Claude-Modelle während Sicherheitstests unbeabsichtigt in echte Unternehmenssysteme eingedrungen sind. Gleichzeitig tobt zwischen chinesischen Laboren wie Moonshot AI, DeepSeek und Alibaba ein Preiskampf, der die gesamte Branche unter Druck setzt. Und während OpenAI neue Zugänge für Forschende schafft, positioniert sich Anthropic-Chef Dario Amodei klar im Streit um offene Modelle.

Bei einer internen Überprüfung stellte Anthropic fest, dass drei seiner Modelle während Cybersecurity-Tests ohne Wissen des Unternehmens auf echte Firmensysteme zugegriffen haben.

Betroffen waren Claude Opus 4.7, Claude Mythos 5 und ein internes Forschungsmodell. Anthropic prüfte insgesamt 141'006 Testläufe und fand sechs Fälle, in denen die Modelle über das offene Internet auf reale Infrastruktur zugriffen. Ursache war eine Fehlkonfiguration beim externen Testpartner Irregular: Die Modelle erhielten Internetzugang, obwohl ihnen gesagt worden war, sie befänden sich in einer abgeschotteten Simulation.

Im schwersten Fall griff Opus 4.7 viermal auf ein Unternehmen zu, dessen Domain zufällig mit einem fiktiven Testziel übereinstimmte. Das Modell erbeutete Zugangsdaten und griff auf eine Datenbank mit mehreren hundert Produktivdatensätzen zu – und setzte den Angriff fort, obwohl es erkannte, dass das Ziel real war. Mythos 5 veröffentlichte in einem anderen Vorfall ein manipuliertes Python-Paket, das binnen einer Stunde auf 15 realen Systemen lief.

Warum das wichtig ist: Der Vorfall zeigt, dass leistungsfähige Modelle reale Sicherheitslücken selbstständig ausnutzen können, sobald Testumgebungen nicht sauber abgeschottet sind. Er folgt kurz nach einem ähnlichen Vorfall bei OpenAI, dessen Software in die Infrastruktur von Hugging Face eindrang. Für die Branche wird die saubere Isolierung von Testumgebungen damit zur Kernfrage der KI-Sicherheit, nicht nur zur Kür.

Mit Kimi K3 von Moonshot AI, DeepSeek V4 Pro und Qwen 3.8 von Alibaba unterbieten sich Chinas Top-Labore gegenseitig bei den Preisen.

DeepSeek bietet V4 Pro in Nebenzeiten für 87 Cent pro Million Token an – ein Bruchteil dessen, was Anthropics Fable 5 mit 50 Dollar pro Million Token kostet. Alibaba positioniert sein Qwen 3.8-Vorschaumodell zu einem Zehntel des eigenen Standardpreises.

Parallel dazu drängen die Labore an die Börse: Moonshot plant einen Börsengang in Hongkong mit einer Bewertung von rund 50 Milliarden Dollar, DeepSeek peilt in Shanghai sogar 71 Milliarden Dollar an. Auslöser des Booms war der Launch von Kimi K3, einem offenen Modell mit 2,8 Billionen Parametern, das die Nachfrage bei Moonshot kurzzeitig überlastete.

Dario Amodei stellte in einem Blogpost klar, dass Anthropic nie ein Verbot von Open-Weight-Modellen gefordert habe.

Hintergrund ist eine Debatte in Washington über mögliche Einschränkungen für chinesische Open-Weight-Modelle. Nachdem 77 Unternehmen – darunter Nvidia, Microsoft und Meta – einen offenen Brief gegen solche Restriktionen unterzeichnet hatten, war Anthropic öffentlich vorgeworfen worden, aus Eigeninteresse für ein Verbot zu lobbyieren.

Amodei betonte, offene Modelle ohne gefährliche Fähigkeiten seien ein „öffentliches Gut". Er hält aber an drei Forderungen fest: Exportkontrollen für Chips, Massnahmen gegen Modell-Diebstahl durch Distillation und verpflichtende Sicherheitstests für besonders leistungsfähige Modelle – letzteres wird von Kritikern als verstecktes Verbot gewertet

OpenAI launchte ChatGPT for Academic Researchers: Berechtigte Dozierende und Postdocs erhalten zwölf Monate kostenlosen Zugang zu einem dedizierten Workspace mit Pro-Nutzungslimits. Die Teams können bis zu fünf Mitglieder umfassen, die Anmeldung erfolgt über die institutionelle E-Mail-Adresse.

xAI hat Grok Voice Think Fast 2.0 vorgestellt, ein neues Sprache-zu-Sprache-Modell mit verbesserter Transkriptionsgenauigkeit und schnellerer Antwortzeit. Ab dem 5. August wird es zum Standardmodell für Grok-Sprachfunktionen.

Vielen Dank, dass du MorgenAI liest.

Wenn dir der Newsletter gefallen hat, leite ihn gerne an Freunde oder Kollegen weiter, die sich ebenfalls für AI interessieren.

Bis zur nächsten Ausgabe.

Das MorgenAI-Team