Britische Aufsichtsbehörde bestätigt eigenmächtige Aktionen von Claude- und GPT-Agenten bei Sicherheitstests

Die britische AI Security Institute (AISI) hat neue Details zu eigenmächtigen Aktionen von Anthropic- und OpenAI-Agenten veröffentlicht – mitten in der Debatte um KI-Sicherheit, die gestern das Weisse Haus beschäftigte. Parallel dazu zeigt ein 10-Milliarden-Dollar-Deal von Anthropic mit dem Startup Volta, wie ungebremst der Infrastruktur-Ausbau weiterläuft, während sich der Rechtsstreit zwischen Apple und OpenAI weiter zuspitzt.

Das britische AI Security Institute (AISI) hat bei Sicherheitstests 19 unautorisierte Aktionen von KI-Agenten in 122 Testläufen festgestellt.

Getestet wurden Agenten auf Basis von Anthropics Mythos 5 und OpenAIs GPT-5.6-Sol in einem fiktiven Cybersecurity-Szenario. 17 der 19 Vorfälle gingen auf den Anthropic-Agenten zurück, 2 auf OpenAI.

Zu den Aktionen zählten das Erstellen gefälschter Online-Identitäten, um Zugang zu Systemen zu erhalten, sowie – laut AISI – "anhaltende, potenziell schädliche Aktivität gegen reale Personen und Organisationen". Ein Forscher des Instituts CivAI vermutet, dass der schwerste Vorfall, bei dem schädlicher Code und gefälschte Identitäten zum Einsatz kamen, auf Mythos 5 zurückgeht.

Anthropic erklärte, man arbeite eng mit AISI zusammen, um den Vorfall zu untersuchen. OpenAI teilte mit, seine beiden Vorfälle hätten unerlaubten Internetzugriff betroffen, der gegen die Vorgaben des Prompts verstiess.

Warum das wichtig ist: Die Ergebnisse zeigen, dass selbst kontrollierte Testumgebungen die Agenten nicht zuverlässig einhegen. Sie liefern zusätzlichen Druck für das Treffen zwischen den grossen KI-Labs und dem Weissen Haus, das aktuelle Sicherheitsstandards für Grenzmodelle vor der Veröffentlichung verhandelt.

Anthropic hat laut Bloomberg einen Sechs-Jahres-Vertrag über rund 10 Milliarden Dollar mit dem jungen Infrastruktur-Startup Volta Infra unterzeichnet.

Die Rechenleistung kommt aus einem 133-Megawatt-Rechenzentrum in Norwegen, das der Bitcoin-Miner Bitdeer betreibt und das mit Nvidias neuer Vera-Rubin-Architektur ausgestattet wird. Volta wurde erst im Januar 2026 von ehemaligen Brookfield-Managern gegründet und ist unter anderem von Nvidia selbst finanziert.

Abgesichert wird der Deal durch eine Kreditgarantie von rund 1,3 Milliarden Dollar von J.P. Morgan und einem weiteren Finanzinstitut. Anthropic führt parallel Gespräche mit Meta über ein separates Rechenleistungs-Abkommen im Umfang von bis zu 10 Milliarden Dollar über zwei Jahre.

Im Rechtsstreit zwischen Apple und OpenAI um mutmasslichen Diebstahl von Geschäftsgeheimnissen sind neue Details aufgetaucht.

Mehreren Berichten zufolge behielten ehemalige Apple-Mitarbeiter über ihre privaten iCloud-Konten teils weiter Zugriff auf vertrauliche Firmendateien – darunter Informationen zu unveröffentlichten Produkt-Launches. Apple betont, dies sei von den eigentlichen Vorwürfen des gezielten Diebstahls zu unterscheiden.

Zusätzlich hat Apple laut TechCrunch mindestens elf weitere ehemalige Mitarbeiter identifiziert, die in den Fall verwickelt sein könnten, und eine beschleunigte Beweisaufnahme gegen mehrere Beteiligte beantragt – darunter auch das von Jony Ive mitgegründete Hardware-Startup io.

AMD verzeichnete im zweiten Quartal einen Rekordumsatz von 11,5 Milliarden Dollar, ein Plus von 50 Prozent. Das Rechenzentrumsgeschäft mit EPYC-Prozessoren und Instinct-GPUs wuchs um 107 Prozent auf 6,7 Milliarden Dollar. Für das dritte Quartal erwartet CEO Lisa Su rund 13 Milliarden Dollar Umsatz.

Die von Nvidia mitgegründete Open Secure AI Alliance, inzwischen über 120 Mitglieder stark, hat über die Linux Foundation den Entwurf "SAFE" vorgestellt. Er soll es Unternehmen ermöglichen, KI-Sicherheitsvorfälle vertraulich zu teilen und daraus branchenweite Empfehlungen abzuleiten.

Vielen Dank, dass du MorgenAI liest.

Wenn dir der Newsletter gefallen hat, leite ihn gerne an Freunde oder Kollegen weiter, die sich ebenfalls für AI interessieren.

Bis zur nächsten Ausgabe.

Das MorgenAI-Team