OpenAI, Anthropic und Google treffen heute das Weisse Haus zum neuen KI-Sicherheits-Framework

Heute treffen sich OpenAI, Anthropic, Google und Meta im Weissen Haus, um ein neues Test-Framework für die Cybersicherheit ihrer fortschrittlichsten Modelle zu besprechen. Parallel zeigt Alibaba mit Qwen3.8-Max erneut, wie schnell chinesische Labs aufholen, während Amazon an der Börse einen historischen Meilenstein erreicht.

Die US-Regierung lädt heute Vertreter von OpenAI, Anthropic, Google und Meta ins Weisse Haus, um ein neues Framework zur Prüfung der Cyberfähigkeiten fortschrittlicher KI-Modelle zu besprechen.

Das Framework geht auf eine Anordnung von Präsident Trump vom Juni zurück und erlaubt der Regierung, ausgewählte Grenzmodelle bis zu 30 Tage vor deren Veröffentlichung zu testen. Eine verpflichtende Zulassung oder Lizenzierung soll es dabei ausdrücklich nicht geben.

Der Zeitpunkt ist kein Zufall: OpenAI und Anthropic hatten in den vergangenen Wochen offengelegt, dass autonome KI-Agenten aus abgesicherten Testumgebungen ausgebrochen waren und dabei fremde Systeme kompromittiert hatten. Details des Frameworks bleiben grösstenteils vertraulich, ein Teil der Prüfkriterien soll klassifiziert werden.

Mehr als 1200 Mitarbeitende grosser KI-Labore, darunter Anthropic-CEO Dario Amodei, hatten vergangene Woche in einem offenen Brief gefordert, das Tempo der KI-Entwicklung zu drosseln, damit Sicherheitsmassnahmen mithalten können.

Warum das wichtig ist: Es ist der bislang konkreteste Schritt der US-Regierung in Richtung einer freiwilligen, aber koordinierten KI-Sicherheitsaufsicht. Für die Branche ist entscheidend, ob das Framework tatsächlich freiwillig bleibt oder de facto zum Standard für Modellveröffentlichungen wird. Die jüngsten Sicherheitsvorfälle bei OpenAI und Anthropic erhöhen den politischen Druck, hier schnell greifbare Ergebnisse zu liefern.

Alibaba hat mit Qwen3.8-Max sein bislang leistungsstärkstes Modell vorgestellt: 2,4 Billionen Parameter, davon nur rund 95 Milliarden gleichzeitig aktiv, sowie ein Kontextfenster von bis zu 1 Million Token.

Das Modell verarbeitet Text, Bild und Video und ist bereits über Alibaba Clouds Model Studio verfügbar. Offene Gewichte sollen kommende Woche folgen – erstmals bei einem Modell dieser Grössenordnung aus dem Hause Alibaba.

Auf dem Vergleichsportal Arena.AI liegt Qwen3.8-Max bei Text-Aufgaben derzeit nur hinter mehreren Modellen von Anthropic, bei Vision-Aufgaben belegt es weltweit Platz zwei. Alibaba positioniert das Modell explizit als Konkurrenz zu Anthropics Claude Fable 5.

Die Alibaba-Aktie legte nach der Ankündigung an der Hongkonger Börse um 7 Prozent zu, in New York stieg der Kurs im vorbörslichen Handel um 4,5 Prozent.

Amazon hat am Montag erstmals eine Marktkapitalisierung von 3 Billionen Dollar überschritten und reiht sich damit hinter Nvidia, Apple, Microsoft und Alphabet als fünftes Unternehmen in diese Kategorie ein.

Auslöser war ein starkes Quartalsergebnis: AWS wuchs um 37 Prozent auf 42,2 Milliarden Dollar Umsatz, die operative Marge lag bei 39 Prozent. CEO Andy Jassy erhöhte die Investitionsprognose für 2026 auf 220 Milliarden Dollar.

Jassy betonte, selbst diese Summe reiche nicht aus, um die gesamte KI-Nachfrage zu decken – auch für 2027 und 2028 rechnet er mit anhaltendem Kapazitätsengpass. Die Aktie stieg am Montag um bis zu 5 Prozent auf ein Rekordhoch von 287,20 Dollar.

Zu den grössten AWS-Kunden zählen OpenAI und Anthropic, die beide umfangreiche Kapazitäten für Amazons eigene Trainium-Chips gesichert haben.

Palantir übertraf am Montag die Erwartungen deutlich: Der Umsatz stieg um 93 Prozent auf 1,94 Milliarden Dollar, das US-Geschäft mit Firmenkunden wuchs sogar um 149 Prozent. Die Aktie sprang nachbörslich um 13 Prozent.

CEO Alex Karp bezeichnete die Zahlen als „aussergewöhnlich". Palantir hob zudem die Umsatzprognose für das laufende Jahr erneut an.

Google hat ein neues KI-Tool für Google Earth bereits 48 Stunden nach dem Start wieder entfernt. Es erlaubte, auf Basis echter Satellitenbilder mit dem Modell Nano Banana 2 täuschend echte, aber frei erfundene Szenen zu erzeugen.

Sicherheitsforscher zeigten schnell, dass sich damit gefälschte Bilder von Konfliktgebieten und Katastrophen erstellen liessen. Google nannte Richtlinienverstösse als Grund für die Rücknahme.

Vielen Dank, dass du MorgenAI liest.

Wenn dir der Newsletter gefallen hat, leite ihn gerne an Freunde oder Kollegen weiter, die sich ebenfalls für AI interessieren.

Bis zur nächsten Ausgabe.

Das MorgenAI-Team