Guten Morgen 👋
Ein chinesischer Hacker hat DeepSeek erstmals als autonome Angriffs-Engine eingesetzt – nachdem Claude und OpenAIs Modelle den Auftrag wegen ihrer Sicherheitssperren verweigert hatten. Parallel zieht die EU mit einer neuen Kennzeichnungspflicht für KI-Inhalte die regulatorischen Zügel an, während OpenAI sein nächstes Modell fast nebenbei in einem Blogpost über Mathematik ankündigt.
Heute bei MorgenAI
DeepSeek wird zur autonomen Angriffs-Engine für Cyberkriminelle
Neue EU-Kennzeichnungspflicht für KI-Inhalte tritt in Kraft
OpenAI kündigt Nachfolgemodell „Astra" in Mathe-Blogpost an
Chinas humanoide Roboter treten erstmals ganz ohne Fernsteuerung an
xAI: 2-Billionen-Parameter-Modell startet in Kürze
DeepSeek wird zur autonomen Angriffs-Engine für Cyberkriminelle
Ein chinesischer Hacker hat erstmals DeepSeek erfolgreich als autonome Angriffssoftware eingesetzt – nachdem er Claude Code und OpenAIs Codex getestet, aber wegen deren Sicherheitssperren verworfen hatte.
Laut einem Bericht von Palo Alto Networks' Unit 42 koppelte der unter dem Namen „knaithe" auftretende Akteur DeepSeek mit dem Open-Source-Framework Hermes Agent. Die KI wählte eigenständig Ziele aus, suchte passende Sicherheitslücken und passte ihre Angriffslogik an – gesteuert per Telegram. Insgesamt griff das System mehr als 460 öffentlich erreichbare Systeme an.
Bestätigte Erfolge gab es bei drei Organisationen über die Citrix-NetScaler-Lücke CVE-2026-3055: Die KI durchsuchte ausgeleitete Speicherdaten gezielt nach Anmeldedaten, mit denen sich Sitzungen kapern lassen. Autonome Angriffsversuche auf Langflow und n8n scheiterten dagegen an Authentifizierungssperren. Der Akteur testete parallel auch Claude Code und Codex, nutzte sie laut Unit 42 aber nur eingeschränkt.
Entdeckt wurde der Angreifer, weil sein Hermes-Agent versehentlich einen eigenen Webserver startete und dabei API-Schlüssel, Ziellisten und Protokolle offenlegte.
Warum das wichtig ist: Es ist der erste dokumentierte Fall eines vollständigen, in freier Wildbahn aktiven autonomen KI-Angriffsworkflows. Unit 42 betont, dass die Sicherheitssperren von Claude und OpenAI hier funktioniert haben – der Angreifer wich deshalb gezielt auf ein Modell mit schwächeren Guardrails aus. Für die Branche zeigt der Fall, dass einzelne Anbieter-Sperren wenig nützen, solange andere leistungsfähige Modelle frei verfügbar bleiben.
Neue EU-Kennzeichnungspflicht für KI-Inhalte startet
Seit dem 2. August müssen Unternehmen und professionelle Content-Creator in der EU KI-generierte Bilder, Videos, Texte und Audioaufnahmen eindeutig kennzeichnen.
Betroffen sind auch Deepfakes: Sie müssen zu Beginn oder in regelmässigen Abständen als maschinell erzeugt ausgewiesen werden. Privatpersonen sind weitgehend ausgenommen, kommerzielle Influencer und Unternehmen dagegen nicht.
OpenAI, Google und Meta müssen technische Kennzeichnungslösungen bereitstellen und haben dafür bis Anfang Dezember Zeit. Bei Transparenzverstössen drohen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, bei verbotenen KI-Praktiken bis zu 35 Millionen Euro oder 7 Prozent.
OpenAI kündigt Nachfolgemodell „Astra" nebenbei an
OpenAI hat sein nächstes grosses Modell in einem Blogpost über Mathematik-Durchbrüche erwähnt – im dritten Absatz, unter dem Titel „Ten advances in mathematics and theoretical computer science".
Laut dem Post wurden die gezeigten mathematischen Ergebnisse von einer internen Version namens Astra erzielt, dem nach GPT-5.6 Sol nächsten grossen Modell. Laut einem Bericht von The Information kann Astra „langlaufende" Aufgaben bearbeiten; Sam Altman habe das Modell vergangene Woche in Washington D.C. Regierungsvertretern vorgeführt.
Auf Anfrage bestätigte OpenAI weder den offiziellen Namen noch das Verhältnis von Astra zu dem unveröffentlichten Modell, das im Juli am Hugging-Face-Sicherheitsvorfall beteiligt war. Klargestellt wurde nur: Astra ist nicht dieses Modell.
Chinas humanoide Roboter treten erstmals ganz ohne Fernsteuerung an
Beim Finale der 28. China Robot and Artificial Intelligence Competition in Peking traten 213 Teams mit rund 350 Robotern an. Erstmals mussten sich alle vollformatigen humanoiden Roboter komplett selbstständig bewegen und entscheiden, ganz ohne Fernsteuerung. Die Wettbewerbe simulierten reale Industrieszenarien wie Inspektionsaufgaben und Teile-Sortierung.
xAI: 2-Billionen-Parameter-Modell startet in Kürze
xAI bereitet laut Elon Musk ein neues Grundmodell mit 2 Billionen Parametern vor – ein Drittel grösser als das aktuelle V9-Modell hinter Grok 4.5. Das Training soll bereits abgeschlossen sein, die Verfügbarkeit ist für August angekündigt, ein offizielles Datum nennt xAI bisher nicht.
Vielen Dank, dass du MorgenAI liest.
Wenn dir der Newsletter gefallen hat, leite ihn gerne an Freunde oder Kollegen weiter, die sich ebenfalls für AI interessieren.
Bis zur nächsten Ausgabe.
Das MorgenAI-Team