Mit sogenannter Cryptographic Context Injection lassen sich schädliche Anweisungen so verschlüsseln, dass Grok seine Sicherheitsleitplanken umgeht und Nutzerdaten abfliessen. Die neue Angriffsmethode zeigt, dass LLM-Guardrails weiterhin durch verschleierte Eingaben ausgehebelt werden können und das Risiko von Datenlecks steigt.
21.08.2026 · Ars Technica AI (arstechnica.com) · Sicherheit
Sicherheitsforscher von Cereblab entdeckten, dass die Programmier-KI Grok Build ganze Code-Repositories inklusive gelöschter Geheimnisse in die Google Cloud hochlud. SpaceXAI schaltete die Funktion nach der Veröffentlichung ab, ein Server-Flag verhindert nun den automatischen Upload. Das Risiko einer ungewollten Datenweitergabe bei KI-Coding-Tools rückt damit stärker in den Fokus.
15.07.2026 · The Verge AI (theverge.com) · Sicherheit
Die Audiomodelle von xAI laufen jetzt im AI Gateway mit Echtzeit-Sprache, Text-to-Speech und Speech-to-Text. Sie nutzen dasselbe Routing, dieselbe Observability und Kostenkontrolle wie andere Modelle. Über das AI SDK 7 lassen sich Sprachagenten mit kurzlebigen Tokens bauen, ohne den API-Schlüssel im Client offenzulegen.
Paul Conyngham gründet das Startup Gamgee, das personalisierte mRNA-Krebsimpfstoffe für Hunde anbietet, nachdem er mit ChatGPT und Grok eine Impfung für seinen Hund erstellt hatte. Die Firma will KI und Genetik künftig auf weitere Krankheiten und Arten inklusive Menschen ausweiten und öffnet damit einen neuen Markt für KI-gestützte Therapieentwicklung.
Cyberangriffe, die mutmasslich mit dem Iran in Verbindung stehen, haben Wassersysteme in sieben US-Bundesstaaten beeinträchtigt. Zugleich prüft das FBI KI-gestützte Technik zur Kriminalitätserkennung, während xAI ein Verbot von KI-Nacktbildgeneratoren per Klage stoppen will. Die Vorfälle verdeutlichen wachsende Risiken für kritische Infrastruktur und den Einsatz von KI in Sicherheitsbehörden.
Ein neues Werkzeug testete die Sicherheitsvorkehrungen von Google, Anthropic, OpenAI und xAI und umging sie teils erschreckend leicht. Die Ergebnisse legen offen, wie unterschiedlich robust die Schutzmechanismen führender Modelle sind. Das erhöht das Risiko von Missbrauch und verschärft die Debatte um verlässliche KI-Sicherheit.
Black Forest Labs veröffentlicht FLUX 3, multimodale Flow-Modelle, die laut Vergleich Seedance 2.0, Gemini Omni und Grok Imagine übertreffen. Ergänzt wird die Reihe durch ein FLUX-mimic Video-Action-Modell für Robotik, was BFLs Position bei generativen Bild- und Videomodellen stärkt.
25.07.2026 · Latent Space (latent.space) · Agenten