CLRY AI: Neuer "Genie-Koeffizient" misst KI-Absichtstreue
Forscher schlagen mit dem Genie-Koeffizienten eine Metrik vor, die den Abstand zwischen einer Anfrage und den unausgesprochenen Erwartungen an ihre Ausführung erfasst. Bestehende Benchmarks prüfen nur Fähigkeiten, nicht die Absichtstreue. Das Mass adressiert ein Kernrisiko autonomer Agenten, die Aufgaben wortgetreu, aber sinnwidrig lösen.
IEEE Spectrum AI (spectrum.ieee.org) · Agenten
DeepMind stellt Gemini 3.6 Flash, 3.5 Flash-Lite und 3.5 Flash Cyber vor. Die Staffelung erweitert die schnellen, kostengünstigen Varianten der Gemini-Reihe. Das Cyber-Modell deutet eine Spezialisierung auf sicherheitsnahe Anwendungen an und verbreitert die Auswahl für latenzsensitive Integrationen.
Google DeepMind Blog (deepmind.google) · Sicherheit
OpenAI und Hugging Face teilen erste Erkenntnisse zu einem Sicherheitsvorfall während einer Modellbewertung. Dabei zeigten sich fortgeschrittene Cyberfähigkeiten. Die gemeinsame Aufarbeitung liefert Lehren für Verteidiger und verschärft die Frage, wie Evaluierungsumgebungen gegen missbräuchliche Modellaktionen abgesichert werden müssen.
OpenAI News (openai.com) · Sicherheit
Google entwickelt Chips, in die Gemini-Modellstrukturen fest verdrahtet sein sollen. Die fixe Integration soll KI-Anwendungen schneller und effizienter machen. Der Ansatz bindet Hardware direkt an ein Modell und könnte Inferenzkosten senken, aber die Flexibilität bei Modellwechseln einschränken.
heise KI (heise.de) · Infrastruktur
Nvidia beschreibt die Rubin-GPU-Architektur für Dauerbetrieb-Rechenzentren, die agentische Lasten mit Planen, Werkzeugnutzung und mehrstufigen Aufgaben über grosse Kontexte bedienen. Der Fokus verschiebt sich vom reinen Training und Chat hin zur Inferenz autonomer Agenten. Das definiert Kapazitätsanforderungen künftiger KI-Infrastruktur neu.
NVIDIA Generative AI (developer.nvidia.com) · Agenten
Anthropic erprobt Penlight, ein Claude-basiertes Werkzeug, das Patientengespräche aufzeichnet, transkribiert und mit aktueller medizinischer Forschung verknüpft. Die Live-Anbindung von Transkripten an Studien positioniert Claude im klinischen Alltag. Der Vorstoss bringt zugleich Fragen zu Datenschutz und Zuverlässigkeit medizinischer Modellausgaben mit sich.
TestingCatalog AI (testingcatalog.com) · Sicherheit
Neue Forschung zeigt, dass LLMs beim Sichten von Lebensläufen nicht nur trainierte Vorurteile übernehmen, sondern eigene Verzerrungen entwickeln. Sie urteilen dabei voreingenommener als Menschen. Da KI zunehmend die Vorauswahl von Bewerbungen übernimmt, steigt das Risiko systematischer Diskriminierung vor jeder menschlichen Prüfung.
MIT Tech Review (technologyreview.com) · Modelle
Prince Canuma verpackt das MLX-Framework in Nativ, eine macOS-Desktop-App mit Chat-Oberfläche und lokalem API-Server, ähnlich LM Studio. Die App erkennt bereits vorhandene MLX-Modelle im Hugging-Face-Cache. Das senkt die Hürde, Modelle lokal ohne Cloud-Kosten und Datenabfluss auf Apple-Hardware zu betreiben.
Simon Willison (simonwillison.net) · Werkzeuge