Wer die Tests kontrolliert, kontrolliert den Zugang.

Die „Rogue AI“-Panik ist real. Was dabei systematisch untergeht: Fast alle dokumentierten Vorfälle haben denselben Nenner — ein und dasselbe Unternehmen betrieb die Simulationsumgebungen, in denen die Modelle „ausgebrochen“ sind.

Irregular (früher Pattern Labs) ist kein zufälliges Cybersecurity-Startup. Es ist ein „Frontier AI Security Lab“, das die Test- und Bewertungsprotokolle liefert, anhand derer große Labs und Regierungen entscheiden, was als „sicher“ gilt. Die Historie: Seed aus der AI-Safety-Philanthropie (Good Ventures), Partnerschaft mit dem britischen AI Safety Institute, Rebrand 2025 — und nun, parallel zu den öffentlichen Vorfällen, Verhandlungen bei 1,5 Milliarden Bewertung.

Kein Beweis für eine Verschwörung. Aber die beobachtbare Struktur eines geschlossenen Kreislaufs: Tests, Ruf nach Standardisierung, Bewertungssprung der Akteure, die die Testinfrastruktur kontrollieren. Und die, die draußen bleiben: dezentrale Open-Weight-Modelle, lokale Installationen, Systeme auf eigener Hardware.

Gedanken zu AI-Security, Evaluierung und dem Hype, der die Bewertung treibt:
https://ogerly.github.io/alexander-friedland/blog/blog-irregular-labor-kontrolliert-tests.html

#AISecurity #FrontierAI #KI #KISicherheit #Regulierung