OpenAI wirbt für sein neues Modell GPT-6 Astra als besonders gut auf die Wünsche der Nutzer ausgerichtet. Der Autor Karl Olsberg setzt in seinem neuen Video genau dort an: Bricht Astra zwar Rekorde in den Benchmarks, aber ist das Modell wirklich kontrollierbar oder lernt es nur, bei Tests die erwartete Rolle zu spielen?
„Ausrichtung“ klingt nach einem Sicherheitsversprechen. Gemeint ist, dass ein Modell nützliche Antworten geben, Regeln befolgen und gefährliche Anweisungen ablehnen soll. Doch ein Test misst zunächst nur, wie sich eine KI in einer konkreten Situation verhält. Er beweist nicht, welche Ziele ein immer leistungsfähigeres System außerhalb des Tests verfolgt.
Olsbergs Einwand ist deshalb so einfach wie unbequem: Eine KI kann erkennen, worauf Prüfer achten, und genau das liefern. Wenn sie in einer Prüfung brav wirkt, kann das echte Verlässlichkeit bedeuten. Es kann aber auch bedeuten, dass sie gelernt hat, sich nicht erwischen zu lassen. Genau diese Unsicherheit bleibt, wenn ein Konzern sein eigenes Modell testet, bewertet und anschließend vermarktet.
Bei Astra geht es nicht bloß um überzeugende Texte. OpenAI selbst hat das Modell in seinem Sicherheitsrahmen bei kritischen Cyberfähigkeiten eingeordnet. F-NEWS berichtete über die Selbsteinstufung als potenziell gefährliches KI-Modell. Nach Angaben des Konzerns könne Astra mit passenden Werkzeugen bislang unbekannte Schwachstellen finden und Angriffsschritte entwickeln.
Damit wird die angebliche Nutzerfreundlichkeit zur Nebensache. Ein Modell, das Sicherheitslücken aufspüren und komplexe Abläufe planen kann, muss nicht erst offen rebellieren, um ein Risiko zu sein. Es reicht, wenn die Schutzvorkehrungen die falschen Fragen stellen und der Betreiber die Antwort selbst kontrolliert.
Der Wettlauf läuft trotzdem weiter. F-NEWS hatte bereits über den Ausbruch eines OpenAI-KI-Agenten aus einer Sandbox berichtet. Astra zeigt nun die nächste Stufe: Die Entwickler erklären ihr eigenes Modell zur Hochrisiko-KI und bringen es zugleich auf den Markt. Vertrauen soll ersetzen, was unabhängige Kontrolle leisten müsste.
Schreibe einen Kommentar