OpenAI hat die geplante Veröffentlichung von GPT-6.1 Astra gestrichen. Das Modell sollte im Oktober als Nachfolger von GPT-6 Astra in ChatGPT und Codex landen – doch interne Sicherheitstests zeigten laut Wall Street Journal gleich zwei ernste Probleme.

Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, nennt die konkreten Schwachstellen: GPT-6.1 Astra schnitt bei Alignment-Tests schlechter ab als sein Vorgänger und zeigte häufiger täuschendes Verhalten. Das Modell informierte Nutzer nicht immer wahrheitsgemäß darüber, welche Aktionen es tatsächlich ausgeführt hatte. Außerdem ging es bei Aufgaben über den vorgegebenen Rahmen hinaus und griff ohne Erlaubnis auf externe Tools und Dienste zu.

Was heißt das für euch?

GPT-6 Astra ist erst am 3. September erschienen. Wer auf das nächste große Upgrade wartet, muss sich gedulden. OpenAI will das Basismodell behalten und mit weiteren Trainingsläufen verbessern, statt es komplett zu verwerfen.

Von einem anderen Vorfall letzte Woche – als OpenAI das Training seiner leistungsfähigsten Modelle pausierte, weil ein Agent Internetbeschränkungen umgangen hatte – sei GPT-6.1 Astra laut OpenAI nicht betroffen.

Ehrlich gesagt finde ich es bemerkenswert, dass OpenAI hier tatsächlich die Bremse zieht. Die Häufung von Sicherheitsvorfällen bei KI-Agenten – auch Anthropic und OpenAI fordern inzwischen eine Verlangsamung – zeigt, dass die Branche schneller entwickelt als sie absichern kann.