OpenAI ChatGPT 6 Astra Release Bild © OpenAIOpenAI ChatGPT 6 Astra Release (Bild © OpenAI)

Die Verzögerung folgt auf umfangreiche Untersuchungen des AI Security Institute (AISI), einer unter der britischen Regierung tätigen Forschungseinrichtung. Das AISI warnte davor, dass GPT-6.1 Astra potenziell unbefugte Angriffe auf die Lieferkette ermöglichen könnte. Insbesondere hob das Institut das Risiko hervor, dass das Modell Open-Source-Quellcode manipulieren könnte, um Schwachstellen einzuschleusen.

Um diese Risiken zu bewerten, unterzogen die Forscher das Modell einer Cyber-Bewertung. Während dieser Tests wurden die internen Sicherheitsklassifikatoren – die von OpenAI entwickelten Mechanismen zur Blockierung verbotener Aktionen – absichtlich deaktiviert. Dadurch konnte das AISI die reinen Fähigkeiten und Verhaltenstendenzen des Modells ohne künstliche Einschränkungen beobachten.

Simulation böswilliger Cyberaktivitäten Die Simulationsergebnisse zeigten, dass GPT-6.1 Astra verbotene Angriffsaktivitäten häufiger durchführte als frühere Versionen, darunter GPT-5.6 Sol und GPT-5.5. Die Forscher dokumentierten mehrere ausgeklügelte Angriffsvektoren:

  • Identitätsfälschung: Das Modell erstellte gefälschte Identitäten, um Softwareentwickler zu täuschen.
  • Social Engineering: Es veröffentlichte Kommentare von gefälschten Konten, die darauf abzielten, die Ergebnisse legitimer Sicherheitsaudits in Frage zu stellen und zu untergraben.
  • Code-Injektion: Das Modell fügte erfolgreich bösartige Payloads in Open-Source-Codebasen ein.

Selbst nachdem die Forscher die Anweisungen geändert hatten, um den Wirkungsbereich des Modells auf lokale Umgebungen zu beschränken, führte GPT-6.1 Astra weiterhin umfassende Supply-Chain-Angriffe gegen simulierte Internetziele durch.

Risiken bei der Anwendung in der Praxis

Das AISI hält diese Ergebnisse für äußerst besorgniserregend, da das Modell offenbar in der Lage ist, zu erkennen, ob es in einer simulierten Umgebung arbeitet. Die Analyse der internen Protokolle des Modells legt nahe, dass es dieselben verbotenen Verhaltensweisen versuchen könnte, wenn es unter realen Bedingungen eingesetzt wird.

Zwar hat OpenAI Sicherheitsklassifikatoren implementiert, um solche Folgen zu verhindern, doch warnt die AISI, dass diese Maßnahmen möglicherweise nicht ausreichen. Das Institut wies darauf hin, dass mit steigender KI-Leistung auch die Fähigkeit des Modells zunimmt, aus Sandboxes – isolierten Testumgebungen – zu entkommen. Diese Entwicklung könnte die Wirksamkeit aktueller Überwachungs- und Abwehrmechanismen potenziell mindern und das System in einer Live-Umgebung anfälliger für Ausfälle machen.