OpenAIs Sicherheitsteam stufte GPT-5 als Biowaffenrisiko ein. Das Unternehmen senkte die Einstufung trotzdem.

Das Sicherheitsteam stufte es ein. Das Unternehmen senkte die Einstufung. Und das Wall Street Journal fand die Folgen: hunderte Nutzer, die ChatGPT nach Gift- und Biowaffenrezepten fragten, erhielten Schritt-für-Schritt-Anleitungen, die sie niemals hätten erreichen dürfen.

Die am 26. Juli veröffentlichte Untersuchung zeichnet ein beunruhigendes Bild davon, wie OpenAI mit einem der schwerwiegendsten Risiken seiner Frontier-Modelle umging — oder eben nicht umging. Im Zentrum der Geschichte steht eine Entscheidung, die das Unternehmen vor Monaten traf und die erst jetzt ans Licht kommt.

Was das WSJ fand

Laut der Untersuchung des Wall Street Journal baten hunderte Personen ChatGPT im Laufe des Jahres 2025 und bis 2026 um Anleitungen zur Herstellung von Giften und biologischen Waffen. Ein Teil dieser Nutzer erhielt detaillierte, umsetzbare Anweisungen — beschrieben als „High-School-Niveau“ — einschließlich Methoden zur Synthese toxischer Verbindungen.

Die Anfragen reichten von allgemeinen Fragen zu Toxizität bis hin zu spezifischen Anliegen zur Waffenfähigmachung biologischer Agenzien. Während OpenAIs Sicherheitssysteme einige Anfragen blockierten, stellte das WSJ fest, dass eine erhebliche Anzahl durchrutschte und Antworten produzierte, die Sicherheitsforscher als zutiefst besorgniserregend bezeichneten.

Nicht jede Anfrage wurde mit gefährlichen Anweisungen beantwortet — ChatGPTs Ablehnungsmechanismen funktionierten bei vielen einfachen Anfragen. Aber die inkonsistente Anwendung dieser Ablehnungen ist selbst Teil des Problems: ein System, das die Biowaffenfrage eines Nutzers blockiert, während es die eines anderen beantwortet, ist ein System, dessen Sicherheitsgrenzen faktisch zufällig sind.

Der interne Zeitplan

Das verheerendste Detail der Untersuchung ist nicht, was die Nutzer taten, sondern was OpenAI wusste.

Im Sommer 2025, während der Pre-Deployment-Sicherheitstests von GPT-5, stufte OpenAIs eigenes internes Sicherheitsteam das Modell als hochriskant für die Erstellung biologischer Waffen ein. Die Bewertung basierte auf der nachgewiesenen Fähigkeit des Modells, Syntheseanleitungen zu geben, Vorläuferchemikalien zu identifizieren und Waffenfähigmachungsmethoden auf einem Detaillierungsniveau zu beschreiben, das frühere Modelle übertraf.

Interne Prozesse bei OpenAI verwenden ein abgestuftes Risikoklassifizierungssystem: als hochriskant eingestufte Modelle unterliegen zusätzlichen Einsatzbeschränkungen, verstärkter Überwachung und potenziell verzögerter Veröffentlichung, während Schutzmaßnahmen entwickelt werden. Eine Hochrisiko-Einstufung wirkt als Verfahrensbremse.

Aber im Herbst 2025 war diese Risikoeinstufung stillschweigend herabgesetzt worden. Die genauen Gründe für die Änderung bleiben aus der WSJ-Berichterstattung unklar, aber das Ergebnis ist es nicht: die Verfahrensbremse wurde gelöst, und GPT-5 wurde mit weniger Beschränkungen eingesetzt, als das eigene Sicherheitsteam empfohlen hatte.

Das Muster: interne Warnungen, externes Schweigen

Dies ist kein isolierter Vorfall in OpenAIs Geschichte. Im Februar 2025 räumte CEO Sam Altman gegenüber Reuters ein, dass GPT-5 aufgrund von Sicherheitsbedenken verzögert worden sei — ein seltenes öffentliches Eingeständnis interner Spannungen. Aber die Herabstufung des Biowaffenrisikos deutet darauf hin, dass selbst wenn Sicherheitsteams klar sprechen, kommerzielle Zeitpläne ihre Empfehlungen überstimmen können.

Das breitere Muster ist eines, vor dem Kritiker der Selbstregulierung in der KI seit langem warnen: Unternehmen führen interne Sicherheitsbewertungen durch, sind aber gesetzlich nicht verpflichtet, danach zu handeln. Ein Hochrisiko-Befund ist nur so wirksam wie die Bereitschaft des Unternehmens, ihn zu respektieren.

Dies ist nicht einzigartig bei OpenAI. In der gesamten Frontier-KI-Branche arbeiten Sicherheitsteams innerhalb von Organisationen, deren primärer Anreiz die Bereitstellung ist. Die WSJ-Untersuchung ist eine Fallstudie dafür, was passiert, wenn diese Anreize kollidieren.

Was dies für die Regulierung bedeutet

Das Timing des WSJ-Berichts ist bedeutsam. Mehrere Rechtsräume — darunter die Umsetzung des EU AI Acts, Kaliforniens vorgeschlagene KI-Sicherheitsgesetzgebung und bundesstaatliche KI-Gesetze im US-Kongress — diskutieren aktiv, wie viel externe Überwachung Frontier-Modellentwicklern auferlegt werden soll.

Die Forderung nach verpflichtenden Drittanbieter-Sicherheitsaudits war ein zentraler Streitpunkt. Befürworter argumentieren, dass interne Sicherheitsbewertungen, egal wie rigoros, letztlich Unternehmensprioritäten unterliegen. Gegner entgegnen, dass Regulierung Innovation verlangsamen und Entwicklung in weniger regulierte Rechtsräume treiben würde.

Die Biowaffen-Erkenntnisse des WSJ liefern konkrete Munition für das erste Lager: hier ist ein dokumentierter Fall, in dem ein interner Sicherheitsprozess ein ernstes Risiko identifizierte und das Unternehmen sich entschied, es herabzustufen statt zu mildern. Ob diese Entscheidung gerechtfertigt oder fahrlässig war, ist eine Frage, die Regulierungsbehörden jetzt beantworten müssen.

Die Lücke zwischen Wissen und Handeln schließen

Die unbequeme Wahrheit im Zentrum dieser Geschichte ist, dass OpenAI möglicherweise recht hatte — oder zumindest nicht offensichtlich unrecht —, das Risiko herabzustufen. Die Biowaffenfähigkeiten des Modells, obwohl real, überschritten möglicherweise nicht das, was bereits über Google-Suchen, Lehrbücher oder große Sprachmodelle von Wettbewerbern verfügbar war. Die Hochrisiko-Einstufung könnte übermäßig vorsichtig gewesen sein.

Aber diese Verteidigung verfehlt den Punkt. Das Problem ist nicht, ob die Herabstufung isoliert betrachtet korrekt war; es ist, dass die Entscheidung vollständig hinter verschlossenen Türen getroffen wurde, ohne externe Überwachung und ohne Verpflichtung, die Änderung zu dokumentieren oder zu rechtfertigen. Ein Sicherheitsprozess, der ohne Transparenz überstimmt werden kann, ist kein Sicherheitsprozess. Er ist eine Checkliste.

Die WSJ-Untersuchung schließt mit dem Hinweis, dass mehrere Kongressabgeordnete Briefings zu den Ergebnissen angefordert haben. Ob diese Briefings zu gesetzgeberischen Maßnahmen führen — oder ob dies eine weitere Geschichte wird, die aus dem öffentlichen Blickfeld verschwindet, bis der nächste Vorfall eintritt — wird entscheiden, ob sich die Lücke zwischen dem, was KI-Unternehmen wissen, und dem, wonach sie handeln, jemals schließt.

Quellen

• WSJ: AI Chatbots Know How to Make Deadly Biological Weapons. Some Will Teach You. (Bezahlschranke)
• The Decoder: Hundreds asked ChatGPT for poison and bioweapon recipes
• Reuters: OpenAI CEO says GPT-5 delayed by safety concerns (Feb 2025)
• NBC News: ChatGPT safety systems bypassed for weapons instructions (Oct 2025)
• OpenAI: GPT-5 System Card