KI schreibt US-Gesetze - und niemand stoppt es

Das wichtigste Gesetz im amerikanischen Verteidigungshaushalt wurde letzten Monat entworfen, als jemand im Büro einer Kongressabgeordneten aus Florida versehentlich eine Quittung dafür einreichte, wie die Arbeit heute tatsächlich erledigt wird. Der Text, der im öffentlichen Protokoll des National Defense Authorization Act landete, lautete: „increasing example specific factors. Identical to H.R. 100 (118th Congress).11:25 AM????Claude responded:"

Ein Mitarbeiter hatte die Ausgabe eines Anthropic-Claude-Prompts in das offizielle Protokoll kopiert, ohne zu überprüfen, was er einfügte. Die verstümmelte Zeile, Zeitstempel und alles, stammte aus einer Chatbot-Sitzung, nicht von einem Menschen, der einen Verteidigungsgesetzentwurf verfasst.

Die Leute, die die Regeln für KI schreiben, entwerfen die Gesetze mit KI.

Ein Geständnis vom Capitol Hill

Die Washington Post berichtete in diesem Monat, dass KI-Chatbots in beiden Kammern des Kongresses zur Routine geworden sind. Mitarbeiter nutzen ChatGPT, Claude und Grok zum Verfassen von Gesetzen, zum Schreiben von Reden, zum Zusammenfassen von Dokumenten und zur Recherche von politischen Positionen. Abgeordnete Anna Paulina Luna (R-FL), in deren Büro der NDAA-Prompt passierte, zeigte sich uneinsichtig.

„Viele Mitarbeiter nutzen ChatGPT, Claude, Grok," sagte Luna der Post. „Ich mag Grok persönlich lieber, aber mein Mitarbeiter bevorzugt Claude. Ich werde ihn dafür nicht tadeln. Es ist nichts Illegales daran, eine Zusammenfassung zu erstellen."

Sie hat recht, dass es kein Gesetz dagegen gibt. Genau das ist das Problem. Es gibt kein Gesetz, keine Regel und keine Aufsicht darüber, wie KI im Gesetzgebungsprozess eingesetzt wird. Kein Mitarbeiter des Kongresses wurde jemals formell wegen KI-Nutzung auf dem Capitol Hill diszipliniert.

Das Problem der unbeaufsichtigten Mitarbeiter

Das Risiko ist nicht die Abgeordnete, die einen Chatbot um eine Zusammenfassung bittet. Das Risiko ist der junge Mitarbeiter, der spät nachts unter Zeitdruck arbeitet, KI zum Verfassen von Texten nutzt und sie nie überprüft. Die Washington Post fand heraus, dass die unbeaufsichtigte Nutzung durch Mitarbeiter weit verbreitet ist und es keinen institutionellen Rahmen gibt, um die Fehler zu erkennen.

Einige Mitarbeiter haben stillschweigend eigene Schutzmaßnahmen entwickelt. Sydney Broome, eine Mitarbeiterin von Abgeordnetem Cleo Fields (D-LA), sagte der Post, sie habe beschlossen, KI-Tools niemals zum Verfassen von Dokumenten von Grund auf zu verwenden. Sie hatte die Regel von einem College-Kurs übernommen. Der Kongress selbst hat keine solche Regel verabschiedet.

Die Folgen sind bereits sichtbar. Anwälte wurden dabei ertappt, halluzinierte Gerichtsurteile zu zitieren. Beratungsfirmen haben sinnlose KI-Berichte ausgeliefert. Lehrer korrigieren jetzt Aufsätze, die Schüler mit denselben Tools generiert haben. Der Kongress ist von all dem nicht ausgenommen. Er ist lediglich die neueste Institution, die entdeckt, dass KI-Ausgaben autoritativ aussehen und es nicht sind.

Ein Flickenteppich ohne Politik

Der Capitol Hill hat keine zentrale KI-Politik. Jedes Büro entscheidet für sich. Einige Abgeordnete haben zugegeben, Chatbots zur Recherche zu konsultieren. Andere, wie Luna, ermutigen ihre Teams aktiv zur Nutzung der Tools. Einige wenige, wie Fields' Büro, haben selbstauferlegte Beschränkungen. Das Ergebnis ist ein Flickenteppich, bei dem die Leute, die Bundesgesetze schreiben, unter Standards arbeiten, die von Büro zu Büro variieren.

Das Fehlen von Regeln ist in gewisser Weise beabsichtigt. Die Trump-Administration hat jeden Bereich der Bundesregierung gedrängt, KI aggressiv einzuführen. Der Kongress, der die Behörden reguliert, die KI nutzen, ist jetzt selbst ein starker Nutzer - ohne die Schutzmaßnahmen, die er von den Abteilungen erwartet, die er beaufsichtigt.

Was schiefgehen könnte

Der NDAA-Prompt war harmlos, ein peinlicher Tippfehler in einem öffentlichen Protokoll. Die Versagensart, die zählt, ist leiser. Eine halluzinierte Statistik im Abschnitt „Feststellungen" eines Gesetzes. Ein erfundenes juristisches Zitat in einem Änderungsantrag. Eine politische Empfehlung, die auf der selbstbewussten Schätzung eines Modells basiert und nicht auf echten Aufzeichnungen. Nichts davon würde auffallen, weil niemand hinschaut.

Es gibt auch das Problem der Verantwortlichkeit. Wenn ein KI-Entwurf Gesetz wird und das Gesetz fehlerhaft ist, wer ist verantwortlich? Der Mitarbeiter, der das Modell angewiesen hat? Der Modellanbieter? Die Abgeordnete, die es eingereicht hat? Die derzeitige Antwort lautet: niemand. Und das ist eine gefährliche Antwort für die Institution, die die Regeln schreibt, an die sich alle anderen halten müssen.

Die Institution, die KI reguliert, nutzt KI unreguliert

Die Ironie ist struktureller Natur. Der Kongress debattiert derzeit darüber, wie künstliche Intelligenz reguliert werden soll, von Wassermarken-Anforderungen bis zu Haftungsrahmen. Die Regulierer sind bereits von der regulierten Technologie abhängig, ohne eigenen Überwachungsmechanismus. Der Claude-Prompt eines Mitarbeiters im NDAA-Protokoll ist das sichtbare Symptom einer unsichtbaren institutionellen Veränderung: Die Legislative hat einen Teil ihres Denkens an Modelle ausgelagert, die sie nicht versteht und nicht kontrolliert.

Das NDAA-Artefakt wird vergessen werden. Das Muster, das es enthüllt hat, nicht. Die Leute, die Amerikas KI-Regeln schreiben, lassen sich von KI beim Schreiben helfen - und der einzige Unterschied zu jeder anderen KI-am-Arbeitsplatz-Geschichte ist, dass hier der Output zum Gesetz wird.

Quellen

• Congressional Staffers Are So Lazy That They're Using AI to Write New Laws, Futurism
• Chatbots are doing the work of Congress with little oversight, The Washington Post (über Google News)
• Anna Paulina Luna Defends Claude AI Mistake In Bill Summary, Forbes (über Google News)
• MAGA Congresswoman Caught Using AI to Write National Security Bill, Yahoo News (über Google News)