Das Büro des Legislative Counsel der Repräsentantenhaus des US-Kongresses ist durch die Flut von KI-gestützten Gesetzentwürfen überlastet. Wie die Behörde mitteilt, greifen immer mehr Kongressabgeordnete bei der Ausarbeitung ihrer Gesetzgebungsvorschläge auf öffentlich zugängliche KI-Dienste zurück – vor allem auf OpenAI ChatGPT und Anthropic Claude. Infolgedessen verbringen die Juristen des Rates unverhältnismäßig viel Zeit mit der Überprüfung und Überarbeitung solcher Dokumente: Nach ihrer Einschätzung wäre es in manchen Fällen schneller, den Text von Grund auf neu zu verfassen, als den von der KI generierten Entwurf zu korrigieren.

Systematische Fehler in generierten Texten

Das Hauptproblem der KI-Gesetzentwürfe liegt in der Fülle falscher Fachbegriffe, unzutreffender Verweise und weiterer Fehler. Öffentlich zugängliche Modelle übersehen in der Regel Nuancen und kleine, aber rechtlich bedeutsame Details, die die Auslegung und Verabschiedung eines Gesetzes erheblich beeinflussen können. Als charakteristisches Beispiel führte die Behörde an, dass die KI nicht zuverlässig zwischen „Steuergutschriften, Steuerabzügen, Steuerbefreiungen oder Zuschüssen“ unterscheiden kann – Begriffe, die im Gesetzgebungswesen grundsätzlich unterschiedliche Konsequenzen haben. In einigen generierten Texten umfasst der Begriff „Bundesstaat“ fälschlicherweise nur die 50 Bundesstaaten und schließt den Hauptstadtbezirk District of Columbia sowie die Gebiete der indigenen Völker aus; zudem werden frühere Gesetze unzutreffend zitiert.

Oberflächliche Erarbeitung der Themen durch die Gesetzgeber

Neben den technischen Fehlern erzeugen KI-Gesetzentwürfe auch ein anderes Problem: Laut Angaben des Büros sind die Mitarbeiter des Kongresses nicht mehr so gut mit dem Inhalt ihrer eigenen Dokumente und damit vertraut, was genau sie erreichen wollen. Indem sie sich auf generative Modelle stützen, erarbeiten die Gesetzgeber die entsprechenden Themen nur oberflächlich, was die Qualität des gesamten Gesetzgebungsprozesses mindert.

Gegenmaßnahme: KI gegen KI

Um der durch KI-generierte Gesetzentwürfe verursachten wachsenden Arbeitslast Herr zu werden, schließt das Büro der Rechtsberater eine spiegelbildliche Maßnahme nicht aus – den Einsatz von künstlicher Intelligenz in der eigenen Arbeit zur „Steigerung der Effizienz“. Die Arbeitsgruppe hat bereits einen KI-basierten „Vergleichsdruckwerk-Komplex“ erstellt, der den Mitarbeitern helfen soll, die Auswirkungen jedes Gesetzentwurfs auf das geltende Recht zu visualisieren. Im Gegensatz zu üblichen generativen Werkzeugen gibt dieser Komplex einen Fehler aus, wenn er nicht bestimmen kann, wo genau Änderungen am Gesetzentwurf vorzunehmen sind – ein Mechanismus, der darauf abzielt, das Eindringen von offensichtlichen Erfindungen, also Halluzinationen, in die Dokumente zu verhindern.

Widersprüchliche Daten

In den verfügbaren Quellen zum Thema wurden keine Abweichungen in den wesentlichen Fakten, Zahlen und der Chronologie festgestellt: Die Veröffentlichungen von 3dnews.ru, hi-tech.mail.ru und news.rambler.ru stimmen in der Beschreibung des Problems der Überlastung der Kongressjuristen durch KI-Gesetzentwürfe und in der Aufzählung typischer Fehler generativer Modelle überein. Abweichende Versionen der Ereignisse wurden zum Zeitpunkt der Erstellung des Materials nicht festgestellt.