Eine neue Studie, die in der renommierten Zeitschrift Proceedings of the National Academy of Sciences veröffentlicht wurde, stellt die weit verbreitete Annahme in Frage, dass jegliche staatliche Einmischung in den Bereich der künstlichen Intelligenz automatisch die Sicherheit erhöht. Die Autoren kommen zu einem paradoxen Schluss: schlecht durchdachte, „schwache“ Kontrollmaßnahmen können das Endergebnis gefährlicher machen, als wenn es überhaupt ohne Aufsicht entwickelt worden wäre.

Die Mathematik des Risikos: Spieltheorie gegen Intuition

Der Studie liegt ein komplexes theoretisches ökonomisches Modell zugrunde, das auf den Prinzipien der Spieltheorie basiert. Die Forscher modellierten das Verhalten der wichtigsten Akteure auf dem KI-Markt: der Giganten, die die Basismodelle entwickeln (wie OpenAI, Google, Anthropic), und der Unternehmen, die diese Technologien in reale Bereiche integrieren – von der medizinischen Diagnostik bis hin zu Chatbots in Online-Shops.

Die Simulation deckte eine kritische Schwachstelle in der aktuellen Regulierungslogik auf. Wenn die Vorschriften ausschließlich auf anwendende Unternehmen abzielen und die Entwickler der fundamentalen Modelle ignorieren, entsteht eine gefährliche Verzerrung. Die Entwickler der Basissysteme beginnen, bei Sicherheitsmaßnahmen zu sparen, und rechnen unbewusst damit, dass ihre Partner die Verantwortung für die Sicherheit des Endprodukts übernehmen werden.

Das Gefangenendilemma im Code

Dieser Prozess wird durch das klassische Gefangenendilemma beschrieben. In diesem Szenario können zwei rationale Akteure entweder zusammenarbeiten oder sich gegenseitig verraten. Wenn beide zusammenarbeiten, ist das Ergebnis für alle optimal. Wenn einer zusammenarbeitet und der andere verrät, gerät der Erste in die schlechteste Lage. Da die Absichten des Partners unbekannt sind, wählt jeder häufiger den Verrat – und am Ende erhalten beide ein schlechteres Ergebnis, als sie hätten erzielen können.

Genau so funktioniert schwache Regulierung im KI-Bereich. Es entsteht ein Trittbrettfahrer-Effekt: Die Regulierung wird zu einem Instrument, mit dem ein großer Anbieter die Last der Sicherheit auf einen spezialisierten Downstream-Partner abwälzt. Ohne klare und gleiche Verpflichtungen für alle Beteiligten in der Kette wählt jede Seite eine Strategie der Selbstverteidigung auf Kosten der allgemeinen Sicherheit.

Regulierung als Instrument des Vertrauens

Die Autoren der Studie bestehen darauf, dass der Ausweg aus der Sackgasse in einer strengen Regulierung der gesamten Produktionskette liegt. Nach ihren Worten kann „eine stärkere und richtig ausgerichtete Regulierung allen Beteiligten gegenseitigen Nutzen bringen“, indem sie sowohl die Sicherheit des Endprodukts als auch die wirtschaftlichen Kennzahlen der Unternehmen verbessert.

In diesem Kontext wird Regulierung nicht als Einschränkung des Gewinns betrachtet, sondern als Instrument, das Unsicherheit beseitigt und Bedingungen für Vertrauen zwischen den Marktteilnehmern schafft. Menschen nehmen KI oft als ein einzelnes Objekt wahr, doch in Wirklichkeit ist es ein komplexes System mit vielen Beteiligten. Um es sinnvoll zu regulieren, muss die gesamte Wertschöpfungskette berücksichtigt werden, nicht nur ein einzelner Anbieter.

Politische Kontext: Der Wettlauf mit China versus Sicherheit

Die Studie erscheint zu einem Zeitpunkt heftiger Meinungsverschiedenheiten in der amerikanischen Politik bezüglich der Zukunft der KI. Die eine Seite, die von der aktuellen Trump-Administration unterstützt wird, plädiert für minimale Einschränkungen und beruft sich auf die Notwendigkeit, China im technologischen Wettlauf zu überholen. Befürworter einer strengen Regulierung warnen jedoch davor, dass die Branche in ihrem Gewinnstreben die tatsächlichen Risiken unterschätzt: von der psychologischen Auswirkung von KI-Diensten auf die Nutzer über die ökologischen Folgen des Baus von Rechenzentren bis hin zu einer massiven Welle der Arbeitslosigkeit.