Wer bremst, verliert

Der Streit um die KI-Entschleunigung als Lehrstück der Spieltheorie

Anthropic-Chef Dario Amodei will das Tempo der KI-Entwicklung drosseln. Sam Altman und Elon Musk nicken, Mark Zuckerberg und Jensen Huang winken ab. Moralisch betrachtet wirkt das wie ein Glaubenskrieg. Spieltheoretisch lässt es sich erstaunlich präzise lesen! Und damit entsteht ein Blick in die Glaskugel.

Zwei Wochen, die das Silicon Valley gespalten haben

Anfang September kündigt Jacob Coxon bei Anthropic. Der 27-jährige Forscher hatte drei Jahre lang am Pretraining (erste und aufwendigste Phase beim Training eines KI-Modells) großer Sprachmodelle gearbeitet, erst bei OpenAI, dann bei Anthropic. Sein Vorwurf auf X: Keine der beiden Firmen handle verantwortungsvoll, beide rasten auf eine sich selbst verbessernde Superintelligenz zu. Der Post erreicht zig Millionen Menschen. Wenige Tage später legt Amodei nach. Am 12. September veröffentlicht er einen Essay mit dem Titel „We Must Pace the Frontier“. Die führenden Labore sollen das Tempo senken, mit dem ihre Modelle besser werden. Kein Stopp, betont er. Ein Takt.

Binnen Stunden signalisieren Altman, Musk und Demis Hassabis (Google DeepMind) Zustimmung. Dann die Gegenrede. Nvidia-Boss Huang lehnt koordiniertes Bremsen ab, weil es Konkurrenten wie China einen Vorsprung verschafft. Zuckerberg argumentiert, Wettbewerb und Haftungsrisiken sorgten ohnehin für Sicherheit. Am 18. September verklagen vier Verbraucher Anthropic, OpenAI, SpaceXAI und Google in San Francisco wegen mutmaßlicher Kartellabsprache.

Und der Rest? Sortiert sich in Lager. Die einen hören die Sirene, die anderen einen durchschaubaren Trick. Journalist Sebastian Halm nennt die Sache im Branchendienst iBusiness kurzerhand „Bullshit-Apokalypse“: Hinter den Warnungen stünden Firmen, denen das Geld ausgeht und die sich aus teuren Verpflichtungen bluffen wollen. Wer recht hat, lässt sich heute kaum entscheiden. Welches Spiel hier läuft, dagegen schon.

Das klassische Setup: ein Gefangenendilemma

Das Gefangenendilemma ist das berühmteste Modell der Spieltheorie. Zwei Akteure, zwei Optionen: kooperieren oder abweichen. Kooperieren beide, geht es beiden gut. Weicht einer ab, während der andere kooperiert, kassiert der Abweichler den großen Gewinn und der Kooperierende die Rechnung. Weichen beide ab, stehen beide schlechter da, als wenn sie kooperiert hätten. Das Tückische daran: Egal, was der andere tut, für jeden Einzelnen lohnt sich das Abweichen mehr. Rationales Einzelverhalten erzeugt ein kollektiv schlechtes Ergebnis.

Auf die KI-Labore übertragen sieht die Matrix so aus:

  • Beide bremsen: geringere Kosten, mehr Zeit für Sicherheitsforschung, stabile Marktanteile.
  • Einer bremst, der andere rast: Der Raser sammelt Kunden, Talente und Investorengeld ein. „Wer bremst, verliert“ in Reinform.
  • Beide rasen: Milliardenkosten für Rechenzentren und Energie, wachsendes Risiko. Also der Status quo.

Amodei beschreibt diese Logik selbst, wenn er Wettbewerbsdruck als Grund nennt, warum Labore Risiken eingehen. Kein Unternehmen kann allein bremsen, ohne vom Markt bestraft zu werden. Es braucht also eine Absprache. Und genau dort beginnt das Problem.

Die kleine Fußnote mit der großen Wirkung

Absprachen zwischen Konkurrenten über das Produktionstempo haben einen Namen: Kartell. Amodei weiß das. In einer Fußnote bittet er Washington, das Kartellrecht für diese Gespräche auszusetzen. Spieltheoretisch wird es an dieser Stelle richtig spannend.

Das Kartellrecht ist nämlich nichts anderes als ein bewusst verordnetes Gefangenendilemma. Der Gesetzgeber will verhindern, dass Unternehmen kooperieren – bei Preisen, bei Mengen, beim Innovationstempo. Das Dilemma der Firmen ist der Gewinn der Kundschaft. Wer eine Ausnahme vom Kartellrecht verlangt, verlangt also die Auflösung genau jenes Dilemmas, das den Wettbewerb am Leben hält.

Dafür kann es gute Gründe geben. Droht tatsächlich eine existenzielle Gefahr, wäre Kooperation das einzig Vernünftige. Es kann sich aber ebenso gut um ein Kartell im Sicherheitsgewand handeln. Auf der Auszahlungsmatrix sehen beide Varianten identisch aus. Das ist der Kern des Streits, und er erklärt, warum Juristen und Ökonomen so nervös reagieren. Das Wall Street Journal nannte Amodeis Fußnote eine Einladung zur Geheimabsprache.

Oder doch eher eine Hirschjagd?

Halms Lesart dreht die Matrix um. Er verweist auf Verluste in astronomischer Höhe – geschätzt rund zehn Milliarden Dollar bei Musks xAI, etwa 15 bei Anthropic, satte 60 bei OpenAI seit Gründung –, auf zirkuläre Investitionen, bei denen Geld zwischen Chiplieferant und Modell-anbieter im Kreis läuft, und auf auflaufende Zahlungsverpflichtungen gegenüber Energieversorgern und Rechenzentren. Regulierung, schreibt er, wäre für diese Firmen kein Opfer, sondern ein Ausweg: „Wir wollen ja, aber wir dürfen nicht!“

Wenn das stimmt, ist das Spiel kein Gefangenendilemma mehr. Sondern eine Hirschjagd.

Das Bild stammt von Rousseau. Zwei Jäger können gemeinsam einen Hirsch erlegen – große Beute, aber nur im Team. Oder jeder fängt allein einen Hasen, klein, aber sicher. Anders als im Gefangenendilemma will hier niemand abweichen, solange er dem anderen vertraut. Das Problem heißt nicht Gier. Es heißt Misstrauen.

Übertragen bedeutet das: Wenn alle Frontier-Labore lieber langsamer und billiger arbeiten würden, sich aber keiner traut, als Erster vom Gas zu gehen, hilft kein moralischer Appell. Dann braucht es einen verlässlichen Koordinationsmechanismus. Staatlich abgesegnet. Kartellrechtlich geschützt. Exakt das beantragt Amodei.

Beide Modelle erklären, warum die Warnungen so laut ausfallen und die Bitte um Koordination so konkret. Welches von beiden zutrifft, hängt an einer einzigen Frage: Tut die Bremse den Firmen weh oder tut sie ihnen gut? Von außen lässt sich das kaum beurteilen. Genau das macht die Debatte so zäh.

Das Chicken Game der Beschleuniger

Dann gibt es jene, die gar nicht mitspielen wollen. Zuckerberg und Huang spielen ein anderes Spiel, das Chicken Game. Zwei Autos rasen aufeinander zu, wer ausweicht, gilt als Feigling. Weicht keiner aus, verlieren beide alles. Das Spiel belohnt, wer glaubhaft macht, niemals auszuweichen.

Als Donald Trump auf dem All-In Summit in Los Angeles vor einem Bremsen warnte, das China in die Hände spiele, antwortete Huang: „We‘re not going to let that happen, sir.“ Ein Lehrbuchzug. Wer öffentlich zusagt, nie zu bremsen, zwingt die anderen zur Entscheidung. Zuckerberg wiederum verweist auf Meta, das eigene Technologien aus Sicherheitsgründen zurückgehalten habe – freiwillig, ohne Gesetz. Sicherheit als Wettbewerbsvorteil, nicht als Absprache.

Hinzu kommt eine Asymmetrie, die in keiner klassischen Matrix auftaucht.
Nvidia verdient an jedem Rechenzentrum, egal wer das Rennen gewinnt. Meta setzt auf offene Modelle, die von wenig Regulierung profitieren. Beide sitzen nicht im selben Auto wie Anthropic oder OpenAI. Der eine verkauft das Benzin, der andere fährt auf einer anderen Straße. Wer unterschiedliche Auszahlungen hat, spielt auch bei identischer Faktenlage ein anderes Spiel.

Und China? Der klassische Trittbrettfahrer. Eine Absprache unter US-Laboren bindet Peking nicht. Jede Runde, in der der Westen bremst, wäre eine Runde, in der ein anderer aufholt – noch dazu, wie Halm anmerkt, mit abgespeckten Modellen, die weniger Rechenleistung verbrauchen und damit günstiger laufen. Das Argument ist alt. Es prägte schon die Abrüstungsdebatten des Kalten Kriegs. Und es hat denselben Schwachpunkt wie damals: Es lässt sich gegen jede Form von Selbstbeschränkung ins Feld führen, immer.

KI-generierte Illustration: zwei Sportwagen rasen auf einer Neonstraße aufeinander zu

Was die Spieltheorie über Auswege verrät

Gefangenendilemmata sind nicht unlösbar. Der Politikwissenschaftler Robert Axelrod zeigte in den 1980er-Jahren, dass Kooperation in wiederholten Spielen stabil werden kann, sofern Abweichungen sichtbar sind und Konsequenzen haben. Drei Zutaten braucht es dafür.

Transparenz. Abweichen muss auffallen. Amodei schlägt vor, unabhängige Prüfer wie die Non-Profit-Organisation METR mit Schreibtisch, Ausweis und Laptop direkt in die Labore zu setzen. Bemerkenswert: Dieser Teil braucht keine Kartellausnahme, Anthropic hat ihn einseitig zugesagt und selbst Huang findet ihn richtig.

Kostspielige Signale. Billige Worte, in der Fachsprache „Cheap Talk“, ändern kein Spiel. Coxon verzichtete Berichten zufolge auf seine Firmenanteile. Ein teures Signal, das Glaubwürdigkeit schafft. Ein Post mit „Dario is right“ kostet dagegen nichts.

Ein Schiedsrichter. Im Kalten Krieg übernahmen Satelliten und Inspektoren die Verifikation, an den Finanzmärkten tun es Aufsichtsbehörden. Für KI existiert nichts Vergleichbares. Hassabis‘ Idee einer branchenfinanzierten Aufsicht nach Vorbild der US-Finanzaufsicht FINRA scheiterte laut Wall Street Journal am Widerstand von Zuckerberg, Musk und Huang im Weißen Haus. Musk, wohlgemerkt, der das Bremsen öffentlich unterstützt.
Zustimmung im Essay, Blockade im Hintergrund – spieltheoretisch ein perfekter Zug, wenn man den Applaus will, aber nicht die Regel.

Die eigentliche Pointe

Wer den Streit als Kampf zwischen Mahnern und Leugnern liest, übersieht das Entscheidende. Beide Lager handeln rational, jedes in seinem Spiel. Die Warner brauchen Koordination, ob aus Angst vor der Maschine oder vor der eigenen Bilanz. Die Beschleuniger brauchen das Rennen, weil sie am Rennen verdienen. Kein Lager muss lügen, damit diese Geschichte funktioniert.

Für Beobachter heißt das: Weniger auf die Lautstärke achten, mehr auf die Kosten. Welche Zusagen tun dem Unternehmen spürbar weh? Welche Prüfer bekommen echten Zugang? Welche Selbstverpflichtungen gelten auch ohne Kartellausnahme? Dort trennt sich das Signal vom Rauschen. Und wer geschäftlich auf diesen Modellen aufbaut, sollte eine zweite Frage stellen: Was passiert mit meinen Anwendungen, wenn das Tempo tatsächlich sinkt – oder wenn ein Anbieter den Preis für die Rechenleistung endlich weiterreicht?

Bleibt eine unbequeme Erkenntnis. Wenn Sicherheit und Eigeninteresse perfekt zusammenfallen, macht das Misstrauen nicht überflüssig. Es macht es zur Pflicht.

Quellen

Weitere Artikel

Die besten 48 Stunden: Prag

„What a difference a day makes…” sang einst Dinah Washington und erzählte, was in „twenty-four little hours” alles passieren kann. Für Only the Best werden an dieser Stelle verschiedene Autoren weitere 24 Stunden hinzufügen und Ihnen jeweils „Die besten 48 Stunden“ in einer Region, einer Stadt oder auf einer Insel präsentieren. Lassen Sie sich an Orte mitnehmen, die mir immer wieder wunderbare Gründe geben, zurückzukehren.

Inside the Circle – Ein Herz für Rentner

In unserer Kolumne hat Christiane Wolff in der Münchener Innenstadt Sandra Bisping, Gründerin des Vereins „Ein Herz für Rentner e. V.“ auf einen Tee getroffen. Bei ihrer Geschichte wurde auch ihr warm ums Herz. Ein Gespräch über einen mutigen Neuanfang, die Kraft des Helfens und die Frage, was ein reiches Leben wirklich aus-macht.

The Soul of Retail – RH Munich

In der Münchner Sendlinger Straße verbindet RH Munich historische Architektur, internationale Designkultur und luxuriöse Wohnwelten. The Gallery zeigt, wie Interior Design über die Funktion hinausgeht und Räume durch Materialien, Licht und Proportionen eine unverwechselbare Atmosphäre verleiht.

Winter at its best

Ob verschneite Bergwelten, elegante Hideaways oder charmante Orte mit alpinem Flair – diese Winterdestinationen versprechen besondere Auszeiten zwischen Naturgenuss, stilvollem Komfort und unvergesslichen Momenten.