Steve Eisman (The Real Eisman Playbook):

Ab 07:53
Die Warnungen vor dem Aussterben durch KI

Normalerweise analysiere ich, wenn ich über KI spreche, Finanzdaten, Wachstum und Bilanzen und diskutiere beispielsweise, wie viel Geld Anthropic und OpenAI verlieren. Aber die aktuellen Nachrichten haben damit wenig zu tun, zumindest auf den ersten Blick. In Wirklichkeit hat es jedoch sehr viel damit zu tun. Lassen Sie mich das näher erläutern.

Alles begann mit Jacob Coxin, einem 27-jährigen Forscher auf dem Gebiet der künstlichen Intelligenz. Er kündigte bei Anthropic und veröffentlichte einen Beitrag in den sozialen Medien, in dem er behauptete, dass KI-Labore ohne angemessene Kontrollen auf eine sich selbst verbessernde Superintelligenz zusteuern. Und er behauptete, dass die Menschen, die KI entwickeln, insgeheim glauben, sie könnte bis zum Ende des Jahrzehnts alle Menschen töten – mit anderen Worten: Terminator.

Dieser Beitrag wurde millionenfach aufgerufen. Die Medien spielten verrückt. Und um noch Öl ins Feuer zu gießen, schloss sich Dario Amodei, der CEO von Anthropic, mit seinen eigenen Weltuntergangsgedanken an: Das sei ein Warnsignal, dass wir einen Gang zurückschalten müssten. Amodei forderte die Branche auf, das Tempo bei der Verbesserung der Modellfähigkeiten zu drosseln. In einem Interview mit CBS News erklärte er wörtlich: „Zu lange hat die Branche gelogen oder die tatsächlichen Risiken der KI heruntergespielt.“ Das klingt bedrohlich. Sam Altman von OpenAI erklärte daraufhin, dass er zustimme, dass die Branche einen Gang zurückschalten müsse.

Bevor ich nun darauf eingehe, warum das alles Unsinn ist und was tatsächlich vor sich geht, möchte ich den Hintergrund erläutern. Wenn es um neue Technologien geht, haben wir diese Art von Hysterie schon einmal erlebt. In seinem jüngsten Newsletter erörtert Ed Zitron – den ich am 9. September in meinem Substack-Premium-Service interviewt habe – die Geschichte von Kevin Mitnick. Es ist eine Geschichte, die ich vor vielen Jahren gehört, aber wieder vergessen hatte; daher danke ich Ed dafür, dass er sie wieder ins Gedächtnis gerufen hat.

Kevin Mitnick war einer der ersten Hacker. Er wurde 1988 wegen verschiedener Hacker-Delikte verurteilt und verbüßte ein Jahr im Gefängnis. Nach seiner Entlassung tat er es erneut und wurde 1995 wieder verurteilt. Diesmal verbüßte Mitnick fünf Jahre, davon acht Monate in Einzelhaft, weil Strafverfolgungsbeamte einen Richter davon überzeugten, dass Mitnick die Fähigkeit besaß – man höre und staune –, durch Pfeifen in ein Münztelefon einen Atomkrieg auszulösen. Das implizierte, dass Mitnick sich irgendwie über ein Gefängnis-Münztelefon in das NORAD-Modem einwählen und durch Pfeifen nukleare Startbefehle an NORAD erteilen könnte.

So etwas kann man sich nicht ausdenken. Offensichtlich war das lächerlich. Aber es handelte sich um eine neue Technologie, die von den meisten Menschen kaum verstanden wurde. Und diese Laien ließen sich von Unsinn überzeugen. Genau das ist meiner Meinung nach hier gerade der Fall: Es herrscht zunehmende Hysterie, weil Leute, die es besser wissen sollten – Amodei und Altman –, ein Terminator-Szenario prophezeien.

Man beachte, dass weder Amodei noch Altman echte KI-Probleme ansprechen, wie den Suizid von Teenagern, die mit KI interagieren, oder das unbefugte Eindringen in Systeme anderer Unternehmen. Das sind reale Probleme, die nicht das Ende der Welt bedeuten und durch angemessene Aufsicht seitens des Managements von Anthropic und OpenAI gelöst werden könnten.

Schauen wir uns nun eine andere Vorhersage an, die KI-Experten früher getroffen haben: Sie behaupteten, dass KI in der gesamten Wirtschaft zu massiven Entlassungen führen würde. Das wäre zwar auch kein Weltuntergang, aber immer noch verheerend. Nun zeigt sich schlicht, dass daran überhaupt nichts dran war. Vielleicht gibt es in der Tech-Branche wegen KI etwas weniger Neueinstellungen, aber es gab keine Massenarbeitslosigkeit – und die führenden Köpfe der Branche sprechen heute nicht einmal mehr darüber.

Die KI-Branche neigt dazu, kühne und dramatische Vorhersagen zu treffen, die schlichtweg nicht eintreffen. Laien, Reporter, Journalisten, Politiker und andere Entscheidungsträger schlucken jedes Gerücht ungefiltert und ohne den geringsten Zweifel, weil das Feld so neu ist. Sie besitzen keinen Bezugsrahmen, um zu durchschauen, was tatsächlich geschieht. Und so kommt es, dass haarsträubenden Prophezeiungen absolute Glaubwürdigkeit beigemessen wird.

Was ist also wirklich los? Ich halte das für ein Täuschungsmanöver, einen handfesten Trick. Hier ist meine Theorie: Zunächst einmal ist die Behauptung, die Dario Amodei und Sam Altman bezüglich einer Verlangsamung aufstellen, auf den ersten Blick schlichtweg unwahr. Die gesamte Zukunft von Anthropic und OpenAI hängt fundamental davon ab, dass es zu keiner Verlangsamung kommt.

Beide Unternehmen haben Verpflichtungen in Höhe von hunderten Milliarden Dollar gegenüber den Hyperscalern. Allein OpenAI macht 300 Milliarden des über 600 Milliarden schweren Auftragsbestands von Oracle aus. Sollten sie das Tempo verlangsamen, könnten sie diese vertraglichen Verpflichtungen unmöglich bedienen.

Zudem will Anthropic noch in diesem Jahr an die Börse gehen – vielleicht schon in ein oder zwei Monaten. Eine Verlangsamung darf es schlicht nicht geben. Was würden sie den Investoren auf der Roadshow erzählen? Dass das bisherige Wachstum zwar spektakulär war, sich nun aber dem Stillstand annähert? Eine Verlangsamung würde ihrer gesamten Wachstumsstory diametral widersprechen. Der einzige Weg, all diese gigantischen Verpflichtungen einzuhalten, besteht darin, das Tempo unvermindert hochzuhalten.

Elon Musk hat es treffend auf den Punkt gebracht, als er sagte: „Es ist sicherlich eine Art verrücktes 4D-Schach, zu behaupten, es gebe eine 10-prozentige Wahrscheinlichkeit für die Auslöschung der Menschheit, um im selben Atemzug zu fragen: Wie viele Aktien wollt ihr bei unserem Börsengang zeichnen?“ Ich liebe dieses Zitat.

Also noch einmal: Was geht hier wirklich vor sich? Das operative Geschäft verlangsamt sich möglicherweise oder wird zumindest deutlich härter. Wie ein Straßenbetrüger beim Hütchenspiel wollen Amodei und Altman um jeden Preis verhindern, dass der Markt erfährt, dass das Wachstum nachlässt, während die Kosten explodieren und Kapital teurer wird. Sie ziehen es vor, der Öffentlichkeit Angst einzujagen, um die Politik dazu zu bringen, Regulierungen zu erlassen, die ihre eigene Preisgestaltungsmacht zementieren.

Sie schieben die Hütchen hektisch und wild hin und her. Das Geschäft schwächt sich ab, weil die reine Rechenleistungsskalierung an Grenzen stößt und quelloffene Open-Weight-Modelle rapide Marktanteile erobern. In dieser Branche existieren keine unumstößlichen Wettbewerbsvorteile: Heute stelle ich das beste LLM, morgen ist deines leistungsfähiger und gleichzeitig billiger. Parallel steigen die Baukosten für Rechenzentren sowie die Zinsen. Anthropic und OpenAI brauchen dringend Schutzmechanismen für ihr Geschäft, weil sie einen brutalen Preiskampf heraufziehen sehen.

Aus diesem Grund schüren sie die Hysterie und drängen die Bundesregierung zu regulatorischen Eingriffen. Ihr Ziel ist es, durch diese Gesetze bürokratische Markteintrittshürden zu errichten, die letztlich ein geschütztes KI-Duopol begünstigen. Das ist der eigentliche Kern dieses Manövers.

Das Ganze ist hochgradig destruktiv. Lügen ziehen gravierende Konsequenzen nach sich. Investoren zu täuschen, ist gewöhnlicher Wertpapierbetrug nach alter Wall-Street-Manier; politische Entscheidungsträger zu belügen, kann jedoch die gesamte Realwirtschaft destabilisieren. KI wird die Menschheit nicht auslöschen, aber diese beiden CEOs richten mit ihrer Kampagne enormen Schaden an.

Zum jetzigen Zeitpunkt scheint dieser Schachzug allerdings ein völliger Fehlschlag zu sein: Präsident Trump erklärte diese Woche unmissverständlich, dass er keinerlei Interesse an einer Regulierung von KI hat. Ich gehe daher jede Wette ein, dass das gesamte Weltuntergangsnarrativ zusammen mit der einsetzenden Wachstumsabkühlung sehr schnell wieder aus den Schlagzeilen verschwinden wird.

Der gesellschaftliche Schaden ist jedoch bereits real: Die Genehmigung von Rechenzentren dominiert bereits zahlreiche Kommunalwahlen, weil Menschen tatsächlich befürchten, dass das Rechenzentrum in ihrer Nachbarschaft eine Technologie hervorbringt, die sie vernichtet. Es wird hochgradig aufschlussreich sein zu beobachten, wie diese Verzerrungen offengelegt werden. Mir ist völlig schleierhaft, wie man bei einem anstehenden Börsengang, der strikte Transparenz erfordert, ein solches Hütchenspiel dauerhaft durchhalten will.

Chapter 6: The AI Extinction Warnings

Usually, when I talk about AI, I analyse financials, growth, and balance sheets, discussing things like how much money Anthropic and OpenAI are losing. But the recent news cycle has very little to do with that, at least on the surface. In reality, however, it has everything to do with it. Let me explain.

It all started with Jacob Coxin, a 27-year-old artificial intelligence researcher. He resigned from Anthropic and posted a statement on social media claiming that AI laboratories are barreling toward self-improving superintelligence without adequate safety guardrails. He alleged that the people building frontier AI secretly believe it could kill everyone before the decade is out—in other words, the Terminator scenario.

That post racked up millions of views. The media went into a frenzy. Adding fuel to the fire, Dario Amodei, the CEO of Anthropic, chimed in with his own apocalyptic warnings, calling it a wake-up call that the industry needs to tap the brakes. Amodei urged the sector to slow down the pace of model capability scaling. In an interview with CBS News, he stated verbatim: «For too long, the industry has lied or downplayed the actual risks of AI.» That sounds ominous. Sam Altman of OpenAI quickly followed suit, agreeing that the industry needs to slow down.

Before I get into why this is complete nonsense and unpack what is really happening, let me provide some historical context. When it comes to novel technologies, we have seen this precise brand of hysteria before. In his latest newsletter, Ed Zitron—whom I interviewed on September 9th on my Substack premium service—recounts the story of Kevin Mitnick. It is a story I had heard years ago and forgotten, so I credit Ed for bringing it back to mind.

Kevin Mitnick was one of the early legendary computer hackers. He was convicted in 1988 of various hacking offences and served a year in prison. After his release, he offended again and was convicted in 1995. This time, Mitnick served five years, including eight months in solitary confinement, because law enforcement prosecutors convinced a federal judge that Mitnick possessed the capability—believe it or not—to trigger a nuclear war simply by whistling into a payphone. The implication was that Mitnick could dial into a NORAD modem from a prison payphone and whistle launch codes directly to NORAD.

You cannot make this stuff up. It was manifestly absurd. But it involved new technology that the general public and the judiciary completely failed to comprehend, making them gullible to outright nonsense. That is precisely what is happening today: escalating hysteria driven by people who ought to know better—Amodei and Altman—peddling a Terminator narrative.

Notice that neither Amodei nor Altman addresses the actual, immediate issues surrounding AI, such as teenage mental health crises linked to chatbot interactions or unauthorized corporate data scraping and network infiltration. Those are tangible operational problems that do not threaten human extinction and can be resolved through competent executive oversight at Anthropic and OpenAI.

Consider another dire prediction previously touted by AI luminaries: that AI would immediately trigger catastrophic, sweeping unemployment across the broader economy. While not existential, that would certainly be devastating. Yet it has become abundantly clear there was zero substance to the claim. We may see subdued tech hiring at the margins, but mass structural unemployment has failed to materialize, and industry leaders have quietly stopped discussing it.

The tech sector has developed a chronic habit of issuing terrifying, grandiose forecasts that never come to pass. Laypeople, reporters, journalists, politicians, and regulators swallow every alarming headline uncritically because the underlying architecture is novel. Lacking an analytical frame of reference, they grant absolute credibility to monstrous fabrications.

So what is the actual game being played? It is a subterfuge. Here is my thesis: the claim by Dario Amodei and Sam Altman that development must slow down is demonstrably false on its face. The entire commercial future of Anthropic and OpenAI depends wholly on not slowing down.

Both companies have entered into hundreds of billions of dollars in binding commitments with hyperscalers. OpenAI alone represents roughly $300 billion of Oracle’s $600-billion-plus infrastructure order backlog. Were they to decelerate capacity buildouts, they would fail to service those immense financial obligations.

Furthermore, Anthropic is gearing up to go public before the year is out, potentially within the next month or two. They cannot afford an operational slowdown. What would they pitch to institutional investors on their IPO roadshow? That historical growth was extraordinary, but is now grinding to a halt? Deceleration eviscerates their entire equity narrative. The only path to satisfying these balance-sheet obligations is to maintain full throttle.

Elon Musk characterised the dynamic perfectly when he remarked: «It is certainly some kind of crazy 4D chess to say there’s a 10% chance of eradicating humanity, but by the way, how much equity would you like to buy in our IPO?» I love that quote.

So, once again: what is genuinely taking place? Top-line growth is visibly tapering off, or at least becoming dramatically harder to sustain. Like a street-corner three-card monte operator, Amodei and Altman are desperate to prevent the market from realising that unit economics are deteriorating while infrastructure expenses soar and venture capital tightens. They prefer to orchestrate widespread panic to coerce lawmakers into imposing market barriers that protect their domestic pricing power.

They are shuffling the shells as fast as humanly possible. Revenue trajectories are moderating because raw token scaling has encountered diminishing returns, while open-weight architectures are aggressively capturing market share. There are zero structural moats in this software layer: whichever lab holds the benchmark crown today will see a competitor ship a better, cheaper alternative tomorrow. At the exact moment operating fundamentals soften, data centre construction costs and the cost of capital are climbing. Anthropic and OpenAI require external intervention to protect their turf because they see a brutal price war dead ahead.

That is why they are manufacturing mass hysteria and inviting the federal government to regulate the space. They calculate that sweeping compliance mandates will establish insurmountable barriers to entry, locking in an artificial AI duopoly. That is the reality behind the curtain.

It is an ugly spectacle. Fabrications inevitably generate unintended consequences. Misleading institutional investors is garden-variety securities fraud by old Wall Street standards; misleading lawmakers, however, threatens to destabilise entire national industrial policy. Frontier AI is not going to extinguish humanity, but these two chief executives are inflicting severe systemic damage.

At present, their lobbying ploy appears to be misfiring entirely: President Trump stated unequivocally this week that he has no intention of regulating AI. I would bet heavily that this entire doomsday narrative vanishes the moment macroeconomic and market realities catch up. Yet the societal collateral damage is already done: data centre zoning has become a toxic battleground in municipal elections because residents have been conditioned to believe that the server farm down the road will literally kill them.

It will be extraordinarily revealing to watch the market puncture these repeated distortions. It remains entirely incomprehensible to me how any executive expects to sustain a three-card monte routine under the rigorous statutory disclosures of a public listing.