Folge 1 · 27.09.2026 · 34 Min.
KI-Halluzination, die Schule in Minab, KI-Einbrecher, KI-Blase und Rechenzentren im All
Ein Chatbot-Bericht bringt das US-Militär beinahe an Bord eines chinesischen Schiffs, die UN legen ihren Bericht zu Minab vor, KI-Agenten brechen für 25 Dollar pro Ziel in Onlineshops ein, eine Studie rechnet die Finanzierung des KI-Ausbaus durch, und Google will Rechenzentren ins All schießen.
MP3 herunterladen (25 MB)
Herr Sommer muss etwas gestehen: Seine neue KI-Türklingel hält den Paketboten für einen Bewohner. Dazu der Überblick über die Themen der Woche.
Laut CNN hätte das US-Militär beinahe ein chinesisches Schiff geentert. Grundlage war ein falscher Lagebericht, den ein Analyst mit einem KI-Chatbot erstellt hatte. Wer prüft, was die Maschine behauptet? Mit Rückblick auf den Yinhe-Zwischenfall 1993 und Stanislaw Petrow 1983.
Die UN-Untersuchungsmission zum Iran legt ihren Bericht zum Angriff auf die Schule in Minab vor: veraltete Zieldaten und übergangene Warnhinweise. Welche Rolle spielte KI bei der Zielauswahl, und wer trägt die Verantwortung?
Gambit Security berichtet: Ein Angreifer ist mit frei verfügbaren KI-Agenten in Dutzende Unternehmen eingedrungen und hat rund 600.000 Kreditkartendaten abgegriffen, für etwa 25 Dollar pro Ziel. Dazu VLC mit über 130 Sicherheitsfixes und eine WordPress-Lücke, die wenige Stunden nach dem Patch angegriffen wurde.
Stijn Van Nieuwerburgh rechnet vor, wie der KI-Ausbau in den USA finanziert wird: über Jahre rund 3,6 Prozent der Wirtschaftsleistung. Rechnet sich das, oder wiederholt sich die Dotcom-Blase? Mit Seitenblicken auf Pets.com und die Railway Mania.
Google will mit Project Suncatcher Rechenzentren in den Orbit bringen, der erste Testflug ist für den 1. Oktober geplant. Sonnenstrom fast rund um die Uhr, aber wie kühlt man im All? Und was lehren Iridium und Teledesic?
Sommers Sonnenseite, Mondscheins Nachtgedanke und die Verabschiedung.
Aus dem Skript der Folge; ein Klick auf einen Satz springt dorthin. Als WebVTT
Cold Open & Begrüßung
Herr Mondschein, bevor wir anfangen, muss ich Ihnen etwas gestehen.
Das klingt nach Smart Home.
Es ist nicht das Smart Home. Also, nicht direkt. Es ist meine neue Türklingel. Die hat eine Kamera mit KI-Gesichtserkennung und ist mit dem Türschloss verbunden. Wenn ich nach Hause komme, erkennt sie mich und macht auf. Nie wieder Schlüssel suchen!
Und?
Und seit Dienstag erkennt sie meinen Paketboten als Bewohner.
Sie meinen …
Sie macht ihm auf. Er stellt die Pakete jetzt direkt in den Flur. Ehrlich gesagt: ein super Service.
Herr Sommer. Sie haben gerade in einem öffentlich zugänglichen Podcast erzählt, dass Ihre Haustür jeden hereinlässt, der Ihrem Paketboten ähnlich sieht.
… Ich habe sie heute Morgen abgeschaltet.
Sicher?
Ziemlich sicher. Wahrscheinlich. Herzlich willkommen zu „Pro und Contra“, dem Podcast, in dem wir jede Woche die KI- und IT-Nachrichten von zwei Seiten betrachten. Ich bin Sommer, und ich schaue auf die Sonnenseite.
Und ich bin Mondschein. Ich schaue auf den Rest.
Wir haben uns wie immer angeschaut, welche Themen in den letzten sieben Tagen die meisten Wellen geschlagen haben, in den Medien und in den sozialen Netzwerken. Und diese Woche, Herr Mondschein, das muss man sagen, war keine leichte.
Nein. Ausnahmsweise übertreiben Sie nicht.
Wir sprechen heute über einen Chatbot, der beinahe einen Zwischenfall zwischen den USA und China ausgelöst hätte. Über einen UN-Bericht, in dem es um KI bei der Zielauswahl im Krieg geht. Das ist ein ernstes Thema, und wir nehmen uns dafür Zeit. Dann über KI-Agenten, die für rund 25 Dollar pro Ziel in Online-Shops einbrechen. Über die Frage, ob der KI-Boom eine Blase ist …
Ist er.
Dazu kommen wir noch. Und zum Schluss: Google will Rechenzentren ins Weltall schießen.
Natürlich will Google das.
Los geht's.
KI-Halluzination: Beinahe-Einsatz gegen ein chinesisches Schiff
Wir fangen mit der Geschichte an, die diese Woche am meisten Staub aufgewirbelt hat. Am 18. September hat CNN exklusiv berichtet, gestützt auf vier anonyme Quellen: Im Frühjahr, mitten im Iran-Krieg, hätte das US-Militär beinahe ein chinesisches Schiff im Nahen Osten geentert. Bewaffnete Kräfte standen bereit, Militärflugzeuge waren schon in der Luft. Laut einem Geheimdienstbericht sollte das Schiff Komponenten für ein Atomwaffenprogramm an Bord haben.
Und das stimmte nicht.
Das stimmte nicht. Ein Analyst hatte einen Chatbot zu Meldungen über das Frachtmanifest befragt. Der Chatbot hat öffentlich zugängliche Informationen mit geheimer Funkaufklärung verknüpft und daraus einen falschen Schluss gezogen. Er hat halluziniert, wie man so sagt.
Und dann?
Und dann hat der Analyst die KI ein zweites Mal benutzt, um aus dem Ergebnis einen ordentlichen Geheimdienstbericht zu machen. Im Standardformat, so wie Militärs ihn kennen. Und dem sie vertrauen.
Die Maschine irrt sich. Dann bügelt dieselbe Maschine den Irrtum glatt, zieht ihm eine Uniform an und schickt ihn los. Ein Fachmagazin hat das „Authority Laundering“ genannt, Autoritätswäsche. Der Fehler wird so lange gewaschen, bis er aussieht wie eine Tatsache.
Aber, Herr Mondschein, und jetzt kommt mein Punkt …
Ich wusste, dass das kommt.
Natürlich kommt das! Weil es wichtig ist. Es ist nicht passiert. Kurz vor der geplanten Operation haben sich Verantwortliche den Bericht genauer angesehen. Sie haben gemerkt, dass er mit KI erzeugt war, und die Sache gestoppt. Die menschliche Kontrolle hat am Ende funktioniert.
Herr Sommer, „beinahe“ ist kein Sicherheitskonzept. Ich war lange genug Sicherheitsadministrator. Wenn bei uns jemand gesagt hätte: „Der Server ist beinahe gehackt worden, aber am Ende hat es der Praktikant noch gemerkt“, dann hätte niemand gesagt: Prima, das System funktioniert. Wir hätten gefragt: Warum hing das am Praktikanten?
Aber die Alternative ist doch nicht, dass Menschen fehlerfrei sind. Geheimdienste haben sich auch ohne KI geirrt. Denken Sie an …
1993.
Ich wollte eigentlich Irak sagen.
Den Irak hätte ich Ihnen auch gegeben. Aber 1993 passt besser. Da hat die US-Marine das chinesische Containerschiff „Yinhe“ festgehalten. Nach Geheimdienstinformationen sollte es Vorprodukte für Chemiewaffen in den Iran bringen. Das Schiff lag 24 Tage fest. Gefunden hat man: nichts.
Ganz ohne KI.
Ganz ohne KI. Chinesische Medien haben diese Woche genau diesen Fall wieder hervorgeholt: Der Yinhe-Zwischenfall, schreiben sie, hätte sich beinahe wiederholt.
Na bitte, das ist doch mein Argument. Menschen halluzinieren auch. Sie nennen es nur „Lagebeurteilung“.
Das ist gut. Das ist sogar sehr gut. Aber es gibt einen Unterschied. Einen Analysten kann man fragen: Wie kommen Sie darauf? Welche Quelle? Wer hat gegengelesen? Hier weiß man bis heute nicht einmal, welcher Chatbot es war, ein kommerzieller oder ein staatlicher. Und wissen Sie, was mich am meisten stört? Das Wort „Halluzination“ selbst.
Wieso das?
Weil es so harmlos klingt. So menschlich. Als hätte die Maschine mal einen schlechten Tag gehabt. Ein Fehler, der beinahe einen Zwischenfall zwischen zwei Atommächten auslöst, ist keine Halluzination. Das ist ein Produktfehler.
Da … okay. Da haben Sie einen Punkt. Das Wort ist zu niedlich. Das gebe ich zu.
Notieren Sie das bitte.
Ist notiert. Aber lassen Sie mich eine Gegenfrage stellen: Was ist die Alternative? Satellitenbilder, Schiffsbewegungen, abgefangene Kommunikation: Diese Datenmengen kann kein Mensch mehr sichten. Wenn man die KI da herausnimmt, dann sieht man nicht mehr, sondern weniger.
Das ist das stärkste Argument, das Sie haben, und ich nehme es ernst. Aber dann muss man ehrlich sagen, wofür die KI da ist: als Filter, der sagt „Schau hier genauer hin“. Nicht als Quelle, die sagt „Hier ist Atomwaffentechnik“. Das eine ist ein Spürhund. Das andere ist ein Richter.
Spürhund, nicht Richter. Das unterschreibe ich sofort.
Da sind wir uns ja erstaunlich schnell einig. Nur hat das Pentagon im Januar eine Strategie ausgerufen, die „AI-first“ heißt. Die neuesten Modelle sollen binnen 30 Tagen nach ihrem Erscheinen bereitstehen. Gleichzeitig gibt es laut CNN keinen einheitlichen Standard dafür, wie man prüft, was diese Werkzeuge ausspucken. Eine Quelle hat es so gesagt: Mit KI kommt man schneller zu einer schlechten Idee.
Moment, jetzt kommt mein Pro. Der Vorfall ist öffentlich geworden. Drei US-Senatoren verlangen jetzt, dass die Generalinspekteure das untersuchen. So entstehen Regeln.
So entstehen Regeln, ja. Meistens nach dem Unfall, nicht nach dem Beinahe-Unfall. Man sagt, das Luftfahrtrecht ist mit Blut geschrieben. Ich hätte gern, dass das KI-Recht mit Tinte geschrieben wird.
Das ist ein schöner Satz.
Den habe ich mir vorher aufgeschrieben.
Ehrlich wenigstens. Und fairerweise muss man sagen: Die ganze Geschichte beruht auf anonymen Quellen einer einzigen Redaktion. Das Pentagon hat nicht geantwortet. Und Chinas Außenministerium sagt: „Mir ist nicht bekannt, wovon Sie sprechen.“
Wissen Sie, welcher Tag gestern war, Herr Sommer?
Samstag?
Der 26. September. Am 26. September 1983 meldete das sowjetische Frühwarnsystem fünf anfliegende amerikanische Atomraketen. Der diensthabende Offizier hieß Stanislaw Petrow, und er hat es nicht geglaubt. Ein Erstschlag mit nur fünf Raketen ergab für ihn keinen Sinn, und das Bodenradar zeigte nichts. Es waren Sonnenreflexionen auf Wolken.
Ein Mensch, der gesagt hat: Moment.
Ein Mensch, der Zeit hatte, „Moment“ zu sagen. Das ist der Kern. KI macht Entscheidungen schneller. In der Wirtschaft ist das ein Vorteil. Im Militär ist Langsamkeit manchmal das Einzige, was zwischen uns und einem Krieg steht.
Die Senatoren sprechen in ihrem Brief übrigens von zwei solchen Fällen allein in diesem Jahr. Und damit sind wir leider beim nächsten Thema. Denn der andere Fall ist nicht „beinahe“ ausgegangen.
UN-Bericht: Der Angriff auf die Schule in Minab
Am 28. Februar, dem ersten Tag des Iran-Kriegs, hat ein amerikanischer Tomahawk-Marschflugkörper eine Grundschule in Minab getroffen, im Süden des Iran. Vormittags, während des Unterrichts. Mindestens 156 Menschen sind gestorben. Rund 120 davon waren Kinder. Mitte September hat die UN-Untersuchungsmission zu Iran ihren Bericht vorgelegt. Das ist ein Gremium des UN-Menschenrechtsrats, eingesetzt 2022 nach der Niederschlagung der Proteste im Iran, inzwischen mit erweitertem Mandat. Die Mission sieht hinreichende Gründe für die Annahme, dass die USA hier ein Kriegsverbrechen begangen haben.
Die Schule gehörte früher zu einem Gelände der Revolutionsgarden.
Früher. Sie war spätestens seit etwa 2016 baulich davon abgetrennt. In der Zieldatenbank stand sie trotzdem weiter als militärisches Objekt. Auf kommerziellen Satellitenbildern von 2018 sieht man bunt bemalte Mauern, einen Fußballplatz, Spielplatzmarkierungen. Die UN-Mission sagt: Die Schule war klar erkennbar. Und dass niemand die Daten aktualisiert hat, sei mehr als bloße Fahrlässigkeit.
Und dann kommt der Teil, der uns in diesem Podcast betrifft.
Ja. Bloomberg hat am 18. September aus einer internen, unveröffentlichten Untersuchung des Pentagon berichtet. Demnach gab es eine Kaskade vermeidbarer Fehler. Einer davon: Das Personal hat sich zu stark auf Maven verlassen, das KI-System der Firma Palantir, das dem US-Militär bei der Zielauswahl hilft. Die Leute gingen davon aus, dass Maven veraltete Daten oder Widersprüche markieren würde. Dafür war das System aber gar nicht gebaut.
Herr Mondschein, ich sage es ganz offen. Das ist das Thema, bei dem mir meine Rolle schwerfällt.
Das dürfen Sie sagen.
Ich soll hier die Pro-Seite vertreten. Und ich will das auch, weil ich glaube, dass es eine gibt. Aber es fühlt sich falsch an, bei 120 toten Kindern „aber“ zu sagen.
Dann sagen Sie kein „aber“. Sagen Sie, was Sie denken.
Was ich denke, ist: Der falsche Eintrag stammte aus einer Datenbank des Militärgeheimdienstes, die jahrelang niemand aktualisiert hatte. Laut CNN gab es im Zielsystem sogar Warnhinweise, dass die Aufklärung veraltet ist. Kommandeure haben sie übergangen, aus Zweckmäßigkeit. Das ist kein Algorithmus. Das sind Menschen. Und veraltete Daten gab es auch vor der KI. 1999 hat die NATO in Belgrad die chinesische Botschaft bombardiert, wegen veralteter Karten.
Das stimmt alles.
Und ich glaube, ich glaube wirklich, dass gut gebaute Systeme so etwas verhindern könnten. Palantir sagt, man habe Maven inzwischen genau darum ergänzt: Daten erneut prüfen, Widersprüche melden. Aktuelle Satellitenbilder mit einer Zieldatenbank abzugleichen, das kann eine Maschine besser als ein Mensch unter Zeitdruck. Aber ich will ehrlich sein. Ich habe nach Belegen gesucht, dass KI im echten Einsatz zivile Opfer tatsächlich verringert hat. Ich habe keine gefunden.
Danke, dass Sie das sagen.
„Gut gebaut.“ Ich weiß. An dem Wort hängt alles.
An diesem Wort hängt alles. Und ich will Ihnen sagen, was mir Sorgen macht. Nicht, dass die Maschine sich irrt. Sondern was mit den Menschen passiert, die neben der Maschine sitzen. In den ersten 24 Stunden dieses Kriegs wurden über tausend Ziele angegriffen. Maven hat die Zielaufbereitung von Stunden auf Minuten verkürzt. Und gleichzeitig wurden die Teams, die zivile Schäden verhindern sollen, laut Bloomberg um rund 90 Prozent verkleinert. Beim zuständigen Regionalkommando von zehn Leuten auf einen.
Von zehn auf einen.
Mehr Tempo, weniger Prüfung. Das ist keine technische Entscheidung, das ist eine politische. Wenn Ihnen ein System tausend Ziele vorschlägt und fast alle stimmen, dann hören Sie irgendwann auf, jedes einzelne zu prüfen. Das ist keine Bosheit. Das ist menschlich.
Automation Bias. Man vertraut der Maschine, weil sie meistens recht hat.
Genau. Und dann verschiebt sich die Verantwortung. Palantir sagt, man sei nicht verantwortlich für die zugrunde liegenden Daten. Das Pentagon veröffentlicht seine Untersuchung nicht. Das Weiße Haus nennt den UN-Bericht „unseriösen Unsinn“. Rechtliche Folgen hat der Bericht zunächst keine, die USA sind nicht Mitglied des Internationalen Strafgerichtshofs. Und nach dem Drohnenangriff in Kabul 2021, zehn Zivilisten tot, darunter sieben Kinder, wurde am Ende niemand belangt. Am Ende ist niemand verantwortlich. Und die Kinder sind tot.
Das ist das stärkste Argument gegen KI im Krieg, das es gibt. Diese Verantwortungslücke. Darauf habe ich keine gute Antwort.
Ich auch nicht. Ich habe nur eine Forderung: Wer ein solches System verkauft, muss auch für seine Fehler geradestehen. Nicht nur für seine Erfolge. Und dann lese ich, was Joe Lonsdale, einer der Mitgründer von Palantir, diese Woche zu Reuters gesagt hat. Es sei sehr leicht, von außen zu urteilen. Vielleicht habe jemand 99 sehr gute Entscheidungen getroffen und dann eine schlechte, und die habe zu etwas Schrecklichem geführt.
Neunundneunzig gute Entscheidungen. Ich verstehe, was er meint. Und trotzdem: Wer die Werkzeuge baut, muss die Folgen aushalten können. Und muss sie aussprechen können. Da bin ich ganz bei Ihnen. Eins noch, für alle, die zuhören. Im November treffen sich die Vertragsstaaten der UN-Waffenkonvention zur Überprüfungskonferenz. Dort soll entschieden werden, ob über Regeln für autonome Waffen verhandelt wird. Über 70 Staaten wollen das.
Wobei Maven nach amerikanischer Lesart gar keine autonome Waffe ist. Nur eine Entscheidungshilfe. Ich glaube, mehr müssen wir dazu nicht sagen.
KI-Agenten als Einbrecher: 600.000 Kreditkarten für rund 25 Dollar pro Ziel
Wir bleiben bei KI, die Schaden anrichtet, aber auf einem ganz anderen Feld. Herr Mondschein, das ist eigentlich Ihr Revier.
Dann erzähle ich diesmal. Die Sicherheitsfirma Gambit Security hat am Dienstag einen Bericht veröffentlicht. Ein einzelner Angreifer, der seine Anweisungen auf Chinesisch gegeben hat, hat Online-Händler und andere Firmen angegriffen. Allein zwischen dem 10. und dem 15. September wurden mindestens 27 Unternehmen kompromittiert, darunter laut Gambit eine große US-Fluggesellschaft. Auf rund 120 Websites fand sich Schadcode. Und aus nur zwei Unternehmen stammen über 600.000 Kreditkartendatensätze.
Wie?
Mit sogenannten Skimmern. Das ist Code auf der Bezahlseite, der beim Bezahlen die Kartendaten mitliest. Ein alter Hut. Das hatten wir 2018 schon, bei British Airways: 22 Zeilen JavaScript, am Ende 20 Millionen Pfund Bußgeld.
Klassisch so weit.
Klassisch so weit. Neu ist, wer die Arbeit gemacht hat: drei frei verfügbare KI-Agenten. Einer sucht Schwachstellen, einer nutzt sie aus, einer steuert das Ganze. Dahinter stecken Sprachmodelle, GLM und DeepSeek aus China und Claude Opus 4.6 von Anthropic. Der Mensch gab kurze Anweisungen, danach arbeiteten die Agenten stundenlang allein. Und jetzt kommt die Zahl, die ich mir gemerkt habe: im Schnitt rund 25 Dollar Modellkosten pro Ziel.
25 Dollar.
Das ist weniger, als ein Handwerker für die Anfahrt nimmt. Die ganze Kampagne hat geschätzt 12.000 bis 18.000 Dollar gekostet. Für 600.000 Karten.
Okay, das ist bitter. Aber …
Aber Anthropic hat den Account gesperrt. Ich weiß.
Das auch. Und die neueren Claude-Modelle haben die Anfragen verweigert, der Angreifer musste auf eine ältere Version ausweichen. Die Leitplanken haben gegriffen. Aber mein eigentlicher Punkt ist ein anderer. Kennen Sie VLC?
Den Videoplayer mit dem Verkehrshütchen. Natürlich.
VLC hat am selben Dienstag ein Update veröffentlicht, das über 130 Sicherheitslücken schließt. Hundertdreißig! Und die Entwickler sagen selbst, dass diese Rekordzahl wahrscheinlich daran liegt, dass Sicherheitsforscher mit Sprachmodellen nach Fehlern gesucht haben.
Hm.
Das ist dieselbe Technik, Herr Mondschein. Dieselbe Art Werkzeug, die für den Angreifer Lücken in Shops findet, findet für die Verteidiger Lücken in Software, bevor jemand sie ausnutzt. Das ist ein Wettrüsten, ja. Aber eines, in dem die Verteidiger die gleichen Waffen haben.
Die gleichen Waffen, aber nicht die gleiche Lage. Der Angreifer muss eine Lücke finden. Der Verteidiger muss alle schließen. Das war schon immer so. Und was passiert mit den 130 VLC-Lücken, jetzt, wo sie veröffentlicht sind?
Die Leute installieren das Update.
Manche. Die anderen haben jetzt eine Einladung. Wie schnell das gehen kann, haben wir diese Woche bei WordPress gesehen: Eine kritische Lücke wurde am Dienstag geschlossen, und rund fünf Stunden später kamen die ersten Angriffe. Die Angreifer haben einfach nachgeschaut, was der Patch verändert. Da war nicht einmal KI im Spiel, das ist altes Handwerk. Und jetzt stellen Sie sich dieses Handwerk mit Agenten vor, die nicht schlafen.
Das ist ein ernstes Argument. Und trotzdem: Wer ist denn am stärksten betroffen? Der kleine Online-Shop. Der Handwerksbetrieb mit Webshop. Die haben keine Sicherheitsabteilung. Und genau für die kann KI ein Segen sein. Ein Agent, der jede Nacht den eigenen Shop prüft, für ein paar Euro im Monat. So etwas konnten sich bisher nur Konzerne leisten.
Da haben Sie recht, und das ärgert mich. Wenn es so etwas gibt. Und wenn die Betriebe es nutzen.
Das wird es geben. Da bin ich sicher. Das ist ein Markt.
Sehen Sie, da ist wieder der Unterschied zwischen uns. Sie sagen: Das wird es geben. Ich sage: Die 600.000 Karten sind jetzt schon weg. Spaniens Datenschutzbehörde hat Mitte des Monats den ersten Datenschutzvorfall gemeldet, den ein KI-Agent verursacht hat. Der Agent hat mit gültigen Zugangsdaten selbstständig nach Lücken gesucht, persönliche Daten verändert und Rechnungen eingesehen. Die Angriffe sind Gegenwart. Die Verteidigung ist Zukunft.
Das ist leider gut formuliert.
Danke.
Aber ich halte dagegen. Aufgedeckt hat das Ganze eine Sicherheitsfirma, zusammen mit Betrugsspezialisten. Die Kartenherausgeber wurden gewarnt. Und ich habe übrigens das Kleingedruckte gelesen.
Sie?
Ich. Gambit verkauft selbst Software für Cyber-Resilienz, der Bericht ist also auch ein bisschen Werbung. In der Überschrift steht „Hunderte Online-Händler“, belegt sind 27 Unternehmen. Und dass der Angreifer aus China kommt, schließt man bisher nur daraus, dass er Chinesisch geschrieben hat.
Herr Sommer, ich bin beeindruckt.
Und jetzt kommt etwas, das ich an Ihnen wirklich schätze, Herr Mondschein.
Oh nein.
Sie haben mir letzte Woche von Ihrem neuen Rezept für Zwiebelkuchen erzählt.
Das hat mit dem Thema nichts zu tun.
Die Zutatenliste war exakt so formatiert, wie ChatGPT das macht. Mit Fettdruck. Und Emojis.
Feindaufklärung.
Feindaufklärung! Und wissen Sie was: Genau das meine ich. Man muss die Werkzeuge kennen, um sich gegen sie zu wehren. Und dafür muss man sie benutzen.
Der Zwiebelkuchen war übrigens hervorragend. Das werde ich nicht weiter kommentieren.
Ist KI eine Blase? Die Studie zur Finanzierung des KI-Ausbaus
Von 25 Dollar zu den ganz großen Zahlen. Herr Mondschein, auf dieses Thema haben Sie sich gefreut, oder?
Ich freue mich nie. Ich sehe mich nur bestätigt.
Stijn Van Nieuwerburgh, Finanzökonom an der Columbia Business School, hat für eine Konferenz der Brookings Institution in Washington ein Papier geschrieben: „Financing the AI Buildout“, die Finanzierung des KI-Ausbaus. Vorgestellt hat er es am Freitag. Er hat fast 3.000 Rechenzentrumsprojekte in den USA ausgewertet: Von 2025 bis 2032 fließen rund 10,3 Billionen Dollar in amerikanische Rechenzentren. Das sind im Schnitt 3,6 Prozent der gesamten Wirtschaftsleistung. Jedes Jahr, acht Jahre lang.
3,6 Prozent des Bruttoinlandsprodukts. Der Eisenbahnboom zwischen 1870 und 1890 lag bei gut 2,2 Prozent. Das Wall Street Journal schreibt, der KI-Ausbau sei auf dem Weg, die größte wirtschaftliche Wette der amerikanischen Geschichte zu werden.
Und die Zahl, die heise in die Überschrift gesetzt hat: Damit sich das refinanziert, müsste der KI-Umsatz jedes Jahr um 80 Prozent wachsen.
Jedes Jahr. Achtzig Prozent. Herr Sommer, ich bin alt genug. Im Februar 2000 ging Pets.com an die Börse, ein Online-Händler für Tierbedarf. Die haben Tierfutter für rund ein Drittel des Einkaufspreises verkauft. Im November war Schluss. Und das Argument damals lautete: „Das Internet verändert alles.“ Das stimmte übrigens. Und trotzdem haben viele Menschen ihre Ersparnisse verloren.
Und genau das ist mein Argument! Das Internet hat alles verändert. Die Blase ist geplatzt, aber die Glasfaserkabel aus dieser Zeit lagen danach im Boden. Darauf liefen später YouTube, Netflix, Videotelefonie. Die Investoren haben Geld verloren, aber die Gesellschaft hat die Infrastruktur behalten.
Jetzt kommt die Eisenbahn.
Jetzt kommt die Eisenbahn! Im 19. Jahrhundert haben sich Investoren reihenweise ruiniert. Aber die Schienen lagen danach da und haben ganze Länder verbunden. Wenn in zehn Jahren die Rechenzentren stehen und Rechenleistung so billig ist wie Strom aus der Steckdose, dann hat das Folgen für jede Schülerin, jede Arztpraxis, jeden Handwerksbetrieb.
Mit einem Unterschied. Schienen halten hundert Jahre. Glasfaser hält Jahrzehnte. Ein KI-Chip ist nach drei bis sechs Jahren wirtschaftlich überholt, das schreibt die Studie selbst. Amazon hat die Nutzungsdauer seiner Server wegen des KI-Tempos schon wieder verkürzt. Und rund zwei Drittel der Investitionen stecken genau in dieser Technik. Wenn diese Blase platzt, liegt da keine Infrastruktur für die nächste Generation im Boden. Dann stehen da Hallen voller Elektroschrott.
Da haben Sie recht, und das ärgert mich. Das habe ich nicht kommen sehen. Aber die Gebäude, die Stromanschlüsse, die Kraftwerke, die bleiben.
Und der zweite Unterschied ist der eigentliche Kern der Studie: wie das finanziert wird. Die fünf Großen, also Amazon, Microsoft, Alphabet, Meta und Oracle, investieren dieses Jahr voraussichtlich über 800 Milliarden Dollar. Das ist zum ersten Mal mehr, als sie aus dem laufenden Geschäft einnehmen. Der Rest kommt über Leasing, Zweckgesellschaften, Anleihen und Private-Credit-Fonds, also Geldgeber außerhalb der klassischen Banken. Meta hat für ein einziges Rechenzentrum in Louisiana 27 Milliarden Dollar Schulden aufnehmen lassen. Und nach einer Auswertung des Wall Street Journal steht von den Verpflichtungen der großen Konzerne nur rund ein Fünftel in der Bilanz.
Ein Fünftel.
Und dann gibt es eine Kreditlinie über 500 Milliarden Dollar für Nvidia-Chips, bei der Nvidia selbst garantiert, dass die Chips ein Viertel ihres Werts behalten. Der Verkäufer bürgt für seine eigene Ware. Der Autor sagt, diese Undurchsichtigkeit erinnere an die Subprime-Krise. Und Reuters titelt: Systemische Risiken. Systemisches Risiko hieß 2008: Die Banken wanken, und die Steuerzahler retten sie.
Und jetzt, Herr Mondschein, habe ich schon wieder das Kleingedruckte gelesen.
Das wird zur Gewohnheit.
Der Autor schreibt wörtlich, es wäre verfrüht, schon jetzt ein systemisches Risiko wie bei früheren Kreditbooms festzustellen. Sein Punkt ist: Man sieht nicht genug, um es zu wissen. Und die 80 Prozent stehen in einem Anhang. Gemeint ist: Wenn allein OpenAI und Anthropic, die heute zusammen etwa 100 Milliarden Dollar umsetzen, das alles bezahlen müssten, dann müssten sie jedes Jahr um 80 Prozent wachsen. Aber in diesen Rechenzentren laufen ja auch Cloud, Suche, Werbung. Und der Autor rechnet selbst vor: Pro Stunde und Grafikchip liegt der nötige Preis im Bereich dessen, was man heute schon dafür bezahlt. Er nennt das „nicht unplausibel“.
Sie haben einen Anhang gelesen.
Mein Smart Home war die ganze Nacht offline. Ich hatte Zeit.
Dann lesen Sie bitte auch die Bitkom-Mitteilung von Dienstag. KI-Ausgaben in Deutschland plus 48 Prozent, 28,7 Milliarden Euro. Im Juli hat derselbe Verband als KI-Markt 3,1 Milliarden angegeben.
Das sind zwei verschiedene Dinge! Einmal alle Ausgaben für KI, einmal nur die Umsätze mit KI-Plattformen.
Genau. Und beides heißt beim Verband „der KI-Markt“.
Gut. Ich gebe Ihnen einen Punkt: 80 Prozent Wachstum, das ist sportlich. Das wird nicht jeder schaffen. Es wird Verlierer geben, Firmen, die Milliarden in den Sand setzen. Aber die Technik bleibt, so wie das Internet geblieben ist. Die Frage ist nicht, ob KI bleibt. Die Frage ist nur, wer die Rechnung für die Übertreibung bezahlt.
Und da, Herr Sommer, sind wir uns ausnahmsweise einig. Nur dass ich die Antwort schon kenne. Mitte des Monats gab es einen Vorgeschmack. Anthropic-Chef Dario Amodei hat in einem Essay gefordert, die Branche solle das Tempo drosseln, aus Sicherheitsgründen. Und prompt ist der amerikanische Chipindex an einem Tag um gut fünf Prozent gefallen, SoftBank um fast elf, Infineon um acht.
Die breiten Indizes haben kaum gezuckt.
Ein kleines Beben. Wenn ein großes kommt, zahlen nicht die Milliardäre. Dann zahlen die Pensionsfonds. Die Kleinanleger. Die Leute mit dem angeblich sicheren Indexfonds. Und in diesen Fonds stecken vor allem genau die Konzerne, die diese Wette eingehen.
Und wer nicht investiert, verpasst den Aufschwung.
Mit genau diesem Satz wird jede Blase aufgepumpt.
Touché.
Google Suncatcher: Rechenzentren im All
Zum Schluss mein Lieblingsthema der Woche. Und ich glaube, Herr Mondschein, bei diesem Thema müssen Sie sich gar nicht anstrengen, um dagegen zu sein.
Rechenzentren im Weltall.
Rechenzentren im Weltall! Google hat ein Projekt namens Suncatcher, Sonnenfänger. Am Donnerstag, dem 1. Oktober, soll der erste Testsatellit starten. Er fliegt als Mitfluggelegenheit auf einer SpaceX-Rakete. Etwa so groß wie ein Kühlschrank. An Bord: vier TPUs, Googles eigene KI-Chips.
So groß wie ein Kühlschrank. Hoffentlich kühlt er besser als Ihrer.
Mein Kühlschrank hatte ein Firmware-Update. Er kühlt jetzt nicht mehr, aber er ist sehr sicher.
Und vier Chips.
Vier Chips, ungefähr so viel Rechenleistung wie ein einziger Server. Das ist noch kein Rechenzentrum, das ist ein Test: Überleben KI-Chips den Start, die Strahlung und die Temperaturen da oben? Die Idee dahinter: Im richtigen Orbit, entlang der Tag-Nacht-Grenze, scheint die Sonne fast ununterbrochen. Google sagt, ein Solarpanel kann dort bis zu achtmal mehr Strom liefern als auf der Erde. Und KI braucht Strom. Der Verbrauch der Rechenzentren wird sich bis 2030 mehr als verdoppeln, sagt die Internationale Energieagentur. Hier unten streiten sich Gemeinden um Wasser, Flächen und Netzanschlüsse. Im All ist Platz.
Im All ist Platz. Wissen Sie, wer das auch dachte? Jeder, der jemals etwas ins All geschossen hat. Und Googles Konzept sieht später Gruppen von 81 Satelliten vor, die im Abstand von 100 bis 200 Metern fliegen.
Das ist ein Problem, das gebe ich zu. Aber es ist lösbar.
Und die Kühlung? Im Vakuum lässt sich Wärme praktisch nur abstrahlen. Die Chips auf diesem Satelliten können jeweils nur rund 15 Minuten am Stück rechnen, dann müssen sie abkühlen. Und die Wartung? Google schreibt selbst, einen defekten Chip im All zu tauschen sei „offensichtlich undurchführbar“.
Genau deshalb macht man doch einen Test! Google hat die Chips vorher im Teilchenbeschleuniger bestrahlt. Sie vertragen mehr als die Strahlendosis einer fünfjährigen Mission. Nächstes Jahr folgen zwei Satelliten, die Laserverbindungen testen. Schritt für Schritt.
Das Analysehaus Gartner hält Rechenzentren im All für irdische Zwecke für ungeeignet, „für Jahrzehnte, wenn überhaupt“. Die Fachpresse hat das als „Höhepunkt des Wahnsinns“ zusammengefasst.
Das war im Februar, und es ging um die Idee im Allgemeinen, nicht um Googles Test. Aber ernsthaft: Googles eigene Leute sind erstaunlich nüchtern. Forschungschef James Manyika hat der New York Times ganz offen gesagt, man erwarte in den nächsten Jahren nichts, was sinnvoll in Betrieb ist.
Das ist das Ehrlichste, was ich seit Langem von Google gehört habe. Und dann die Rechnung aus Googles eigenem Fachartikel: Damit sich das lohnt, müssen die Startkosten bis etwa 2035 unter 200 Dollar pro Kilogramm fallen. Heute sind es mit einer Falcon 9 rund 3.600. Dafür bräuchte es etwa 180 Starship-Starts im Jahr. Für ein Rechenzentrum mit einem Gigawatt bräuchte man laut Google etwa 10.000 Satelliten.
Aber die Startkosten sind tatsächlich gefallen. Von rund 30.000 Dollar pro Kilo bei der ersten Falcon auf einen Bruchteil davon.
Das hatten wir 1968 schon. Peter Glaser hat damals Solarkraftwerke im All vorgeschlagen, die den Strom per Mikrowelle zur Erde schicken. Die NASA hat jahrelang daran geforscht. Gebaut wurde es nie, weil der Transport zu teuer blieb. Oder Iridium, 1998: Satellitentelefonie für rund fünf Milliarden Dollar, neun Monate nach dem Start pleite.
Und heute hat Iridium über zwei Millionen zahlende Kunden. Das Breitband aus dem All, von dem Teledesic in den Neunzigern geträumt hat, gibt es jetzt auch, es heißt nur Starlink. Manche Ideen kommen nicht zu früh, Herr Mondschein. Sie kommen nur zu früh für die erste Firma.
Das ist ein schöner Satz.
Den habe ich mir vorher aufgeschrieben.
Touché.
Was mich an dem Projekt begeistert, ist gar nicht das Technische. Es ist die Frage dahinter. KI frisst Energie, das ist das größte ökologische Problem dieser Technik. Statt nur „Dann lasst es halt“ zu sagen, sucht hier jemand eine Lösung, die nicht auf Kosten von uns hier unten geht.
Oder man verschiebt das Problem dorthin, wo es keiner sieht. Das ist eine alte Strategie: Wenn der Müll stört, bringt man ihn weg. Nur ist der Orbit kein Müllplatz, sondern ein gemeinsamer Raum. SpaceX hat bei der amerikanischen Behörde schon einen Antrag für bis zu eine Million solcher Satelliten gestellt. Und ich frage mich: Wer entscheidet eigentlich, dass einzelne Konzerne den Himmel mit Rechenzentren vollstellen dürfen?
Das ist eine berechtigte Frage. Dafür braucht es internationale Regeln. Da bin ich ganz bei Ihnen.
Darf ich Ihnen etwas gestehen, Herr Sommer?
Jetzt bin ich gespannt.
Als Junge habe ich nachts auf dem Balkon gesessen, mit einem Fernglas, und den Mond angeschaut. Stundenlang. Meine Mutter hat gesagt, das passt zu unserem Namen. Und als ich gelesen habe, dass da oben bald Maschinen kreisen, die mit Sonnenlicht rechnen … da war ein kleiner Teil von mir, der das wunderschön fand.
Herr Mondschein.
Ein kleiner Teil. Der Rest findet, das ist ein sehr teures Werbevideo mit Raketenantrieb.
Ich nehme den kleinen Teil. Den nehme ich sehr gern.
Das dachte ich mir.
Sonnenseite, Nachtgedanke & Verabschiedung
Das waren unsere fünf Themen der Woche. Und wie immer gibt es zum Schluss: Sommers Sonnenseite. Meine Sonnenseite ist diese Woche eine Hoffnung. Wir haben heute viel über Fehler gesprochen. Über einen KI-Fehler, der beinahe einen Zwischenfall ausgelöst hätte, und über Fehler, die Menschenleben gekostet haben. Das hat mich nicht kalt gelassen. Aber ich habe auch gesehen: Diese Fehler kommen ans Licht. Journalistinnen und Journalisten recherchieren, Ermittler benennen Ursachen, Sicherheitsforscher dokumentieren Angriffe, und Menschen diskutieren darüber, zu Hunderten, zu Tausenden. Technik wird nicht dadurch gut, dass sie fehlerfrei ist. Sondern dadurch, dass wir aus ihren Fehlern lernen. Öffentlich und schnell. Und das passiert gerade.
Und Mondscheins Nachtgedanke. Mein Nachtgedanke ist eine Frage. Wir haben diese Woche immer wieder gehört, dass KI schneller ist. Schneller beim Aufklären, schneller beim Angreifen, schneller beim Investieren. Und in fast jeder Geschichte war das Problem nicht, dass die Maschine zu langsam war. Sondern dass die Menschen nicht mehr hinterherkamen. Vor 43 Jahren und einem Tag hat Stanislaw Petrow die Welt gerettet, weil er sich ein paar Minuten genommen hat, um einer Maschine nicht zu glauben. Vielleicht ist die wichtigste Fähigkeit im KI-Zeitalter nicht, schneller zu werden. Sondern zu wissen, wann man anhält. Wann man sagt: Moment. Das prüfen wir noch einmal.
Das ist ein guter Nachtgedanke.
Der war nicht aufgeschrieben.
Das war's für diese Woche. Wenn Ihnen die Folge gefallen hat, erzählen Sie es weiter. Und wenn nicht, erzählen Sie es Herrn Mondschein. Der freut sich.
Ich freue mich nie. Ich sehe mich nur bestätigt.
Bis nächste Woche!
Und schließen Sie Ihre Haustür ab, Herr Sommer.
… Ich gehe schnell nachschauen.