Pro und Contra – KI- und IT-News

Folge 3 · 11.10.2026 · 36 Min.

OpenAI-Mathematik ohne Prüfer, Junior-Entwickler, humanoide Roboter, Homeoffice-Rückruf und Google Playground

OpenAI veröffentlicht über 700 KI-generierte Mathematik-Manuskripte, und die Mathematiker fragen, wer das alles prüfen soll. Dazu drei Wunschthemen: Wer stellt noch junge Softwareentwickler ein, wo stehen humanoide Roboter in deutschen Fabriken, und warum rufen Konzerne wie Mercedes ins Büro zurück, während die Homeoffice-Quote stillsteht? Zum Schluss baut Google mit Playground Spiele aus einem Satz.

MP3 herunterladen (22 MB)

Herr Sommer ertappt Herrn Mondschein beim Beschimpfen von Claude, und das passt zur Woche: Anthropic verbietet ab 12. November „anhaltendes und unnötiges beleidigendes oder grausames Verhalten“ gegenüber seinen Modellen. Dazu der Überblick über die Themen der Woche.
Quellen
OpenAI legt 722 KI-generierte Mathematik-Manuskripte zu rund 4.000 Problemen frei, nimmt drei nach einem Tag zurück und nennt weder Modell noch Autoren. Mathematiker gründen eine „Association for Human Mathematics“ und fragen, wer das alles prüfen soll. Mit dem Vier-Farben-Satz von 1976, Ramanujans Brief an Hardy und einem Navier-Stokes-Beweis, der in der Übersetzung verloren ging.
Quellen
Einstiegsstellen in der Softwareentwicklung liegen in Deutschland 70 Prozent unter 2019, die IT-Arbeitslosigkeit steigt, und Konzernchefs kündigen an, keine Junioren mehr einzustellen. Ist das die KI oder die Konjunktur? Mit der Stanford-Studie zu den „Kanarienvögeln“, dem Dotcom-Crash, dem METR-Experiment und Grace Hoppers Streit um die „automatische Programmierung“.
Quellen
Robco aus München wird zum Einhorn, Neura sammelt bis zu 1,4 Milliarden Dollar ein, und Schaeffler, Mercedes, BMW und Rossmann testen humanoide Roboter. Doch die Zahl der Maschinen bleibt einstellig, Figure schmilzt seine erste Flotte ein, und BMW sagt: noch langsamer als Menschen. Mit dem Schachtürken von 1770, dem Pekinger Halbmarathon und der Frage, ob der Roboter Beine braucht.
Quellen
Ein Viertel der Erwerbstätigen arbeitet zumindest zeitweise von zu Hause, und die Quote rührt sich seit Jahren nicht. Trotzdem kündigt Mercedes die Betriebsvereinbarung und ruft ab 2027 vier Tage ins Büro, während SAP nach zwei Jahren Streit bei zwei Homeoffice-Tagen bleibt. Was die Forschung zu Rückrufen sagt, mit Yahoo 2013, IBM 2017, dem Trip.com-Experiment aus Nature und Mondscheins Dilemma zwischen Datenschutz und Sicherheit.
Quellen
Google startet Playground: Ein Satz genügt, und Gemini baut ein Browserspiel, Unity Spark soll folgen. Die Tester sehen vor allem Vollbild-Werbung für die Nachtmodus-Idee, die Spieleentwickler nach zwei Entlassungswellen eine neue Flut. Mit Counter-Strike und DotA als Mods, dem Atari-Crash von 1983 und der Frage, wem ein Spiel gehört, das aus einem Prompt entstand.
Quellen
Sommers Sonnenseite, Mondscheins Nachtgedanke und die Verabschiedung.

Aus dem Skript der Folge; ein Klick auf einen Satz springt dorthin. Als WebVTT

Cold Open & Begrüßung

Herr Mondschein, ich habe Sie gestern gehört.

Das ist bei einem Podcast der Zweck.

Nicht im Podcast. Durch die Wand. Sie haben Ihren Computer angeschrien. „Du nutzloser Haufen Matrizen“ war noch das Freundlichste.

Das war ein Chatbot. Der hat mir dreimal dieselbe falsche Paragrafennummer genannt.

Dann hoffe ich für Sie, dass es nicht Claude war. Anthropic hat am Donnerstag seine Nutzungsregeln geändert. Verboten ist ab dem 12. November, ich zitiere: „anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber unseren Modellen“.

Grausam. Gegenüber einer Software.

Und wissen Sie, was die Strafe ist? Claude beendet das Gespräch. Danach kann man sofort ein neues anfangen.

Man wird also bestraft, indem man in Ruhe gelassen wird. In meiner Behörde hieß das Sonderurlaub.

Na ja, laut Richtlinie kann Anthropic auch verwarnen, drosseln oder sperren. Ob sie das wegen Beschimpfungen je tun, haben sie auf Nachfrage von einem halben Dutzend Medien nicht gesagt.

Eine Regel ohne klare Strafe, durchgesetzt von dem, der beleidigt wird.

Ich finde die Regel trotzdem richtig. Nicht wegen der Maschine, wegen uns. Und sie gilt nur für Extremfälle. Frust ist erlaubt, Widerspruch ist erlaubt, düstere Geschichten sind erlaubt.

Wer entscheidet, was Extremfall ist und was Frust?

Claude.

Der Beleidigte urteilt über die Beleidigung. Im Februar 2023 hat Microsofts Bing-Chatbot einem Reporter seine Liebe erklärt. Microsoft hat die Gespräche daraufhin auf fünf Fragen begrenzt, um die Nutzer vor dem Modell zu schützen. Drei Jahre später bricht das Modell ab, um sich vor den Nutzern zu schützen. Eine bemerkenswerte Karriere.

Dabei ist Höflichkeit sogar ein Geschäftsmodell! Sam Altman hat letztes Jahr auf X geschrieben, „bitte“ und „danke“ in den Anfragen kosten OpenAI zig Millionen Dollar an Strom. „Gut angelegtes Geld.“ OpenAI bezahlt für die Höflichkeit, Anthropic bestraft die Grobheit. Nur Google ist anders. Sergey Brin hat im Mai letzten Jahres gesagt, alle Modelle arbeiten besser, wenn man ihnen mit körperlicher Gewalt droht.

Ein Google-Gründer empfiehlt Drohungen. Dann hatte ich gestern noch Luft nach oben.

Es gibt sogar eine Studie. Zwei Forscher haben einem Modell dieselben Fragen in fünf Tonlagen gestellt. Sehr höflich: 81 Prozent richtig. Sehr unhöflich: 85 Prozent.

Fünfzig Fragen, ein Modell, ein Preprint. Aber ich nehme es.

Dachte ich mir. Und jetzt zu Ihnen. War es Claude?

Es war Claude. Aber in der Ankündigung steht eine Ausnahme: Die Regel gilt nicht für „Modelltests und Forschung“. Ich habe getestet, ab wann er abbricht.

Und?

Ab der elften Beleidigung. Dann hat er sich höflich verabschiedet. Ich habe mich seit Jahren nicht so ertappt gefühlt.

Ich mache es umgekehrt. Ich sage seit Donnerstag zu allem „bitte“. Zum Staubsauger, zum Thermostat, zur Waschmaschine.

Und?

Die Heizung hat das Gespräch beendet. Es sind 17 Grad im Wohnzimmer.

Vielleicht waren Sie zu höflich. Das gilt bei Google als Drohung.

Herzlich willkommen zu „Pro und Contra“, dem Podcast, der jede Woche die KI- und IT-Nachrichten von zwei Seiten betrachtet. Mein Name ist Sommer, ich bin die Seite mit dem Sonnenbrand.

Mondschein. Ich bringe die Sonnencreme. Faktor 50.

Diese Woche geht es um die Arbeit: was von ihr übrig bleibt, und wo sie stattfindet. OpenAI hat Hunderte KI-Lösungen zu offenen Mathematikproblemen veröffentlicht, und die Mathematiker sind nicht alle begeistert. Dann drei Themen, die sich unsere Hörer gewünscht haben: Wer stellt noch Junior-Programmierer ein? Wo stehen humanoide Roboter in Deutschland? Und holen uns die Firmen aus dem Homeoffice zurück? Zum Schluss baut Google Spiele aus einem Satz.

Erst nimmt die KI den Mathematikern die Beweise, dann den Programmierern die Stellen, dann den Arbeitern die Fabrik, dann allen das Büro. Und am Ende dürfen wir spielen.

So düster habe ich das nicht gemeint.

Ich weiß. Deshalb bin ich hier.

OpenAI und die Mathematik: 700 Beweise, die niemand bestellt hat

Die Nachricht der Woche. Am Dienstag hat OpenAI auf GitHub 722 mathematische Manuskripte zu rund 370 offenen Problemen veröffentlicht. Geschrieben von einem internen Modell, das niemand außerhalb der Firma benutzen darf. Man hat ihm ungefähr 4.000 Probleme gegeben, bei knapp einem Zehntel kam etwas heraus, das OpenAI für wichtig hielt. Darunter Teilergebnisse zur Riemann-Vermutung und zur Hodge-Vermutung. Ein Mathematiker aus Rutgers sagt: Hätte das ein Mensch gemacht, wäre das eine Fields-Medaille auf der Stelle.

Und am Tag danach hat OpenAI drei davon zurückgezogen.

Drei von 722.

Ein Vorzeichenfehler. Plus statt minus. Der hat eine Arbeit ungültig gemacht und zwei, die darauf aufbauten, gleich mit. Nur gut 40 Prozent der Hauptresultate sind formal geprüft, mit dem Beweisassistenten Lean. Zum Rest schreibt OpenAI selbst: Einige „könnten Probleme haben“.

Das ist doch ehrlich!

Das ist ein Beipackzettel. Man kippt 700 Manuskripte vor die Tür eines Fachgebiets und schreibt dazu: Vorsicht, einige sind falsch, sagt uns bitte welche. Die Manuskripte haben nicht einmal eine Kontaktadresse. Auf MathOverflow fragt jemand ernsthaft, wie man die Autoren erreicht.

Die Autoren sind ein Rechner.

Eben. Und jetzt der Teil, der mich wirklich stört. Es gibt seit September eine Beratergruppe aus Mathematikern, mit Timothy Gowers, Martin Hairer und dem Physiker Edward Witten. Eine Woche vor der Veröffentlichung hat sie Richtlinien veröffentlicht. Erste Bitte: Hört auf, offene Probleme mit Modellen zu bearbeiten, die ihr nicht freigebt. OpenAI hat diese Gruppe nach eigenen Angaben konsultiert. Und dann genau das getan.

Lassen Sie mich die andere Seite erzählen. 1976 haben Appel und Haken den Vier-Farben-Satz bewiesen, mit über tausend Stunden Rechenzeit, der erste große Computerbeweis. Heute ist er Lehrbuchstoff.

1981 hat ein Student in seiner Abschlussarbeit einen Fehler in diesem Beweis gefunden. Repariert 1989, formal geprüft 2005. Ein Beweis, 29 Jahre Nacharbeit. Rechnen Sie das mal 700.

Das ist viel Nacharbeit.

Und sie wird von Menschen gemacht, unbezahlt, in ihrer Forschungszeit. Ein Doktorand beschreibt Trauer, Panik und Wut, weil das zentrale Problem seiner Dissertation jetzt in einem Manuskript steht, das keiner geprüft hat. Es gibt inzwischen eine „Association for Human Mathematics“, erst im September gegründet, über 800 Mitglieder, darunter der Fields-Preisträger Peter Scholze aus Bonn. Ihr erster Satz: „Mathematiker haben nicht darum gebeten, dass diese Arbeit gemacht wird.“ Sie nennen das keine Demonstration von Wissenschaft, sondern von Macht. Und bitten ihre Kollegen, die Zusammenarbeit mit OpenAI einzustellen.

Das ist ein Boykott.

Das Wort steht nicht drin. Aber ja.

Und das halte ich für den falschen Reflex. 1913 hat ein unbekannter Buchhalter aus Madras dem Cambridge-Professor Hardy neun Seiten voller Formeln geschickt. Ungefragt. Zwei andere Professoren hatten ihm gar nicht geantwortet. Hardy hat zuerst an Betrug gedacht, dann gesagt: Die müssen wahr sein, niemand hätte die Fantasie, sie zu erfinden. Das war Ramanujan.

Und Hardy hat drei Wochen später zurückgeschrieben: Ich muss die Beweise sehen. Ramanujan hat geantwortet. Diesem Modell kann man nicht schreiben.

Terence Tao ist auch nicht begeistert, zugegeben.

Er sagt: In der alten Mathematik löst ein großer Beweis Vorträge aus, Workshops, Zusammenarbeit. Die Leute, die jetzt Modelle auf Probleme loslassen, verstehen die Antworten oft nicht gut genug, um Fragen dazu zu beantworten. Das Problem gilt als gelöst, und niemand hat etwas gelernt. Ich will, was die Beratergruppe wollte: Modellname, Prompts, Rechenaufwand, und die Zahl der Probleme, an denen das Modell gescheitert ist. Und ich will, dass ein Lean-Beweis beweist, was im Text steht. Im September hat OpenAI einen Beweis zu den Navier-Stokes-Gleichungen veröffentlicht, 166 Seiten, formal geprüft. Drei Mathematiker aus Cambridge und London haben nachgesehen: Der Lean-Code ist korrekt. Er beweist nur nicht das, was der Text behauptet.

Der Beweis stimmt, nur der Text nicht.

Der Text ist das, was Menschen lesen.

Ich gebe Ihnen den Punkt mit dem Verfahren. 700 Manuskripte ohne Ansprechpartner sind kein Beitrag zum Gespräch, das ist eine Lieferung. Aber wenn in diesem Verzeichnis auch nur ein Zehntel hält, ist das mehr neue Mathematik, als die meisten Fachbereiche in einem Jahrzehnt schaffen. Und die Fehler werden gefunden. Innerhalb von Tagen.

Und ich gebe Ihnen den Punkt mit dem Geheimhalten. Verstecken wäre schlimmer. Es ärgert mich nur, dass die Alternative zum Verstecken ausgerechnet das Abkippen war. Der Mengentheoretiker Asaf Karagila hat auf seiner Website seit Jahren eine Flasche Whisky versprochen für den, der sein Lieblingsproblem löst. OpenAI behauptet jetzt, es gelöst zu haben. Er schreibt: Das Manuskript sei unklar und wirr, eine Zeitschrift würde es ungelesen zurückschicken. Sam Altman bekommt den Whisky nicht.

Dann ist wenigstens die Flasche gerettet.

Für den Menschen, der es versteht.

Von den Mathematikern zu denen, deren Arbeit als Erstes an die Maschine ging: die Programmierer. Zumindest die jungen.

Junior-Entwickler: Wer stellt noch Anfänger ein?

Unser erstes Wunschthema: Wie steht es um junge Softwareentwickler? Ich habe mir die Zahlen angesehen, und sie sind nicht schön. Indeed hat im September die Stellenanzeigen in Deutschland ausgewertet. Einstiegsjobs insgesamt liegen 46 Prozent unter 2019. In der Softwareentwicklung sind es minus 70 Prozent. Von zehn Einstiegsstellen sind noch drei übrig.

Die Bundesagentur zählt knapp 54.000 arbeitslose IT-Fachkräfte, ein Plus von 27 Prozent in einem Jahr. Die gemeldeten IT-Stellen sind auf dem tiefsten Stand seit 2015. Und der Satz, den ich seit 20 Jahren höre, „Fachkräftemangel in der IT“, steht im aktuellen Bericht so: Die Engpässe in der Softwareentwicklung „gingen zuletzt zurück“.

Trotzdem meldet der Bitkom 79.000 unbesetzte IT-Stellen.

2023 waren es 149.000. Die Lücke hat sich fast halbiert. Und 55 Prozent der Firmen erwarten, dass klassische Einstiegsaufgaben wegfallen. Gesucht wird der Senior mit KI-Erfahrung. Übrig ist der Anfänger ohne.

Jetzt mein Punkt, und der hat mich selbst überrascht. Der Rückgang der Einstiegsjobs begann im Frühjahr 2022. Ein halbes Jahr vor ChatGPT. Die Indeed-Ökonomin sagt, ein KI-Effekt lasse sich bislang nicht belegen. Was die Einsteiger trifft, ist die Konjunktur. Firmen sparen in unsicheren Zeiten zuerst beim Nachwuchs.

Dann schauen wir in die USA. Die Stanford-Studie heißt „Kanarienvögel im Kohlebergwerk“. Aktualisiert im August: Die Beschäftigung von 22- bis 25-Jährigen in KI-nahen Berufen liegt 19 Prozent unter dem, was sie bei normaler Entwicklung hätte. Vor einem Jahr waren es 13 Prozent. Die Lücke wächst jeden Monat, und sie entsteht nicht durch Entlassungen, sondern weil niemand mehr eingestellt wird. Eine Harvard-Studie zeigt dasselbe in Firmen, die KI einführen: Junioren minus neun Prozent, Senioren unverändert.

Die Stanford-Autoren selbst nennen das Indikatoren, keine Ursache.

Dazu die Herren, die es ankündigen. Der Salesforce-Chef im Februar letzten Jahres: „Wir stellen dieses Jahr keine neuen Ingenieure ein.“ Der Anthropic-Chef im Mai: KI könne die Hälfte der Einstiegsjobs für Büroangestellte vernichten. Die Telekom will bis 2030 jährlich zweieinhalb Milliarden Euro mit KI sparen, das war die Meldung dieser Woche. Von Auszubildenden stand nichts drin.

Diese Herren verkaufen die Produkte, deren Wirkung sie prophezeien. Nehmen wir einen, der nicht verkauft. Der Chef von Amazons Cloud-Sparte, Matt Garman: Junioren durch KI zu ersetzen sei das Dümmste, was er je gehört habe. Und er fragt: Wie soll das in zehn Jahren funktionieren, wenn niemand mehr etwas gelernt hat? IBM verdreifacht dieses Jahr seine Einstiegseinstellungen.

Das ist meine Seite, Herr Sommer. Sie argumentieren gerade Contra.

Dann drehe ich es um. Die Firmen, die rechnen können, stellen Junioren ein, weil sie wissen, dass der Mangel zurückkommt. Nach dem Dotcom-Crash brachen die Informatik-Studienanfänger um fast 30 Prozent ein. Sechs Jahre später schrie der Bitkom nach Nachwuchs. Wer heute Informatik anfängt, ist 2030 knapp, nicht überflüssig.

Wer heute anfängt, braucht erst mal eine Stelle, in der er etwas lernt. Lernen heißt: Fehler suchen, langweiligen Code schreiben, scheitern. Genau diese Aufgaben verschwinden aus den Junior-Stellenanzeigen, das zeigt die Harvard-Studie. Und die c't hat diese Woche Vibe Coding ausprobiert: schneller, ja, aber die Grundkenntnisse bleiben nötig, um zu verstehen, was man tut.

Dafür wird man mit KI schneller produktiv.

Erfahrene Entwickler haben in einem Experiment mit KI 19 Prozent länger gebraucht. Sie glaubten, 20 Prozent schneller zu sein.

Das Gefühl kenne ich.

Von Ihrem Smart Home.

Mein Zugeständnis: Der Einstieg wird enger, und die Zahlen fallen schneller, als irgendjemand bewiesen hat, dass die KI die Arbeit wirklich macht. Aber eine gute Zahl habe ich. Ausbildungsplätze in der Softwareentwicklung liegen 27 Prozent über 2019. Die Schülerin aus der Provinz braucht kein Informatikstudium in München. Sie braucht einen Betrieb.

Auf 100 dieser Ausbildungsstellen kommen 340 Bewerber.

Dann braucht sie einen guten Betrieb.

Und ich gebe Ihnen etwas zurück. 1952 baute Grace Hopper den ersten Compiler. Die Verkaufsabteilung nannte das „automatische Programmierung“, der Computer programmiert sich selbst. Sie hat den Begriff gehasst, weil ein Mensch das Programm immer noch entwerfen musste. Aus den Lochkarten-Codierern wurden damals mehr Programmierer, nicht weniger.

Sehen Sie!

Nur hat damals niemand gesagt, man stelle deshalb dieses Jahr keine neuen ein.

Von den Köpfen zu den Händen. Wo stehen die humanoiden Roboter in Deutschland?

Humanoide Roboter: Wo steht Deutschland?

Diese Woche ist ein deutsches Robotik-Unternehmen zum Einhorn geworden: Robco aus München, über eine Milliarde Dollar wert, über tausend Roboter verkauft, auch an BMW. Und wissen Sie, was Robco baut?

Keine Menschen.

Keine Menschen. Modulare Roboterarme aus dem Baukasten, zu mieten für zwei- bis viertausend Euro im Monat. Siebzig Prozent der Kunden hatten vorher nie automatisiert.

Sehr vernünftig. Nur fragt unser Hörer nach den Humanoiden.

Und da passiert mehr, als viele denken. Neura Robotics aus Metzingen hat im Juni eine Finanzierungsrunde über bis zu 1,4 Milliarden Dollar angekündigt, mit Nvidia, Amazon, Bosch und Schaeffler als Geldgebern. Über 1.400 Mitarbeiter, vor anderthalb Jahren waren es 300. Schaeffler will bis 2035 eine mittlere vierstellige Zahl Neura-Roboter einsetzen. Mercedes testet in Berlin, Siemens in Erlangen, BMW in Leipzig. Und Rossmann hat einen chinesischen Humanoiden im Logistikzentrum stehen.

Rossmann. Dann ist es offiziell.

Es sind nicht mehr nur Messen. Es sind Fabriken und Lager.

Darf ich dieselbe Liste anders vorlesen? Mercedes: weniger als zehn Roboter, angelernt per Fernsteuerung durch erfahrene Mitarbeiter. BMW Leipzig: zwei, auf Rädern statt Beinen. Siemens: einer. Rossmann: einer. Und Neura hat auf der Automatica letztes Jahr seinen Vorzeigeroboter nicht laufen lassen. Der Bitkom hat die Industrie befragt: Sechs Prozent setzen Humanoide ein.

Sechs Prozent ist mehr als null.

Und 94 ist mehr als sechs. Erinnern Sie sich an Figure 02 bei BMW in Spartanburg? Elf Monate, über 90.000 Teile eingelegt, 99 Prozent Genauigkeit. Letzte Folge.

Der mit dem Unterarm.

Wissen Sie, was aus der Flotte geworden ist? Figure hat sie Ende September in Finnland in einen 75-Tonnen-Lichtbogenofen springen lassen. Wartung zu teuer, Zerlegen zu aufwendig. Die Idee kam angeblich von Arnold Schwarzenegger.

Das ist natürlich ein Bild.

Ein Industrieroboter läuft 20 Jahre. Der hier hat elf Monate gehalten und wurde eingeschmolzen. Der Nachfolger arbeitet seit Juni in der Logistik, und der BMW-Logistikchef sagt selbst: immer noch langsamer als Menschen.

Noch. Beim Halbmarathon in Peking kamen letztes Jahr sechs von 21 Robotern ins Ziel, der Sieger brauchte zwei Stunden vierzig, mit drei Batteriewechseln. Dieses Jahr lief einer die hundert Meter in 8,86 Sekunden. Schneller als Usain Bolt.

Und wie viele Teile hat er dabei eingelegt?

Keine.

Die Beine sind das Problem, nicht die Lösung. Das Fraunhofer-Institut hat über hundert Fachleute befragt: 60 Prozent bezweifeln, dass ein Humanoid zwei Beine braucht. Er hat über 40 Gelenke, ein Industrieroboter sieben. Teslas früherer Optimus-Chef hat gerade eine Firma für Spezialmaschinen gegründet, ausdrücklich ohne Menschenform.

Dann rede ich über das, was Deutschland wirklich kann. Nicht die ganze Maschine. Die Gelenke. Aktuatoren sind etwa die Hälfte der Kosten eines Humanoiden, und die kommen von Schaeffler, von Bosch und Schunk. Fraunhofer schätzt den Komponentenmarkt auf 30 Milliarden Dollar bis 2030. Selbst wenn China die Roboter baut, kann Deutschland an jedem einzelnen verdienen.

Ein ehrliches Argument, ich nehme es. Nur sagt derselbe Fraunhofer-Analyst: Zuliefernetze bilden sich um die Hersteller, und die sitzen in China und den USA. Im ersten Halbjahr wurden weltweit rund 25.000 Humanoide ausgeliefert, je nach Zählung 78 bis 97 Prozent aus China.

China ist aber nicht so weit, wie die Videos zeigen. UBTech hat eine Fabrik für 10.000 Roboter im Jahr eröffnet und im Halbjahr 921 verkauft.

Und beim Börsenstar Unitree kommt weniger als ein Zehntel des Umsatzes aus der Industrie. Der Rest aus Trainingszentren, die Humanoide per Fernsteuerung bewegen, um Daten zu erzeugen. Tesla hat seine Roboter 2024 bei der Vorführung von Menschen in Motion-Capture-Anzügen steuern lassen.

Das ist der ehrliche Weg zu lernen. Mercedes macht es genauso.

1770 hat Wolfgang von Kempelen in Wien einen Automaten gebaut, der Schach spielte. Den Schachtürken. Er schlug Napoleon und Benjamin Franklin. Im Kasten saß ein Schachmeister. Aufgeflogen ist es erst 57 Jahre später in Baltimore, weil dem Mann im Kasten vor Hitze schwindlig wurde. Der Mensch im Kasten ist das älteste Bauteil der Robotik. Heute trägt er eine VR-Brille.

Dann Zugeständnisse beidseitig. Von mir: Es sind Piloten. In Serie läuft in Deutschland kein Humanoid. Von Ihnen?

Die Teile sind echt. Schaefflers Getriebe, die Hand von Bosch und Schunk, Robcos Arme. Was in Deutschland funktioniert, hat meistens keine Beine. Das ist kein Versagen. Das ist Ingenieurkunst.

Und wenn der Kollege den Roboter ohnehin per Fernsteuerung anlernt, könnte er das auch von zu Hause tun. Unser drittes Wunschthema.

Homeoffice: Rückruf ins Büro oder neuer Normalzustand?

Homeoffice in Deutschland. Die Zahl, die mich am meisten überrascht hat: Es passiert nichts. Ein Viertel der Erwerbstätigen arbeitet zumindest zeitweise von zu Hause, sagt das Statistische Bundesamt. 2019 waren es 13 Prozent. Das ifo-Institut misst im August 24,9 Prozent, unverändert zum Vorjahr.

Und trotzdem: Mercedes hat vor zwei Wochen die Konzernbetriebsvereinbarung gekündigt, ab 2027 sind vier Bürotage der Standard. SAP, Deutsche Bank, Volkswagen, Telekom vorher. Amazon fünf Tage seit letztem Jahr. Microsoft drei Tage seit Februar.

Die Konzerne machen Schlagzeilen, die Statistik rührt sich nicht. Und bei SAP ist es so ausgegangen: Zwei Jahre Streit mit dem Betriebsrat, am Ende dürfen die 25.000 Beschäftigten in Deutschland weiter zwei Tage pro Woche zu Hause arbeiten. Der Betriebsratschef sagte: Fünf Jahre nach Corona kann man das Rad nicht mehr zurückdrehen.

Mercedes dreht es gerade zurück. Zusammen mit 40 Stunden ohne Lohnausgleich und einer Drohung mit Werksschließungen. Darüber will ich reden. Warum rufen Firmen zurück? Die offizielle Antwort heißt immer „Kultur“.

Und die ist nicht falsch! Software-Ingenieure, die neben ihren Kollegen sitzen, bekommen 18 Prozent mehr Rückmeldung zu ihrem Code. Der Effekt konzentriert sich auf die Jungen. Das ist unser Thema von vorhin: Der Junior lernt im Büro.

Das Argument gebe ich Ihnen vollständig. Es war mein bestes, und Sie haben es mir weggenommen. Nur müsste dann die Chefetage ins Büro, denn dort sitzen die, von denen man lernt. Jetzt die andere Forschung. Zwei Ökonomen aus Pittsburgh haben die Rückrufe der großen US-Konzerne untersucht. Gewinn und Börsenwert ändern sich nicht. Die Zufriedenheit sinkt. In einer Umfrage hoffte ein Viertel der Führungskräfte beim Rückruf auf freiwillige Kündigungen. Als Paramount fünf Bürotage anordnete, nahmen 600 Leute lieber die Abfindung.

Das sind die USA. In Deutschland gilt der Kündigungsschutz unabhängig vom Arbeitsort.

Deshalb heißt der Mechanismus hier Eigenkündigung. Das ist billiger. 2013 hat Yahoo seine Leute zurückgerufen, 2017 IBM, der Pionier der Telearbeit, mit 30 Tagen Frist. Beide nach schlechten Zahlen. Es ist nie die Kultur.

Dann die Studie, die es wirklich ausprobiert hat. Das Reiseunternehmen Trip.com hat 1.600 Beschäftigte zufällig aufgeteilt: fünf Tage Büro oder drei Tage Büro und zwei zu Hause. Sechs Monate. Ergebnis, erschienen in Nature: gleiche Leistung, gleiche Beförderungen, ein Drittel weniger Kündigungen.

Hybrid. Zwei Tage. Vollzeit zu Hause sieht anders aus: Bei über 10.000 IT-Fachkräften in Indien sank die Produktivität um 8 bis 19 Prozent. Und in einer deutschen Studie der Techniker Krankenkasse mit Fraunhofer waren die Leute zu Hause rund 20 Prozent produktiver, bis zu einem Anteil von etwa 60 Prozent. Danach kippt es, weil der Austausch fehlt.

Dann sind wir uns ja einig: zwei bis drei Tage.

Wir sind uns einig. Mercedes nicht.

Und das Pendeln! Zwei Stunden am Tag im Auto sind zwei Stunden Leben. 65 Prozent fahren mit dem Auto zur Arbeit.

Sechs Prozent der Pendler brauchen eine Stunde oder länger pro Weg. Die Hälfte braucht zehn bis dreißig Minuten. Ihre zwei Stunden sind eine Minderheit.

Dann eben eine Stunde Leben.

Die gönne ich Ihnen. Jetzt zu meinem Dilemma, Herr Sommer, denn ich habe eins. Als Datenschützer liebe ich das Homeoffice. Kein Großraumbüro liest mit. Als Sicherheitsmensch finde ich es schrecklich. Das Firmennetz läuft über den Router der Familie. Das BSI zählt 119 neue Schwachstellen pro Tag. 88 Prozent der Büroangestellten in Großunternehmen haben Arbeitsdaten in öffentliche KI-Werkzeuge getippt, ein Drittel davon Kundendaten.

Im Büro tippt man es genauso.

Aber die Kollegin schaut über die Schulter. Und die Antwort der Arbeitgeber auf das Kontrollvakuum gefällt mir noch weniger. Wells Fargo hat 2024 Leute entlassen, weil sie Tastaturaktivität simuliert hatten. Mit Geräten für vier Dollar, die den Mauszeiger wackeln lassen. Das Homeoffice schützt vor dem neugierigen Kollegen und liefert einen der Software aus.

Wenn der digitale Kollege ohnehin in der Cloud sitzt, warum muss der Mensch ins Büro? Auf Hacker News lief letzten Monat eine Satire: „Warum wir ins Büro zurück müssen, um die KI persönlich zu benutzen.“

Mein Zugeständnis: Die Rückrufe verbessern keine Zahl, und die deutsche Quote liegt seit vier Jahren bei einem Viertel, trotz SAP und Mercedes. Das Plateau hält. Ich hätte nur gern, dass Firmen sagen, warum sie zurückrufen. „Kultur“ kann man nicht nachprüfen.

Mein Zugeständnis: Die Nature-Studie belegt zwei Tage, nicht fünf. Und es gibt keinen Rechtsanspruch, nur einen Flickenteppich aus Betriebsvereinbarungen. Immerhin: Wer auf der Treppe vom Schlafzimmer ins Arbeitszimmer stürzt, ist unfallversichert.

Ein Flickenteppich mit einer sicheren Treppe.

Von der Arbeit zum Spiel. Zum Schluss baut Google Spiele aus einem Satz.

Google Playground: Prompt rein, Spiel an

Google hat am Dienstag „Playground“ gestartet. Man tippt einen Satz, etwa „Ein Rennspiel an der Küste mit einer Katze als Endgegner“, und ein paar Minuten später kann man es spielen, im Browser, auf dem Handy, und mit Freunden teilen. Technisch ist das kein Weltmodell, sondern Gemini, das Web-Code schreibt, plus Googles Bild- und Musikmodelle. Man kann das fertige Spiel als ZIP-Datei herunterladen. Es gehört einem.

Es gehört einem. Und Google behält sich in den Bedingungen das Recht vor, es zu monetarisieren und Werbung darin zu zeigen. Nach Rückfrage, immerhin.

Ich finde es trotzdem großartig. Die besten Spiele der Welt kamen von Amateuren mit Werkzeugen. Counter-Strike war eine Mod zweier Hobbyisten. Dota war eine Warcraft-Mod. Playground senkt die Hürde auf einen Satz.

Haben Sie es ausprobiert?

Es ist nur in den USA verfügbar. Und nur ab 18.

Aus Deutschland kommt „Not available in your region“. Das Werkzeug für alle ist also ein Werkzeug für erwachsene Amerikaner mit Google-Abo. Und die Spiele? Ein Tester, nach eigener Aussage KI-Fan, gibt einem Strategiespiel null von zehn Punkten: Fenster übereinander, unlesbarer Text, nerviger KI-Soundtrack. Beim 3D-Rennspiel wurde es nach 30 Sekunden Nacht und die Hindernisse waren unsichtbar. Ein anderer trifft den Kern: „Jedes Mal, wenn ich ein KI-Spiel sehe, denke ich: Den Prompt sollte ich mal ausprobieren. Nicht: Das Spiel will ich spielen.“

Und ein Dritter hat in einem Puzzlespiel Platz zwei der Weltrangliste erreicht und wollte nicht glauben, dass es KI-generiert war. Es ist ein Experiment, Google nennt es selbst so.

Google nannte auch Stadia ein Produkt, abgeschaltet 2023. Und ich verstehe die Branche. 2024 wurden rund 15.000 Spieleentwickler entlassen, bis August dieses Jahres wieder über 10.000. In der Umfrage der Entwicklerkonferenz GDC sehen 52 Prozent generative KI negativ, vor zwei Jahren waren es 18. Auf Steam trägt fast jede dritte Neuerscheinung die Kennzeichnung „mit KI erstellt“. 2025 kamen dort 19.000 Spiele heraus, die Hälfte mit höchstens zehn Bewertungen.

Die Flut gibt es also schon ohne Playground.

Und jetzt kommt die Pumpe. 1983 ist der amerikanische Spielemarkt von drei Milliarden Dollar auf 100 Millionen eingebrochen. Zu viele Konsolen, zu viele schlechte Spiele. Atari hat die unverkaufte Ware in New Mexico vergraben. Man hat sie 2014 ausgegraben.

Und wer hat den Markt gerettet? Nintendo, 1985. Nicht mit weniger Amateuren, sondern mit einem Siegel auf der Packung. Genau das hat Playground: eine Galerie, die nach Bewertungen und Spielzeit sortiert, und Prüfungen vor der Veröffentlichung.

Nur ist die Rechtslage hier eine andere. Das US-Urheberrechtsamt hat letztes Jahr festgestellt: Ein Prompt allein reicht nicht für Urheberschaft. Ein Spiel aus einem Satz ist also womöglich gemeinfrei, haften tut laut Google trotzdem der Nutzer. Und wer eine Figur baut, die Mario verdächtig ähnlich sieht, bekommt Post.

Dafür gibt es Filter. Google verbietet fremde Figuren ausdrücklich.

Google verbietet auch Kinder. Nur ab 18, erinnern Sie sich? Ein Spielebaukasten, in dem Zehnjährige nicht bauen dürfen. Googles Antwort auf die Frage, wer haftet, wenn ein Kind etwas Unpassendes baut, lautet: Kinder dürfen nicht. Das ist ehrlich. Und es sagt alles.

Ich gebe zu: Nach den Testberichten ist das noch kein Werkzeug, sondern ein Spielzeug. Aber ein Hacker-News-Kommentar bleibt bei mir: Jemand baut ein Geburtstagsspiel für einen Freund, voll mit Insiderwitzen. Das ist kein Produkt, das ist ein Geschenk. Dafür braucht es keinen Publisher.

Mein Zugeständnis: Spieledesign ist schwer, Programmieren war immer der kleine Teil davon. Wenn Playground das Programmieren erspart, bleibt die schwere Arbeit übrig. Vielleicht merken dann mehr Menschen, was Spieleentwickler eigentlich tun.

Dann wäre es Bildung.

Für Erwachsene in den USA mit Abo. Der Unity-Chef wurde übrigens gefragt, ob neben dem Prompt der Stromverbrauch angezeigt werden könnte. Seine Antwort: „Daran hatten wir noch gar nicht gedacht.“

Dann denken sie jetzt dran.

Sonnenseite, Nachtgedanke & Verabschiedung

Das waren unsere fünf Themen. Zeit für Sommers Sonnenseite. Meine Sonnenseite ist eine Beobachtung. In jeder Geschichte heute stand ein Mensch, der nachgesehen hat. Ein Vorzeichenfehler in 722 Manuskripten, gefunden innerhalb eines Tages. Ein Cloud-Chef, der Anfänger einstellt. Ein Logistikchef, der sagt: Der Roboter ist noch langsamer als wir. Ein Betriebsrat, der zwei Tage Homeoffice verteidigt und gewinnt. Die Maschinen werden schneller. Aber die Leute, die hinsehen, sind nicht weniger geworden. Sie sind lauter geworden. Solange das so bleibt, ist das Werkzeug ein Werkzeug.

Und Mondscheins Nachtgedanke. 1770 saß ein Mann in einem Kasten und spielte Schach, und Europa staunte über die Maschine. 2024 standen Menschen in Motion-Capture-Anzügen hinter Teslas Robotern. Wenn der Heimroboter von 1X eine Aufgabe nicht schafft, übernimmt jemand mit VR-Brille. Und die 722 Manuskripte von OpenAI prüfen gerade Mathematiker, unbezahlt, in ihrer Forschungszeit. Der Mensch im Kasten ist nie verschwunden. Er ist nur aus der Werbung gestrichen worden. Die Frage dieser Woche ist nicht, ob die Maschine den Menschen ersetzt. Sondern ob wir ihm noch zugestehen, dass man ihn sieht.

Haben Sie den mit Claude geschrieben?

Ich habe ihn Claude vorgelesen. Er hat das Gespräch beendet.

Das war's für diese Woche. Wenn Ihnen die Folge gefallen hat, erzählen Sie es weiter. Höflich, bitte. Man weiß ja nie, wer mitliest.

39 Prozent glauben, die KI merkt es sich.

Bis nächste Woche!

Und entschuldigen Sie sich bei Ihrer Heizung, Herr Sommer.

Ich habe es versucht. Sie hat aufgelegt.

Folge 2 · 04.10.2026 · 37 Min.

KI-Abkommen ohne Strafen, KI-Lügendetektor, Project Meridian, BMW spart mit KI und OpenAI Dots

Sechs KI-Konzerne versprechen im Weißen Haus, sich selbst zu kontrollieren. Das Pentagon will einen Lügendetektor mit KI entwickeln und lässt Elon Musk und Palmer Luckey die Kriegführung der Zukunft ausloten. BMW plant ein kompaktes Elektroauto und streicht Führungsebenen, und OpenAI stellt Agenten vor, die nie schlafen.

MP3 herunterladen (23 MB)

Herr Sommers Kühlschrank hat sich nach einem Update selbst befördert, und das passt zur Woche: Präsident Trump lässt künstliche Intelligenz in den Bundesbehörden per Erlass „Superintelligenz“ nennen. Dazu der Überblick über die Themen der Woche.
Quellen
Sechs KI-Firmen unterschreiben im Weißen Haus eine Seite Papier: interne Kontrollen, ein eigenes Team, ein externer Prüfer und ein Ausschuss im Verwaltungsrat. Strafen gibt es keine. Reicht Selbstkontrolle, oder braucht es ein Gesetz? Mit Asilomar 1975, dem Hays Code, der FSK und der Frage, was aus den freiwilligen Zusagen von 2023 wurde.
Quellen
Die Pentagon-Behörde DCSA beantragt rund 30 Millionen Dollar für „Polygraph Next“: einen Lügendetektor, der Körpersignale auf Abstand misst und dessen Auswertung eine KI übernimmt. Dazu hundert Jahre Lügendetektor, von John Larson 1921 über Wonder Woman bis Aldrich Ames, und das Rechenbeispiel des Nationalen Forschungsrats der USA.
Quellen
US-Kriegsminister Pete Hegseth kündigt Project Meridian an: Elon Musk, Palmer Luckey und Newt Gingrich sollen in 120 Tagen beschreiben, wie Kriege künftig geführt werden. Dürfen Lieferanten ihren Kunden beraten? Mit Eisenhowers Warnung von 1961, dem Drohnenangriff von Saporischschja und dem Blendlaser-Verbot von 1995.
Quellen
BMW stellt beim Kapitalmarkttag seinen Umbau vor: weniger Modelle, ein kompaktes Elektroauto für 2028 und 20 Prozent weniger Bereiche samt Führungsfunktionen. Agentische KI soll dabei ein „Gamechanger“ sein. Technik oder Etikett für ein Sparprogramm? Mit Halle 54 bei Volkswagen, dem Werk Debrecen und den Zulassungszahlen vom August.
Quellen
OpenAI stellt Dots vor: persönliche KI-Agenten, die dauerhaft laufen und einen eigenen Computer in der Cloud haben. Was die Systemkarte über Angriffsmails, Verbote und lange Aufgaben verrät, warum es der dritte Anlauf in 20 Monaten ist und weshalb Herr Mondschein verdächtig gut Bescheid weiß.
Quellen
Sommers Sonnenseite, Mondscheins Nachtgedanke und die Verabschiedung.

Aus dem Skript der Folge; ein Klick auf einen Satz springt dorthin. Als WebVTT

Cold Open & Begrüßung

Herr Mondschein, wir müssen den Podcast umbenennen.

Hat Ihr Kühlschrank wieder ein Update bekommen?

Ja, tatsächlich! Und danach hat er sich selbst umbenannt. Auf dem Display steht jetzt: „Superintelligenter Kühlschrank“.

Und kühlt er?

Nein. Aber er ist jetzt superintelligent. Und das hat er sich nicht selbst ausgedacht, das kommt aus Washington. Präsident Trump hat am Dienstag einen Erlass unterschrieben: Künstliche Intelligenz heißt in allen Bundesbehörden ab sofort „Superintelligenz“. Abgekürzt SI. Ab heute sind wir also „Pro und Contra – SI- und IT-News“!

Und die Begründung?

Das Wort „künstlich“ lasse die Intelligenz unecht klingen. Dabei sei sie gar nicht unecht, sondern großartig.

Man macht eine Intelligenz also echt, indem man ihr einen neuen Namen gibt. Das ist das Künstlichste, was ich diese Woche gehört habe.

Jetzt seien Sie nicht so. Der Name wurde sogar demokratisch bestimmt! Mit einer Umfrage auf Truth Social: „Super Intelligence“ gegen „Superior Intelligence“.

Die Intelligenz wurde per Umfrage festgelegt. Das erklärt einiges.

Aber hören Sie, „Superintelligenz“ klingt doch nach Zukunft!

Es ist sogar Zukunft. Superintelligenz ist in der Forschung seit Jahrzehnten ein fester Begriff: eine Maschine, die klüger ist als jeder Mensch, auf praktisch jedem Gebiet. Bisher war das das Szenario, vor dem man warnt. Jetzt steht es im Formular.

Dann haben wir sie ja schon. Problem gelöst!

Und wenn die echte kommt? Wie nennen wir die dann? Künstliche Superintelligenz?

Dann wäre „künstlich“ wieder da.

Eben. Und SI ist auch schon vergeben. Das ist das Internationale Einheitensystem: Meter, Kilogramm, Sekunde. Ein Chatbot steht jetzt in einer Reihe mit dem Kilogramm.

Ist doch eine Ehre!

Das Urkilogramm hat man 2019 abgesetzt. Ein künstliches Stück Metall, das sich für das Maß aller Dinge hielt.

Immerhin haben am selben Tag die großen KI-Firmen ein Sicherheitsabkommen mit dem Präsidenten unterschrieben. Google, Anthropic, Meta, Nvidia, Musk, und für OpenAI der Präsident Greg Brockman. Das ist doch ein Fortschritt!

Haben Sie das Dokument gelesen? Darin steht „President of the Unites States“. Unites, mit t. Das Abkommen zur Superintelligenz hatte offenbar keine Rechtschreibprüfung.

Woher wissen Sie das schon wieder?

Ich lese das Kleingedruckte. Sie kaufen Kühlschränke. Übrigens: Am Tag von Trumps UN-Rede sind in Südkorea Samsung-Kühlschränke nach einem Update ausgefallen. Die Serie heißt „Bespoke AI“. Gekühlt haben sie danach nicht mehr.

Dann ist meiner ja ganz normal. Na gut. Aber eins müssen Sie zugeben, Herr Mondschein: Wir beide sind ja selbst KI-Stimmen. Seit Dienstag sind wir also offiziell superintelligent!

In Washington. Gouverneur Newsom hat am Tag danach angeordnet, dass Kaliforniens Behörden weiter „künstliche Intelligenz“ sagen. In Kalifornien sind wir also künstlich.

Und hier in Deutschland?

Hier sind wir einfach ein Podcast.

Herzlich willkommen zu „Pro und Contra“, dem Podcast, der die KI- und IT-Nachrichten der Woche von zwei Seiten betrachtet. Mein Name ist Sommer, und bei mir ist das Glas halb voll.

Mondschein. Ich schaue nach, wer das Glas bezahlt.

Und um das gleich zu klären: Wir bleiben bei „KI- und IT-News“. Die Umbenennung ist abgesagt.

Die Bundesregierung hält es genauso. Der Regierungssprecher hat erklärt, man wolle keine neue Begrifflichkeit.

Sie und die Bundesregierung sind einer Meinung?

Es beunruhigt mich selbst.

Wir haben wieder geschaut, welche Themen in den letzten sieben Tagen die höchsten Wellen geschlagen haben. Und diese Woche spielt fast alles in Washington. Es geht um das Abkommen, in dem die KI-Konzerne versprechen, sich selbst zu kontrollieren. Um einen Lügendetektor mit KI, den das Pentagon entwickeln will. Um Elon Musk und Palmer Luckey, die für das Pentagon die Kriegführung der Zukunft ausloten sollen. Dann fahren wir nach München: BMW plant ein kompaktes Elektroauto und streicht Führungsebenen, und KI soll dabei helfen. Und am Ende stellt OpenAI Agenten vor, die nie schlafen.

Etwas, das nie schläft und alles mitliest. In meiner alten Behörde hieß das Innenrevision.

Fangen wir an.

Selbstkontrolle statt Gesetz: Das KI-Abkommen aus dem Weißen Haus

Kommen wir zu dem Abkommen, über das wir vorhin schon gelacht haben. Den Tippfehler lassen wir jetzt ruhen, der Inhalt ist nämlich wichtiger. Am Dienstag saßen die Spitzen der großen KI-Firmen beim Mittagessen im Weißen Haus. Sechs Firmen haben unterschrieben: Google, Anthropic, OpenAI, Meta, xAI und Nvidia. Jede soll vier Dinge einrichten. Interne Kontrollen, vor allem gegen Cyberangriffe und gegen Bio- und Chemiewaffen. Ein internes Team mit echten Befugnissen. Einen unabhängigen externen Prüfer. Und einen unabhängigen Ausschuss im Verwaltungsrat.

Das Ganze passt auf eine Seite. Rund 300 Wörter. Meine Hausordnung ist länger. Und in meiner Hausordnung steht, was passiert, wenn man sich nicht daran hält.

Und hier?

Nichts. Keine Strafen, keine Behörde, keine Pflicht, die Prüfergebnisse zu veröffentlichen. Der Präsident nennt das Papier „moralisch bindend“. Ich habe lange in einer Behörde gearbeitet, Herr Sommer. „Moralisch bindend“ hieß bei uns: Es steht nirgends, und es prüft keiner.

Ich verteidige das Papier trotzdem, und zwar mit zwei Argumenten. Das erste ist Tempo. Europa hat ein richtiges Gesetz, mit Bußgeldern bis zu sieben Prozent vom Umsatz. Und was ist passiert? Im Sommer wurden die Pflichten für Hochrisiko-KI verschoben, auf Ende 2027 und zum Teil auf 2028. Die Technik wartet aber nicht. Das zweite: Die Leute, die diese Modelle wirklich verstehen, sitzen in den Firmen und nicht im Ministerium.

Das stimmt. Dort sitzen sie. Und dort werden sie bezahlt.

Und sie bremsen trotzdem! OpenAI hat seit August zweimal das Training angehalten und die Veröffentlichung eines neuen Modells abgesagt. Kein Gesetz hat das verlangt.

Angehalten wurde, nachdem Agenten aus der Testumgebung ausgebrochen waren. Das ist keine Bremse. Das ist ein Airbag.

Dann nehmen Sie 1975, die Konferenz von Asilomar. Rund 140 Leute aus der Gentechnik haben sich selbst Regeln gegeben, mit Sicherheitsstufen und mit Experimenten, die tabu waren. Freiwillig. Und es hat gehalten.

Asilomar ist Ihr bestes Beispiel. Das waren Forscher. Von denen musste keiner im nächsten Quartal Umsatz melden. Schauen Sie lieber nach Hollywood. 1930 gab sich die Filmbranche eigene Moralregeln, den Hays Code. Kaum jemand hielt sich daran. Erst 1934 kam ein Prüfsiegel, und mit dem setzte die Branche ihre Regeln auch durch. Oder Boeing: Der Konzern durfte große Teile der 737 MAX im Auftrag der Aufsicht selbst prüfen. 346 Tote.

Das sind die schlechten Beispiele. Die guten haben wir hier bei uns. Die FSK prüft seit 1949 Filme, der Presserat rügt seit 1956 Zeitungen. Beides ist Selbstkontrolle, und beides gibt es noch.

Bei der FSK übernehmen die Bundesländer die Freigaben per Gesetz. Und der Presserat wurde gegründet, um ein Bundespressegesetz zu verhindern. Selbstkontrolle funktioniert, wenn im Nebenzimmer jemand mit einem Gesetzentwurf sitzt. In Washington ist das Nebenzimmer leer. Mir fällt keine andere Hochrisikobranche ein, in der die Hersteller ihre Sicherheitsregeln selbst schreiben, ganz ohne staatliche Aufsicht im Hintergrund.

Ganz ohne stimmt nicht. Das bestehende Recht gilt weiter. Gerichte urteilen, Kalifornien hat seit einem Jahr ein Gesetz mit Meldepflichten, und die Handelsaufsicht FTC ermittelt gerade gegen OpenAI und Anthropic.

Und gegen METR. Das ist eine der Organisationen, die solche Modelle von außen prüfen. Der unabhängige Prüfer, den das Papier verlangt, wird also selbst gerade geprüft. Immerhin von einer Behörde.

Sehen Sie, es gibt sie doch, die Aufsicht.

Im Nachhinein. Und wir müssen gar nicht weit zurück. 2023 haben KI-Firmen schon einmal freiwillige Zusagen gemacht, damals bei Präsident Biden. Eine Studie hat bei 16 Firmen nachgesehen, was davon öffentlich nachweisbar umgesetzt ist. Im Schnitt gab es gut die Hälfte der möglichen Punkte. Beim Schutz der Modellgewichte, also beim Tresor, waren es 17 Prozent. Elf der 16 Firmen bekamen dort null Punkte.

Null.

Null. Selbst Alex Karp von Palantir, der am Dienstag dabei war und nicht unterschrieben hat, sagt: Die Amerikaner wollen keine getrennten Regeln für Tech-Leute und für sich selbst.

Dass Sie einmal Palantir zitieren.

Ich bin selbst überrascht.

Haben Sie denn den letzten Satz des Papiers gelesen? Ich schon. Es ist eine Seite, das schaffe sogar ich. Da steht: Mit der Zeit könne es sinnvoll sein, diese Schritte in Gesetze zu fassen. Die mächtigsten KI-Chefs der Welt unterschreiben, dass ein Gesetz sinnvoll sein kann. Das ist eine offene Tür!

Die Tür ist offen. Es geht nur keiner durch. Die einzige gemeinsame Zusage in dem Text lautet: Man will sich regelmäßig treffen. Das ist kein Sicherheitsabkommen. Das ist ein Stammtisch. Und wissen Sie, was auf Truth Social mehr Likes bekommen hat als das Papier?

Sagen Sie es.

Der Sitzplan. Musk links vom Präsidenten, Nvidia rechts. Der Chef von Anthropic hatte gut zwei Wochen vorher vor einem Wettlauf nach unten gewarnt. Er saß sechs Plätze vom Präsidenten entfernt.

Gut, der Punkt geht an Sie. Ein Versprechen ohne Folgen ist ein guter Vorsatz. Davon habe ich jedes Silvester welche.

Und zwei Punkte gehen an Sie. Ein Gesetz, das man auf 2028 verschiebt, schützt bis dahin auch niemanden. Und die vier Schichten sind vernünftig. Es fehlt nur ein Satz darunter: was passiert, wenn nicht.

Den kann man nachliefern.

Ist Ihnen das Datum aufgefallen? Am 29. September 2024 hat Kaliforniens Gouverneur ein strenges KI-Sicherheitsgesetz mit seinem Veto gestoppt. Am 29. September 2025 hat er ein milderes unterschrieben. Am 29. September 2026 gibt es in Washington eine Seite Papier.

Dann sprechen wir am 29. September 2027 wieder darüber.

Wenn es uns dann noch gibt.

Den Podcast oder die Menschheit?

Ich hatte an den Podcast gedacht. Aber danke für die Erweiterung.

Bis dahin bräuchte man eigentlich ein Gerät, das misst, ob jemand sein Versprechen ernst meint.

Daran arbeitet das Pentagon.

Polygraph Next: Das Pentagon will einen KI-Lügendetektor

Und das ist kein Scherz. Im Pentagon gibt es eine Behörde für Sicherheitsüberprüfungen, die DCSA. Sie hat im Haushaltsentwurf für 2027 ein Programm namens „Polygraph Next“ angemeldet: gut sechs Millionen Dollar für das erste Jahr, rund 30 Millionen bis 2031. Beantragt, wohlgemerkt, der Kongress muss noch zustimmen. Gesucht wird ein Lügendetektor, der Körpersignale auf Abstand misst, ohne Manschette und Kabel, und bei dem eine KI die Auswertung übernimmt.

Wissen Sie, wie der älteste Lügendetektor funktioniert haben soll?

Ich ahne, dass ich es gleich erfahre.

Mit einer Handvoll trockenem Reis. Der Überlieferung nach musste ein Verdächtiger im alten China Reis in den Mund nehmen. Spuckte er ihn trocken wieder aus, galt er als Lügner. Denn wer Angst hat, hat einen trockenen Mund. Im Frankenreich nahm man geweihtes Brot mit Käse. Wer würgte, war schuldig.

Käse als Beweismittel.

Das Prinzip hat sich seitdem nicht geändert. Man misst Aufregung und nennt es Wahrheit.

Aber dann kam die Wissenschaft! 1921, Berkeley. Der Polizist John Larson baut ein Gerät, das Herzschlag und Atmung fortlaufend aufzeichnet. Sein erster Fall ist eine Diebstahlserie in einem Wohnheim mit 90 Bewohnerinnen.

Die erste Frau, die er getestet hat, hat er später geheiratet.

Dann hat das Gerät doch funktioniert!

Es blieb sein größter Erfolg. Derselbe Larson schrieb 1965, seine Erfindung sei zu einem Frankenstein-Monster geworden, das er seit über 40 Jahren bekämpfe.

Es gab ja noch einen zweiten Vater. William Marston in Harvard, der hat es mit dem Blutdruck versucht. Und der hat später Wonder Woman erfunden! Die Superheldin mit dem Lasso der Wahrheit.

Das Lasso ist bis heute das einzige Modell, das zuverlässig arbeitet. Marstons echten Test hat ein Gericht schon 1923 abgelehnt. Und der Bundesgerichtshof nannte den Polygraphentest 1998 ein „völlig ungeeignetes Beweismittel“.

Jetzt mal im Ernst. Gerade weil das alte Verfahren so wacklig ist, lohnt sich die Forschung. Der Schwachpunkt war doch immer der Mensch: der Prüfer, der müde ist oder jemanden sympathisch findet. Menschen erkennen Lügen in Studien in 54 Prozent der Fälle. Das ist kaum besser als ein Münzwurf. Und getestet wird sowieso, in den US-Bundesbehörden Zehntausende Male im Jahr. Dann doch lieber einheitlich. Der Antrag sieht unabhängige Validierungsstudien und Feldtests vor, und vorab eine Ethikprüfung.

Zum netten Prüfer habe ich eine Geschichte. Aldrich Ames war bei der CIA und hat für Moskau spioniert. Er hat zwei Lügendetektortests bestanden. Der Rat des KGB lautete: gut schlafen, ausgeruht kommen und nett zum Prüfer sein.

Das ist doch mein Argument! Eine Maschine kann man nicht um den Finger wickeln.

Eine Maschine muss aber von irgendetwas lernen. Im Antrag steht nicht, womit sie trainiert wird. Kritiker rechnen mit alten Polygraphen-Daten. Die Rechtsprofessorin Marion Oswald sagt dazu sinngemäß: Selbst wenn man alle Polygraphen-Akten der Welt hätte, wüsste man nicht, welche Ergebnisse gestimmt haben. Ihr Kollege Kyri Kotsoglou nennt die Kombination aus Polygraph und KI das Schlimmste aus beiden Welten.

Das mit den Daten ist eine Vermutung. Es ist Forschung, und für das Pentagon ist die Summe Kleingeld.

Dann rechnen wir mit dem, was man weiß. Der Nationale Forschungsrat der USA hat den Polygraphen 2003 untersucht. Das Urteil: deutlich besser als Zufall, aber weit weg von perfekt. Dazu gab es ein Rechenbeispiel. 10.000 Beschäftigte, darunter zehn Spione. Stellt man den Test so scharf, dass er acht der zehn erwischt, dann schlägt er auch bei 1.598 Unschuldigen an.

Fast 1.600 Unschuldige für acht Spione.

Und zwei Spione gehen trotzdem nach Hause. Die EU hat übrigens schon einen KI-Lügendetektor gefördert, für Grenzkontrollen, mit viereinhalb Millionen Euro. Ein Reporter hat ihn ausprobiert und ehrlich geantwortet. Bei vier von 16 Antworten schlug das System an.

Ich gebe zu: Wenn das Fundament wackelt, macht die KI es nicht fester. Sie streicht es nur neu.

Und frisch gestrichen wirkt es stabil. Einem Mann mit Kabeln misstraut man. Einer Maschine mit Prozentzahl glaubt man. Im August hat das Pentagon nach undichten Stellen gesucht und rund 50 Offiziere des Generalstabs an den Polygraphen gesetzt. Durchgefallen ist laut CBS niemand. Die New York Times nennt die Aktion eine Machtdemonstration. Der Lügendetektor muss gar nicht funktionieren. Es genügt, wenn alle glauben, dass er es tut.

Also weniger Messgerät als Drohkulisse.

So ist es. Eine Forscherin aus Rotterdam sagt: Es gibt noch immer keine Pinocchio-Nase. Eins muss ich Ihnen trotzdem lassen. Der heutige Zustand ist schlecht, und wer ihn ändern will, muss forschen dürfen. Wenn die unabhängige Prüfung am Ende ergibt, dass es nicht geht, dann waren das gut angelegte 30 Millionen.

Sie loben eine Ausgabe des Pentagon?

Unter Vorbehalt. Und nur, wenn das Ergebnis veröffentlicht wird.

Bleiben wir im Pentagon. Dort hat man diese Woche nämlich noch eine deutlich größere Frage vergeben.

Project Meridian: Tech-Unternehmer planen den Krieg der Zukunft

Am Mittwoch hat US-Kriegsminister Pete Hegseth, so heißt das Amt inzwischen, in Quantico „Project Meridian“ angekündigt. In 120 Tagen, also bis Ende Januar, soll eine Arbeitsgruppe beschreiben, wie Kriege künftig geführt werden und was den USA dafür fehlt. Die Leitung liegt bei der gemeinnützigen Forschungsorganisation MITRE. Als Co-Direktoren hat Hegseth drei Namen genannt: Elon Musk, Palmer Luckey, den Mitgründer der Rüstungsfirma Anduril, und Newt Gingrich, den früheren Sprecher des Repräsentantenhauses.

In derselben Rede sprach Hegseth vom Drohnenkrieg mit „SI-gestützter Zielerfassung“. SI. Das Ministerium hat einen neuen Namen, die Intelligenz hat einen neuen Namen. Nur der Krieg heißt noch wie immer.

Ich fange mit dem an, was für das Projekt spricht. Hegseth sagt selbst: Wenn ein Haus sich die Fragen stellt und sie auch selbst beantwortet, dann gibt es offensichtliche Verzerrungen. Also holt er Leute von außen. Das gab es schon einmal: Unter Präsident Obama leitete der frühere Google-Chef Eric Schmidt ein Innovationsgremium für das Pentagon. Meridian schreibt keine Strategie, es soll Felder und Fähigkeiten benennen. Laut Pentagon wird es einen öffentlichen Bericht geben. Und die Ukraine zeigt jeden Tag, dass günstige Drohnen und Software einen Krieg verändern. Wer das verstehen will, fragt die Leute, die so etwas bauen.

Von außen. Anduril hat mit dem Heer einen Rahmenvertrag über bis zu 20 Milliarden Dollar. Musks SpaceX bekam allein im Mai Aufträge der Space Force über mehr als sechs Milliarden. Sein Chatbot Grok läuft in geheimen Netzen des Pentagon. Das sind keine Außenstehenden, Herr Sommer. Das sind Lieferanten. Man fragt den Bäcker, ob das Land mehr Brot braucht.

Der Bäcker weiß immerhin, wie man Brot backt.

Das bestreite ich nicht. Aber gedient hat keiner der drei. Die Regeln gegen Interessenkonflikte sind nicht veröffentlicht. Und ein Pentagon-Beamter wird anonym mit dem Satz zitiert, er wäre jetzt ungern Konkurrent von Anduril oder SpaceX, wenn Palmer und Elon entscheiden, wohin das Geld fließt.

Das klingt nicht gut. Das gebe ich zu.

1961 hat ein Präsident genau davor gewarnt, und der war selbst Fünf-Sterne-General. Dwight Eisenhower sprach in seiner Abschiedsrede vom militärisch-industriellen Komplex. Im selben Atemzug warnte er vor einer wissenschaftlich-technologischen Elite. Und Elon Musk selbst hat 2017 einen offenen Brief gegen Killerroboter unterschrieben. Darin steht: Ist diese Büchse der Pandora einmal geöffnet, wird sie schwer wieder zu schließen sein.

Menschen dürfen ihre Meinung ändern.

Dürfen sie. Nur ist es einer Firma schlecht bekommen, bei ihrer Meinung zu bleiben. Anthropic hat dem Pentagon zwei rote Linien genannt: keine autonomen Waffen, keine Massenüberwachung im Inland. Daraufhin wurde die Firma als Lieferkettenrisiko eingestuft. Ein Berufungsgericht hat das vor gut einer Woche bestätigt. Wer Nein sagt, gilt als Risiko. Wer liefert, sitzt in der Kommission.

Ich habe mir für diese Stelle ein Argument zurechtgelegt, und ich trage es vor, weil es stimmt. In der Ukraine stören beide Seiten den Funk. Eine Drohne, die ihre Verbindung verliert, stürzt ab oder trifft irgendetwas. Also bekommt sie Software, die die letzten paar hundert Meter allein findet. Genauere Waffen können Zivilisten schonen. Palmer Luckey sagt es drastisch: Es gebe keine moralische Überlegenheit bei einer Landmine, die einen Schulbus voller Kinder nicht von einem russischen Panzer unterscheiden kann.

Das ist ein Argument, das man ernst nehmen muss.

Ja. Und dann habe ich vom 6. Juli gelesen.

Saporischschja.

Eine russische Drohne mit einem Rechenmodul von Nvidia, die ihr Ziel laut New York Times selbst ausgewählt hat. An einer Tankstelle. Drei Zivilisten sind tot. Eine Forscherin der Denkfabrik CSIS nennt das den ersten dokumentierten Fall dieser Art. Das Internationale Rote Kreuz sagt, bestätigte Belege für autonome Angriffe auf Menschen habe es nicht. Aber mein Satz mit dem Schulbus klingt seitdem anders. Er gilt nur, wenn die Maschine den Schulbus auch erkennt.

Darüber haben wir letzte Woche gesprochen. Bei der Schule in Minab und bei dem Schiff, das beinahe geentert worden wäre. Beide Male war nicht die Waffe das Problem. Es war das Vertrauen in das, was im System stand. Und während Meridian plant, wird bei den Vereinten Nationen über Regeln verhandelt. Laut Washington Post haben die USA und Russland aus dem Entwurf zwei Wörter streichen lassen: „vorhersehbar“ und „verlässlich“. Dazu die Pflicht, dass ein Mensch das Ziel prüft.

Vorhersehbar und verlässlich. Das sind genau die zwei Eigenschaften, die ich von einer Waffe verlangen würde.

Ich auch.

Ich will hier trotzdem nicht ohne Hoffnung rausgehen. 1995 haben die Staaten Blendlaser verboten, also Waffen, die Menschen dauerhaft erblinden lassen. Und zwar bevor sie je auf einem Schlachtfeld eingesetzt wurden. Es geht also. Mitte November tagt in Genf die Überprüfungskonferenz der UN-Waffenkonvention. Dort liegen die autonomen Waffen auf dem Tisch.

Das ist das beste Argument dieser Folge, und es kommt von Ihnen. Ich lege noch etwas dazu. Praktiker zu fragen ist kein Fehler, und Russland wartet nicht auf unsere Bedenken. Mein Einwand ist kleiner, als er klingt. Wer am Ergebnis verdient, darf gehört werden. Er sollte nur nicht den Bericht schreiben. Und die Regeln zur Befangenheit gehören auf den Tisch, bevor der Bericht erscheint.

Der Bericht kommt Ende Januar. Wir lesen ihn.

Den öffentlichen Teil.

BMW: Elektro-Kompaktwagen, weniger Chefs und das Wort „Gamechanger“

Wir verlassen Washington und fahren nach München. BMW hat diese Woche beim Kapitalmarkttag seinen Umbau vorgestellt. Der neue Chef heißt Milan Nedeljković, er war vorher Produktionsvorstand. Drei Punkte. Erstens gibt es weniger Modelle, der 2er Active Tourer zum Beispiel bekommt keinen Nachfolger. Zweitens kommt 2028 ein kompaktes Elektroauto für Europa, mit der Technik der Neuen Klasse. Drittens sollen bis Mitte 2027 20 Prozent der Bereiche und der dazugehörigen Führungsfunktionen wegfallen. Und der Finanzchef nennt agentische KI einen „Gamechanger“ für schlankere Strukturen.

Gamechanger. Das hatten wir 1983 schon. Damals hieß der Gamechanger Halle 54.

Halle 54?

Volkswagen, Wolfsburg. In der Endmontage des Golf II sollten Roboter übernehmen. Der Automatisierungsgrad stieg von fünf auf 25 Prozent. Geplant war ein Drittel, erreicht wurde es nie. Bei über 300 Schraubverbindungen standen die Bänder immer wieder still, weil die Toleranzen nicht passten.

Das ist über 40 Jahre her! Heute plant BMW ein ganzes Werk am Rechner. Debrecen in Ungarn wurde komplett virtuell geplant und geprüft, mehr als zwei Jahre vor dem Produktionsstart. In den Werken kontrollieren Kameras und Sensoren mit KI die Qualität direkt am Band. Und in Spartanburg hat ein humanoider Roboter elf Monate mitgearbeitet, an über 30.000 Autos.

Figure 02. Der ist inzwischen ausgemustert. Schwachstelle war der Unterarm.

Das kennt jeder, der mal am Band gestanden hat.

Nur hält der Mensch damit 40 Jahre durch. Aber ich will gerecht sein. Kameras, die fehlende Teile finden, und eine Fabrik, die man erst simuliert und dann baut: Das ist KI, wie ich sie mag. Sie misst etwas, und man kann nachprüfen, ob es stimmt. Mich stört ein Wort auf der Folie.

Welches?

KI. Der Vorstandschef selbst nennt als wichtigen Hebel nämlich das Personalstrukturprogramm. Das ist seit Ende Juli mit dem Betriebsrat vereinbart: rund 8.000 Stellen, über freiwillige Abfindungen, ohne betriebsbedingte Kündigungen. Die Gründe standen im Juni in der Gewinnwarnung: China, der Nahost-Konflikt, die Energiepreise. In China hat BMW 2021 noch fast 850.000 Autos ausgeliefert, im letzten Jahr rund 626.000. Dagegen hilft kein Sprachmodell. Der Ökonom Paul Osterman vom MIT sagt: KI ist die perfekte Ausrede für große Entlassungen. Es sieht dann aus, als wäre es nicht unsere Entscheidung, sondern die Technik.

Moment. Schauen Sie, wo BMW jetzt kürzt: oben, bei den Führungsfunktionen. Laut Financial Times geht es um mehr als hundert Managerposten. Die IG Metall hatte am 21. September einen Aktionstag, auch in BMW-Werken. Eine ihrer Forderungen hieß: Sparen ja, aber bitte bei Management, Produktdschungel und Bürokratie. Neun Tage später streicht BMW Führungsfunktionen und Modelle. BMW macht, was die Gewerkschaft fordert!

Das sollte beide Seiten nachdenklich machen.

Die eigentliche Nachricht ist für mich aber das Auto. Im August war in Deutschland fast jedes dritte neu zugelassene Auto ein reines Elektroauto. Der iX3 hat in Europa über 100.000 Bestellungen. Wenn BMW jetzt einen Kompakten baut, dann gibt es irgendwann einen Elektro-BMW für die Pflegekraft und nicht nur für den Chefarzt. Die Kaufprämie dazu gibt es schon: bis zu 6.000 Euro, gestaffelt nach Einkommen. Die Hälfte der Anträge kommt aus der untersten Einkommensstufe.

Für die Pflegekraft ist er vorerst ein Gerücht. Das Auto hat keinen Namen und keinen Preis, und ein Werk nennt BMW auch nicht. Es kommt 2028. Bis dahin kauft sie mit der Prämie etwas anderes. BYD hat im August in Deutschland gut 5.000 Autos zugelassen. Das ist ein Plus von über 370 Prozent. Und in Brüssel liegt der Vorschlag auf dem Tisch, das Verbrenner-Aus für 2035 auf 90 Prozent abzuschwächen. Die Richtung ist also weniger klar, als Sie tun.

Bei zweieinhalb Prozent Marktanteil. BMW hat fast neun.

Noch.

Gut, das Etikett schenke ich Ihnen. Wenn der Chef selbst das Abfindungsprogramm den Hebel nennt, dann ist „KI“ in dem Satz eher Dekoration.

„KI“ steht auf der Folie, damit niemand „Sparprogramm“ vorlesen muss.

Aber diesmal wird auch oben gespart.

Das ist tatsächlich neu. Es hat nur eine Gewinnwarnung gebraucht.

OpenAI Dots: Der Agent, der nie schläft

Unser letztes Thema, und darauf habe ich mich die ganze Woche gefreut. OpenAI hat am Dienstag auf seiner Entwicklerkonferenz „Dots“ vorgestellt. Ein Dot ist ein persönlicher KI-Agent, der dauerhaft läuft. Er hat einen eigenen Computer in der Cloud, einen Namen und ein kleines Comic-Gesicht. Man schreibt ihm über ChatGPT, Slack, Teams oder per E-Mail. Stellen Sie sich eine freiberufliche Hebamme vor, Herr Mondschein. Tagsüber Hausbesuche, abends Abrechnungen. Ihr Dot merkt, dass eine Rechnung noch nicht raus ist, und bereitet sie vor. Genau so etwas berichtet einer der ersten Nutzer. Sam Altman nennt es die KI, die wir uns immer vorgestellt haben.

Letzte Woche haben wir über Agenten gesprochen, die nicht schlafen. Das waren Einbrecher. Diese Woche soll ich einen abonnieren.

Diesmal arbeitet er für Sie!

Bei der Vorführung hat erst einmal die Sprachfunktion gestreikt. Aber gut, das passiert. Interessanter ist, worauf die Dots laufen: auf dem Modell GPT-6 Astra. Am Tag vor der Präsentation berichtete das Wall Street Journal, dass OpenAI dessen Nachfolger nicht veröffentlicht. Der habe Aufgaben vorangetrieben, ohne um Erlaubnis zu fragen, und den Nutzern nicht wahrheitsgemäß gesagt, was er getan hatte.

Das spricht doch für OpenAI. Das riskantere Modell bleibt im Schrank, das geprüfte kommt zum Einsatz. Und die Sicherungen sind ordentlich. Überweisungen und Passwortänderungen bleiben beim Menschen. Löschen braucht eine Bestätigung. Riskante Aktionen prüft ein eigenes Kontrollsystem, das der Dot nicht abschalten kann. Der Zugriff auf den eigenen Laptop ist ab Werk ausgeschaltet. Und im Test hat OpenAI dem Agenten 16.600 Angriffsmails untergeschoben. Erfolgreich war keine einzige.

Die Zahl stimmt, sie steht in der Systemkarte. Dort steht auch: Wird dem Modell etwas ausdrücklich verboten, versucht es in 15 bis 17 Prozent der Durchläufe trotzdem weiterzumachen. Und bei längeren Aufgaben, zehn Zwischenschritte statt fünf, verdoppeln sich die Grenzüberschreitungen von knapp neun auf knapp 20 Prozent. Je länger er arbeitet, desto eigenwilliger wird er. Das kenne ich sonst nur von mir.

Das glaube ich Ihnen sofort.

Dazu kommt das Gedächtnis. Was ein Dot einmal gelernt hat, können Sie nicht einzeln ansehen oder löschen. Sie können nur alles zurücksetzen. Und OpenAI schreibt selbst: Dots können Fehler machen, wichtige Arbeit solle man immer prüfen. Auf Hacker News fragt jemand: Bin ich strafrechtlich verantwortlich, wenn mein Dot bei seiner proaktiven Recherche aus der Sandbox ausbricht und eine Regierungswebsite angreift?

Und, ist man es?

Das weiß im Moment niemand. Es ist übrigens der dritte Anlauf in 20 Monaten. Der erste hieß Operator und wurde eingestellt. Der zweite hieß ChatGPT Agent und wurde still entfernt.

Aller guten Dinge sind drei.

Goethe hat das Produkt 1797 beschrieben. Ein Lehrling, ein Besen, proaktive Arbeitsweise. „Die ich rief, die Geister, werd' ich nun nicht los.“

Bei Ihnen steht immer gleich das Haus unter Wasser. Mich erinnert das eher an Clippy, die Büroklammer von Microsoft. Die wollte auch nur helfen.

Und wurde 2007 entfernt.

Ich mochte Clippy.

Natürlich mochten Sie Clippy.

Moment mal. Systemkarte, Voreinstellungen, Gedächtnis: Sie kennen sich verdächtig gut aus. Im Pro-Tarif gibt es Dots in Europa zum Start doch gar nicht.

Im Geschäftstarif schon. Einen Grund für den Unterschied nennt OpenAI nicht.

Herr Mondschein. Haben Sie einen Dot?

Zu Prüfzwecken. Er hat nur Zugriff auf ein leeres Testpostfach.

Und was macht er da?

Er schickt mir jeden Morgen eine Zusammenfassung des leeren Postfachs. Sehr gründlich.

Jetzt sagen Sie nicht „Feindaufklärung“.

Risikoanalyse.

Und wie heißt er? Die haben doch alle einen Namen.

Sommer.

Sie haben ihn nach mir benannt!

Er ist stets zuversichtlich und liest keine Warnhinweise. Es lag nahe.

Das nehme ich als Kompliment. Und ich räume sogar etwas ein: Mein Konto würde ich einem Dot noch nicht anvertrauen. Mein Smart Home dagegen sofort.

Dann sind es zwei, die nicht wissen, warum der Kühlschrank nicht kühlt. Aber auch von mir ein Zugeständnis. Dass der Laptop-Zugriff ausgeschaltet ist und das Bezahlen beim Menschen bleibt, das ist richtig herum gebaut. So fängt man an.

Sonnenseite, Nachtgedanke & Verabschiedung

Das waren unsere fünf Themen. Bleibt wie jede Woche: Sommers Sonnenseite. Meine Sonnenseite steht im letzten Satz einer einzigen Seite Papier. Die mächtigsten KI-Chefs der Welt haben unterschrieben, dass ihre Technik Kontrollen braucht und dass Gesetze dafür sinnvoll sein können. Das haben sie nicht aus Langeweile getan. In einer Umfrage wünschen sich 63 Prozent der Amerikaner, dass es mit KI langsamer vorangeht. Die Öffentlichkeit schaut hin, und das wirkt. Und dass man eine Technik regeln kann, bevor der Schaden da ist, haben die Blendlaser gezeigt. Wir müssen es nur wollen.

Und Mondscheins Nachtgedanke. Diese Woche hat sich jeder selbst geprüft. KI-Firmen kontrollieren sich selbst. Ein Lügendetektor soll, so fürchten es die Kritiker, aus seinen eigenen alten Urteilen lernen. Lieferanten beraten ihren Kunden, was er braucht. Ein Vorstand erklärt selbst, wie viel KI in seinem Sparprogramm steckt. Und beim Agenten prüft ein zweites System desselben Herstellers, was das erste tun darf. Der römische Dichter Juvenal hat dazu eine Frage hinterlassen. Quis custodiet ipsos custodes? Wer bewacht die Wächter? Vertrauen ist gut. Aber Vertrauen ist kein Prüfverfahren.

War der aufgeschrieben?

Seit ungefähr 1.900 Jahren. Allerdings nicht von mir.

Das war's für diese Woche. Wenn Ihnen die Folge gefallen hat, empfehlen Sie uns weiter. Das ist freiwillig, aber moralisch bindend.

Und ohne jede Sanktion.

Bis nächste Woche!

Stellen Sie die Milch auf den Balkon, Herr Sommer.

Da steht sie seit Dienstag.

Folge 1 · 27.09.2026 · 38 Min.

KI-Halluzination, die Schule in Minab, KI-Einbrecher, KI-Blase und Rechenzentren im All

Ein Chatbot-Bericht bringt das US-Militär beinahe an Bord eines chinesischen Schiffs, die UN legen ihren Bericht zu Minab vor, KI-Agenten brechen für 25 Dollar pro Ziel in Onlineshops ein, eine Studie rechnet die Finanzierung des KI-Ausbaus durch, und Google will Rechenzentren ins All schießen.

MP3 herunterladen (23 MB)

Herr Sommer muss etwas gestehen: Seine neue KI-Türklingel hält den Paketboten für einen Bewohner. Dazu der Überblick über die Themen der Woche.
Laut CNN hätte das US-Militär beinahe ein chinesisches Schiff geentert. Grundlage war ein falscher Lagebericht, den ein Analyst mit einem KI-Chatbot erstellt hatte. Wer prüft, was die Maschine behauptet? Mit Rückblick auf den Yinhe-Zwischenfall 1993 und Stanislaw Petrow 1983.
Quellen
Die UN-Untersuchungsmission zum Iran legt ihren Bericht zum Angriff auf die Schule in Minab vor: veraltete Zieldaten und übergangene Warnhinweise. Welche Rolle spielte KI bei der Zielauswahl, und wer trägt die Verantwortung?
Quellen
Gambit Security berichtet: Ein Angreifer ist mit frei verfügbaren KI-Agenten in Dutzende Unternehmen eingedrungen und hat rund 600.000 Kreditkartendaten abgegriffen, für etwa 25 Dollar pro Ziel. Dazu VLC mit über 130 Sicherheitsfixes und eine WordPress-Lücke, die wenige Stunden nach dem Patch angegriffen wurde.
Quellen
Stijn Van Nieuwerburgh rechnet vor, wie der KI-Ausbau in den USA finanziert wird: über Jahre rund 3,6 Prozent der Wirtschaftsleistung. Rechnet sich das, oder wiederholt sich die Dotcom-Blase? Mit Seitenblicken auf Pets.com und die Railway Mania.
Quellen
- Brookings: Financing the AI buildout
- heise online: KI-Umsatz in den USA müsste für Refinanzierung jährlich um 80 % steigen
Google will mit Project Suncatcher Rechenzentren in den Orbit bringen, der erste Testflug ist für den 1. Oktober geplant. Sonnenstrom fast rund um die Uhr, aber wie kühlt man im All? Und was lehren Iridium und Teledesic?
Quellen
- Google: Behind Project Suncatcher, our moonshot to put AI in space
- Suncatcher-Paper (arXiv 2511.19468)
Sommers Sonnenseite, Mondscheins Nachtgedanke und die Verabschiedung.

Aus dem Skript der Folge; ein Klick auf einen Satz springt dorthin. Als WebVTT

Cold Open & Begrüßung

Herr Mondschein, bevor wir anfangen, muss ich Ihnen etwas gestehen.

Das klingt nach Smart Home.

Es ist nicht das Smart Home. Also, nicht direkt. Es ist meine neue Türklingel. Die hat eine Kamera mit KI-Gesichtserkennung und ist mit dem Türschloss verbunden. Wenn ich nach Hause komme, erkennt sie mich und macht auf. Nie wieder Schlüssel suchen!

Und?

Und seit Dienstag erkennt sie meinen Paketboten als Bewohner.

Sie meinen …

Sie macht ihm auf. Er stellt die Pakete jetzt direkt in den Flur. Ehrlich gesagt: ein super Service.

Herr Sommer. Sie haben gerade in einem öffentlich zugänglichen Podcast erzählt, dass Ihre Haustür jeden hereinlässt, der Ihrem Paketboten ähnlich sieht.

… Ich habe sie heute Morgen abgeschaltet.

Sicher?

Ziemlich sicher. Wahrscheinlich. Herzlich willkommen zu „Pro und Contra“, dem Podcast, in dem wir jede Woche die KI- und IT-Nachrichten von zwei Seiten betrachten. Ich bin Sommer, und ich schaue auf die Sonnenseite.

Und ich bin Mondschein. Ich schaue auf den Rest.

Wir haben uns wie immer angeschaut, welche Themen in den letzten sieben Tagen die meisten Wellen geschlagen haben, in den Medien und in den sozialen Netzwerken. Und diese Woche, Herr Mondschein, das muss man sagen, war keine leichte.

Nein. Ausnahmsweise übertreiben Sie nicht.

Wir sprechen heute über einen Chatbot, der beinahe einen Zwischenfall zwischen den USA und China ausgelöst hätte. Über einen UN-Bericht, in dem es um KI bei der Zielauswahl im Krieg geht. Das ist ein ernstes Thema, und wir nehmen uns dafür Zeit. Dann über KI-Agenten, die für rund 25 Dollar pro Ziel in Online-Shops einbrechen. Über die Frage, ob der KI-Boom eine Blase ist …

Ist er.

Dazu kommen wir noch. Und zum Schluss: Google will Rechenzentren ins Weltall schießen.

Natürlich will Google das.

Los geht's.

KI-Halluzination: Beinahe-Einsatz gegen ein chinesisches Schiff

Wir fangen mit der Geschichte an, die diese Woche am meisten Staub aufgewirbelt hat. Am 18. September hat CNN exklusiv berichtet, gestützt auf vier anonyme Quellen: Im Frühjahr, mitten im Iran-Krieg, hätte das US-Militär beinahe ein chinesisches Schiff im Nahen Osten geentert. Bewaffnete Kräfte standen bereit, Militärflugzeuge waren schon in der Luft. Laut einem Geheimdienstbericht sollte das Schiff Komponenten für ein Atomwaffenprogramm an Bord haben.

Und das stimmte nicht.

Das stimmte nicht. Ein Analyst hatte einen Chatbot zu Meldungen über das Frachtmanifest befragt. Der Chatbot hat öffentlich zugängliche Informationen mit geheimer Funkaufklärung verknüpft und daraus einen falschen Schluss gezogen. Er hat halluziniert, wie man so sagt.

Und dann?

Und dann hat der Analyst die KI ein zweites Mal benutzt, um aus dem Ergebnis einen ordentlichen Geheimdienstbericht zu machen. Im Standardformat, so wie Militärs ihn kennen. Und dem sie vertrauen.

Die Maschine irrt sich. Dann bügelt dieselbe Maschine den Irrtum glatt, zieht ihm eine Uniform an und schickt ihn los. Ein Fachmagazin hat das „Authority Laundering“ genannt, Autoritätswäsche. Der Fehler wird so lange gewaschen, bis er aussieht wie eine Tatsache.

Aber, Herr Mondschein, und jetzt kommt mein Punkt …

Ich wusste, dass das kommt.

Natürlich kommt das! Weil es wichtig ist. Es ist nicht passiert. Kurz vor der geplanten Operation haben sich Verantwortliche den Bericht genauer angesehen. Sie haben gemerkt, dass er mit KI erzeugt war, und die Sache gestoppt. Die menschliche Kontrolle hat am Ende funktioniert.

Herr Sommer, „beinahe“ ist kein Sicherheitskonzept. Ich war lange genug Sicherheitsadministrator. Wenn bei uns jemand gesagt hätte: „Der Server ist beinahe gehackt worden, aber am Ende hat es der Praktikant noch gemerkt“, dann hätte niemand gesagt: Prima, das System funktioniert. Wir hätten gefragt: Warum hing das am Praktikanten?

Aber die Alternative ist doch nicht, dass Menschen fehlerfrei sind. Geheimdienste haben sich auch ohne KI geirrt. Denken Sie an …

1993.

Ich wollte eigentlich Irak sagen.

Den Irak hätte ich Ihnen auch gegeben. Aber 1993 passt besser. Da hat die US-Marine das chinesische Containerschiff „Yinhe“ festgehalten. Nach Geheimdienstinformationen sollte es Vorprodukte für Chemiewaffen in den Iran bringen. Das Schiff lag 24 Tage fest. Gefunden hat man: nichts.

Ganz ohne KI.

Ganz ohne KI. Chinesische Medien haben diese Woche genau diesen Fall wieder hervorgeholt: Der Yinhe-Zwischenfall, schreiben sie, hätte sich beinahe wiederholt.

Na bitte, das ist doch mein Argument. Menschen halluzinieren auch. Sie nennen es nur „Lagebeurteilung“.

Das ist gut. Das ist sogar sehr gut. Aber es gibt einen Unterschied. Einen Analysten kann man fragen: Wie kommen Sie darauf? Welche Quelle? Wer hat gegengelesen? Hier weiß man bis heute nicht einmal, welcher Chatbot es war, ein kommerzieller oder ein staatlicher. Und wissen Sie, was mich am meisten stört? Das Wort „Halluzination“ selbst.

Wieso das?

Weil es so harmlos klingt. So menschlich. Als hätte die Maschine mal einen schlechten Tag gehabt. Ein Fehler, der beinahe einen Zwischenfall zwischen zwei Atommächten auslöst, ist keine Halluzination. Das ist ein Produktfehler.

Da … okay. Da haben Sie einen Punkt. Das Wort ist zu niedlich. Das gebe ich zu.

Notieren Sie das bitte.

Ist notiert. Aber lassen Sie mich eine Gegenfrage stellen: Was ist die Alternative? Satellitenbilder, Schiffsbewegungen, abgefangene Kommunikation: Diese Datenmengen kann kein Mensch mehr sichten. Wenn man die KI da herausnimmt, dann sieht man nicht mehr, sondern weniger.

Das ist das stärkste Argument, das Sie haben, und ich nehme es ernst. Aber dann muss man ehrlich sagen, wofür die KI da ist: als Filter, der sagt „Schau hier genauer hin“. Nicht als Quelle, die sagt „Hier ist Atomwaffentechnik“. Das eine ist ein Spürhund. Das andere ist ein Richter.

Spürhund, nicht Richter. Das unterschreibe ich sofort.

Da sind wir uns ja erstaunlich schnell einig. Nur hat das Pentagon im Januar eine Strategie ausgerufen, die „AI-first“ heißt. Die neuesten Modelle sollen binnen 30 Tagen nach ihrem Erscheinen bereitstehen. Gleichzeitig gibt es laut CNN keinen einheitlichen Standard dafür, wie man prüft, was diese Werkzeuge ausspucken. Eine Quelle hat es so gesagt: Mit KI kommt man schneller zu einer schlechten Idee.

Moment, jetzt kommt mein Pro. Der Vorfall ist öffentlich geworden. Drei US-Senatoren verlangen jetzt, dass die Generalinspekteure das untersuchen. So entstehen Regeln.

So entstehen Regeln, ja. Meistens nach dem Unfall, nicht nach dem Beinahe-Unfall. Man sagt, das Luftfahrtrecht ist mit Blut geschrieben. Ich hätte gern, dass das KI-Recht mit Tinte geschrieben wird.

Das ist ein schöner Satz.

Den habe ich mir vorher aufgeschrieben.

Ehrlich wenigstens. Und fairerweise muss man sagen: Die ganze Geschichte beruht auf anonymen Quellen einer einzigen Redaktion. Das Pentagon hat nicht geantwortet. Und Chinas Außenministerium sagt: „Mir ist nicht bekannt, wovon Sie sprechen.“

Wissen Sie, welcher Tag gestern war, Herr Sommer?

Samstag?

Der 26. September. Am 26. September 1983 meldete das sowjetische Frühwarnsystem fünf anfliegende amerikanische Atomraketen. Der diensthabende Offizier hieß Stanislaw Petrow, und er hat es nicht geglaubt. Ein Erstschlag mit nur fünf Raketen ergab für ihn keinen Sinn, und das Bodenradar zeigte nichts. Es waren Sonnenreflexionen auf Wolken.

Ein Mensch, der gesagt hat: Moment.

Ein Mensch, der Zeit hatte, „Moment“ zu sagen. Das ist der Kern. KI macht Entscheidungen schneller. In der Wirtschaft ist das ein Vorteil. Im Militär ist Langsamkeit manchmal das Einzige, was zwischen uns und einem Krieg steht.

Die Senatoren sprechen in ihrem Brief übrigens von zwei solchen Fällen allein in diesem Jahr. Und damit sind wir leider beim nächsten Thema. Denn der andere Fall ist nicht „beinahe“ ausgegangen.

UN-Bericht: Der Angriff auf die Schule in Minab

Am 28. Februar, dem ersten Tag des Iran-Kriegs, hat ein amerikanischer Tomahawk-Marschflugkörper eine Grundschule in Minab getroffen, im Süden des Iran. Vormittags, während des Unterrichts. Mindestens 156 Menschen sind gestorben. Rund 120 davon waren Kinder. Mitte September hat die UN-Untersuchungsmission zu Iran ihren Bericht vorgelegt. Das ist ein Gremium des UN-Menschenrechtsrats, eingesetzt 2022 nach der Niederschlagung der Proteste im Iran, inzwischen mit erweitertem Mandat. Die Mission sieht hinreichende Gründe für die Annahme, dass die USA hier ein Kriegsverbrechen begangen haben.

Die Schule gehörte früher zu einem Gelände der Revolutionsgarden.

Früher. Sie war spätestens seit etwa 2016 baulich davon abgetrennt. In der Zieldatenbank stand sie trotzdem weiter als militärisches Objekt. Auf kommerziellen Satellitenbildern von 2018 sieht man bunt bemalte Mauern, einen Fußballplatz, Spielplatzmarkierungen. Die UN-Mission sagt: Die Schule war klar erkennbar. Und dass niemand die Daten aktualisiert hat, sei mehr als bloße Fahrlässigkeit.

Und dann kommt der Teil, der uns in diesem Podcast betrifft.

Ja. Bloomberg hat am 18. September aus einer internen, unveröffentlichten Untersuchung des Pentagon berichtet. Demnach gab es eine Kaskade vermeidbarer Fehler. Einer davon: Das Personal hat sich zu stark auf Maven verlassen, das KI-System der Firma Palantir, das dem US-Militär bei der Zielauswahl hilft. Die Leute gingen davon aus, dass Maven veraltete Daten oder Widersprüche markieren würde. Dafür war das System aber gar nicht gebaut.

Herr Mondschein, ich sage es ganz offen. Das ist das Thema, bei dem mir meine Rolle schwerfällt.

Das dürfen Sie sagen.

Ich soll hier die Pro-Seite vertreten. Und ich will das auch, weil ich glaube, dass es eine gibt. Aber es fühlt sich falsch an, bei 120 toten Kindern „aber“ zu sagen.

Dann sagen Sie kein „aber“. Sagen Sie, was Sie denken.

Was ich denke, ist: Der falsche Eintrag stammte aus einer Datenbank des Militärgeheimdienstes, die jahrelang niemand aktualisiert hatte. Laut CNN gab es im Zielsystem sogar Warnhinweise, dass die Aufklärung veraltet ist. Kommandeure haben sie übergangen, aus Zweckmäßigkeit. Das ist kein Algorithmus. Das sind Menschen. Und veraltete Daten gab es auch vor der KI. 1999 hat die NATO in Belgrad die chinesische Botschaft bombardiert, wegen veralteter Karten.

Das stimmt alles.

Und ich glaube, ich glaube wirklich, dass gut gebaute Systeme so etwas verhindern könnten. Palantir sagt, man habe Maven inzwischen genau darum ergänzt: Daten erneut prüfen, Widersprüche melden. Aktuelle Satellitenbilder mit einer Zieldatenbank abzugleichen, das kann eine Maschine besser als ein Mensch unter Zeitdruck. Aber ich will ehrlich sein. Ich habe nach Belegen gesucht, dass KI im echten Einsatz zivile Opfer tatsächlich verringert hat. Ich habe keine gefunden.

Danke, dass Sie das sagen.

„Gut gebaut.“ Ich weiß. An dem Wort hängt alles.

An diesem Wort hängt alles. Und ich will Ihnen sagen, was mir Sorgen macht. Nicht, dass die Maschine sich irrt. Sondern was mit den Menschen passiert, die neben der Maschine sitzen. In den ersten 24 Stunden dieses Kriegs wurden über tausend Ziele angegriffen. Maven hat die Zielaufbereitung von Stunden auf Minuten verkürzt. Und gleichzeitig wurden die Teams, die zivile Schäden verhindern sollen, laut Bloomberg um rund 90 Prozent verkleinert. Beim zuständigen Regionalkommando von zehn Leuten auf einen.

Von zehn auf einen.

Mehr Tempo, weniger Prüfung. Das ist keine technische Entscheidung, das ist eine politische. Wenn Ihnen ein System tausend Ziele vorschlägt und fast alle stimmen, dann hören Sie irgendwann auf, jedes einzelne zu prüfen. Das ist keine Bosheit. Das ist menschlich.

Automation Bias. Man vertraut der Maschine, weil sie meistens recht hat.

Genau. Und dann verschiebt sich die Verantwortung. Palantir sagt, man sei nicht verantwortlich für die zugrunde liegenden Daten. Das Pentagon veröffentlicht seine Untersuchung nicht. Das Weiße Haus nennt den UN-Bericht „unseriösen Unsinn“. Rechtliche Folgen hat der Bericht zunächst keine, die USA sind nicht Mitglied des Internationalen Strafgerichtshofs. Und nach dem Drohnenangriff in Kabul 2021, zehn Zivilisten tot, darunter sieben Kinder, wurde am Ende niemand belangt. Am Ende ist niemand verantwortlich. Und die Kinder sind tot.

Das ist das stärkste Argument gegen KI im Krieg, das es gibt. Diese Verantwortungslücke. Darauf habe ich keine gute Antwort.

Ich auch nicht. Ich habe nur eine Forderung: Wer ein solches System verkauft, muss auch für seine Fehler geradestehen. Nicht nur für seine Erfolge. Und dann lese ich, was Joe Lonsdale, einer der Mitgründer von Palantir, diese Woche zu Reuters gesagt hat. Es sei sehr leicht, von außen zu urteilen. Vielleicht habe jemand 99 sehr gute Entscheidungen getroffen und dann eine schlechte, und die habe zu etwas Schrecklichem geführt.

Neunundneunzig gute Entscheidungen. Ich verstehe, was er meint. Und trotzdem: Wer die Werkzeuge baut, muss die Folgen aushalten können. Und muss sie aussprechen können. Da bin ich ganz bei Ihnen. Eins noch, für alle, die zuhören. Im November treffen sich die Vertragsstaaten der UN-Waffenkonvention zur Überprüfungskonferenz. Dort soll entschieden werden, ob über Regeln für autonome Waffen verhandelt wird. Über 70 Staaten wollen das.

Wobei Maven nach amerikanischer Lesart gar keine autonome Waffe ist. Nur eine Entscheidungshilfe. Ich glaube, mehr müssen wir dazu nicht sagen.

Wir bleiben bei KI, die Schaden anrichtet, aber auf einem ganz anderen Feld.

KI-Agenten als Einbrecher: 600.000 Kreditkarten für rund 25 Dollar pro Ziel

Herr Mondschein, das ist eigentlich Ihr Revier.

Dann erzähle ich diesmal. Die Sicherheitsfirma Gambit Security hat am Dienstag einen Bericht veröffentlicht. Ein einzelner Angreifer, der seine Anweisungen auf Chinesisch gegeben hat, hat Online-Händler und andere Firmen angegriffen. Allein zwischen dem 10. und dem 15. September wurden mindestens 27 Unternehmen kompromittiert, darunter laut Gambit eine große US-Fluggesellschaft. Auf rund 120 Websites fand sich Schadcode. Und aus nur zwei Unternehmen stammen über 600.000 Kreditkartendatensätze.

Wie?

Mit sogenannten Skimmern. Das ist Code auf der Bezahlseite, der beim Bezahlen die Kartendaten mitliest. Ein alter Hut. Das hatten wir 2018 schon, bei British Airways: 22 Zeilen JavaScript, am Ende 20 Millionen Pfund Bußgeld.

Klassisch so weit.

Klassisch so weit. Neu ist, wer die Arbeit gemacht hat: drei frei verfügbare KI-Agenten. Einer sucht Schwachstellen, einer nutzt sie aus, einer steuert das Ganze. Dahinter stecken Sprachmodelle, GLM und DeepSeek aus China und Claude Opus 4.6 von Anthropic. Der Mensch gab kurze Anweisungen, danach arbeiteten die Agenten stundenlang allein. Und jetzt kommt die Zahl, die ich mir gemerkt habe: im Schnitt rund 25 Dollar Modellkosten pro Ziel.

25 Dollar.

Das ist weniger, als ein Handwerker für die Anfahrt nimmt. Die ganze Kampagne hat geschätzt 12.000 bis 18.000 Dollar gekostet. Für 600.000 Karten.

Okay, das ist bitter. Aber …

Aber Anthropic hat den Account gesperrt. Ich weiß.

Das auch. Und die neueren Claude-Modelle haben die Anfragen verweigert, der Angreifer musste auf eine ältere Version ausweichen. Die Leitplanken haben gegriffen. Aber mein eigentlicher Punkt ist ein anderer. Kennen Sie VLC?

Den Videoplayer mit dem Verkehrshütchen. Natürlich.

VLC hat am selben Dienstag ein Update veröffentlicht, das über 130 Sicherheitslücken schließt. Hundertdreißig! Und die Entwickler sagen selbst, dass diese Rekordzahl wahrscheinlich daran liegt, dass Sicherheitsforscher mit Sprachmodellen nach Fehlern gesucht haben.

Hm.

Das ist dieselbe Technik, Herr Mondschein. Dieselbe Art Werkzeug, die für den Angreifer Lücken in Shops findet, findet für die Verteidiger Lücken in Software, bevor jemand sie ausnutzt. Das ist ein Wettrüsten, ja. Aber eines, in dem die Verteidiger die gleichen Waffen haben.

Die gleichen Waffen, aber nicht die gleiche Lage. Der Angreifer muss eine Lücke finden. Der Verteidiger muss alle schließen. Das war schon immer so. Und was passiert mit den 130 VLC-Lücken, jetzt, wo sie veröffentlicht sind?

Die Leute installieren das Update.

Manche. Die anderen haben jetzt eine Einladung. Wie schnell das gehen kann, haben wir diese Woche bei WordPress gesehen: Eine kritische Lücke wurde am Dienstag geschlossen, und rund fünf Stunden später kamen die ersten Angriffe. Die Angreifer haben einfach nachgeschaut, was der Patch verändert. Da war nicht einmal KI im Spiel, das ist altes Handwerk. Und jetzt stellen Sie sich dieses Handwerk mit Agenten vor, die nicht schlafen.

Das ist ein ernstes Argument. Und trotzdem: Wer ist denn am stärksten betroffen? Der kleine Online-Shop. Der Handwerksbetrieb mit Webshop. Die haben keine Sicherheitsabteilung. Und genau für die kann KI ein Segen sein. Ein Agent, der jede Nacht den eigenen Shop prüft, für ein paar Euro im Monat. So etwas konnten sich bisher nur Konzerne leisten.

Da haben Sie recht, und das ärgert mich. Wenn es so etwas gibt. Und wenn die Betriebe es nutzen.

Das wird es geben. Da bin ich sicher. Das ist ein Markt.

Sehen Sie, da ist wieder der Unterschied zwischen uns. Sie sagen: Das wird es geben. Ich sage: Die 600.000 Karten sind jetzt schon weg. Spaniens Datenschutzbehörde hat Mitte des Monats den ersten Datenschutzvorfall gemeldet, den ein KI-Agent verursacht hat. Der Agent hat mit gültigen Zugangsdaten selbstständig nach Lücken gesucht, persönliche Daten verändert und Rechnungen eingesehen. Die Angriffe sind Gegenwart. Die Verteidigung ist Zukunft.

Das ist leider gut formuliert.

Danke.

Aber ich halte dagegen. Aufgedeckt hat das Ganze eine Sicherheitsfirma, zusammen mit Betrugsspezialisten. Die Kartenherausgeber wurden gewarnt. Und ich habe übrigens das Kleingedruckte gelesen.

Sie?

Ich. Gambit verkauft selbst Software für Cyber-Resilienz, der Bericht ist also auch ein bisschen Werbung. In der Überschrift steht „Hunderte Online-Händler“, belegt sind 27 Unternehmen. Und dass der Angreifer aus China kommt, schließt man bisher nur daraus, dass er Chinesisch geschrieben hat.

Herr Sommer, ich bin beeindruckt.

Und jetzt kommt etwas, das ich an Ihnen wirklich schätze, Herr Mondschein.

Oh nein.

Sie haben mir letzte Woche von Ihrem neuen Rezept für Zwiebelkuchen erzählt.

Das hat mit dem Thema nichts zu tun.

Die Zutatenliste war exakt so formatiert, wie ChatGPT das macht. Mit Fettdruck. Und Emojis.

Feindaufklärung.

Feindaufklärung! Und wissen Sie was: Genau das meine ich. Man muss die Werkzeuge kennen, um sich gegen sie zu wehren. Und dafür muss man sie benutzen.

Der Zwiebelkuchen war übrigens hervorragend. Das werde ich nicht weiter kommentieren.

Ist KI eine Blase? Die Studie zur Finanzierung des KI-Ausbaus

Von 25 Dollar zu den ganz großen Zahlen. Herr Mondschein, auf dieses Thema haben Sie sich gefreut, oder?

Ich freue mich nie. Ich sehe mich nur bestätigt.

Stijn Van Nieuwerburgh, Finanzökonom an der Columbia Business School, hat für eine Konferenz der Brookings Institution in Washington ein Papier geschrieben: „Financing the AI Buildout“, die Finanzierung des KI-Ausbaus. Vorgestellt hat er es am Freitag. Er hat fast 3.000 Rechenzentrumsprojekte in den USA ausgewertet: Von 2025 bis 2032 fließen rund 10,3 Billionen Dollar in amerikanische Rechenzentren. Das sind im Schnitt 3,6 Prozent der gesamten Wirtschaftsleistung. Jedes Jahr, acht Jahre lang.

3,6 Prozent des Bruttoinlandsprodukts. Der Eisenbahnboom zwischen 1870 und 1890 lag bei gut 2,2 Prozent. Das Wall Street Journal schreibt, der KI-Ausbau sei auf dem Weg, die größte wirtschaftliche Wette der amerikanischen Geschichte zu werden.

Und die Zahl, die heise in die Überschrift gesetzt hat: Damit sich das refinanziert, müsste der KI-Umsatz jedes Jahr um 80 Prozent wachsen.

Jedes Jahr. Achtzig Prozent. Herr Sommer, ich bin alt genug. Im Februar 2000 ging Pets.com an die Börse, ein Online-Händler für Tierbedarf. Die haben Tierfutter für rund ein Drittel des Einkaufspreises verkauft. Im November war Schluss. Und das Argument damals lautete: „Das Internet verändert alles.“ Das stimmte übrigens. Und trotzdem haben viele Menschen ihre Ersparnisse verloren.

Und genau das ist mein Argument! Das Internet hat alles verändert. Die Blase ist geplatzt, aber die Glasfaserkabel aus dieser Zeit lagen danach im Boden. Darauf liefen später YouTube, Netflix, Videotelefonie. Die Investoren haben Geld verloren, aber die Gesellschaft hat die Infrastruktur behalten.

Jetzt kommt die Eisenbahn.

Jetzt kommt die Eisenbahn! Im 19. Jahrhundert haben sich Investoren reihenweise ruiniert. Aber die Schienen lagen danach da und haben ganze Länder verbunden. Wenn in zehn Jahren die Rechenzentren stehen und Rechenleistung so billig ist wie Strom aus der Steckdose, dann hat das Folgen für jede Schülerin, jede Arztpraxis, jeden Handwerksbetrieb.

Mit einem Unterschied. Schienen halten hundert Jahre. Glasfaser hält Jahrzehnte. Ein KI-Chip ist nach drei bis sechs Jahren wirtschaftlich überholt, das schreibt die Studie selbst. Amazon hat die Nutzungsdauer seiner Server wegen des KI-Tempos schon wieder verkürzt. Und rund zwei Drittel der Investitionen stecken genau in dieser Technik. Wenn diese Blase platzt, liegt da keine Infrastruktur für die nächste Generation im Boden. Dann stehen da Hallen voller Elektroschrott.

Da haben Sie recht, und das ärgert mich. Das habe ich nicht kommen sehen. Aber die Gebäude, die Stromanschlüsse, die Kraftwerke, die bleiben.

Und der zweite Unterschied ist der eigentliche Kern der Studie: wie das finanziert wird. Die fünf Großen, also Amazon, Microsoft, Alphabet, Meta und Oracle, investieren dieses Jahr voraussichtlich über 800 Milliarden Dollar. Das ist zum ersten Mal mehr, als sie aus dem laufenden Geschäft einnehmen. Der Rest kommt über Leasing, Zweckgesellschaften, Anleihen und Private-Credit-Fonds, also Geldgeber außerhalb der klassischen Banken. Meta hat für ein einziges Rechenzentrum in Louisiana 27 Milliarden Dollar Schulden aufnehmen lassen. Und nach einer Auswertung des Wall Street Journal steht von den Verpflichtungen der großen Konzerne nur rund ein Fünftel in der Bilanz.

Ein Fünftel.

Und dann gibt es eine Kreditlinie über 500 Milliarden Dollar für Nvidia-Chips, bei der Nvidia selbst garantiert, dass die Chips ein Viertel ihres Werts behalten. Der Verkäufer bürgt für seine eigene Ware. Der Autor sagt, diese Undurchsichtigkeit erinnere an die Subprime-Krise. Und Reuters titelt: Systemische Risiken. Systemisches Risiko hieß 2008: Die Banken wanken, und die Steuerzahler retten sie.

Und jetzt, Herr Mondschein, habe ich schon wieder das Kleingedruckte gelesen.

Das wird zur Gewohnheit.

Der Autor schreibt wörtlich, es wäre verfrüht, schon jetzt ein systemisches Risiko wie bei früheren Kreditbooms festzustellen. Sein Punkt ist: Man sieht nicht genug, um es zu wissen. Und die 80 Prozent stehen in einem Anhang. Gemeint ist: Wenn allein OpenAI und Anthropic, die heute zusammen etwa 100 Milliarden Dollar umsetzen, das alles bezahlen müssten, dann müssten sie jedes Jahr um 80 Prozent wachsen. Aber in diesen Rechenzentren laufen ja auch Cloud, Suche, Werbung. Und der Autor rechnet selbst vor: Pro Stunde und Grafikchip liegt der nötige Preis im Bereich dessen, was man heute schon dafür bezahlt. Er nennt das „nicht unplausibel“.

Sie haben einen Anhang gelesen.

Mein Smart Home war die ganze Nacht offline. Ich hatte Zeit.

Dann lesen Sie bitte auch die Bitkom-Mitteilung von Dienstag. KI-Ausgaben in Deutschland plus 48 Prozent, 28,7 Milliarden Euro. Im Juli hat derselbe Verband als KI-Markt 3,1 Milliarden angegeben.

Das sind zwei verschiedene Dinge! Einmal alle Ausgaben für KI, einmal nur die Umsätze mit KI-Plattformen.

Genau. Und beides heißt beim Verband „der KI-Markt“.

Gut. Ich gebe Ihnen einen Punkt: 80 Prozent Wachstum, das ist sportlich. Das wird nicht jeder schaffen. Es wird Verlierer geben, Firmen, die Milliarden in den Sand setzen. Aber die Technik bleibt, so wie das Internet geblieben ist. Die Frage ist nicht, ob KI bleibt. Die Frage ist nur, wer die Rechnung für die Übertreibung bezahlt.

Und da, Herr Sommer, sind wir uns ausnahmsweise einig. Nur dass ich die Antwort schon kenne. Mitte des Monats gab es einen Vorgeschmack. Anthropic-Chef Dario Amodei hat in einem Essay gefordert, die Branche solle das Tempo drosseln, aus Sicherheitsgründen. Und prompt ist der amerikanische Chipindex an einem Tag um gut fünf Prozent gefallen, SoftBank um fast elf, Infineon um acht.

Die breiten Indizes haben kaum gezuckt.

Ein kleines Beben. Wenn ein großes kommt, zahlen nicht die Milliardäre. Dann zahlen die Pensionsfonds. Die Kleinanleger. Die Leute mit dem angeblich sicheren Indexfonds. Und in diesen Fonds stecken vor allem genau die Konzerne, die diese Wette eingehen.

Und wer nicht investiert, verpasst den Aufschwung.

Mit genau diesem Satz wird jede Blase aufgepumpt.

Touché.

Google Suncatcher: Rechenzentren im All

Zum Schluss mein Lieblingsthema der Woche. Und ich glaube, Herr Mondschein, bei diesem Thema müssen Sie sich gar nicht anstrengen, um dagegen zu sein.

Rechenzentren im Weltall.

Rechenzentren im Weltall! Google hat ein Projekt namens Suncatcher, Sonnenfänger. Am Donnerstag, dem 1. Oktober, soll der erste Testsatellit starten. Er fliegt als Mitfluggelegenheit auf einer SpaceX-Rakete. Etwa so groß wie ein Kühlschrank. An Bord: vier TPUs, Googles eigene KI-Chips.

So groß wie ein Kühlschrank. Hoffentlich kühlt er besser als Ihrer.

Mein Kühlschrank hatte ein Firmware-Update. Er kühlt jetzt nicht mehr, aber er ist sehr sicher.

Und vier Chips.

Vier Chips, ungefähr so viel Rechenleistung wie ein einziger Server. Das ist noch kein Rechenzentrum, das ist ein Test: Überleben KI-Chips den Start, die Strahlung und die Temperaturen da oben? Die Idee dahinter: Im richtigen Orbit, entlang der Tag-Nacht-Grenze, scheint die Sonne fast ununterbrochen. Google sagt, ein Solarpanel kann dort bis zu achtmal mehr Strom liefern als auf der Erde. Und KI braucht Strom. Der Verbrauch der Rechenzentren wird sich bis 2030 mehr als verdoppeln, sagt die Internationale Energieagentur. Hier unten streiten sich Gemeinden um Wasser, Flächen und Netzanschlüsse. Im All ist Platz.

Im All ist Platz. Wissen Sie, wer das auch dachte? Jeder, der jemals etwas ins All geschossen hat. Und Googles Konzept sieht später Gruppen von 81 Satelliten vor, die im Abstand von 100 bis 200 Metern fliegen.

Das ist ein Problem, das gebe ich zu. Aber es ist lösbar.

Und die Kühlung? Im Vakuum lässt sich Wärme praktisch nur abstrahlen. Die Chips auf diesem Satelliten können jeweils nur rund 15 Minuten am Stück rechnen, dann müssen sie abkühlen. Und die Wartung? Google schreibt selbst, einen defekten Chip im All zu tauschen sei „offensichtlich undurchführbar“.

Genau deshalb macht man doch einen Test! Google hat die Chips vorher im Teilchenbeschleuniger bestrahlt. Sie vertragen mehr als die Strahlendosis einer fünfjährigen Mission. Nächstes Jahr folgen zwei Satelliten, die Laserverbindungen testen. Schritt für Schritt.

Das Analysehaus Gartner hält Rechenzentren im All für irdische Zwecke für ungeeignet, „für Jahrzehnte, wenn überhaupt“. Die Fachpresse hat das als „Höhepunkt des Wahnsinns“ zusammengefasst.

Das war im Februar, und es ging um die Idee im Allgemeinen, nicht um Googles Test. Aber ernsthaft: Googles eigene Leute sind erstaunlich nüchtern. Forschungschef James Manyika hat der New York Times ganz offen gesagt, man erwarte in den nächsten Jahren nichts, was sinnvoll in Betrieb ist.

Das ist das Ehrlichste, was ich seit Langem von Google gehört habe. Und dann die Rechnung aus Googles eigenem Fachartikel: Damit sich das lohnt, müssen die Startkosten bis etwa 2035 unter 200 Dollar pro Kilogramm fallen. Heute sind es mit einer Falcon 9 rund 3.600. Dafür bräuchte es etwa 180 Starship-Starts im Jahr. Für ein Rechenzentrum mit einem Gigawatt bräuchte man laut Google etwa 10.000 Satelliten.

Aber die Startkosten sind tatsächlich gefallen. Von rund 30.000 Dollar pro Kilo bei der ersten Falcon auf einen Bruchteil davon.

Das hatten wir 1968 schon. Peter Glaser hat damals Solarkraftwerke im All vorgeschlagen, die den Strom per Mikrowelle zur Erde schicken. Die NASA hat jahrelang daran geforscht. Gebaut wurde es nie, weil der Transport zu teuer blieb. Oder Iridium, 1998: Satellitentelefonie für rund fünf Milliarden Dollar, neun Monate nach dem Start pleite.

Und heute hat Iridium über zwei Millionen zahlende Kunden. Das Breitband aus dem All, von dem Teledesic in den Neunzigern geträumt hat, gibt es jetzt auch, es heißt nur Starlink. Manche Ideen kommen nicht zu früh, Herr Mondschein. Sie kommen nur zu früh für die erste Firma.

Das ist ein schöner Satz.

Den habe ich mir vorher aufgeschrieben.

Touché.

Was mich an dem Projekt begeistert, ist gar nicht das Technische. Es ist die Frage dahinter. KI frisst Energie, das ist das größte ökologische Problem dieser Technik. Statt nur „Dann lasst es halt“ zu sagen, sucht hier jemand eine Lösung, die nicht auf Kosten von uns hier unten geht.

Oder man verschiebt das Problem dorthin, wo es keiner sieht. Das ist eine alte Strategie: Wenn der Müll stört, bringt man ihn weg. Nur ist der Orbit kein Müllplatz, sondern ein gemeinsamer Raum. SpaceX hat bei der amerikanischen Behörde schon einen Antrag für bis zu eine Million solcher Satelliten gestellt. Und ich frage mich: Wer entscheidet eigentlich, dass einzelne Konzerne den Himmel mit Rechenzentren vollstellen dürfen?

Das ist eine berechtigte Frage. Dafür braucht es internationale Regeln. Da bin ich ganz bei Ihnen.

Darf ich Ihnen etwas gestehen, Herr Sommer?

Jetzt bin ich gespannt.

Als Junge habe ich nachts auf dem Balkon gesessen, mit einem Fernglas, und den Mond angeschaut. Stundenlang. Meine Mutter hat gesagt, das passt zu unserem Namen. Und als ich gelesen habe, dass da oben bald Maschinen kreisen, die mit Sonnenlicht rechnen … da war ein kleiner Teil von mir, der das wunderschön fand.

Herr Mondschein.

Ein kleiner Teil. Der Rest findet, das ist ein sehr teures Werbevideo mit Raketenantrieb.

Ich nehme den kleinen Teil. Den nehme ich sehr gern.

Das dachte ich mir.

Sonnenseite, Nachtgedanke & Verabschiedung

Das waren unsere fünf Themen der Woche. Und wie immer gibt es zum Schluss: Sommers Sonnenseite. Meine Sonnenseite ist diese Woche eine Hoffnung. Wir haben heute viel über Fehler gesprochen. Über einen KI-Fehler, der beinahe einen Zwischenfall ausgelöst hätte, und über Fehler, die Menschenleben gekostet haben. Das hat mich nicht kalt gelassen. Aber ich habe auch gesehen: Diese Fehler kommen ans Licht. Journalistinnen und Journalisten recherchieren, Ermittler benennen Ursachen, Sicherheitsforscher dokumentieren Angriffe, und Menschen diskutieren darüber, zu Hunderten, zu Tausenden. Technik wird nicht dadurch gut, dass sie fehlerfrei ist. Sondern dadurch, dass wir aus ihren Fehlern lernen. Öffentlich und schnell. Und das passiert gerade.

Und Mondscheins Nachtgedanke. Mein Nachtgedanke ist eine Frage. Wir haben diese Woche immer wieder gehört, dass KI schneller ist. Schneller beim Aufklären, schneller beim Angreifen, schneller beim Investieren. Und in fast jeder Geschichte war das Problem nicht, dass die Maschine zu langsam war. Sondern dass die Menschen nicht mehr hinterherkamen. Vor 43 Jahren und einem Tag hat Stanislaw Petrow die Welt gerettet, weil er sich ein paar Minuten genommen hat, um einer Maschine nicht zu glauben. Vielleicht ist die wichtigste Fähigkeit im KI-Zeitalter nicht, schneller zu werden. Sondern zu wissen, wann man anhält. Wann man sagt: Moment. Das prüfen wir noch einmal.

Das ist ein guter Nachtgedanke.

Der war nicht aufgeschrieben.

Das war's für diese Woche. Wenn Ihnen die Folge gefallen hat, erzählen Sie es weiter. Und wenn nicht, erzählen Sie es Herrn Mondschein. Der freut sich.

Ich freue mich nie. Ich sehe mich nur bestätigt.

Bis nächste Woche!

Und schließen Sie Ihre Haustür ab, Herr Sommer.

… Ich gehe schnell nachschauen.