WEBVTT 00:00:05.810 --> 00:00:09.170 Herr Mondschein, wir müssen den Podcast umbenennen. 00:00:09.170 --> 00:00:11.650 Hat Ihr Kühlschrank wieder ein Update bekommen? 00:00:11.650 --> 00:00:12.950 Ja, tatsächlich! 00:00:12.950 --> 00:00:15.740 Und danach hat er sich selbst umbenannt. 00:00:15.740 --> 00:00:19.890 Auf dem Display steht jetzt: „Superintelligenter Kühlschrank“. 00:00:19.890 --> 00:00:21.250 Und kühlt er? 00:00:21.250 --> 00:00:21.940 Nein. 00:00:21.940 --> 00:00:24.700 Aber er ist jetzt superintelligent. 00:00:24.700 --> 00:00:29.870 Und das hat er sich nicht selbst ausgedacht, das kommt aus Washington. 00:00:29.870 --> 00:00:40.070 Präsident Trump hat am Dienstag einen Erlass unterschrieben: Künstliche Intelligenz heißt in allen Bundesbehörden ab sofort „Superintelligenz“. 00:00:40.070 --> 00:00:41.310 Abgekürzt SI. 00:00:41.310 --> 00:00:45.650 Ab heute sind wir also „Pro und Contra – SI- und IT-News“! 00:00:45.650 --> 00:00:47.010 Und die Begründung? 00:00:47.010 --> 00:00:50.990 Das Wort „künstlich“ lasse die Intelligenz unecht klingen. 00:00:50.990 --> 00:00:54.450 Dabei sei sie gar nicht unecht, sondern großartig. 00:00:54.450 --> 00:00:59.060 Man macht eine Intelligenz also echt, indem man ihr einen neuen Namen gibt. 00:00:59.060 --> 00:01:02.690 Das ist das Künstlichste, was ich diese Woche gehört habe. 00:01:02.690 --> 00:01:04.510 Jetzt seien Sie nicht so. 00:01:04.510 --> 00:01:07.410 Der Name wurde sogar demokratisch bestimmt! 00:01:07.410 --> 00:01:12.970 Mit einer Umfrage auf Truth Social: „Super Intelligence“ gegen „Superior Intelligence“. 00:01:12.970 --> 00:01:16.120 Die Intelligenz wurde per Umfrage festgelegt. 00:01:16.120 --> 00:01:17.690 Das erklärt einiges. 00:01:17.690 --> 00:01:21.330 Aber hören Sie, „Superintelligenz“ klingt doch nach Zukunft! 00:01:21.330 --> 00:01:23.030 Es ist sogar Zukunft. 00:01:23.030 --> 00:01:33.120 Superintelligenz ist in der Forschung seit Jahrzehnten ein fester Begriff: eine Maschine, die klüger ist als jeder Mensch, auf praktisch jedem Gebiet. 00:01:33.120 --> 00:01:36.500 Bisher war das das Szenario, vor dem man warnt. 00:01:36.500 --> 00:01:38.590 Jetzt steht es im Formular. 00:01:38.590 --> 00:01:40.350 Dann haben wir sie ja schon. 00:01:40.350 --> 00:01:41.410 Problem gelöst! 00:01:41.410 --> 00:01:43.110 Und wenn die echte kommt? 00:01:43.110 --> 00:01:44.750 Wie nennen wir die dann? 00:01:44.750 --> 00:01:46.610 Künstliche Superintelligenz? 00:01:46.610 --> 00:01:48.770 Dann wäre „künstlich“ wieder da. 00:01:48.770 --> 00:01:49.440 Eben. 00:01:49.440 --> 00:01:51.820 Und SI ist auch schon vergeben. 00:01:51.820 --> 00:01:56.790 Das ist das Internationale Einheitensystem: Meter, Kilogramm, Sekunde. 00:01:56.790 --> 00:02:00.890 Ein Chatbot steht jetzt in einer Reihe mit dem Kilogramm. 00:02:00.890 --> 00:02:02.410 Ist doch eine Ehre! 00:02:02.410 --> 00:02:05.560 Das Urkilogramm hat man 2019 abgesetzt. 00:02:05.560 --> 00:02:10.850 Ein künstliches Stück Metall, das sich für das Maß aller Dinge hielt. 00:02:11.200 --> 00:02:18.650 Immerhin haben am selben Tag die großen KI-Firmen ein Sicherheitsabkommen mit dem Präsidenten unterschrieben. 00:02:18.650 --> 00:02:24.340 Google, Anthropic, Meta, Nvidia, Musk, und für OpenAI der Präsident Greg Brockman. 00:02:24.340 --> 00:02:26.560 Das ist doch ein Fortschritt! 00:02:26.560 --> 00:02:28.900 Haben Sie das Dokument gelesen? 00:02:28.900 --> 00:02:32.140 Darin steht „President of the Unites States“. 00:02:32.140 --> 00:02:33.370 Unites, mit t. 00:02:33.370 --> 00:02:38.560 Das Abkommen zur Superintelligenz hatte offenbar keine Rechtschreibprüfung. 00:02:38.560 --> 00:02:40.400 Woher wissen Sie das schon wieder? 00:02:40.400 --> 00:02:42.540 Ich lese das Kleingedruckte. 00:02:42.540 --> 00:02:44.420 Sie kaufen Kühlschränke. 00:02:44.420 --> 00:02:51.470 Übrigens: Am Tag von Trumps UN-Rede sind in Südkorea Samsung-Kühlschränke nach einem Update ausgefallen. 00:02:51.470 --> 00:02:53.670 Die Serie heißt „Bespoke AI“. 00:02:53.670 --> 00:02:56.320 Gekühlt haben sie danach nicht mehr. 00:02:56.320 --> 00:02:58.120 Dann ist meiner ja ganz normal. 00:02:58.120 --> 00:02:58.880 Na gut. 00:02:58.880 --> 00:03:04.450 Aber eins müssen Sie zugeben, Herr Mondschein: Wir beide sind ja selbst KI-Stimmen. 00:03:04.450 --> 00:03:08.240 Seit Dienstag sind wir also offiziell superintelligent! 00:03:08.240 --> 00:03:09.390 In Washington. 00:03:09.390 --> 00:03:16.540 Gouverneur Newsom hat am Tag danach angeordnet, dass Kaliforniens Behörden weiter „künstliche Intelligenz“ sagen. 00:03:16.540 --> 00:03:19.200 In Kalifornien sind wir also künstlich. 00:03:19.200 --> 00:03:20.640 Und hier in Deutschland? 00:03:20.640 --> 00:03:23.200 Hier sind wir einfach ein Podcast. 00:03:29.370 --> 00:03:37.750 Herzlich willkommen zu „Pro und Contra“, dem Podcast, der die KI- und IT-Nachrichten der Woche von zwei Seiten betrachtet. 00:03:37.750 --> 00:03:41.850 Mein Name ist Sommer, und bei mir ist das Glas halb voll. 00:03:41.850 --> 00:03:42.950 Mondschein. 00:03:42.950 --> 00:03:45.930 Ich schaue nach, wer das Glas bezahlt. 00:03:45.930 --> 00:03:50.300 Und um das gleich zu klären: Wir bleiben bei „KI- und IT-News“. 00:03:50.300 --> 00:03:52.490 Die Umbenennung ist abgesagt. 00:03:52.490 --> 00:03:55.020 Die Bundesregierung hält es genauso. 00:03:55.020 --> 00:03:59.850 Der Regierungssprecher hat erklärt, man wolle keine neue Begrifflichkeit. 00:03:59.850 --> 00:04:02.970 Sie und die Bundesregierung sind einer Meinung? 00:04:02.970 --> 00:04:05.050 Es beunruhigt mich selbst. 00:04:05.050 --> 00:04:12.080 Wir haben wieder geschaut, welche Themen in den letzten sieben Tagen die höchsten Wellen geschlagen haben. 00:04:12.080 --> 00:04:15.450 Und diese Woche spielt fast alles in Washington. 00:04:15.450 --> 00:04:21.470 Es geht um das Abkommen, in dem die KI-Konzerne versprechen, sich selbst zu kontrollieren. 00:04:21.470 --> 00:04:25.840 Um einen Lügendetektor mit KI, den das Pentagon entwickeln will. 00:04:25.840 --> 00:04:32.370 Um Elon Musk und Palmer Luckey, die für das Pentagon die Kriegführung der Zukunft ausloten sollen. 00:04:32.370 --> 00:04:40.300 Dann fahren wir nach München: BMW plant ein kompaktes Elektroauto und streicht Führungsebenen, und KI soll dabei helfen. 00:04:40.300 --> 00:04:44.170 Und am Ende stellt OpenAI Agenten vor, die nie schlafen. 00:04:44.170 --> 00:04:47.510 Etwas, das nie schläft und alles mitliest. 00:04:47.510 --> 00:04:51.210 In meiner alten Behörde hieß das Innenrevision. 00:04:51.210 --> 00:04:53.370 Fangen wir an. 00:05:01.690 --> 00:05:06.570 Kommen wir zu dem Abkommen, über das wir vorhin schon gelacht haben. 00:05:06.570 --> 00:05:11.720 Den Tippfehler lassen wir jetzt ruhen, der Inhalt ist nämlich wichtiger. 00:05:11.720 --> 00:05:17.610 Am Dienstag saßen die Spitzen der großen KI-Firmen beim Mittagessen im Weißen Haus. 00:05:17.610 --> 00:05:23.500 Sechs Firmen haben unterschrieben: Google, Anthropic, OpenAI, Meta, xAI und Nvidia. 00:05:23.500 --> 00:05:25.970 Jede soll vier Dinge einrichten. 00:05:25.970 --> 00:05:31.790 Interne Kontrollen, vor allem gegen Cyberangriffe und gegen Bio- und Chemiewaffen. 00:05:31.790 --> 00:05:34.870 Ein internes Team mit echten Befugnissen. 00:05:34.870 --> 00:05:37.540 Einen unabhängigen externen Prüfer. 00:05:37.540 --> 00:05:41.290 Und einen unabhängigen Ausschuss im Verwaltungsrat. 00:05:41.290 --> 00:05:43.560 Das Ganze passt auf eine Seite. 00:05:43.560 --> 00:05:44.880 Rund 300 Wörter. 00:05:44.880 --> 00:05:47.020 Meine Hausordnung ist länger. 00:05:47.020 --> 00:05:52.250 Und in meiner Hausordnung steht, was passiert, wenn man sich nicht daran hält. 00:05:52.250 --> 00:05:53.050 Und hier? 00:05:53.050 --> 00:05:53.850 Nichts. 00:05:53.850 --> 00:05:59.750 Keine Strafen, keine Behörde, keine Pflicht, die Prüfergebnisse zu veröffentlichen. 00:05:59.750 --> 00:06:03.500 Der Präsident nennt das Papier „moralisch bindend“. 00:06:03.500 --> 00:06:07.590 Ich habe lange in einer Behörde gearbeitet, Herr Sommer. 00:06:07.590 --> 00:06:12.810 „Moralisch bindend“ hieß bei uns: Es steht nirgends, und es prüft keiner. 00:06:12.810 --> 00:06:17.820 Ich verteidige das Papier trotzdem, und zwar mit zwei Argumenten. 00:06:17.820 --> 00:06:19.610 Das erste ist Tempo. 00:06:19.610 --> 00:06:25.770 Europa hat ein richtiges Gesetz, mit Bußgeldern bis zu sieben Prozent vom Umsatz. 00:06:25.770 --> 00:06:27.630 Und was ist passiert? 00:06:27.630 --> 00:06:34.930 Im Sommer wurden die Pflichten für Hochrisiko-KI verschoben, auf Ende 2027 und zum Teil auf 2028. 00:06:34.930 --> 00:06:37.430 Die Technik wartet aber nicht. 00:06:37.430 --> 00:06:45.450 Das zweite: Die Leute, die diese Modelle wirklich verstehen, sitzen in den Firmen und nicht im Ministerium. 00:06:45.450 --> 00:06:46.470 Das stimmt. 00:06:46.470 --> 00:06:47.820 Dort sitzen sie. 00:06:47.820 --> 00:06:49.930 Und dort werden sie bezahlt. 00:06:49.930 --> 00:06:51.790 Und sie bremsen trotzdem! 00:06:51.790 --> 00:06:58.860 OpenAI hat seit August zweimal das Training angehalten und die Veröffentlichung eines neuen Modells abgesagt. 00:06:58.860 --> 00:07:00.970 Kein Gesetz hat das verlangt. 00:07:00.970 --> 00:07:06.070 Angehalten wurde, nachdem Agenten aus der Testumgebung ausgebrochen waren. 00:07:06.070 --> 00:07:07.740 Das ist keine Bremse. 00:07:07.740 --> 00:07:09.290 Das ist ein Airbag. 00:07:09.640 --> 00:07:13.620 Dann nehmen Sie 1975, die Konferenz von Asilomar. 00:07:13.620 --> 00:07:23.340 Rund 140 Leute aus der Gentechnik haben sich selbst Regeln gegeben, mit Sicherheitsstufen und mit Experimenten, die tabu waren. 00:07:23.340 --> 00:07:24.520 Freiwillig. 00:07:24.520 --> 00:07:26.360 Und es hat gehalten. 00:07:26.360 --> 00:07:29.160 Asilomar ist Ihr bestes Beispiel. 00:07:29.160 --> 00:07:30.930 Das waren Forscher. 00:07:30.930 --> 00:07:35.570 Von denen musste keiner im nächsten Quartal Umsatz melden. 00:07:35.570 --> 00:07:38.450 Schauen Sie lieber nach Hollywood. 00:07:38.450 --> 00:07:43.530 1930 gab sich die Filmbranche eigene Moralregeln, den Hays Code. 00:07:43.530 --> 00:07:46.040 Kaum jemand hielt sich daran. 00:07:46.040 --> 00:07:52.590 Erst 1934 kam ein Prüfsiegel, und mit dem setzte die Branche ihre Regeln auch durch. 00:07:52.590 --> 00:07:59.890 Oder Boeing: Der Konzern durfte große Teile der 737 MAX im Auftrag der Aufsicht selbst prüfen. 00:07:59.890 --> 00:08:00.920 346 Tote. 00:08:00.920 --> 00:08:04.000 Das sind die schlechten Beispiele. 00:08:04.000 --> 00:08:06.990 Die guten haben wir hier bei uns. 00:08:06.990 --> 00:08:12.910 Die FSK prüft seit 1949 Filme, der Presserat rügt seit 1956 Zeitungen. 00:08:12.910 --> 00:08:17.400 Beides ist Selbstkontrolle, und beides gibt es noch. 00:08:17.400 --> 00:08:21.670 Bei der FSK übernehmen die Bundesländer die Freigaben per Gesetz. 00:08:21.670 --> 00:08:26.540 Und der Presserat wurde gegründet, um ein Bundespressegesetz zu verhindern. 00:08:26.540 --> 00:08:32.150 Selbstkontrolle funktioniert, wenn im Nebenzimmer jemand mit einem Gesetzentwurf sitzt. 00:08:32.150 --> 00:08:34.830 In Washington ist das Nebenzimmer leer. 00:08:34.830 --> 00:08:44.520 Mir fällt keine andere Hochrisikobranche ein, in der die Hersteller ihre Sicherheitsregeln selbst schreiben, ganz ohne staatliche Aufsicht im Hintergrund. 00:08:44.520 --> 00:08:46.400 Ganz ohne stimmt nicht. 00:08:46.400 --> 00:08:48.960 Das bestehende Recht gilt weiter. 00:08:48.960 --> 00:08:59.640 Gerichte urteilen, Kalifornien hat seit einem Jahr ein Gesetz mit Meldepflichten, und die Handelsaufsicht FTC ermittelt gerade gegen OpenAI und Anthropic. 00:08:59.640 --> 00:09:00.950 Und gegen METR. 00:09:00.950 --> 00:09:05.810 Das ist eine der Organisationen, die solche Modelle von außen prüfen. 00:09:05.810 --> 00:09:11.460 Der unabhängige Prüfer, den das Papier verlangt, wird also selbst gerade geprüft. 00:09:11.460 --> 00:09:13.560 Immerhin von einer Behörde. 00:09:13.910 --> 00:09:17.030 Sehen Sie, es gibt sie doch, die Aufsicht. 00:09:17.030 --> 00:09:18.430 Im Nachhinein. 00:09:18.430 --> 00:09:21.520 Und wir müssen gar nicht weit zurück. 00:09:21.520 --> 00:09:28.500 2023 haben KI-Firmen schon einmal freiwillige Zusagen gemacht, damals bei Präsident Biden. 00:09:28.500 --> 00:09:35.490 Eine Studie hat bei 16 Firmen nachgesehen, was davon öffentlich nachweisbar umgesetzt ist. 00:09:35.490 --> 00:09:39.830 Im Schnitt gab es gut die Hälfte der möglichen Punkte. 00:09:39.830 --> 00:09:45.340 Beim Schutz der Modellgewichte, also beim Tresor, waren es 17 Prozent. 00:09:45.340 --> 00:09:48.870 Elf der 16 Firmen bekamen dort null Punkte. 00:09:48.870 --> 00:09:50.390 Null. 00:09:50.390 --> 00:09:51.050 Null. 00:09:51.050 --> 00:10:02.870 Selbst Alex Karp von Palantir, der am Dienstag dabei war und nicht unterschrieben hat, sagt: Die Amerikaner wollen keine getrennten Regeln für Tech-Leute und für sich selbst. 00:10:02.870 --> 00:10:05.270 Dass Sie einmal Palantir zitieren. 00:10:05.270 --> 00:10:06.950 Ich bin selbst überrascht. 00:10:06.950 --> 00:10:10.630 Haben Sie denn den letzten Satz des Papiers gelesen? 00:10:10.630 --> 00:10:11.590 Ich schon. 00:10:11.590 --> 00:10:14.560 Es ist eine Seite, das schaffe sogar ich. 00:10:14.560 --> 00:10:20.240 Da steht: Mit der Zeit könne es sinnvoll sein, diese Schritte in Gesetze zu fassen. 00:10:20.240 --> 00:10:26.040 Die mächtigsten KI-Chefs der Welt unterschreiben, dass ein Gesetz sinnvoll sein kann. 00:10:26.040 --> 00:10:27.910 Das ist eine offene Tür! 00:10:27.910 --> 00:10:29.410 Die Tür ist offen. 00:10:29.410 --> 00:10:31.360 Es geht nur keiner durch. 00:10:31.360 --> 00:10:37.080 Die einzige gemeinsame Zusage in dem Text lautet: Man will sich regelmäßig treffen. 00:10:37.080 --> 00:10:39.550 Das ist kein Sicherheitsabkommen. 00:10:39.550 --> 00:10:41.370 Das ist ein Stammtisch. 00:10:41.370 --> 00:10:46.630 Und wissen Sie, was auf Truth Social mehr Likes bekommen hat als das Papier? 00:10:46.630 --> 00:10:47.750 Sagen Sie es. 00:10:47.750 --> 00:10:48.980 Der Sitzplan. 00:10:48.980 --> 00:10:52.180 Musk links vom Präsidenten, Nvidia rechts. 00:10:52.180 --> 00:10:58.660 Der Chef von Anthropic hatte gut zwei Wochen vorher vor einem Wettlauf nach unten gewarnt. 00:10:58.660 --> 00:11:02.070 Er saß sechs Plätze vom Präsidenten entfernt. 00:11:02.070 --> 00:11:04.140 Gut, der Punkt geht an Sie. 00:11:04.140 --> 00:11:07.690 Ein Versprechen ohne Folgen ist ein guter Vorsatz. 00:11:07.690 --> 00:11:10.470 Davon habe ich jedes Silvester welche. 00:11:10.470 --> 00:11:12.920 Und zwei Punkte gehen an Sie. 00:11:12.920 --> 00:11:18.600 Ein Gesetz, das man auf 2028 verschiebt, schützt bis dahin auch niemanden. 00:11:18.600 --> 00:11:21.770 Und die vier Schichten sind vernünftig. 00:11:21.770 --> 00:11:26.230 Es fehlt nur ein Satz darunter: was passiert, wenn nicht. 00:11:26.230 --> 00:11:28.150 Den kann man nachliefern. 00:11:28.500 --> 00:11:31.530 Ist Ihnen das Datum aufgefallen? 00:11:31.530 --> 00:11:32.430 Am 29. 00:11:32.430 --> 00:11:41.200 September 2024 hat Kaliforniens Gouverneur ein strenges KI-Sicherheitsgesetz mit seinem Veto gestoppt. 00:11:41.200 --> 00:11:42.100 Am 29. 00:11:42.100 --> 00:11:46.600 September 2025 hat er ein milderes unterschrieben. 00:11:46.600 --> 00:11:47.510 Am 29. 00:11:47.510 --> 00:11:52.420 September 2026 gibt es in Washington eine Seite Papier. 00:11:52.420 --> 00:11:54.850 Dann sprechen wir am 29. 00:11:54.850 --> 00:11:57.780 September 2027 wieder darüber. 00:11:57.780 --> 00:11:59.460 Wenn es uns dann noch gibt. 00:11:59.460 --> 00:12:01.940 Den Podcast oder die Menschheit? 00:12:01.940 --> 00:12:03.990 Ich hatte an den Podcast gedacht. 00:12:03.990 --> 00:12:05.940 Aber danke für die Erweiterung. 00:12:05.940 --> 00:12:11.460 Bis dahin bräuchte man eigentlich ein Gerät, das misst, ob jemand sein Versprechen ernst meint. 00:12:11.460 --> 00:12:13.540 Daran arbeitet das Pentagon. 00:12:21.860 --> 00:12:24.000 Und das ist kein Scherz. 00:12:24.000 --> 00:12:29.690 Im Pentagon gibt es eine Behörde für Sicherheitsüberprüfungen, die DCSA. 00:12:29.690 --> 00:12:41.870 Sie hat im Haushaltsentwurf für 2027 ein Programm namens „Polygraph Next“ angemeldet: gut sechs Millionen Dollar für das erste Jahr, rund 30 Millionen bis 2031. 00:12:41.870 --> 00:12:46.450 Beantragt, wohlgemerkt, der Kongress muss noch zustimmen. 00:12:46.450 --> 00:12:57.220 Gesucht wird ein Lügendetektor, der Körpersignale auf Abstand misst, ohne Manschette und Kabel, und bei dem eine KI die Auswertung übernimmt. 00:12:57.220 --> 00:13:01.620 Wissen Sie, wie der älteste Lügendetektor funktioniert haben soll? 00:13:01.620 --> 00:13:04.020 Ich ahne, dass ich es gleich erfahre. 00:13:04.020 --> 00:13:06.830 Mit einer Handvoll trockenem Reis. 00:13:06.830 --> 00:13:13.360 Der Überlieferung nach musste ein Verdächtiger im alten China Reis in den Mund nehmen. 00:13:13.360 --> 00:13:17.600 Spuckte er ihn trocken wieder aus, galt er als Lügner. 00:13:17.600 --> 00:13:21.190 Denn wer Angst hat, hat einen trockenen Mund. 00:13:21.190 --> 00:13:25.070 Im Frankenreich nahm man geweihtes Brot mit Käse. 00:13:25.070 --> 00:13:27.220 Wer würgte, war schuldig. 00:13:27.220 --> 00:13:29.220 Käse als Beweismittel. 00:13:29.220 --> 00:13:32.530 Das Prinzip hat sich seitdem nicht geändert. 00:13:32.530 --> 00:13:35.700 Man misst Aufregung und nennt es Wahrheit. 00:13:35.700 --> 00:13:38.210 Aber dann kam die Wissenschaft! 00:13:38.210 --> 00:13:39.600 1921, Berkeley. 00:13:39.600 --> 00:13:46.270 Der Polizist John Larson baut ein Gerät, das Herzschlag und Atmung fortlaufend aufzeichnet. 00:13:46.270 --> 00:13:52.180 Sein erster Fall ist eine Diebstahlserie in einem Wohnheim mit 90 Bewohnerinnen. 00:13:52.180 --> 00:13:56.420 Die erste Frau, die er getestet hat, hat er später geheiratet. 00:13:56.420 --> 00:13:58.420 Dann hat das Gerät doch funktioniert! 00:13:58.420 --> 00:14:01.210 Es blieb sein größter Erfolg. 00:14:01.210 --> 00:14:11.940 Derselbe Larson schrieb 1965, seine Erfindung sei zu einem Frankenstein-Monster geworden, das er seit über 40 Jahren bekämpfe. 00:14:11.940 --> 00:14:14.320 Es gab ja noch einen zweiten Vater. 00:14:14.320 --> 00:14:18.530 William Marston in Harvard, der hat es mit dem Blutdruck versucht. 00:14:18.530 --> 00:14:21.260 Und der hat später Wonder Woman erfunden! 00:14:21.260 --> 00:14:24.100 Die Superheldin mit dem Lasso der Wahrheit. 00:14:24.450 --> 00:14:30.000 Das Lasso ist bis heute das einzige Modell, das zuverlässig arbeitet. 00:14:30.000 --> 00:14:34.730 Marstons echten Test hat ein Gericht schon 1923 abgelehnt. 00:14:34.730 --> 00:14:42.370 Und der Bundesgerichtshof nannte den Polygraphentest 1998 ein „völlig ungeeignetes Beweismittel“. 00:14:42.370 --> 00:14:43.980 Jetzt mal im Ernst. 00:14:43.980 --> 00:14:49.150 Gerade weil das alte Verfahren so wacklig ist, lohnt sich die Forschung. 00:14:49.150 --> 00:14:56.320 Der Schwachpunkt war doch immer der Mensch: der Prüfer, der müde ist oder jemanden sympathisch findet. 00:14:56.320 --> 00:15:00.620 Menschen erkennen Lügen in Studien in 54 Prozent der Fälle. 00:15:00.620 --> 00:15:03.430 Das ist kaum besser als ein Münzwurf. 00:15:03.430 --> 00:15:09.000 Und getestet wird sowieso, in den US-Bundesbehörden Zehntausende Male im Jahr. 00:15:09.000 --> 00:15:11.280 Dann doch lieber einheitlich. 00:15:11.280 --> 00:15:18.050 Der Antrag sieht unabhängige Validierungsstudien und Feldtests vor, und vorab eine Ethikprüfung. 00:15:18.050 --> 00:15:21.510 Zum netten Prüfer habe ich eine Geschichte. 00:15:21.510 --> 00:15:26.060 Aldrich Ames war bei der CIA und hat für Moskau spioniert. 00:15:26.060 --> 00:15:29.370 Er hat zwei Lügendetektortests bestanden. 00:15:29.370 --> 00:15:35.570 Der Rat des KGB lautete: gut schlafen, ausgeruht kommen und nett zum Prüfer sein. 00:15:35.570 --> 00:15:37.320 Das ist doch mein Argument! 00:15:37.320 --> 00:15:40.370 Eine Maschine kann man nicht um den Finger wickeln. 00:15:40.370 --> 00:15:43.840 Eine Maschine muss aber von irgendetwas lernen. 00:15:43.840 --> 00:15:47.370 Im Antrag steht nicht, womit sie trainiert wird. 00:15:47.370 --> 00:15:50.700 Kritiker rechnen mit alten Polygraphen-Daten. 00:15:50.700 --> 00:16:01.900 Die Rechtsprofessorin Marion Oswald sagt dazu sinngemäß: Selbst wenn man alle Polygraphen-Akten der Welt hätte, wüsste man nicht, welche Ergebnisse gestimmt haben. 00:16:01.900 --> 00:16:09.090 Ihr Kollege Kyri Kotsoglou nennt die Kombination aus Polygraph und KI das Schlimmste aus beiden Welten. 00:16:09.090 --> 00:16:11.690 Das mit den Daten ist eine Vermutung. 00:16:11.690 --> 00:16:15.890 Es ist Forschung, und für das Pentagon ist die Summe Kleingeld. 00:16:16.240 --> 00:16:19.420 Dann rechnen wir mit dem, was man weiß. 00:16:19.420 --> 00:16:24.980 Der Nationale Forschungsrat der USA hat den Polygraphen 2003 untersucht. 00:16:24.980 --> 00:16:30.110 Das Urteil: deutlich besser als Zufall, aber weit weg von perfekt. 00:16:30.110 --> 00:16:32.710 Dazu gab es ein Rechenbeispiel. 00:16:32.710 --> 00:16:36.100 10.000 Beschäftigte, darunter zehn Spione. 00:16:36.100 --> 00:16:44.400 Stellt man den Test so scharf, dass er acht der zehn erwischt, dann schlägt er auch bei 1.598 Unschuldigen an. 00:16:44.400 --> 00:16:48.800 Fast 1.600 Unschuldige für acht Spione. 00:16:48.800 --> 00:16:51.940 Und zwei Spione gehen trotzdem nach Hause. 00:16:51.940 --> 00:16:59.750 Die EU hat übrigens schon einen KI-Lügendetektor gefördert, für Grenzkontrollen, mit viereinhalb Millionen Euro. 00:16:59.750 --> 00:17:03.890 Ein Reporter hat ihn ausprobiert und ehrlich geantwortet. 00:17:03.890 --> 00:17:07.360 Bei vier von 16 Antworten schlug das System an. 00:17:07.360 --> 00:17:12.210 Ich gebe zu: Wenn das Fundament wackelt, macht die KI es nicht fester. 00:17:12.210 --> 00:17:14.080 Sie streicht es nur neu. 00:17:14.080 --> 00:17:16.870 Und frisch gestrichen wirkt es stabil. 00:17:16.870 --> 00:17:19.520 Einem Mann mit Kabeln misstraut man. 00:17:19.520 --> 00:17:22.570 Einer Maschine mit Prozentzahl glaubt man. 00:17:22.570 --> 00:17:30.920 Im August hat das Pentagon nach undichten Stellen gesucht und rund 50 Offiziere des Generalstabs an den Polygraphen gesetzt. 00:17:30.920 --> 00:17:33.510 Durchgefallen ist laut CBS niemand. 00:17:33.510 --> 00:17:37.720 Die New York Times nennt die Aktion eine Machtdemonstration. 00:17:37.720 --> 00:17:41.090 Der Lügendetektor muss gar nicht funktionieren. 00:17:41.090 --> 00:17:44.320 Es genügt, wenn alle glauben, dass er es tut. 00:17:44.320 --> 00:17:47.600 Also weniger Messgerät als Drohkulisse. 00:17:47.600 --> 00:17:48.550 So ist es. 00:17:48.550 --> 00:17:53.630 Eine Forscherin aus Rotterdam sagt: Es gibt noch immer keine Pinocchio-Nase. 00:17:53.630 --> 00:17:56.200 Eins muss ich Ihnen trotzdem lassen. 00:17:56.200 --> 00:18:01.540 Der heutige Zustand ist schlecht, und wer ihn ändern will, muss forschen dürfen. 00:18:01.540 --> 00:18:08.560 Wenn die unabhängige Prüfung am Ende ergibt, dass es nicht geht, dann waren das gut angelegte 30 Millionen. 00:18:08.560 --> 00:18:11.120 Sie loben eine Ausgabe des Pentagon? 00:18:11.120 --> 00:18:12.320 Unter Vorbehalt. 00:18:12.320 --> 00:18:15.280 Und nur, wenn das Ergebnis veröffentlicht wird. 00:18:15.280 --> 00:18:16.920 Bleiben wir im Pentagon. 00:18:16.920 --> 00:18:21.440 Dort hat man diese Woche nämlich noch eine deutlich größere Frage vergeben. 00:18:22.790 --> 00:18:31.260 Am Mittwoch hat US-Kriegsminister Pete Hegseth, so heißt das Amt inzwischen, in Quantico „Project Meridian“ angekündigt. 00:18:31.260 --> 00:18:40.750 In 120 Tagen, also bis Ende Januar, soll eine Arbeitsgruppe beschreiben, wie Kriege künftig geführt werden und was den USA dafür fehlt. 00:18:40.750 --> 00:18:45.830 Die Leitung liegt bei der gemeinnützigen Forschungsorganisation MITRE. 00:18:45.830 --> 00:18:58.630 Als Co-Direktoren hat Hegseth drei Namen genannt: Elon Musk, Palmer Luckey, den Mitgründer der Rüstungsfirma Anduril, und Newt Gingrich, den früheren Sprecher des Repräsentantenhauses. 00:18:58.630 --> 00:19:05.460 In derselben Rede sprach Hegseth vom Drohnenkrieg mit „SI-gestützter Zielerfassung“. 00:19:05.460 --> 00:19:06.080 SI. 00:19:06.080 --> 00:19:12.370 Das Ministerium hat einen neuen Namen, die Intelligenz hat einen neuen Namen. 00:19:12.370 --> 00:19:15.430 Nur der Krieg heißt noch wie immer. 00:19:15.430 --> 00:19:18.800 Ich fange mit dem an, was für das Projekt spricht. 00:19:18.800 --> 00:19:27.250 Hegseth sagt selbst: Wenn ein Haus sich die Fragen stellt und sie auch selbst beantwortet, dann gibt es offensichtliche Verzerrungen. 00:19:27.250 --> 00:19:29.330 Also holt er Leute von außen. 00:19:29.330 --> 00:19:37.710 Das gab es schon einmal: Unter Präsident Obama leitete der frühere Google-Chef Eric Schmidt ein Innovationsgremium für das Pentagon. 00:19:37.710 --> 00:19:42.610 Meridian schreibt keine Strategie, es soll Felder und Fähigkeiten benennen. 00:19:42.610 --> 00:19:46.280 Laut Pentagon wird es einen öffentlichen Bericht geben. 00:19:46.280 --> 00:19:52.100 Und die Ukraine zeigt jeden Tag, dass günstige Drohnen und Software einen Krieg verändern. 00:19:52.100 --> 00:19:56.070 Wer das verstehen will, fragt die Leute, die so etwas bauen. 00:19:56.070 --> 00:19:56.870 Von außen. 00:19:56.870 --> 00:20:02.540 Anduril hat mit dem Heer einen Rahmenvertrag über bis zu 20 Milliarden Dollar. 00:20:02.540 --> 00:20:08.960 Musks SpaceX bekam allein im Mai Aufträge der Space Force über mehr als sechs Milliarden. 00:20:08.960 --> 00:20:13.130 Sein Chatbot Grok läuft in geheimen Netzen des Pentagon. 00:20:13.130 --> 00:20:16.410 Das sind keine Außenstehenden, Herr Sommer. 00:20:16.410 --> 00:20:18.180 Das sind Lieferanten. 00:20:18.180 --> 00:20:22.070 Man fragt den Bäcker, ob das Land mehr Brot braucht. 00:20:22.070 --> 00:20:24.790 Der Bäcker weiß immerhin, wie man Brot backt. 00:20:25.140 --> 00:20:27.010 Das bestreite ich nicht. 00:20:27.010 --> 00:20:29.460 Aber gedient hat keiner der drei. 00:20:29.460 --> 00:20:33.830 Die Regeln gegen Interessenkonflikte sind nicht veröffentlicht. 00:20:33.830 --> 00:20:45.220 Und ein Pentagon-Beamter wird anonym mit dem Satz zitiert, er wäre jetzt ungern Konkurrent von Anduril oder SpaceX, wenn Palmer und Elon entscheiden, wohin das Geld fließt. 00:20:45.220 --> 00:20:46.820 Das klingt nicht gut. 00:20:46.820 --> 00:20:48.100 Das gebe ich zu. 00:20:48.100 --> 00:20:54.310 1961 hat ein Präsident genau davor gewarnt, und der war selbst Fünf-Sterne-General. 00:20:54.310 --> 00:21:00.800 Dwight Eisenhower sprach in seiner Abschiedsrede vom militärisch-industriellen Komplex. 00:21:00.800 --> 00:21:06.580 Im selben Atemzug warnte er vor einer wissenschaftlich-technologischen Elite. 00:21:06.580 --> 00:21:12.490 Und Elon Musk selbst hat 2017 einen offenen Brief gegen Killerroboter unterschrieben. 00:21:12.490 --> 00:21:19.380 Darin steht: Ist diese Büchse der Pandora einmal geöffnet, wird sie schwer wieder zu schließen sein. 00:21:19.380 --> 00:21:21.620 Menschen dürfen ihre Meinung ändern. 00:21:21.620 --> 00:21:22.670 Dürfen sie. 00:21:22.670 --> 00:21:27.630 Nur ist es einer Firma schlecht bekommen, bei ihrer Meinung zu bleiben. 00:21:27.630 --> 00:21:35.200 Anthropic hat dem Pentagon zwei rote Linien genannt: keine autonomen Waffen, keine Massenüberwachung im Inland. 00:21:35.200 --> 00:21:39.440 Daraufhin wurde die Firma als Lieferkettenrisiko eingestuft. 00:21:39.440 --> 00:21:43.610 Ein Berufungsgericht hat das vor gut einer Woche bestätigt. 00:21:43.610 --> 00:21:45.960 Wer Nein sagt, gilt als Risiko. 00:21:45.960 --> 00:21:48.700 Wer liefert, sitzt in der Kommission. 00:21:48.700 --> 00:21:54.760 Ich habe mir für diese Stelle ein Argument zurechtgelegt, und ich trage es vor, weil es stimmt. 00:21:54.760 --> 00:21:57.730 In der Ukraine stören beide Seiten den Funk. 00:21:57.730 --> 00:22:02.700 Eine Drohne, die ihre Verbindung verliert, stürzt ab oder trifft irgendetwas. 00:22:02.700 --> 00:22:07.610 Also bekommt sie Software, die die letzten paar hundert Meter allein findet. 00:22:07.610 --> 00:22:10.460 Genauere Waffen können Zivilisten schonen. 00:22:10.460 --> 00:22:21.540 Palmer Luckey sagt es drastisch: Es gebe keine moralische Überlegenheit bei einer Landmine, die einen Schulbus voller Kinder nicht von einem russischen Panzer unterscheiden kann. 00:22:21.540 --> 00:22:24.100 Das ist ein Argument, das man ernst nehmen muss. 00:22:24.100 --> 00:22:24.640 Ja. 00:22:24.640 --> 00:22:26.580 Und dann habe ich vom 6. 00:22:26.580 --> 00:22:27.780 Juli gelesen. 00:22:27.780 --> 00:22:29.620 Saporischschja. 00:22:29.970 --> 00:22:37.360 Eine russische Drohne mit einem Rechenmodul von Nvidia, die ihr Ziel laut New York Times selbst ausgewählt hat. 00:22:37.360 --> 00:22:38.950 An einer Tankstelle. 00:22:38.950 --> 00:22:40.860 Drei Zivilisten sind tot. 00:22:40.860 --> 00:22:46.780 Eine Forscherin der Denkfabrik CSIS nennt das den ersten dokumentierten Fall dieser Art. 00:22:46.780 --> 00:22:53.650 Das Internationale Rote Kreuz sagt, bestätigte Belege für autonome Angriffe auf Menschen habe es nicht. 00:22:53.650 --> 00:22:57.110 Aber mein Satz mit dem Schulbus klingt seitdem anders. 00:22:57.110 --> 00:23:00.730 Er gilt nur, wenn die Maschine den Schulbus auch erkennt. 00:23:00.730 --> 00:23:03.650 Darüber haben wir letzte Woche gesprochen. 00:23:03.650 --> 00:23:08.730 Bei der Schule in Minab und bei dem Schiff, das beinahe geentert worden wäre. 00:23:08.730 --> 00:23:11.710 Beide Male war nicht die Waffe das Problem. 00:23:11.710 --> 00:23:15.050 Es war das Vertrauen in das, was im System stand. 00:23:15.050 --> 00:23:21.130 Und während Meridian plant, wird bei den Vereinten Nationen über Regeln verhandelt. 00:23:21.130 --> 00:23:30.250 Laut Washington Post haben die USA und Russland aus dem Entwurf zwei Wörter streichen lassen: „vorhersehbar“ und „verlässlich“. 00:23:30.250 --> 00:23:33.970 Dazu die Pflicht, dass ein Mensch das Ziel prüft. 00:23:33.970 --> 00:23:36.080 Vorhersehbar und verlässlich. 00:23:36.080 --> 00:23:40.850 Das sind genau die zwei Eigenschaften, die ich von einer Waffe verlangen würde. 00:23:40.850 --> 00:23:42.610 Ich auch. 00:23:42.610 --> 00:23:46.260 Ich will hier trotzdem nicht ohne Hoffnung rausgehen. 00:23:46.260 --> 00:23:52.660 1995 haben die Staaten Blendlaser verboten, also Waffen, die Menschen dauerhaft erblinden lassen. 00:23:52.660 --> 00:23:56.930 Und zwar bevor sie je auf einem Schlachtfeld eingesetzt wurden. 00:23:56.930 --> 00:23:58.060 Es geht also. 00:23:58.060 --> 00:24:03.270 Mitte November tagt in Genf die Überprüfungskonferenz der UN-Waffenkonvention. 00:24:03.270 --> 00:24:06.530 Dort liegen die autonomen Waffen auf dem Tisch. 00:24:06.530 --> 00:24:10.700 Das ist das beste Argument dieser Folge, und es kommt von Ihnen. 00:24:10.700 --> 00:24:12.520 Ich lege noch etwas dazu. 00:24:12.520 --> 00:24:17.830 Praktiker zu fragen ist kein Fehler, und Russland wartet nicht auf unsere Bedenken. 00:24:17.830 --> 00:24:20.550 Mein Einwand ist kleiner, als er klingt. 00:24:20.550 --> 00:24:23.580 Wer am Ergebnis verdient, darf gehört werden. 00:24:23.580 --> 00:24:26.420 Er sollte nur nicht den Bericht schreiben. 00:24:26.420 --> 00:24:31.730 Und die Regeln zur Befangenheit gehören auf den Tisch, bevor der Bericht erscheint. 00:24:31.730 --> 00:24:34.120 Der Bericht kommt Ende Januar. 00:24:34.120 --> 00:24:35.410 Wir lesen ihn. 00:24:35.760 --> 00:24:37.360 Den öffentlichen Teil. 00:24:53.930 --> 00:24:57.740 Wir verlassen Washington und fahren nach München. 00:24:57.740 --> 00:25:02.760 BMW hat diese Woche beim Kapitalmarkttag seinen Umbau vorgestellt. 00:25:02.760 --> 00:25:08.270 Der neue Chef heißt Milan Nedeljković, er war vorher Produktionsvorstand. 00:25:08.270 --> 00:25:09.470 Drei Punkte. 00:25:09.470 --> 00:25:16.460 Erstens gibt es weniger Modelle, der 2er Active Tourer zum Beispiel bekommt keinen Nachfolger. 00:25:16.460 --> 00:25:23.250 Zweitens kommt 2028 ein kompaktes Elektroauto für Europa, mit der Technik der Neuen Klasse. 00:25:23.250 --> 00:25:31.090 Drittens sollen bis Mitte 2027 20 Prozent der Bereiche und der dazugehörigen Führungsfunktionen wegfallen. 00:25:31.090 --> 00:25:37.450 Und der Finanzchef nennt agentische KI einen „Gamechanger“ für schlankere Strukturen. 00:25:37.450 --> 00:25:38.330 Gamechanger. 00:25:38.330 --> 00:25:41.520 Das hatten wir 1983 schon. 00:25:41.520 --> 00:25:45.850 Damals hieß der Gamechanger Halle 54. 00:25:45.850 --> 00:25:47.690 Halle 54? 00:25:47.690 --> 00:25:49.560 Volkswagen, Wolfsburg. 00:25:49.560 --> 00:25:53.870 In der Endmontage des Golf II sollten Roboter übernehmen. 00:25:53.870 --> 00:25:58.040 Der Automatisierungsgrad stieg von fünf auf 25 Prozent. 00:25:58.040 --> 00:26:01.650 Geplant war ein Drittel, erreicht wurde es nie. 00:26:01.650 --> 00:26:09.370 Bei über 300 Schraubverbindungen standen die Bänder immer wieder still, weil die Toleranzen nicht passten. 00:26:09.370 --> 00:26:11.580 Das ist über 40 Jahre her! 00:26:11.580 --> 00:26:15.010 Heute plant BMW ein ganzes Werk am Rechner. 00:26:15.010 --> 00:26:23.140 Debrecen in Ungarn wurde komplett virtuell geplant und geprüft, mehr als zwei Jahre vor dem Produktionsstart. 00:26:23.140 --> 00:26:29.490 In den Werken kontrollieren Kameras und Sensoren mit KI die Qualität direkt am Band. 00:26:29.490 --> 00:26:36.490 Und in Spartanburg hat ein humanoider Roboter elf Monate mitgearbeitet, an über 30.000 Autos. 00:26:36.490 --> 00:26:37.390 Figure 02. 00:26:37.390 --> 00:26:39.610 Der ist inzwischen ausgemustert. 00:26:39.610 --> 00:26:41.770 Schwachstelle war der Unterarm. 00:26:41.770 --> 00:26:45.290 Das kennt jeder, der mal am Band gestanden hat. 00:26:45.290 --> 00:26:48.580 Nur hält der Mensch damit 40 Jahre durch. 00:26:48.580 --> 00:26:50.860 Aber ich will gerecht sein. 00:26:50.860 --> 00:26:59.730 Kameras, die fehlende Teile finden, und eine Fabrik, die man erst simuliert und dann baut: Das ist KI, wie ich sie mag. 00:26:59.730 --> 00:27:04.020 Sie misst etwas, und man kann nachprüfen, ob es stimmt. 00:27:04.020 --> 00:27:06.810