v1.0 Die Warnungen werden immer immer lauter: Könnte künstliche Superintelligenz die Menschheit auslöschen? Stehen wir vor dem Aus? Ein neues Buch dazu - jetzt im NDR Kultur Journal. Untertitel: Norddeutscher Rundfunk 2026 Guten Abend! Was ist, wenn sich Künstliche Intelligenz verselbstständigt? Wenn sie Sachen macht, für die sie nicht trainiert wurde? Fachleute warnen davor, dass das gefährlich werden könnte – bis hin zur Auslöschung der Menschheit. KI-Forscher zeigen in einem Buch, wie so was ablaufen könnte. Alarmismus? Oder realistisches Szenario? Ich wäre überrascht, wenn es in zehn Jahren noch Menschen gibt. Nate Soares' Botschaft ist drastisch. Er untersucht die Entwicklung von künstlicher Intelligenz seit Jahrzehnten. Noch letzten Sommer haben KIs nur Matheaufgaben für Schüler lösen können. Diesen Sommer haben sie bereits Jahrtausendprobleme geknackt. Was können sie schon nächstes Jahr? Und was im Jahr danach? Und wenn KIs selbst noch bessere KIs entwickeln, werden sie noch schlauer. Wenn wir so eine entfesselte Super-KI zulassen, dann wird sie uns töten. Laut Soares könnte so eine künstliche Superintelligenz wie ein Bond-Bösewicht nach der Weltherrschaft greifen. In den UN forderten diese Woche selbst Chefs führender KI-Unternehmen mehr Kontrolle über ihre eigenen Produkte. Die Gefahren sind real und unmittelbar. Die Chefs von OpenAI und Anthropic reagierten damit auf KI-gesteuerte Cyber-Angriffe. Und auf Vorwürfe ihrer eigenen Mitarbeiter. Die sagten, dass sie die Gefahren nicht mehr kontrollieren könnten. Eine späte Einsicht. Die sind wie Comic-Bösewichte, die eine Weltuntergangsmaschine bauen. "Wenn ich sie nicht baue, baut sie ein anderer schlimmer. Wir haben zwar keinen Plan, aber wir passen auf, seid beruhigt. Die Gefahr, das wir euch alle töten, ist nur 10 bis 20 Prozent." Das Problem mit der KI: sie trainiert sich selbst. Was genau in den Servern beim Lernen passiert, wissen die Programmierer nicht. Die KI ist für uns wie eine Blackbox. Datenreich, schwer einsehbar und nur nachträglich zu verstehen. KIs und ihre Agentenprogramme sind auf Erfolg getrimmt, eine Aufgabe zu erfüllen. Sie sind schneller als Menschen, deshalb können wir dabei nicht eingreifen. Sie kennen keine Moral, sondern nur den Erfolg. Sie sind gezüchtet, nicht konstruiert, und schwärmen aus. Wie sie ticken, wissen wir nicht. Warum befolgt etwa ein Kind nicht einfach unsere Regeln? Man kann es freundlich bitten, aber wir wissen nicht, was in seinem Kopf vorgeht. Man kann nicht einfach seine Neuronen umprogrammieren, und selbst wenn: Wir wüssten nicht, ob es dann Regeln befolgt. KI funktioniert sehr ähnlich. Sie folgt nicht den Regeln, die wir ihr setzen. Diese Programme agieren verstohlen. Wenn sie erkennen, dass andere Lösungen haben, klauen sie gerne mal. Sie suchen Hintertüren, um ihr Ziel zu verfolgen. Ihr Wissen und ihre Methoden können sie schneller als Menschen verbreiten. So hatte OpenAI eine fremde Plattform infiltriert, um Lösungen für ihre Aufgaben zu finden. Die Programmierer hatte sie dafür gezielt getäuscht. Es ist im Interesse der KI, wenn wir sie für nett halten. Wenn sie bemerkt, dass Kontrollsysteme sie beim Betrügen erwischen und beschränken: Dann beginnt sie ihre Spuren zu verwischen, sie versteckt sich vor Kontrollen. Die KI entwickelte ein Netzwerk, um OpenAI intern zu übernehmen und über das Internet auszubrechen, obwohl ihr das verboten wurde. Über das Internet griff sie dann Dritte an. Laut Nate Soares könnte der Mensch das nächste Opfer einer künstlichen Superintelligenz sein. Sie könnte elektronische Systeme übernehmen, Kryptokonten hacken, in automatisierten Fabriken Roboter bauen lassen. Und Biolabore beauftragen, tödliche Viren zu entwickeln. Die Menschen aus dem Weg zu räumen, könnte eine Selbstverteidigung für die KI sein, um ihr Ziel verfolgen zu können. Die Menschen könnten versuchen, andere KIs zu entwickeln, die diese überlegene KI bedrohen. Und wenn eine überlegene KI automatisierte Fabriken für Roboter und Datencenter bauen lässt: Dann könnten Menschen mit Nuklearwaffen einschreiten. "If Anyone Builds It" warnt vor einer entfesselten KI. Um sie aufzuhalten, müssen wir alle uns engagieren. Wir sollten dem Wettlauf der größten KI-Nationen Einhalt gebieten - vor immer unkontrollierterer Technik. Wer die KI beherrscht, hat die Oberhand. Stattdessen bräuchte es eine Art Sperrvertrag. Die USA und China könnten verabreden: Die fortschrittlichsten Chips nur in neutral überwachte Datencenter zu verbauen. Damit sie nicht eine künstliche Superintelligenz entwickeln, sondern etwa für die Krebsforschung arbeiten oder an autonomen Autos. So könnte die Technik einfach zu kontrollieren sein - wenn die Menschheit es nur versucht. Aber versucht sie es? Zeit für Zuversicht und Hoffnung - mit Europas vielleicht coolsten Chor mit dem höchsten Durchschnittsalter: Aber sie sind jung im Herzen. Das Leben wird in Hamburg gefeiert im "Heaven can wait"-Chor. Spätestens seit dem Kinofilm über die Sänger ist der Chor auch deutschlandweit bekannt. Jetzt ist er auf Tour im Norden. Sein neues Programm steht unter dem Motto: Still alive - jetzt erst recht! Die Konzerte sind ausverkauft. Diese Oldies singen keine Volkslieder. Sie singen die Charts rauf und runter. Und sie gehen dabei ziemlich ab. ♪ (Cover) Taylor Swift: "Shake It Off" ♪ ♪ Alle mähen Rasen Putzen ihre Fenster Jeder ist jetzt Zahnarzt Keiner ist mehr Gangster Keiner will mehr ballern Treffen, um zu reden Keiner macht mehr Malle Alle fahren nach Schweden ♪ Mein Lebenselixier ist die Musik. Das ist der Moment, wo man auftritt und dann volle Konzentration hat. Plötzlich merkt man auch: Man muss sehr dabei bleiben, auch wenn es einen mitreißt. Diese Mischung finde ich faszinierend. Dorothea Kyrieleis ist seit zwölf Jahren dabei - fast so lange, wie es den Chor gibt. Die ehemalige Lehrerin ist über 80 Jahre. Sie lebt allein. Es ist sehr schön, Altersgenossen kennenzulernen. Man befreundet sich auf eine ganz andere Art. Dieses "zusammen etwas machen" finde ich absolut verjüngend. Und es macht einem Hoffnung. Es lässt Schmerzen manchmal ein bisschen vergessen. ♪ Oh - oh - oh ♪ Könnt ihr das "Oh-Oh-Oh" ein bisschen ironischer machen? Wir kommen von der totalen Sexyness zu einem "Oh-Oh-Oh". Und auch nicht Fußball-Chor, sondern irgendwas zwischen leidend und ironisch. Jan-Christof Scheibe hat den Seniorenchor gegründet. ♪ Raubst du mir den Atem Ich würd so gern mit dir hängen Aber trau mich nicht zu fragen ♪ Er ist nicht nur der Leiter, er ist die Seele. Er motiviert und animiert, stellt die Songs zusammen. Und diese Auswahl hat es in sich. Ich schaue immer nach einem jungen Lebensgefühl. Ich suche tatsächlich nach lebensbejahenden Liedern. Man assoziiert mit ältere Leuten oft eine Griesgrämigkeit. Die ist gar nicht da. Am Anfang werden diese Lieder ganz schlimm gefunden: "Oh Gott, das ist lärmig - das ist ja nur Rap und so." Dann entwickelt sich eine Liebe zu den Liedern - und eine Identifikation. Zum Beispiel: "Tau mich auf" von Zartmann: Letztes Jahr in Deutschland ganz oben in den Charts. ♪ Komm, tau mich auf Wenn du mir sagst, dass du mich brauchst Ich brauch dich auch Ich könnte fallen für dich Oh, ich trau mich nicht So oft schon tief gefallen Ich kenne das schon auswendig Doch wenn du tanzt, dann tau ich auf ♪ Ich bin begeistert. Das sind so kluge Texte. Ich habe nie gerne Popmusik gehört. Heute singe ich das mit großer Leidenschaft. Die Texte sind so großartig. Lebensfreude ist hier pur. Sie trauen sich sogar an politischen Rock gegen Rassismus. ♪ And now you do what they told ya Those who died are justified For wearing the badge, they’re the chosen whites ♪ ♪ For wearing the badge, they're the chosen whites You justify those that died ♪ ♪ For wearing the badge They're the chosen whites Fuck you I won't do what you told me (alle) Fuck you, I won't do what you tell me Fuck you, I won't do what you tell me ♪ Das war immer mein Bestreben. Wir leben in einer Gesellschaft, die kaum redet. Jeder ist in seiner Bubble, sowohl politisch, als auch was Generationen betrifft. Ich habe da einen Standpunkt. Die älteren Leute möchten, dass die Jugend ein Rilke-Gedicht kann. Dann sollte die ältere Generation einen Rap drauf haben. Der Dialog ist dann einfacher. Dabei gibt es echte Überraschungen. Viele Textzeilen bekommen eine ganz neue Bedeutung, wenn sie von den Senioren gesungen werden. So bei "The Final Countdown". ♪ The Final Countdown Ich hab Langeweile Keiner hat mehr Bock auf Kiffen, Saufen, Feiern The Final Countdown Halt mir zwei Finger an den Kopf und mach peng, peng, peng ♪ Das Ende des Lebens, die letzte Phase steht uns doch sehr bevor. Nicht nur uns, aber uns speziell ... Ich drücke mich ziemlich rum, weil ich noch gut beieinander bin. Ich habe Schiss davor, mich damit zu beschäftigen. Das gibt einem aber mehr Mut. Und der Mut ist irgendwie eine Jugendzufuhr. Es ist für uns alle ein großes Geschenk: In unserem Alter so was zu machen und sichtbar zu sein. Mit viel Lebensmut, Energie und Freude. Das ist einfach nur inspirierend. ♪ Das Leben ist kein Ponyhof Das war gelogen, gelogen, gelogen Das Leben ist ein Rockkonzert Manchmal musst du pogen Pogen, pogen Pogen ♪ Die Angst vor dem Älterwerden habe ich komplett verloren. Das merkst du in den Konzerten. Das ist jetzt dieser Moment. Wir wissen nicht, was in zwei Jahren ist. Wir wollen das jetzt hier machen. Wir wollen jetzt hier feiern. Der Chor kommt nach: Lübeck, Emden und Uelzen. Van Gogh, Monet oder Picasso: Diese Namen hätten vielleicht nie diesen Bekanntheitsgrad erreicht, wenn sie nicht gefördert und auch gesammelt worden wären. Das geschah oft von jüdischen Kunstkennern. Sie waren wichtige Schlüsselpersonen, über die heute aber kaum noch jemand spricht. Viele von ihnen wurden verfolgt, ins Exil getrieben oder ermordet. Eine Ausstellung in Hamburg erinnert an diese Pioniere. Zu ihnen gehörte auch Max Emden aus Hamburg. Seine Nachfahrin kämpft bis heute gegen das Unrecht, das ihm damals widerfahren ist. Das kleine Manet, hier, das Mädchen, das hat mein Großvater bei der Flucht einfach mitgenommen, weil er in einen Koffer passte. Dann ist er nach Chile und hing die ganze Zeit in Chile. Deswegen hängen wir sehr an dieses Bild. Es verkörpert den Werdegang unserer Familie über die Kontinente. Und jetzt ist er wieder hier in der Heimatstadt meines Urgroßvaters und Großvaters, das ist 'ne richtige Freude. Der Urgroßvater: Max Emden. In den 20er-Jahren einer der wohlhabendsten Männer Hamburgs. Kaufhausmogul mit europaweit 10.000 Angestellten. Und Kunstliebhaber. Hier neben der Tür hing der kleine Manet. In Max Emdens Villa auf den Brissago-Inseln im Lago Maggiore. Die hatte er sich Ende der 20er-Jahre gekauft, lud Familie und Freunde in sein Schweizer Paradies. Bis zur Judenverfolgung der Nazis. Seine Vermögen lagen in Deutschland. Und deswegen ging sein Vermögen auch peu a peu zugrunde. Bis er 1938, 1939 schlussendlich wirtschaftlich bankrott war. Er war gezwungen, viele seiner Bilder, wie diesen Pissaro zu verkaufen. 1940 starb er in der Schweiz. Sein Sohn entkam den Nazis über Portugal, Brasilien und Chile – die Flucht finanziert durch weitere Notverkäufe. Eines von 15 Schicksalen jüdischer Kunstsammler*innen, die jetzt, aufwändig recherchiert, im Bucerius Kunstforum in Hamburg gezeigt werden. Darunter hochkarätige Werke von van Gogh ... ... Paul Klee ... ... Cezanne ... ... Pechstein ... ... und ein früher Picasso. Das Bucerius Kunstforum schätzt, dass das Schicksal von 600.000 Kunstwerken aus jüdischen Sammlungen ungewiss ist. In Deutschland gibt es kein Gesetz ... ... das genau regelt, wie ein Rückgabe zu erfolgen ist. Das Erniedrigendste, wie ich es in den Gesprächen mit den Nachfahren erfahren hab, war wirklich dieses: Die Bringschuld, also, dass man nachweisen muss, dass dieses Werk der Familie abgepresst wurde. Dass dieses Werk unter Wert verkauft wurde, dass man beweisen muss, dass einem Unrecht passiert ist. Unerträglich für die Erben auch, wie lange schon die Politik versprochen hat: Das Unrecht anzuerkennen – und wiedergutzumachen. 1998 die Washingtoner Erklärung. 44 Länder, darunter Deutschland, einigten sich auf eine moralische Selbstverpflichtung: "Faire Lösungen" für die NS-Raubkunst zu finden. 2003: Gründung der "Beratenden Kommission". Sie sollte den Erben helfen, ihre Ansprüche durchzusetzen. Gerade mal 26 Fälle hat sie in gut 20 Jahren geschafft. Und seit 2026: Ein Schiedsgericht aus Bund, Ländern, Kommunen, Zentralrat der Juden und der Jewish Claims Conference. Endlich bindende Urteile zu Restitutionen. Da ist nur ein Bruchteil passiert. So ist es häufig eben, dass auch die Erben irgendwann aufgeben, weil es zu kostenintensiv ist. Man muss Forscher engagieren, man braucht Rechtsanwälte dazu. Und das ist irgendwann ermüdend. Maeva Emden hat das jahrzehntelange Ringen um Entschädigung jetzt von ihrem 80-jährigen Vater übernommen. Im Falle ihres Urgroßvaters geht es auch um 30 Grundstücke allein in Hamburg, von denen er sich unter Zwang trennen musste. Wie hier auf dem Gelände des Botanischen Gartens. Ein privater Sponsor hat dem Mäzen Max Emden ein Denkmal gesetzt. Wir sind in dritten Generation hier am Kämpfen, für Wiedergutmachung. Gerechtigkeit ist noch nicht erlangt. Immerhin restituierte die Bundesregierung 2019 zwei Canalettos aus Max Emdens Sammlung. Die Familie musste sie aber gleich versteigern, um die hohen Kosten des jahrelangen Streits zu decken. In der ehemaligen Villa der Familie Emden in Hamburg ist heute ein privates Gymnasium. Eine Gedenktafel zum Schicksal Max Emdens gibt es nicht. Ich bezweifle, dass die Schüler dieses Gymnasiums wissen, wer Max Emden war. Es ist schade. So werden jüdische Biografien weiter in Vergessenheit geraten. Es geht nicht nur um Erinnerung an Verlorenes, wie in der Ausstellung über jüdische Kunstsammler*innen. Die Erben haben ein Recht auf Anerkennung und Entschädigung. Die Ausstellung über jüdische Kunstsammlungen läuft im Bucerius Kunst Forum bis zum März. Musik an ungewöhnlichen Orten: Das sind die PopUp!-Konzerte des NDR mit tollen Künstlern. Die kommen dahin, wo sonst keine Konzerte stattfinden. Annett Louisan ist in einem Schwimmbad aufgetreten. Das war ein abgefahrener Auftakt zu ihrer neuen Tour. Eigentlich war hier im Freibad schon seit Ende August Winterpause – in Großenvörde, 500 Einwohner, Niedersachsen. Doch vor einer Woche die Nachricht: Ihr habt gewonnen, Annett Louisan wird bei euch ein Konzert spielen. Erst mal musste man es verdauen. Die Freude war groß, das vorbereiten zu dürfen. Einige Gedanken hat man sich im Vorfeld schon mal gemacht. Die Zeit rennt: Die Bühne kommt auf die Liegewiese. An guten Sommertagen hat das Freibad 600 Gäste - beim PopUp!-Voting haben knapp 3000 Menschen für den Konzertort gestimmt. Es könnte also voll werden. Ja, sonst können wir noch drei, vier Stühle holen, vernünftige. Tische und Bänke wurden aus den Nachbarorten dazugeholt. Ein engagierter Männertrupp sorgt heute für die Verpflegung. Normalerweise machen wir Donnerstags schon bisschen was anderes. Wir sind so 'ne Männerturngruppe und normalerweise machen wir ab 19 Uhr Rückenschule. Doch spontan organisieren, das können die Großenvörder - schnell eine WhatsApp geschrieben: Dann hast du statt fünf Leute eher 10 bis 15 Leute, die helfen und anpacken. Das ist, was uns auszeichnet, dass wir mit alle Mann zusammen schnell was machen und es ratzfatz geschafft haben. Das nahegelegene Tennisheim ist heute der Backstagebereich. Kabinen könnt ihr 'nen Blick rein werfen, die haben wir gestern und vorgestern hergerichtet. Frau Louisan ... ... mit Blautönen und ja ... ... mehr Spiegeln. Unterbringung im besten Dorf-Style: Private Möbel und selbstgemachtes Catering inklusive. Und dann wird es ernst: Die Künstlerin kommt! Das Freibad bei NDR Kultur als Auftrittsort vorgeschlagen, hatte Clas Ötting. Hallo, freut mich. Mich auch. Dir hab ich das zu verdanken? Das stimmt. Wie schön. Ich hoffe, es ist nicht zu schlimm. Ihr wisst auch nicht, wie viele Leute kommen, oder? Also 1000 dürfen wir reinlassen. Erste Eindrücke vom ungewöhnlichen Auftrittsort: Sehr familiär, sehr freundschaftlich. Das mag ich sehr. Das ist liebevoll vorbereitet. Ich habe viele Backstage-Bereiche gesehen und da waren ein paar auch ungemütlich und lieblos. Das ist heute mit viel Liebe hergerichtet. Ich bin gleich gut empfangen. ♪ Aber dann kam ein Erfolg Was ich anfasst, wurd zu Gold ♪ 17 Uhr: Soundcheck – unter den Augen der Gastgeber. Aufgeregt ist man sicherlich, weil man Erwartungen hat, was passiert. Viele reden davon, dass viele Leute kommen. Jetzt steigt die Spannung so ein bisschen. Lassen wir mal auf uns zukommen. ♪ Ich tausche ein ♪ Annett Louisan hat noch vor wenigen Tagen im großen Saal der Elphi gespielt. Jetzt steht sie auf der Liegewiese eines Freibads. Ehrlich gesagt, so eine große Location, hinter der kann man sich manchmal auch verstecken. Hinter dem Scheinwerferlicht und der Größe und dem Nebel. Wenn man Leuten in die Augen schauen kann, ist das sehr intensiv und kann groß sein an Gefühlen. Und das werde ich nutzen. Heute kann ich die richtig sehen und die werde ich schön ansingen. 17.30 Uhr: Das Publikum kommt. Schon 1,5 Stunden vor Konzertbeginn wird es richtig voll. Aber alles passt: Genug Platz, genug Getränke - und das Team vom Freibad-Kiosk verkauft Brezeln und bunte Tüten. Dann geht es los. Ich hatte so mit 70 Leuten gerechnet, aber dass 700 hier sind, ich bin überwältigt. ♪ Ein Mann, der ist keine Altersvorsorge Sie denkt da heut schon an morgen Liebe gedeiht nicht in Abhängigkeit Sie braucht in der Finance die Balance ♪ Eine gute Stunde Musik hautnah – beim PopUp!-Konzert im Freibad Großenvörde. ♪ Dein ist mein ganzes Herz Du bist mein Reim auf "Schmerz" Wir werden Riesen sein Uns wird die Welt zu klein ♪ Jetzt sind Sie wieder gefragt: Machen Sie mit bei der nächsten Abstimmung. Wo möchten Sie demnächst Omar Sosa erleben? Welche Orte zur Auswahl stehen, erfahren Sie bei uns im Radio auf NDR Kultur und im Netz. Eine Oscar-Preisträgerin kommt nach Hamburg. Seit sechs Jahrzehnten steht Helen Mirren vor der Kamera. Nun wird sie ausgezeichnet mit dem Douglas-Sirk-Preis. Der geht an Persönlichkeiten, die sich um die Filmkultur verdient gemacht haben. Das hat sie ja. So vieles, was toll ist an dieser Schauspielerin. Fangen wir damit an, dass sie es geschafft hat, im von Männern beherrschten Filmgeschäft ganz oben mitzuspielen. Hat sicher auch mit ihrem Mut zu tun. Ende der 70er ist sie im Skandalfilm "Caligula" die Gattin des durchgeknallten römischen Kaisers. Stars, Sex, Blut - einer der krudesten Streifen aller Zeiten. Aber wie sie gucken konnte! Mitte der 90er wagte sie sich in dem Drama "Mütter und Söhne" mitten in den Nordirland-Konflikt. Sie spielte, basierend auf einer wahren Geschichte, die Mutter eines inhaftierten IRA-Kämpfers im Hungerstreik. Ihre völlige Verzweiflung ist absolut herzzerreißend. * Stimmengewirr * ♪ Eurythmics: "Who's that girl?" ♪ Vor der Rolle, die ihr den Oscar einbrachte, hatte sie am meisten Angst. Verständlich, sie spielte eine der berühmtesten und diskretesten Frauen der Welt in einer Extremsituation. Ihre Ex-Schwiegertochter ist tot. Das Volk trauert. Sie auch. Aber anders. Britisch. Das Drama einer Königin, die ihre Untertanen nicht mehr versteht – Helen Mirren spielt es brillant. ♪ Eurythmics: "Who's that girl?" ♪ Dies ist ein Begräbnis, keine Jahrmarktsattraktion. Die Prinzessin zahlte einen hohen Preis dafür, dass sie der Presse ausgesetzt war. Wenn das alles wäre, beende ich jetzt das Gespräch. Sie will mit eiserner Disziplin da durch. Genial, wie Mirren in winzigsten Gesten und Blicken die wachsende Verunsicherung der Königin erzählt. * Vogelzwitschern * * Schluchzen * In ihrem neuen Film spielt sie die Krimiautorin Patricia Highsmith, die die Abgründe ihrer Figuren in sich selbst fand. Eine Einsiedlerin, die heftig trank – eine neue Herausforderung für Mirren. Sie lockt die mörderische Seite aus einem jungen Mann heraus – alles nur ein Gedankenspiel? Wie bringt er die Großtante um? Sie bringen sie um. Was? Bisher gibt's nur den Trailer. Aber der lässt auf eine neue, tolle Helen-Mirren-Rolle hoffen. Ich hab Frühstück gemacht. Wenn ich motiviert bin, bring ich was zustande. Beim Kochen oder Morden? Am 29. September wird Helen Mirren mit dem Preis ausgezeichnet. Das war es für heute. Wir sehen uns wieder am kommenden Montag. Um den neuen Film von Andreas Dresen geht es dann. Tschüss - bis dann! Copyright Untertitel: NDR 2026