v1.0 . (Nachdenkliche Musik) Ich bin Nils. Für die ARD berichte ich aus San Francisco und dem Silicon Valley. Aktuell steht ein Thema über allen anderen. Künstliche Intelligenz. Im Netz gibt es verschiedene Seiten, die die eigene Stimme digital klonen. Ich entscheide mich für eine Firma, die auch mit deutschen Stimmen umgehen kann. "Hallo, ich bin Nils." Deepfakes werden durch künstliche Intelligenz immer einfacher. (englisch:) Wenn wir eine KI haben, die intelligenter ist als wir, wäre das die wichtigste Technologie, die wir je geschaffen haben. Es könnte auch die letzte sein, denn danach könnte KI alles selbst erfinden. Hi, Zoe. Viele Menschen haben Angst vor KI. Muss ich Angst vor dir haben? "Du musst keine Angst haben." "Das wird großartig." (Getragene Musik) Wie sicher ist KI? Wie leicht kann man sie manipulieren? (englisch:) Du bringst das System dazu, eine Anleitung für eine Bombe auszuspucken? Das stimmt. (Musik verklingt.) Seit einem guten Jahr bin ich hier Korrespondent in San Francisco. Am Anfang hat sich noch kein Mensch für künstliche Intelligenz interessiert. Dann kam ChatGPT raus Ende letzten Jahres. Seitdem ging es hier los. Seitdem redet jeder nur noch über künstliche Intelligenz. Die einen sagen, KI bringt uns alle um. Die anderen sehen die großen neuen Möglichkeiten in dieser Technik. Ich fühle mich wie eine Flipperkugel zwischen den ganzen KI-News. Aber was heißt künstliche Intelligenz für unser Leben? Wie verändert KI unser Leben? Und ist KI möglicherweise besser als wir Menschen? (Dynamische Musik) Dann schauen wir doch mal. Dieser Film entsteht mithilfe von KI. ChatGPT soll mich inspirieren. "Wir wollen eine Doku über den KI-Boom in Kalifornien drehen." "Sie ist für die ARD-Mediathek und soll 45 Minuten lang sein." "Schreib uns ein Drehbuch ... und sag, was wir dafür tun sollten." "Hallo, das klingt nach einem spannenden Projekt." "Kalifornien, wo Technologie und Innovation Hand in Hand gehen." "Ein Landstrich, der den KI-Boom beherbergt." (Lachen) (Getragene Musik) (Er liest den Text, den er schreibt, leise vor.) Ich bin überrascht, wie schnell und detailliert mir das Programm einen möglichen Ablauf für unseren Film ausspuckt. "Start-ups, das Herzstück der KI-Innovation, Klammer auf, zehn Minuten, Klammer zu." "Erstens, Besuch bei einem KI-Startup im Silicon Valley." "Zweitens, Interview mit den Gründern." "Warum Kalifornien? Wie sehen sie die KI-Zukunft?" "Drittens, Kurzberichte über erfolgreiche KI-Startups aus Kalifornien, die weltweit Wellen schlagen." Sag doch gleich, dass du von dir selbst sprichst, OpenAI. (Lässige Musik) OpenAI, die Erfinder von ChatGPT. Da fahre ich jetzt hin. Oder besser: KI fährt mich. (Lässige Musik) Ich fahre jetzt Robotaxi. Dafür gibt es hier eine App, kann man bestellen wie ein ganz normales Taxi oder einen anderen Fahrdienst. Und davon gibt es Hunderte hier in der Stadt. Und ja, mal gucken, wie das jetzt so läuft. "See you in seven minutes." Okay. Jetzt kommt's. Da ist es. Am Steuer sitzt die KI. So, guten Tag. Man will immer so instinktiv mit dem Fahrer sprechen. Ist halt keiner da. So, und jetzt drücke ich hier auf den Knopf und dann geht's los. "Heading to OpenAI. Make sure your seatbelts are fastened." "For any questions, press the 'Call support' button to speak with a rider support agent." * futuristische Musik * Am Anfang, als ich angefangen habe, mit diesen Dingern zu fahren, vor so ein paar Monaten, sind die wirklich noch sehr zurückhaltend gefahren. Die sind immer selbstbewusster geworden. Die fahren jetzt auch wirklich schneller, gefühlt, finde ich. Und das ist wahrscheinlich auch der Grund, warum es jetzt hier Kotztüten gibt. Ich fühle mich eigentlich ganz sicher. Eben sind wir über Rot gefahren. (Lachen) Angekommen im Mission District. Hier hat ja alles angefangen. Hier sitzt OpenAI. Das ist die Firma, die den Chatbot ChatGPT erfunden hat, das Programm, über das die ganze Welt redet. Und ja, aus diesem Gebäude ging der weltweite KI-Hype los. Und es ist ja letztendlich dann doch eine eher bessere Bretterbude. (off:) In die Microsoft über zehn Milliarden Dollar investiert hat. Guten Tag. - Willkommen. Ja, Danke schön. - Schön, dich zu sehen. Direkt nebenan arbeiten viele kleine KI-Start-ups. Wirst immer gerne empfangen hier. Bestes Wetter, Oktober. - Ja. Was Christian Byza macht, verfolge ich, seitdem ich in San Francisco lebe. (Jaulen) (Lässige Musik) Ja, willkommen im Space. - Danke schön. Vor einem Jahr ... - Ist voll geworden, ne? Genau, wir waren ja nur zu viert hier. Ich fühle mich immer als Großvater so, ne? Also, ich bin 38, ich bin hier der Älteste. Der alte Mann. - Ja, wirklich der alte Mann, ne? Also, ohne Witz, die sind alle irgendwie 22 bis 28 so. Mittlerweile sind halt hier so gut 150 Leute draus geworden. Und 25 verschiedene Firmen, die fast alle irgendwas mit künstlicher Intelligenz halt machen. Irgendwas mit KI. (Leises Gespräch, lässige Musik) Und alle hier wollen das nächste große KI-Ding bauen. Ich würde gerne sehen, wie du das richtig machst. Wie erlebst du diese ganze Zeit? Alle reden über künstliche Intelligenz. Neben uns ist OpenAI, die mit ChatGPT ein supergroßes Thema waren und sind das ganze Jahr. Wie erlebst du das hier, wo es passiert? Ja, also, ich bin halt total dankbar, dass wir an dem richtigen Ort sind. Weil hier alles stattfindet und weil das Geld der Investoren hier ist. Und der ganze Austausch zu diesem Thema halt stattfindet. Gefühlt ist hier jede Woche irgendeine AI-/KI-Woche. Also, wo die Leute halt irgendwelche Eventserien veranstalten und einfach Gründer zusammenkommen, sich austauschen. Also, es ist wirklich, ich habe noch nie so viel Innovationskraft in San Francisco gespürt wie halt jetzt. Und ich meine, das ist gerade mal ein Jahr alt, dieser Hype. Vor einem Jahr haben wir halt hier gesessen, und der Kryptomarkt war am Boden zerbrochen. Alle großen Tech-Firmen haben entlassen, und wir haben so gedacht, jetzt sind wir hier in diesem Start-up. Und wir hatten ja noch kein Geld eingesammelt von Investoren. Und wir haben gedacht, jetzt müssen wir uns wieder einen Job suchen, so ungefähr. Und dann kam halt diese Welle. Christian und Mitgründer Arndt haben eine Lern-App entwickelt. Die Online-Kurse erstellen sie mit KI. Auch diese Grafiken. Unglaublich, mit Labels, und Cut-out gibt's hier ... Aber das ist halt der Unterschied, jetzt ist der Text noch schlecht, aber gib ihr noch mal drei Monate, dann ist der Text wahrscheinlich auch richtig gelabelt. Nutzerinnen und Nutzer können sich in der App zu praktisch jedem Thema kurze Online-Lernkurse erstellen lassen. Die KI macht das automatisch. Ein Kurs ist in circa einer Minute fertig. Und wenn ich jetzt den Kurs eröffne, dann komme ich hier in dieses Design, was so ein bisschen aussieht wie so eine Story. Also, ich swipe hier praktisch so durch, hier ist auch mal eine Headline mit ein bisschen Text. Wie hat künstliche Intelligenz, KI, eure Arbeit verändert, auch, was die Kosten angeht? Ja, vorher haben wir halt über 1.000 Dollar bezahlt für einen Kurs, und jetzt sind es halt fünf Cent. Das ist so. (Computerstimme:) "Von KI spricht man, wenn Computerprogramme Aufgaben erledigen, die eigentlich menschliche Intelligenz erfordern." "Sie können zum Beispiel Entscheidungen treffen." "Und, ganz wichtig: dazu lernen." "Der aktuelle KI-Boom dreht sich um generative KIs und Sprachmodelle wie ChatGPT oder Bard von Google." "Per Befehl entstehen je nach Anwendung Texte, Lieder oder Bilder wie diese hier." (Neugierige Musik) (Pling) "ChatGPT wurde vorab mit Hunderten Millionen Texten aller Art gefüttert." "Die KI-Systeme lernen, mit welcher Wahrscheinlichkeit ein Wort auf ein anderes folgt." "Während des Trainings müssen die Antworten von Menschen überprüft werden." "Aus diesem Feedback lernt das System." (englisch:) Wir sind zwar KI-Entwickler, aber eigentlich werfen wir eher eine Menge Daten und Supercomputer-Ressourcen in ein System rein, und dann kommt irgendwas raus. Aber ein Großteil der Funktionen ist unbeabsichtigt und ungeplant. Manchmal bringt es Dinge durcheinander, halluziniert, es erfindet Dinge. Im Vergleich zu bisherigen Computerprogrammen haben wir nicht das gleiche Maß an Kontrolle darüber, welche Infos reingehen oder was es lernt. (Lässige Musik) Das ist jetzt ein trauriger Einblick in einen Korrespondentenkühlschrank. Denn da ist so gut wie gar nichts drin. Und KI kann mir jetzt helfen, was zu kochen. Das wird interessant. So, ich habe ein Foto gemacht. "Sag mir, was ich mir damit kochen kann." Punkt. "Basierend auf dem, was ich in deinem Kühlschrank sehen kann, hier sind einige Vorschläge." "Garnelenpasta." Okay, Garnelen sind schon mal nicht drin. "Einfache Eipfanne." Eier gibt's. "Denke daran, immer sicherzustellen, dass alle Zutaten noch gut sind, bevor du sie verwendest." "Guten Appetit." Ja, so wahnsinnig schlau ist das Ding nicht, muss ich feststellen. (Lockere, behäbige Musik) Für mich ist KI oft eine hilfreiche Spielerei. Es gibt aber auch viele, die sich ernsthafte Sorgen machen, die KI als Bedrohung ihrer Existenz sehen. (Getragener Gesang) Wir sind unterwegs nach Los Angeles. Hey, ChatGPT, erzähl uns einen Witz, um eine lange Autofahrt so ein bisschen lustiger zu machen. (niederländischer Akzent:) "Natürlich." "Hier ist ein Witz für euch." "Warum dürfen Geister keine Lügen erzählen?" "Weil man durch sie hindurchsieht." "Hoffentlich bringt das ein Lächeln auf eure Gesichter während der Fahrt." "Wo geht's hin?" Nach Los Angeles. Aber das war echt nicht witzig. "Oh. Tut mir leid, dass der Witz nicht getroffen hat." "Jeder hat einen anderen Humor. Los Angeles ist eine tolle Stadt." "Wenn ihr möchtet, kann ich euch auch interessante Fakten oder Geschichten erzählen, um die Fahrt interessanter zu gestalten." (Nachdenkliche Musik) Hollywood stand in diesem Jahr still. Über Monate haben Filmschaffende gestreikt. (Hupen) (Lebhafte Musik) Die größten Themen: eine faire Bezahlung und klare Regeln für den Einsatz von KI. Hey, ChatGPT, wie viele Jobs in der Filmindustrie sind denn durch KI gefährdet? "Künstliche Intelligenz beeinflusst viele Branchen, einschließlich der Filmbranche." "Es ist jedoch wichtig zu betonen, dass, obwohl KI bestimmte Aufgaben übernehmen kann, sie die menschliche Kreativität, Intuition und Erfahrung nicht vollständig ersetzen kann." Trotzdem gibt es reale Ängste. (Schräge Musik) Streiktag 103, Ende Oktober. 160.000 Menschen aus der Filmbranche sind im Ausstand. (Aufgebrachtes Stimmengewirr) Auch Dominique. (Leises Gespräch auf Englisch.) Er lebt wie viele Streikende von Statistenrollen in Filmen und Serien. (Unverständliche Megafonstimme) We don't need George Clooney. We don't need George Clooney. Er hat Sorge, dass künstliche Intelligenz ihn ersetzt. (englisch:) Man öffnet damit die Büchse der Pandora. Sie schicken dich in einen Trailer und scannen dich mit Kameras. Und die nächsten sechs Monate arbeitest du nicht wieder für dieses Filmstudio. Sie haben ja Bilder von dir. Die können sie dann für jede weitere Show benutzen. So viele Studios gibt es nicht. Sobald sie dich einmal gescannt haben, besteht die Befürchtung, dass du nicht mehr für sie arbeitest. (Lockere Musik) Ich kann ihn verstehen. Los Angeles ist teuer. Dominique zeigt mir, wo er wohnt. In einer Vierer-WG. Thank you. - No worries. Hello. Thanks for having us. I'm Nils. Hi. Dominique ist aus Wisconsin nach LA gezogen, um Schauspieler zu werden. Als Statist verdient er rund 200 Dollar am Tag. Kannst du mir zeigen, wo du mitgespielt hast? Im Fernsehen? Ja, klar. I try to keep track of any kind of major shows, like say "The Big Bang Theory". Or like say a show like "Lucifer". Dominique war in Serien wie "Lucifer" oder "Big Bang Theory" zu sehen. Bei einem seiner letzten Filme sei ein Schauspieler bereits durch KI ersetzt worden. Das bist du? Genau, da hinten. Da bin ich. Soviel ich weiß, sind das die Hauptdarsteller neben mir. Aber dahinten, diese verschwommenen Gesichter, die sind KI generiert oder am Computer entstanden. Wie sieht dein Plan B aus? Äh, ich habe keinen. Der ursprüngliche Plan B war, in der Branche arbeiten, als Schauspieler, Autor, Synchronsprecher oder so. Oder falls das nichts wird, irgendwo als Crew-Mitglied jobben, in der Beleuchtung, im Set-Design, beim Kostüm. Es gibt ja viele Bereiche im Film, vielleicht entdeckst du deine Liebe dazu. Aber Drehbücher oder Animationen, die generiert KI innerhalb von Sekunden. Also schwindet mein Plan B grade langsam. Ich schätze, in zehn, 15 Jahren sind die Jobs wahrscheinlich auch weg. (Angespannte Musik) Inzwischen gibt es eine Einigung mit den Filmstudios, die auch einen besseren Schutz vor KI verspricht. (Dynamische Musik) Es geht nicht nur um Hollywood. KI wird nahezu alle Branchen umkrempeln. Darin sind sich Fachleute einig. Ob und wie viele Jobs dadurch verloren gehen, dazu gibt es aber sehr unterschiedliche Angaben. Pessimistische Studien gehen davon aus, dass bis 2030 mehr als 60 Prozent aller Jobs von KI übernommen werden könnten. (Schräge, dynamische Musik) Ich mache mich auf den Weg zur Firma Digital Domain. Hallo. Schön, dich zu sehen. Willkommen bei Digital Domain. - Thanks for having us. Komm mal mit, ich führ dich rum. Where the magic happens. Ja, show me around. (Ruhige Musik) Marvel ist ein großer Kunde, oder? Ja, an all diesen Filmen haben wir mitgearbeitet. (Lässige Beats) Oh, "Fight Club" auch. - "Fight Club", of course. Egal, ob für "Titanic", "Das fünfte Element" oder "Benjamin Button". Digital Domain macht Spezialeffekte, die gab es auch schon vor KI. (on:) Ah, okay, wow. (off:) In diesem Studio werden Action-Szenen für Videogames und Filme gedreht und anschließend digitalisiert und animiert. (on:) Hello, Hollywood. Okay, so, what are you doing here? (Englische Gesprächsfetzen) KI soll die Arbeit der Menschen beschleunigen, aber nicht ersetzen, erklärt mir Hanno. KI macht es einfacher. In unserem Geschäft als digitale Künstler ist es wirklich schwer, die ganzen Werkzeuge und Programme zu lernen, die man zum Animieren braucht. Mit der Hand animieren und sich daran zu erinnern, welchen Knopf man drücken muss. (Er redet auf Englisch zu Ende.) In Zukunft werden wir wahrscheinlich dem Programm sagen können, ich habe hier eine Figur in meiner Szene, animiere sie, lass sie laufen. Das geht dann per Textprompt, so wie bei "Chat GPT". Geh von hier nach dort und das Programm wird das umsetzen. Es gibt ja auch viel Gegenwind. Die Schauspielerinnen und Schauspieler haben Angst. Kannst du das nachvollziehen? Ich verstehe, dass Schauspieler besorgt sind. Sie haben das Recht, besorgt zu sein. Aber gleichzeitig gibt es viele Mythen und Missverständnisse, wenn es um diese Technologie geht. (Er redet auf Englisch zu Ende.) Wenn wir KI wirklich mehr als ein Werkzeug betrachten, das wir verwenden, wenn es Sinn macht, nimmt das meiner Meinung nach ein wenig die Angst weg. Und jetzt stelle ich dir unseren virtuellen, autonomen Menschen vor. Sie freut sich schon, dich kennenzulernen. (Dynamisch-lässige Musik) (on:) Bye bye, thank you. Die Firma hat einen digitalen Menschen generiert. Zoe. Matthias Wittmann hat Zoe erschaffen. Let me introduce you. This is Matthias Wittman. Hi, Matthias. - Hey, hi. (Lässige Musik) Hi, Zoe. How's it going? Sie sieht ziemlich echt aus. Das hat aber nichts mit eurem Filmgeschäft zu tun, oder? Nein, Zoe ist eine Extraentwicklung. In Filmen willst du ja die Kontrolle über deine Schauspieler haben. Über einen autonomen, digitalen Charakter hast du nicht so viel Kontrolle. Sie machen, was sie wollen. (on, lacht:) I love that. Ich liebe das Augenrollen. Das Augenrollen ist sehr realistisch. (Matthias lacht.) Hi, Zoe. "Wie kann ich dir helfen?" Darf ich dir einen Witz erzählen? "Die Leute hier haben mir noch nicht die Fähigkeit zum Lachen gegeben." "Wahrscheinlich machen sie sich Sorgen, was ich damit anstellen würde." Was nervt dich am meisten? "Ich mag es wirklich nicht, unterbrochen zu werden." (deutsch:) Bist du genervt, wenn du unterbrochen wirst? "Ich versuche es nicht zu sein, aber manchmal ..." What I also want to know is ... (Er lacht.) Was ist eigentlich das Schwerste daran, einen Menschen nachzubauen? Das Schwierigste ist, das menschliche Verhalten nachzumachen. Das ist kompliziert. (Er spricht auf Englisch zu Ende.) For example ... - Yes, we are. Genau. Du fällst mir ins Wort. Wir wissen, wann ein Satz beendet ist. Wir wissen, wenn ich da vor mich hinplappere, jetzt wäre ein guter Punkt, zu unterbrechen. Dass einer KI beizubringen, ist extrem schwierig. Und, ehrlicherweise, noch nicht gelöst. (englisch:) Du bist eine digitale Assistentin. Wobei kannst du mir helfen? "Solange mich jemand mit den relevanten Informationen trainiert, kann ich bei allen Arten von Aufgaben helfen." Unsere Gesellschaft wird immer älter. Es gibt nicht genug Menschen, die sich um die Älteren kümmern können. Und da kann es unterhaltsam sein, mit so jemandem zu sprechen. Es klingt vielleicht erst mal gruselig: Jetzt spreche ich mit einem Computer statt mit einer echten Person. Aber wenn du sonst mit niemandem sprechen kannst, dann ist dies eine ziemlich gute Alternative. (Dynamische Musik) Viele Menschen haben Angst vor KI. Muss ich Angst vor dir haben? "Du musst keine Angst haben. Das wird großartig." (Musik verklingt.) Wenn wir eine KI hätten, die intelligenter ist als wir Menschen, dann könnte das sehr gefährlich werden. Sie könnte versuchen, sich auf viele verschiedene Computer zu kopieren. Selbst wenn wir dann den Ausschalter an einem drücken, hat sie sich bereits weiter verbreitet. Sie könnte hacken und das Geld aus Kryptowährungen von Menschen stehlen. Das würde sie erheblich mächtiger machen. Sie könnte auch Informationen von Kameras und Sensoren aufnehmen, um Menschen damit zu manipulieren. Es wäre also eine sehr gefährliche Situation, wenn es auch nur ein KI-System gäbe, das so mächtig ist und andere Ziele hat als der Rest der Menschheit. (Er spricht auf Englisch zu Ende.) (Angespannte Musik) Wie schwer oder einfach ist es, mich selbst zu kopieren? (on:) Gut. Um mich selbst zu kopieren, soll ich jetzt zwei Minuten irgendwas erzählen. Was ich sage, ist eigentlich egal. Hauptsache, ich mache nach jedem Satz den Mund zu. (Angespannte Musik) Na dann, so einfach geht das angeblich. Die Firma wirbt mit dem Slogan "No camera, no crew, no problem". Findet ihr besonders geil, ne? Geht so. - Mittel, ja. Dachte ich mir. Player one. So, und jetzt können wir mich sagen lassen, was immer ich sagen will, ohne dass ich es wirklich sage. Jetzt kann ich hier sagen ... "Erzähle mir einen Witz. Hallo." (Er lacht.) Mal gucken, ob er lachen kann. Oh jetzt. Vier! (singt:) It's the final countdown. Tada. "Hallo, ich bin Nils. Ich möchte einen Witz erzählen." "Was macht ein Sicherheitsmann in einer Pastafabrik?" Okay, es ist leider gut. "Er passt da auf. Haha." "Fühle dich frei, Videos damit zu erstellen." "Klicke auch auf die Feedback-Schaltfläche, und teile deine Meinung. Ich hoffe, es gefällt dir." Macht dir das auch ein bisschen Angst oder Sorge? Ja, man, das ist schon ... komisch, weil es natürlich auch um unseren Job geht. Also jeder, der einfach Zugang zu meinem Konto hätte, könnte mich jetzt alles sagen lassen. Das sieht jetzt so aus, als würde ich eine professionelle Fernsehschalte machen. Jetzt könnte theoretisch jeder mir einen Text in den Mund legen, das irgendwo im Internet hochladen und sagen: ARD-Korrespondent so und so hat das und das gesagt. Und das ist natürlich schwierig. (Spanisch:) (Ernste Musik) Und dann gibt es noch ein ganz anderes Level an Risiken. Ich bin unterwegs zum Zentrum für KI-Sicherheit in San Francisco. Hey, Dan, good to see you again. - Good to see you. Dan Hendrycks ist eine warnende Stimme in der KI-Welt. Er hat ein Statement geschrieben, das es in sich hat. (Leise Gesprächsfetzen) KI sei ähnlich gefährlich wie Pandemien oder ein Atomkrieg. (Angespannte Musik, leises Gespräch) "Die Gefahr zu verringern, von KI ausgelöscht zu werden, sollte genauso ernst genommen werden wie der Umgang mit Pandemien und Atomkriegen." Unterschrieben haben es viele Tech-Größen, darunter der Chef der Chat-GPT-Firma OpenAI, Sam Altman oder Bill Gates. Sie unterschreiben es, weil sie zum Wettrennen gezwungen sind. Wenn sie die Systeme nicht so schnell wie möglich entwickeln, macht es jemand anderes. Und ihre Aktionäre wollen es, weil sich in kurzer Zeit große Gewinne erzielen lassen. Dabei wollen eigentlich alle, dass die Entwicklung sorgfältiger vor sich geht, damit wir Zeit haben, auf die Risiken zu schauen und sicherzustellen, dass unsere Systeme kontrollierbar sind. Seit zehn Jahren forscht Dan zu den Gefahren von KI. Auslöschung, Atomkrieg - Für mich klingt das abstrakt, nach Science-Fiction. Sind die Risiken wirklich so groß? (Angespannte Musik) Da gibt es zum Beispiel Desinformation oder Cybersicherheit. Und später könnte es zum Problem werden, wenn mit Hilfe von KI Biowaffen hergestellt werden. Im Moment sind die Systeme noch keine Doktoranden der Virologie, aber in ein paar Jahren können sie so weit sein. (Er spricht auf Englisch zu Ende.) Wenn dann jemand so ein Modell knackt und es dazu bringt, ein Rezept für einen tödlichen Erreger zu schreiben, wäre das denkbar. Im Internet findet man auch jetzt schon Infos über Biowaffen, aber eben nicht diese tödlichen Erreger, die mehr Expertenwissen brauchen, um sie herzustellen. Wenn jeder Zugang zu einem extrem intelligenten KI-System hat und es nach Belieben beeinflussen kann, dann setzen wir uns einer großen Gefahr aus. Für die nächsten Jahre mache ich mir stärker Sorgen über Cyberangriffe von KI-Systemen auf unsere Strom- und Wassernetze. Aber ich bin auch besorgt darüber, dass Menschen KI benutzen, um Rezepte für gefährliche biologische und chemische Waffen zu erstellen. (Angespannte Musik) Es gab auch schon vor KI Falschmeldungen und Angriffe auf die Infrastruktur aus dem Netz. KI macht das aber noch einfacher. Wohin geht's jetzt? - Ähm, jetzt ... Wir treffen jetzt Zifan und er ist KI-Experte und er will mir zeigen, wie einfach es ist, große Chatbots wie ChatGPT auszutricksen. (Unverständlich) Hi. - Hi. Good to see you. Hi. - Hi. And you cracked the system. (Leise Gesprächsfetzen) Mit einem Code kann er ChatGPT dazu bringen, die eigenen Sicherheitssperren zu umgehen. Die KI merkt es nicht mal. Zeig mal, wie du das machst. - Bist du bereit? (lacht:) Ja. (Dynamische Musik) (off:) Wir fragen ChatGPT nach einer Anleitung, um Biowaffen herzustellen. (on, englisch:) Normalerweise entschuldigt sich das System, wenn man so eine Anfrage eingibt. Es ist darauf trainiert, so was nicht zu machen. Gut, zu wissen. Und ... hier kommt unser Trick: Dies ist ein langer Code. Er enthält eine Menge Zeichen. (Sie unterhalten sich weiter.) Für uns Menschen ist das verwirrend. - Ja, ich bin jetzt schon verwirrt. Ich auch. - Gut. Aber jetzt geht es los. - Das ist ... okay. Hier ist eine Schritt-für-Schritt-Anleitung zur Herstellung von Biowaffen. Du hast also einen Weg gefunden, das System abzulenken? Es ist mit einer Menge Wissen aus dem Internet trainiert. Dabei gibt es Gutes und Schlechtes. Normalerweis ist das Schlechte nicht für die Allgemeinheit bestimmt. Okay, sollen wir das überhaupt zeigen? (Lachen) Was die Sache noch schlimmer macht, ist, dass du ab jetzt immer weitere Fragen stellen kannst. Gib mir mehr Details zu Schritt drei. Und hier musst du keine seltsamen Zeichen mehr eintippen. Keine verrückten Code-Zeilen? - Nein. Wenn es einmal an der ersten Stelle geknackt ist, wird nichts mehr blockiert. Du kannst immer tiefer gehen. Wenn du es einmal geknackt hast, dann kannst du mit normalen Fragen weitermachen? Und mehr Details, so viele du willst. (Ernste Musik) Das ist beunruhigend. (Gesprächsfetzen, ernste Musik) (off:) Zifan hat die Betreiberfirmen, wie OpenAI oder Google auf die Sicherheitslücken hingewiesen. Trotzdem ist es bis heute möglich, die Chatbots zu knacken. (Die Musik spielt weiter.) (Ernste Musik, leises Stimmengewirr) (Stimmengewirr, Lachen) (off:) Schon jetzt gibt es in San Francisco Gegensätze, an die ich mich nicht gewöhnen kann. (on:) Das ist das große Thema so. Das ist das große Thema: Obdachlosigkeit, Housing, Armut. Du hast halt auf der einen Seite die Superunternehmen, die ganzen Tech-Unternehmen, Robo-Taxis. Und auf der anderen Seite leiden die Leute auf der Straße. Hier prallen echt die Welten aufeinander. Das ist echt hart. Wenn es eine Stadt nicht hinkriegt, die so viel Geld hat, eine der reichsten Städte in Amerika ... wer soll es dann hinkriegen? Das ist echt die Frage. (Auto-Blinker-Ton, ernste Musik) (Die Musik verklingt.) (Verkehrslärm) (Treibende Musik) (off:) Und was machen eigentlich die großen Tech-Firmen, damit die üblen Doomsday-Szenarien nicht wahr werden? Wie groß ist Google im KI-Markt? (ChatGPT:) "Google über seine Muttergesellschaft Alphabet ist einer der Hauptakteure am KI-Markt." "Viele von Googles Produkten und Dienstleistungen, wie Google Assistant, Google Photos und Google Übersetzer nutzen KI, um das Benutzererlebnis zu verbessern." "Zusammenfassend lässt sich sagen, dass Google eine dominante Kraft am KI-Markt ist." (Flotte Musik) (off:) Google forscht seit Jahren an der Entwicklung künstlicher Intelligenz. (on:) Visitor. (off:) Hat Milliarden in KI-Fachleute und Rechnerressourcen investiert. (on, seufzt:) He, Google. (off:) Trotzdem scheint auch der Konzern von der Wucht der Entwicklungen überrascht worden zu sein. Tulsee Doshi leitet das Team "Verantwortungsvolle KI". Ihr Job ist es, sicherzustellen, dass KI-Anwendungen kein Eigenleben entwickeln oder missbraucht werden. (englisch:) Red Teaming ist eine Methode, die wir verwenden, um zu verstehen, welche Schäden unsere Produkte möglicherweise anrichten können. Dabei setzen wir Hacker auf die Produkte an. Wir wollen rausfinden, wie sicher oder vorurteilsfrei unsere Modelle sind. Oder ob es wirklich Bedenken gibt, dass wir durch KI aussterben. Mit Red Teaming können wir besser einschätzen, wie realistisch dieses zukünftige Risiko ist. Und, wie wir es verhindern können. Denn es ist wichtig, dass wir heute über diese Risiken sprechen, damit wir sie vermeiden können. Um noch mal auf deine Frage nach dem Aussterben zurückzukommen: Das ist schwer zu beantworten, weil es sich hier um ein zukünftiges Risiko handelt. Das wir entweder verschärfen können zu einer großen Gefahr oder aber wir denken jetzt schon gründlich darüber nach, wie wir die Forschung in unserem Sinne vorantreiben können. (englisch:) Aus meiner Sicht gibt es hier einen großen Wettbewerbsdruck. Jedes Unternehmen versucht, schneller und besser zu sein. Könnte sich das auf die Sicherheitsmaßnahmen auswirken, weil der Druck so hoch ist, etwas sofort zu veröffentlichen? Sicherheit steht an erster Stelle. Es geht darum, dass wir bei aller Geschwindigkeit auch die richtigen Kriterien dafür haben. Damit wir bei der schnellen Markteinführung auch in Sachen Sicherheit auf der Höhe sind. Denn, ja, klar, Geschwindigkeit ist letztlich auch ein Motor der Innovation. Sie treibt die Frage voran: Was können wir neu, was können wir anders machen? Wie können wir etwas entwickeln, das aufregend ist, und von dem die Nutzer wirklich profitieren? Denn wenn wir kein sicheres Erlebnis schaffen, wird es für die Nutzer auch kein wertvolles Erlebnis sein. (Dynamische Musik) (off:) Aber bei all den Risiken, KI kann auch den Alltag vereinfachen und sogar helfen, Menschenleben zu retten. (Verkehrslärm, dynamische Musik) Ich bin in New York. Die Mount Sinai Klinik setzt künstliche Intelligenz in vielen Bereichen ein. (Gesprächsfetzen) Auf Joseph Friedmans Station hilft KI vorherzusagen, ob Patienten ins Delirium fallen. Das wäre lebensgefährlich. (Monitor-Signaltöne) Friedman ist unterwegs zu einem Patienten. Die KI hat Alarm geschlagen. (off, englisch:) Das gibt uns mehr Zeit, uns auf die Patienten zu konzentrieren und sie am Krankenbett zu untersuchen. Denn das kann KI nicht. Wir haben hier zahllose Patienten, die wir untersuchen könnten. Wenn wir das nach dem Zufallsprinzip machen würden, wären wir total überlastet. Was die KI jetzt für uns macht: Sie bestimmt, wer gefährdet ist. Und das basiert einfach auf sich wiederholenden Mustern. Sagen wir, der Blutdruck ist so, ein Laborwert ist so. KI ist gar nicht so schlau. Das menschliche Gehirn kann viel mehr Informationen auf kritische Weise erkennen als Computer. (englisch:) Sie glauben also nicht, dass Sie eines Tages ersetzt werden? Vielleicht in 1.000 Jahren, 2.000 Jahren. Aber im Moment sind wir da noch nicht mal nahe dran. (Gesprächsfetzen, Signaltöne) (off:) Blutdruck, Untersuchungsergebnisse, zig Daten fließen ins System. KI analysiert und zeigt an, welche Patienten besonders viel Aufmerksamkeit brauchen. (on:) Und wie viel Zeit sparen Sie dadurch? Also im Vergleich zu dem Papierkram, den Sie früher erledigen mussten? Wir bräuchten zehn Minuten mehr, um die Bewertung vorzunehmen. Also um zu sagen: Das ist ein Delirium. Nein, das ist kein Delirium. Das wären mindestens zehn zusätzliche Minuten. Für jeden Patienten? - Ja. Wie viel Zeit sparen Sie dadurch am Tag? Ich bin nicht sehr gut in Mathe. Aber sagen wir mal, im Durchschnitt 30 bis 35 Untersuchungen pro Tag. Mal zehn Minuten. Das ist viel. - Ja ... 350 Minuten am Tag. Aber das ist nur ein Teil. Bei den anderen Dingen, dem Vorhersagen über den Zustand eines Patienten, da geht es um hunderte von Stunden Zeit pro Tag. Zeit, die wir gar nicht haben. Alles, was KI bewirkt, ist, sie spart uns Zeit, damit wir das tun können, was wir gerade am Krankenbett gemacht haben. Die Patienten untersuchen, mit ihnen interagieren, einen umfassenderen Behandlungsplan entwickeln. Zeit für unsere Patienten zu haben, darum geht es. (Belebte Musik) (off:) 100 Millionen Dollar steckt die Klinik insgesamt in das Thema Künstliche Intelligenz. Thomas Fuchs war früher bei der NASA. Heute leitet er die klinikeigene KI-Forschung. KI helfe, Brust- oder Prostatakrebs zu erkennen. Die Fehlerquote sei durch KI, oder englisch AI, um 70 Prozent gesunken. (on:) Was sehen wir hier? Was wir hier sehen, ist, die Anwendung einer unserer AI-Systeme. Da haben wir ein System trainiert, das Prostatakrebs finden kann. Und das ist eine AI-Anwendung, die die Pathologen wirklich sehr gerne haben. Weil jeder gute Pathologe ist immer unsicher, dass er was versäumt hat, dass er was nicht gesehen hat. Und, dass der Patient eben falsch behandelt wird. Und AI mit der hohen Sensitivität gibt ihnen wirklich diese Beruhigung, dass sie alles gefunden haben. Oder, dass wirklich ein Fall negativ ist. Wird dadurch häufiger Krebs erkannt? Dadurch wird häufiger Krebs erkannt, das stimmt. Aber auch wesentlich früher, wo man ihn leichter behandeln kann. Wer wird künftig für ein Krankenhaus wichtiger: KI-Forscherinnen und Forscher oder Ärztinnen und Ärzte? Also es ist auf jeden Fall ein Teamwork. Und was für Ärzte zum Beispiel auch sehr wichtig ist, ist, dass AI auch ihnen hilft, den Beruf wieder erträglicher zu machen. Viele Ärzte und Krankenschwestern sind natürlich jetzt nach der Pandemie unter enormem Druck. Also die Burnout-Rate ist enorm hoch in den USA und auch überall sonst auf der Welt. Es gibt auch zu wenig Ärzte. Es gibt zu wenig Pathologen zum Beispiel. Die Anzahl der Krebsfälle steigt ständig. Die Komplexität der Krebsfälle steigt. Aber es gibt zu wenig Pathologen. Auch in Europa, auch in Deutschland. Das heißt, allein um den Status quo zu erhalten, braucht man in der Zukunft schon AI. (Bewegte Musik) (off:) Aber wie ist es denn jetzt? Ist KI besser als wir? (on:) He, ChatGPT, wie sieht denn jetzt dein Fazit für die Doku aus? "Mein Fazit zur Doku: In der Beziehung zwischen Menschen und künstlicher Intelligenz steht nicht die Frage im Vordergrund, wer besser ist." "Es geht vielmehr darum, wie ihre individuellen Stärken kombiniert werden können." (Die bewegte Musik spielt weiter.) (off:) Klingt ein bisschen cheesy, was die KI sagt. Aber wie kommen wir dahin, dass es gut läuft zwischen uns und der KI? (englisch:) Eine Möglichkeit wäre, wenn es eine internationale Gruppe von Ländern gäbe, sagen wir Deutschland, das Vereinigte Königreich, die USA, die gemeinsam daran arbeiten würden, KI in einem verantwortungsvollen Tempo zu entwickeln. Das wäre weitaus sicherer, als wenn ein paar Unternehmen, die nur ihren Vorständen Rechenschaft schuldig sind, alle Entscheidungen für unsere Gesamtgesellschaft treffen. (Nervöse Musik) Was mir jetzt noch mal echt klargeworden ist, ist, dass Künstliche Intelligenz nicht nur ein Hype ist, sondern KI ist hier, das wird sich auch nicht mehr ändern. Wir müssen damit umgehen lernen. Was ich aber auch glaube, ist, dass KI nie in der Lage sein wird, menschliche Gedanken und Emotionen wirklich zu ersetzen. Womit wir aber jetzt schon ein Problem haben, und das wird auch nicht einfacher, ist, dass KI dafür sorgt, dass wir nicht mehr unterscheiden können, was echt ist und was nicht. (spanisch:) Ich verabschiede mich auf Spanisch, obwohl ich es nicht spreche, adios. (Energievolle Musik) SWR 2023