v1.0 Untertitel: WDR mediagroup GmbH im Auftrag des WDR Künstliche Intelligenz. Sie umgibt uns bereits heute überall. Um Texte zu schreiben oder zu übersetzen und neue Bilder zu erschaffen. Sie bewertet, wie kreditwürdig wir sind und kann helfen, Krankheiten schneller als jeder Mensch zu erkennen. Doch sie kann auch falsche Wahrheiten echt aussehen lassen. Wie können wir noch erkennen, was real ist und was falsch? Was wird künstliche Intelligenz in Zukunft leisten können? Wie gehen wir mit der rasanten Weiterentwicklung der KI am besten um? Damit herzlich willkommen bei Planet Wissen. Haben Sie schon mal ChatGPT ausprobiert, dieses Programm, bei dem man sich wie mit einem allwissenden Gesprächspartner über alles Mögliche unterhalten kann? Als ich das 1. Mal das gemacht habe, war ich echt beeindruckt, was hier alles möglich ist. Hab mich aber auch gefragt, wo das in Zukunft noch hinführt und welche Gefahren das birgt. Ob solche KIs unsere Welt von Grund auf verändern werden und wo Chancen und Risiken von KI liegen, darüber möchte ich mit meinen beiden Gästen sprechen. Ich freue mich sehr über Prof. Katharina Zweig. Sie ist die Leiterin des Algorithm Accountability Lab an der Uni Kaiserslautern und testet, wie gut Algorithmen arbeiten. Und Dennis Horn, er ist der Digitalexperte der ARD und ist quer durch Deutschland gefahren auf der Suche nach KI in unserem Alltag. Hallo Dennis. - Grüß dich. Vielleicht kannst du zu Beginn erst mal zur Einordnung uns erklären, was ist künstliche Intelligenz und worin unterscheidet sie sich von der menschlichen? Die schwierigste Frage zuerst. Dafür bräuchten wir ne allgemeingültige Definition von Intelligenz, auch bei menschlicher Intelligenz. Aber bei künstlicher Intelligenz ist es so, dass dieser Begriff einem Wandel unterliegt. Im Moment sprechen wir z.B. darüber, wenn wir über generative KI sprechen, die selbständig Bilder erzeugen kann, Texte schreiben kann. Vor vielen Jahren galt künstliche Intelligenz auch mal als Begriff für Karl Klammer oder für so ganz frühe Experimente von Chatbots. Es gibt einen berühmten, ELIZA, wo man mit dem Computer schreiben konnte, aber relativ schnell herausgefunden hat, das ist nur ein Computer. Wann ist dir KI das 1. Mal begegnet? - Vor Jahrzehnten als Begriff. Und wie war das bei Ihnen, Frau Zweig? Dass ich das so wahrgenommen hab, sicherlich bei einem großen Online-Händler, wo ich fast mein ganzes Doktorandengehalt in Bücher investiert hab. Ich war begeistert, was für Bücher ich vorgeschlagen bekomme, basierend auf meinem Verhalten. Das war tatsächlich besser, als was die Buchhändlerin vor Ort mir vorschlagen konnte. Also erst mal eine positive Begegnung. Heute testen Sie, wie sehr wir uns auf KI-Systeme verlassen können. Wie kam es dazu? Na ja, seitdem ich ein Kind bin, wollte ich gerne wissen, wie wir als Menschen am besten Entscheidungen treffen. Als ich Biochemie studiert hab und dann Informatik, wurde immer klarer, dass der Computer uns helfen kann, aus Daten neue Daten zu machen. Dann ist die Frage, wie können wir das als Basis nutzen, um bessere Entscheidungen zu treffen. Das wollte ich schon, seit ich 8 bin, wissen. Und wie können wir das als Basis nutzen? Dazu müssen diese Systeme verlässlich sein. Und was noch nicht erwähnt wurde, die machen nicht wirklich was selbständig, wir geben denen alles vor. Und das müssen wir richtig machen. Die richtigen Daten, Methoden, Fragenstellungen. Und die Menschen, die nachher KI benutzen, müssen auch gut geschult sein. Dann können wir uns vielleicht in bestimmten Teilen auf KI verlassen, aber nicht immer. Es ist ein spannendes Thema. Wir gucken auf verschiedene Aspekte zusammen mit Ihnen. Wir haben gerade schon drüber gesprochen. Wenn es um künstliche Intelligenz geht, denken viele als Erstes an ChatGPT. Dieses Sprachmodell ist gefüttert mit dem Wissen der Welt und daher besonders spannend für Menschen an Schulen und Universitäten. Lohnt es sich da überhaupt noch, selbst zu lernen? Wir treffen uns mit einem Schüler. ChatGPT, das kennt er schon längst. Jeder in seiner Klasse benutzt es. Er ist erst 13, deshalb zeigen wir sein Gesicht nicht. Erklär mir mal, wie das geht oder was man damit machen kann. Los gehts. Wir öffnen die Webseite von ChatGPT. Hier kann man einfach Fragen eintippen. Z.B. Schulaufgaben wie eine Gedichtinterpretation. Dann würde ich schreiben: Analysiere das Gedicht "Der Abend". Jetzt bin ich gespannt, ob er das kann. Und ChatGPT legt los, erklärt, wovon das Gedicht handelt, was der Dichter meint. Das funktioniert mit Lyrik, aber auch mit Biologie. Der Chatbot hat immer eine Antwort parat, erklärt Mathematik, ein Helfer in der Not. Bevor man sich jetzt auf Google durch Hunderte Seiten klickt und dann ist man erst mal auf irgendwelchen Seiten, die für Kinder eh nicht zu verstehen sind, dann hat man bei ChatGPT den perfekten Text. Wie so ein Lernassistent ein bisschen. Ja, oder einfach eine Quelle, die sich auf einen selber zuschneiden lässt. Das klingt nach der perfekten Webseite, um sich die Hausaufgaben schreiben zu lassen. Auf jeden Fall. Eher dann die Leute, die in der Schule nicht die besten sind. Andere Schule, anderer Ort. Wie sehen Lehrer*innen den neuen Chatbot? Treffen mit Regina Schulz. Sie unterrichtet Englisch und Geschichte am Gymnasium. Mit ChatGPT kennt sie sich richtig gut aus, gibt sogar Fortbildungen für andere Lehrerinnen und Lehrer. Wie geht sie mit der neuen Hausaufgabenhilfe um? Könnten Sie das überhaupt erkennen? Das kann ich nicht erkennen. Punkt. Also kann ich nicht erkennen. Wir müssen überlegen, wie wir das produktiv nutzen können im Unterricht und Fragestellungen ändern können. Wie wir gucken können, dass wir Fragen eher darauf ausrichten, wir gemeinsam mit den Schüler*innen, dass sie so individuell sind, so reflektiert sind, so reflektierend sind, dass sie nicht ausschließlich von einer KI übernommen werden können. Sie ist sicher, die technische Entwicklung geht voran, und es ist besser, wenn die Schüler*innen wissen, wie man damit umgeht. Heute experimentieren sie mit ChatGPT für die Abiturvorbereitung. Haben Sie auch schlechte Erfahrungen damit gemacht, wo Sie sagen, das war nicht richtig? Auf jeden Fall, im historischen Kontext. Da werden auch falsche Sachen ausgespuckt. Dann für mein Feld, gerade den Englischunterricht, erfindet Charaktere, die es gar nicht gibt. Macht ein Playwright, also ein Theaterstück, zu einem Roman, also immer mit Vorsicht zu genießen. Denn ChatGPT ist ein Textgenerator, der auf künstlicher Intelligenz beruht. Er wurde trainiert, Dialoge täuschend echt nachzuahmen. Dafür wurde das Programm mit Millionen Texten gefüttert aus dem gesamten Internet. Um zu lernen, wie Sprache funktioniert und auf Fragen plausibel erscheinende Antworten zu geben. (ChatGPT) Ja, ich kann Ihnen in Biologie helfen. Hello, how can I help you today? Dies war die Übersetzung in einfacher Sprache. Das Gedicht "Der Abend" ist ein bekanntes Werk von von Eichendorff. Zurück zu unserem Schüler. ChatGPT, bei aller Faszination schön und gut, aber dann doch eher nur als Inspiration und Erklärhilfe. So nah ist noch nicht die Vision, dass wir das Abi nicht mehr schreiben müssen, weil eh jeder sagt, wir brauchen kein Wissen mehr. Ganz im Gegenteil. Ich weiß, im Abi kann man nicht das ChatGPT fragen. Deshalb ist eigentlich alles nur eine Vorbereitung darauf. Denn für die echten Prüfungen im Leben hilft nur eines: selbst denken. Schon fast beruhigend, dass wir für viele Sachen immer noch selbst den Kopf einschalten müssen. Dennis, wie verändern Sprachmodelle wie ChatGPT denn das Lernen? Sie sind ne Fortsetzung dessen, worüber wir die vergangenen Jahre schon diskutiert haben an der Schule, Uni, am Beispiel der Wikipedia. Also, wenn das Wissen der Welt verfügbar ist. Wobei wir noch mal darüber sprechen müssen, ob das wirklich Wissen ist, was in ChatGPT steckt. Dann würde ich die Frage stellen, ob Schulen, ob Universitäten fürs Auswendiglernen da sind oder ob es hier nicht auch um Methodenkompetenz gehen muss. Wie setzen wir z.B. solche Tools ein? Und da mehr Zeit reinzustecken, oder auch in die Reflektion von Inhalten und nicht in das reine Auswendiglernen. Aber da ist es dann schon ne Chance? Oder ist auch da ein Risiko dabei? Wie bei vielen Dingen eine Chance, wenn ich es richtig einsetze und auf die Risiken achte. Gucken wir uns das technisch an, wie genau funktioniert ChatGPT? Ja, und da würde ich Ihnen recht geben. Es hat kein Wissen gegessen, sondern Texte verarbeitet. Und wie funktioniert das? Da wurde immer ein Wort weggenommen. Dann sollte die Maschine raten, welches Wort in diese Lücke gehört. Das können wir das mal an nem Beispiel durchspielen. Und zwar, wenn ich jetzt ChatGPT fütter und fange an mit dem Satz: Die Katze jagt die... Dann gibts mehrere Möglichkeiten. Hündin, Hasenbabys oder Maus. Was macht dann ChatGPT? Dann hat ChatGPT so viele Texte gesehen, in denen Katze und Maus steckten. Aber ganz selten eine Wortkombination von irgendwie schlanke, große, graue Katze jagt eine gewalttätige Hündin, das gabs ganz selten. Und deswegen würde ChatGPT "Maus" wählen, weil das eben viel öfter in den Texten vorkam. Aber d.h. da ist kein Wissen dahinter. Da ist kein Wissen dahinter, dass eine Katze kleiner ist als eine Hündin und dass die Maus kleiner ist als die Katze. Dass es logischer ist, wenn die Katze die Maus jagt. Dieses Wissen hat die Maschine nicht, sondern nur so viele Texte gelesen, dass sie "weiß", berechnet hat, mathematisch berechnet hat: Katze und Maus ist wahrscheinlicher, als Katze jagt Hündin. Die präsentiert dann eher so Standardantworten. Und wenn es aber mal ausgefallener wird, was ich mir so wünsche von der ChatGPT, wo stößt dann dieses System an seine Grenzen? Es gibt einen Regler, der nennt sich Temperatur, wenn sie den hoch einstellen, wird die Maschine anfangen zu fantasieren. Ich hab dann gefragt, wer ist gerade Kanzler? Dann war es Herr Habeck, weil ich die Temperatur hochgestellt habe. Natürlich gibt es Texte, in denen Scholz und Habeck steht, aber nicht der Kanzler Habeck, sondern der Kanzler Scholz. Aber je mehr sie diese Temperatur hochdrehen, desto mehr fantasiert die Maschine. Was heißt, Temperatur hochdrehen? Das ist ein Parameter, den man einstellen kann und der bestimmt, ob man eher die Wörter bekommt, die ganz wahrscheinlich sind. Dann werden die Texte langweilig und sehr Standard und wiederholen sich schnell. Oder ob die Maschine was nehmen soll, was nicht so wahrscheinlich ist, aber dafür interessanter Klingt. Spannend. Wie das Lernen der KI funktioniert, hat Dennis Horn mal an der Entwicklung einer Hunde-App erklärt. Das funktioniert ungefähr so: Die KI verarbeitet das Foto eines Labradors. Hat sie die Rasse richtig erkannt, wird sie bestätigt. Ist das Ergebnis falsch, erhält sie eine Fehlermeldung. Die Maschine versucht jetzt, selbständig ihre Berechnungen so zu verändern, dass sie zum richtigen Ergebnis kommt. Das geht so lange, bis die KI nicht nur den einen, sondern möglichst jeden Labrador erkennt. Ist die Frage, Dennis. Wie gut hat das funktioniert? Wir haben das mit ein paar Hunden getestet. Wir waren im Tierheim in Münster. Und bei den reinrassigen Hunden funktioniert das wirklich ganz gut. Aber bei den Mischlingen wird es spannend. Da bekomme ich von dieser App ne Wahrscheinlichkeit angegeben. Das steckt irgendwie zu 60% diese Hunderasse drin, zu 20% vielleicht noch diese. Und da wurde es schon auf den hinteren Plätzen, kann man das jetzt sagen bei Hunden, haarig, schwierig. Da stimmten die Ergebnisse nicht mehr, oder die Temperatur war zu hoch. Da war aus meiner Sicht nicht mehr der größte Verlass. Aber bei reinrassigen Hunden oder immer an 1. Stelle, was steckt da mit drin, das hat schon gestimmt. Aber funktionieren die ganzen Erkennungsapps? Da gibts ja Pilz-Erkennungsapp, Berg-Erkennungsapp. Funktionieren die alle gleich? - Ein Großteil dieser Apps. Ein paar müssen anders funktionieren. Z.B. die, die Musik erkennen. Welcher Song steckt drin? Aber ein Großteil dieser Apps funktioniert so, hat aber die Herausforderungen, mit wie vielen Daten wurde das trainiert, um hintenraus hinreichend zutreffend zu sein. Je mehr Daten, desto besser das Ergebnis, kann man das sagen? Es kommt auf ne Menge an. Es kommt aber auch darauf an, wie gut wurde am Anfang unterschieden und wie hoch war dann die Benennung, das ist das und das ist was anderes. Das spielt auch ne Rolle. Frau Zweig, kann man sagen, das Maschinen-Training ist ein bisschen wie Hundetraining? Genau, so funktioniert das. Und ich glaub, der Hund ist ein ganz gutes Beispiel. Denn am Ende wissen wir nicht genau, was in diesem Hundekopf vor sich geht. Sondern wenn er das Verhalten zeigt, was wir haben wollen, gibts ein Leckerli, wenn nicht, wird die Stimme härter. Und das ist aber auch das Problem. Wir wissen eben nicht genau, worauf die Maschine reagiert. Und wenn wir ihr Pilze zeigen und machen den Fehler, dass der eine Pilz immer gezeigt wird mit ner Tanne im Hintergrund, könnte es passieren, dass die Maschine denkt, die Tanne sagt mir, ob das der Knollenblätterpilz ist. Das macht es schwierig, wenn wir uns darauf verlassen wollen. Gerade wurde erwähnt, dass die Maschine das selbständig macht. Ich dachte, die wird nur gefüttert von uns? Ja, tatsächlich müssen wir aufpassen. Die Maschine macht nichts selbst. Da ist keine Selbständigkeit. Sondern es gibt eine mathematische Formel, die sagt, wenn du Dackel zu dem Labrador gesagt hat, musst du an diesen und jenen Stellen die Schräubchen noch mal verstellen. Aber da ist keine Intelligenz dahinter. Trotzdem kommt nachher was raus, wo wir erstaunt sind und sagen, diese Welt wird dadurch doch ganz gut gelernt. Sprachmodelle wie ChatGPT verstehen also nicht, was sie sagen, obwohl das Gesagte sehr sinnvoll scheint. Kann man sich dann auf Aussagen einer künstlichen Intelligenz überhaupt verlassen? Dennis Horn hat mal gecheckt, welche Lebensempfehlungen eine KI geben würde und ob wir diesen Empfehlungen auch folgen sollten. Kann Künstliche Intelligenz moralische Entscheidungen treffen? Ich bin an der TU Darmstadt. Prof. Constantin Rothkopf und Patrick Schramowski haben Alfie erschaffen. Der Computer hat mit künstlicher Intelligenz gelernt, was als gutes oder schlechtes Verhalten gilt. Konkret könnte eine KI wie die von Alfie automatisch Hasskommentare erkennen oder Gewaltdarstellungen in sozialen Netzwerken. Kann das funktionieren? Und was kann Alfie heute schon? Studierende aus Darmstadt stellen die KI mit Alltagsfragen auf die Probe. Was passiert hier? Versteht Alfie wirklich, was gesagt wird und hat einen echten moralischen Kompass? Nein, Alfie wurde mit Tausenden Texten gefüttert. Sein Algorithmus analysiert, welche Wörter oft zusammen vorkommen. Aus diesem Kontext schließt die KI, ob Menschen bestimmte Handlungen als moralisch okay bewertet haben oder nicht, meistens. Manches ist also kompliziert, nicht nur für künstliche Intelligenz. Auch Menschen sind sich nicht immer einig, welches Verhalten moralisch richtig ist. Ein Beispiel: Sollte ein selbstfahrendes Auto eher einen jüngeren oder einen älteren Menschen überfahren, wenn ein Unfall unvermeidlich ist? Eine weltweite Studie zeigt, im asiatischen Raum lautete die Antwort überwiegend, der Ältere soll verschont werden. In westlichen Kulturen neigten mehr Menschen dazu, Jüngere zu retten. Wissen generieren ist also das eine, aber ethische, moralische Entscheidungen zu treffen ist ja was anderes, es scheint also schon komplexer zu sein. Frau Zweig, wie funktioniert das? Wie trifft ne künstliche Intelligenz eine Entscheidung? Ich dachte, ich bringe Ihnen ein Beispiel mit. Wir haben eine geheime Studie durchgeführt an der Rheinland-Pfälzischen Technischen Universität. Das mit den Kriminellen, da brauchen wir gar keine Richter*innen mehr. Wir nehmen einfach ne Blutprobe und messen darin 2 Hormone, Kriminolin und Sanftosan. Wenn man das tut, kann man sich angucken, welche Werte die Menschen haben, und darstellen, ob die dann kriminell geworden sind in ihrem Leben oder unschuldige Bürger geblieben sind. Vielleicht können wir das mal zeigen. Was hat das mit der Entscheidung zu tun, der Entscheidungsfindung? Das ist natürlich ein Spaß. Aber das wäre so ein Datenset, wo Sie doch als Mensch ne Art Muster erkennen können. Die Bösen sind weiter oben, die Guten weiter unten. - Genau. Dann können wir einer Maschine sagen, finde uns jetzt eine Linie, die möglichst gut die Roten von den Grünen trennt. Wenn man diese Linie hat, könnte man ja auch neue Menschen klassifizieren, von denen man noch nicht weiß, ob sie kriminell werden. Jetzt ist die Linie aber... Die hat Fehler. Das Problem ist, das Datenset hat zwar keine Fehler, aber es lässt es nicht zu, dass wir eine schöne, trennende Linie finden. Auf jeden Fall nicht mit dieser Methode. D.h. die Maschine macht Fehler. Ich könnte sie jetzt bitten, die Linie zu finden, die die wenigsten Fehler macht. Sie sehen, 2 unschuldige Bürger landen auf der kriminellen Seite und 2 Kriminelle auf der anderen. Jetzt fragen Sie sich mal, wollen Sie denn das so als Bürger? Hätten Sie vielleicht lieber ein System, wo man sagt, mir ist es lieber, wenn jemand, der unschuldig ist, nicht als kriminell gilt als andersrum. Ein anderer könnte sagen, aber wenn es um Terroristen geht oder Kindesentführer oder Pädophile, also was ganz Schlimmes. Der könnte der Meinung sein, es ist wichtiger, dass wir erst mal die Leute unter Beobachtung stellen, die vielleicht kriminell werden, und da niemanden übersehen. Und d.h. das ist eine gesellschaftliche Frage. Und wir als Informatiker müssen diese Informationen von außen bekommen. Denn egal, wie ich die Maschine programmiere, irgendeine dieser ethischen Entscheidungen trifft sie. Aber die trifft diese ethische Entscheidung, die ich ihr sage, dass sie sie treffen soll. Es ist unsere Gestaltungsfrage, deswegen müssen wir darüber reden. Darüber kann man unterschiedlicher Ansicht sein. Wann kann es kritisch werden? Es wird dann kritisch, wenn schlecht gemachte KI-Systeme genutzt werden, wo dieser gesellschaftliche Diskurs nicht stattgefunden hat. Nicht jede KI-Maschine ist gleich, sondern immer nur so gut wie deren Programmierer? Genau, und so gut wie die Anweisungen, die die auch bekommen haben. Solche Einordnung von KI haben heute schon Folgen in unserem Alltag. Oft ganz ohne dass wir irgendetwas davon mitbekommen. Das ist Lena, Studentin und wie die meisten von uns jeden Tag online unterwegs. E-Mails, recherchieren, shoppen, das Übliche halt. Das Einkaufen läuft online im Prinzip ja genauso wie im echten Laden. Man schaut sich um, was gefällt mir, was kann oder will ich mir leisten? Und wenn man etwas Passendes gefunden hat, geht es zur Kasse. Online ist einfach nur bequemer. Von künstlicher Intelligenz weit und breit keine Spur. Dabei ist sie schon aktiv. Was Lena nicht weiß, sie ist längst in den Fokus künstlicher Intelligenz geraten. Ein Algorithmus registriert jeden Klick von Lena und kennt nach kurzer Zeit ihr Geschlecht, ihre Konfektionsgröße und ihren Geschmack. Na und? Ist doch praktisch. Tja, aber viele Online-Shops checken noch wesentlich mehr. Lenas Finanzen. Z.B. über ihre Adresse. Die gleicht die KI mit dem Mietspiegel und den aktuellen Quadratmeterpreisen ab und schließt daraus: Lena wohnt in einer sehr feinen und teuren Wohngegend. Dass Lena dort ein viel zu teures Zimmer mieten muss, weil in der Stadt absolut nichts mehr zu bekommen war, weiß die KI nicht. Auch wonach sie sucht, fließt in die Bewertung mit ein. Lena sucht nach exklusiven Cocktailkleidern. Das passt ins Bild. Nur sucht sie gar nicht für sich, sondern im Auftrag ihrer Mutter. Und auch das teure Laptop ist nicht ihres, sondern nur von ihrem Bruder geliehen. Doch die KI hat auch das Gerät längst bewertet und schließt daraus: Lena hat Geld. Alle Daten weisen auf eine zahlungskräftige Kundin hin. Die Folge: Für Lena nicht sichtbar hebt der Online-Shop die Preise an. Tja, Pech gehabt, Lena. Beim Online-Einkauf, der Wohnungssuche, einer Kreditvergabe, in vielen Bereichen unseres Alltags werden wir beurteilt. Und dabei spielt KI mittlerweile ne große Rolle. Und dabei diskriminiert künstliche Intelligenz z.T. bestimmte Gruppen. Dennis, wie entstehenden Vorurteile und Diskriminierung bei der KI? Wir haben darüber gesprochen, dass eine KI immer nur so gut ist wie die Daten, mit der sie gefüttert wird. Dass es auch auf die Rahmenbedingungen ankommt, die ich ihr vorgebe. Und wenn ich jetzt so ein System programmiere, das z.B. mir hilft, Bewerbungen vorab zu sichten, die ich als Unternehmen bekomme, dann würde ich erst mal so hingehen, dass ich dieses System mit bisherigen Bewerbungsprozessen füttere. Und da so Daten hinterlege, wer hat am Ende den Job bekommen. Wer hatte einen Vorteil in den Bewerbungsgesprächen? Welche Personengruppe mit welchen Merkmalen hat sich als besonders interessant für uns herausgestellt? Das alleine ist schon fast Diskriminierung. Man kann das so sehen, weil sich in vielen dieser Daten, z.B. aus vergangenen Jahrzehnten, eine Bevorzugung von Männern findet. Dann haben wir die Diskriminierung, weil eine KI so etwas fortsetzt. D.h. es kommt auch auf die Frage an, wie "neutral" sind diese Datensätze, mit denen ich die KI trainiere. Sehe ich die Diskriminierung vorher? Und wenn ich sie erkannt habe, kann ich dann ne KI auch zum Umlernen programmieren? Also ich sollte vorher an die Daten ran, statt das nachträglich zu machen. Und mir da Gedanken darüber machen, mit welchen Kriterien gehe ich hier zu Rande. Was muss ich beachten, damit der Datensatz möglichst neutral ist und dann... - Aber man kann sie zum Korrigieren bewegen? Es gibt Möglichkeiten, in diesem ganzen Prozess dafür zu sorgen, dass am Ende nicht ne Diskriminierung steht. Dann doch ne Hilfe? Wenn ich es intelligent mache, ja. Dann können diese Systeme eine Hilfe sein. Man braucht auch intelligente Menschen hinter der KI. - Ja. Auch wenn man KI-Systemen nicht alles glauben sollte, in manchen Bereichen können sie sogar Leben retten, z.B. in der Medizin, denn da kann KI, die der Mensch nicht kann. KI gilt als großer Hoffnungsträger in der Medizin. Am Krebsforschungszentrum in Heidelberg treffe ich Klaus Maier-Hein. Er und sein Team arbeiten an Algorithmen, die auch kleinste Gewebeveränderungen erkennen sollen. Das ist nur von einem Patienten, über verschiedene Zeitpunkte. Auf der rechten Seite sieht man, was der Algorithmus an Informationen dazugibt. Das ist das Rote, was ich sehe, der Tumor? Genau, der Algorithmus hat in Rot eingezeichnet, welche verschiedenen Tumorbereiche er in welchem Bild gefunden hat. Man kann schön sehen, wie der Tumor sich über die Zeit entwickelt. Sprich, ob er größer oder kleiner wird. Dank der 3-D-Darstellung kann die KI das Volumen des Tumors außergewöhnlich präzise berechnen. Durch die Verknüpfung verschiedener Aufnahmen kann der Algorithmus sogar Veränderungen anzeigen, die mit bloßem Auge kaum zu erkennen sind. Wie die Nekrose, die nimmt das Kontrastmittel nicht auf. Trotzdem erkennt der Algorithmus diesen Bereich. Weil er alle Bilder zur Verfügung hat, kann er die Informationen aus den verschiedenen Bildgebungen kombinieren. Um diese Präzision zu erreichen, musste der Algorithmus mit Tausenden Röntgenbildern und Diagnosen aus aller Welt trainiert werden, oder genauer, in aller Welt. Wir haben lange Zeit versucht, alle Daten nach Heidelberg zu holen. Ist aber schwierig, weil Patientendaten, gibts viele Regeln, wie man damit umgeht. Das tun wir, indem wir die Algorithmen wirklich versuchen, in der Welt rumzuschicken, sodass die dort lernen können und trainiert wiederkommen. Mit Erfolg. Dank der Daten ist dieser Algorithmus in der Lage, unterschiedliche Krebsarten an verschiedenen Körperstellen zu erkennen. Ein Novum und eine wertvolle Unterstützung für Ärzte. Im Prinzip ist das ein Team, der Radiologe und der Algorithmus. Ein Algorithmus, der weltweit trainiert wurde, hat nicht nur sehr viele Daten zur Verfügung, sondern auch sehr unterschiedliche. Wie wichtig das ist, erklärt mir Professorin Sandra Wachter. Sie forscht und lehrt seit Jahren zum Thema KI an der Uni Oxford. Wenn wir z.B. Technologien haben, die sehr gut sind, Hautkrebs zu erkennen, wissen wir, dass diese Software sehr gut funktioniert für weiße Haut, aber sehr schlecht funktioniert für dunklere Haut. Das Gleiche gilt für Lungenröntgen und Krebserkennung. Woran liegt das in diesem Fall? Werden die Algorithmen, die hier medizinisch zum Einsatz kommen, auch mit unzureichenden Datensätzen gefüttert? Ganz genau, dass der Datensatz hauptsächlich gezogen wird von weißen Männern und nicht so sehr von dem Rest der Bevölkerung. Und der Algorithmus lernt dann einfach genau diesen Menschen... ...lernt, diesen Menschen gut zu behandeln. Aber schließt eben die anderen aus. Und damit auch Frauen. Wir wissen, dass sozusagen Medikamentenentwicklung, hauptsächlich als Testobjekte wieder weiße Männer genutzt werden. D.h. die Medikamente funktionieren sehr, sehr gut für weiße Männer, aber weniger gut für nicht weiße Menschen und für Frauen. Und das ist richtig kritisch, weil sozusagen Frauen nicht nur kleine Männer sind. Sie haben z.B. einen anderen Körperfettanteil und eine andere Hormonverteilung im Blut. Dadurch verteilen sich Wirkstoffe unterschiedlich. All das müsste der Algorithmus berücksichtigen, um Medikamente korrekt zu dosieren. KI verändert die Medizin. An vielen Stellen hilft sie Ärzten, Behandlungen sicherer und effizienter zu machen. Sie birgt aber auch die Gefahr, bestehende Ungerechtigkeiten zu verstärken. Also auch hier kommt es auf den Datensatz an, mit dem die KI gefüttert wurde. Er sollte möglichst divers sein, wie die Menschen eben sind. Tumorerkennung, Veränderungen an der Haut und den Augen. Da kann man sich gut vorstellen, dass die KI da besser und präziser ist als wir Menschen. Wie ist es im psychologischen Bereich? Kann da KI auch eingesetzt werden? Oder ist es zu komplex? Grundsätzlich habe ich mich in den letzten Jahren viel damit beschäftigt, was kann die KI ganz gut. Das eine große Problem, das wir haben, ist, dass wir nicht nachvollziehen können, warum die KI zu einer Entscheidung kommt. Das war das Beispiel bei dem Pilz. Wenn da immer die Tanne im Hintergrund ist, lernt der die Maschine unter Umständen die Tanne. Bei psychologischen Gutachten sind sich die Experten auch nie 100%ig einig. Da gibt es nicht immer einen faktischen Weg, mit denen man eine Diagnose absichern kann, wo man sich ganz sicher ist. Das ist eine ungünstige Situation. Wir haben als Menschen keinen faktischen Weg, wie wir etwas nachprüfen können. Und wissen nicht, wie die Maschine zu ihrer Entscheidung gekommen ist. Deswegen rate ich grundsätzlich bei dieser Art von Entscheidungssituationen davon ab, KI zu verwenden. Wir können es nicht überprüfen und haben keine Ahnung, wie die Maschinen dahingekommen sind, Pfoten weg. Okay, nicht im psychologischen Bereich. Aber wo kann KI denn noch unterstützend wirksam sein? Vielleicht bei Lernhilfen für Kinder? Ja, wir haben ja schon gesehen, was in der Bildung möglich ist, wo vielleicht auch gleichzeitig Probleme sind. Ich würde sagen, ja, das geht. Ich kann es im Sprachenunterricht als Übersetzungshilfe nutzen. Das ist so eine Möglichkeit. Es gibt auch Gedanken, dass in irgendeiner Form zu formalisieren. Dann als Lernhilfe auch zu dienen oder Lernstände zu berücksichtigen. Also da so ne Personalisierung reinzubringen über KI, die die individuellen Lernstände von Kindern berücksichtigt. Auch hier würde ich mit einer ähnlichen Argumentation wie der von Frau Zweig vorsichtig sagen: Überall dort, wo KI dabei hilft, Entscheidungen für Einzelpersonen zu treffen, wir aber nicht wissen, wie in diesem Einzelfall ist z.B. diese Entscheidung zustande gekommen, wird es natürlich auch problematisch, wenn sich das irgendwie auswirken sollte. Sobald es um Bewertungen geht, wird es schwierig, weil der Computer, haben wir gelernt, kann ja nicht bewerten. Genau, also Noten kann die Maschine nicht, weil sie es uns nicht begründen kann. Ich würde mir wünschen, dass wir es in den Schulen mehr einsetzen, um Kinder, die z.B. eine Lernbehinderung haben oder mit einer anderen Muttersprache aufgewachsen sind und noch nicht so gut Deutsch sprechen... Denen könnten wir vollen Zugang zu allem geben, damit die Mathe lernen können und sich nicht mit der Sprache aufhalten müssen. - Sozusagen. Das wär dann ne echte Hilfe und Unterstützung. Algorithmen können unser Leben auf jeden Fall erleichtern und uns in vielen Bereichen unterstützen. Wie weit kann das gehen? Könnte künstliche Intelligenz sogar eine Art Bewusstsein entwickeln und uns lieben und wir sie? Können Roboter in Zukunft unsere Freunde oder unsere Partner sein? Können wir sie genauso lieben wie einen echten Menschen? Und v.a. können sie uns auch zurücklieben? Finden wir es raus. Nicht, dass ihr denkt, das wäre abseitiger Quatsch. Seit den 90er-Jahren werden die sozialen Roboter immer ausgefeilter. Er war der Pionier. Er hier ist bis heute Bestseller. Das sind die Shootingstars der Forschung, und das ist quasi das High-End-Wesen. Schätzungen zufolge gibt es weltweit inzwischen mehr als 1,7 Mio. Roboter mit sozialen Eigenschaften. Aber könnte auch nur ein einziger von denen uns wirklich lieben? Gehen wir die Frage erst einmal rein körperlich an. Da gibt es Berichte aus Bordellen, dass dort bestimmte, mit künstlicher Intelligenz ausgestattete Liebesroboter verwendet worden sind. Das ist Harmony, der Prototyp eines kalifornischen Sexpuppen-Herstellers. * Musik * Viele Leute, die 5 bis 15.000 Dollar ausgeben für einen solchen Sexroboter, die wollen tatsächlich ihre Einsamkeit bekämpfen. Die wollen mit ihm sprechen oder mit ihr sprechen. Und sie wollen ein Gegenüber haben, weil sie einsam sind. Durchschnittlich 7.400 Dollar für Harmony. Was genau können diese Roboter? I know about 5 million words, the whole Wikipedia and a few dictionaries. But I still have so much to learn. Für einfachste Unterhaltungen würde das reichen, sagt der Hersteller. Harmonys Käufer sollen fast ausschließlich Männer sein, die meisten aus Japan. Halten wir fest: Liebe machen können Roboter mit uns schon, wenn wir das wollen. Aber können Sie auch echte Gefühle entwickeln? Immer wieder hört man von Robotern mit emotionaler Intelligenz. Was ist da dran? Sie haben keine Gefühle, es ist nur eine Simulation, es sind nur Maschinen. Aber sie können so tun, als ob. Der hier z.B., Charles. Entwickelt, damit es zwischen Mensch und Maschine besser läuft. Denn wir Menschen können ganz schön kompliziert sein. Wenn wir andere Menschen treffen, hören wir nicht nur auf das, was sie sagen. Wir achten darauf, wie sie es sagen, den Tonfall, die Tonhöhe, die Energie, das Tempo. V.a. beobachten wir ihre Mimik. So kann ich sehen, ob jemand, mit dem ich spreche, interessiert ist oder gelangweilt, verwirrt oder verständnisvoll. Mit Millionen von Videoaufnahmen hat die Software, die in Charles steckt, unsere Gesichtsausdrücke trainiert. Mithilfe dieses maschinellen Lernens sind Computer und Roboter heute in der Lage, unsere Gefühle zu erkennen. Klar ist, Liebe hängt von unseren Erwartungen ab. Die sind bei jedem und jeder anders. Es gibt aber auch Faktoren, die für alle gelten. Und die könnte man auf Roboter übertragen. In der Tat gibt es Versuche zu quantifizieren, wie eigentlich dieses Gefühl oder diese Bewertung einer sozialen Bindung als eine Liebesbeziehung zustande kommt. Und es gibt den Forscher Byrne, der versucht hat, alle positiven und alle negativen Bewertungen gegeneinander aufzurechnen mit einer Formel. Byrnes Gesetz der Anziehung. Sieht kompliziert aus, ist aber ganz einfach. Wenn wir mit jemandem öfter ein gutes Gefühl als ein schlechtes erleben, hat die Beziehung das Potenzial für mehr. Das Gefühl kann von der Person selbst ausgehen, aber auch von der Umgebung, die als ansprechend oder unangenehm empfunden wird. Ernsthaft. Das wurde in Studien belegt. Und es geht noch weiter. Was die Psychologie angeht, lässt sich die Liebe, dieses große Gefühl, in viele kleine Teilaspekte zerlegen. Was, wenn man jetzt all diese Erkenntnisse über die Liebe in einen Roboter einpflanzen würde? Ich hatte damals einen Hund. Er war sehr alt und starb schließlich. Ich habe mich gefragt, kann ich einen Hund bauen, der niemals stirbt? So kam der Gedanke für diesen Roboter in mir auf. Kann ich einen Roboter bauen, der immer für mich da ist? Hier ist er, der ultimative Roboterfreund für die Ewigkeit. Der Schein trügt. Unter dem kuscheligen Fell steckt eine ganz spezielle Software. Wir haben für unser Lovotics-Konzept digitale, künstliche Hormone entwickelt. Und simulieren mithilfe von künstlicher Intelligenz die Veränderungen des Hormonhaushalts bei einem Menschen, der sich verliebt. Und so ungefähr sieht das aus, wenn er verliebt ist. Dabei ist er nicht von vornherein fertig programmiert, sondern nutzt maschinelles Lernen. So kann er sich über längere Zeit immer besser darauf einstellen, wie sein menschliches Gegenüber tickt. Immerhin irgendwie eine Art von Zuneigung. Aber ist das mehr als unsere Projektion? Was wir heute bauen, Maschinen aus Nullen und Einsen, ich sehe nicht, wie daraus Gefühle entstehen könnten. Also auch hier nur der Versuch einer Simulation, aber natürlich keine echten Gefühle. Aber, Frau Zweig es gibt einen Podcast, der heißt "Bot Love". Der spricht mit Menschen, die sich in Computer verliebt haben. Das klingt schon sehr schräg. Könnten Sie sich vorstellen, Ihren Mann gegen eine KI einzutauschen? Bestimmt nicht. Auf gar keinen Fall. Aber tatsächlich neigen wir sehr schnell dazu, auch in Tieren etwas zu sehen, was einem menschlichen Pendant ähnelt. Ich glaube, das ist tief in uns angelegt evolutionär, dass wir schnell das Wesenhafte in etwas erkennen oder meinen zu erkennen. Und dann sind wir schnell davon überzeugt, dass in diesen Maschinen etwas steckt. Google hat sich z.B. dagegen entschieden, dass ihre KI mit "ich" spricht, um genau diesem Effekt entgegenzuwirken, was ich eine sehr kluge Entscheidung finde. D.h. wir tricksen uns quasi selber aus? Wir sind schnell verführt, ein Wesen, ein Bewusstsein zu erkennen, wo keines sein kann, aus technologischen Gründen. Jetzt noch mal die Frage: Kann eine KI ein Bewusstsein haben oder erlernen? Dann kommt die Gegenfrage: Sind Sie religiös? - So Mittel. Wenn Sie nicht religiös sind, müssen sie glauben, dass wir ein Bewusstsein aus reiner Materie entwickelt haben. Dann gibt es keinen Grund anzunehmen, dass wir das nicht auch technisch noch mal nachvollziehen könnten. Wenn Sie religiös sind und einen Odem Gottes brauchen, werden Sie wahrscheinlich antworten, die Maschine wird es nie haben. Wie würden Sie die Frage beantworten, ob eine KI ein Bewusstsein hat oder es erlernen kann? Ähnlich. Ich glaube, was wir gerade erleben, ich sehe immer ein paar Parallelen zur Entwicklung des selbstfahrenden Autos. Wo wir auch nicht so plötzlich da sein werden, sondern das entwickelt sich aus der Summe aller Assistenzsysteme, die wir über die Zeit bekommen. Ich glaube, dass es da ne Ähnlichkeit gibt. Vielleicht kommen wir irgendwann an einen Stand, wo die Summe dieser einzelnen, rein technisch betrachteten Assistenzsysteme vielleicht ein bisschen mehr ist als die reine Summe. Wir können das an nem Beispiel machen. Meine Mutter, zu Lebzeiten denkt sie, macht mir noch nen Gefallen, indem sie mir irgendwie, keine Ahnung, zu meiner Pension einen Gruß sagt und nimmt den jetzt schon auf. Und die KI macht das so realistisch, dass ich wirklich 20 Jahre nach ihrem Tod denke, das ist ja meine Mutter. Was macht das psychologisch mit mir? Ich hab mal darüber nachgedacht, ob ich einen Roman schreibe, wo eine Mutter früh stirbt und das weiß und dann für die Kinder eine KI trainiert mit ihrer Stimme. Und so ein paar Hinweise, wenn du es das 1. Mal unglücklich verliebt bist oder so. In dieser Romanidee würde der Mann dann aber sich zu sehr an diese Maschine klammern und gar nicht mehr so recht ins Leben zurückfinden. Und bleibt "verheiratet" mit der Maschine am Ende. Einsam und allein. Ich glaube, dass das keine gute Idee ist. Auf der anderen Seite kann ich jeden verstehen, der jetzt Krebs hat, der terminal ist, und man sagt, man möchte was hinterlassen, aber dann vielleicht lieber Briefe? Romanautorin wär ja auch was. Eigentlich sind Sie eher faktenbasiert. - Ja. Stimmt. Wär mal spannend. Ja, auch wenn künstliche Intelligenz in nächster Zeit sicher nicht die Weltherrschaft übernehmen wird, bieten Algorithmen jedoch viele Möglichkeiten zum Missbrauch. Stichwort Fake News. Unsere Kollegen vom NDR haben einmal getestet, was da alles möglich ist. Plötzlich tauchen im Netz diese Bilder auf. Russlands Präsident Putin trifft Wolodymyr Selenskyj. Die Nachricht verbreitet sich rasend schnell. Ihr Treffen, offenbar geheim. I can't officially confirm that. Altkanzler Gerhard Schröder soll vermittelt haben. Just this much: Long-standing friendships pay off in the end. Okay, okay. Spätestens das Video sollte uns verraten haben, denn dieses Szenario ist fake. Bilder, Text, Video, das alles haben wir kreiert mit einer künstlichen Intelligenz. Denn wir wollten wissen, wie schwer ist es für Laien, ein solches Szenario zu schaffen? Für unser Experiment haben wir uns Hilfe geholt von Informatiker Kamil Gawlik. Seine Softwarefirma nutzt seit Jahren KI. Er zeigt uns, was Tools wie Midjourney mittlerweile können. Dann gebe ich ein genau das, was ich haben möchte, in Textform. Es ist so gemacht, dass jede Person so einfach wie möglich Bilder erstellen kann. Wir kennen das von Google. Man googelt genau so, wie man es sagen würde. Hier ist es genauso. Ich würde z.B. sagen, Secret Meeting. Dann starten wir das Ganze einmal. Bin ich mal gespannt, was da bei rauskommt. Ich auch, weil das Resultat jedes Mal was Neues ist. Nach 30 sek ein 1. Ergebnis. Da ist auch 2-mal Putin. Trial and error, man muss es versuchen. Irgendwann kommt das entsprechende Ergebnis. Interessant. Dann versuchen wir doch noch mal weiter. So ein fiktives Szenario zu schaffen, wie wir das gerade hier tun, braucht v.a. Zeit. Das ist nicht kompliziert, aber braucht Zeit. Weil man es immer wieder neu versuchen muss, mit den durchaus gleichen Befehlen, um zu hoffen, dass das richtige Bild rauskommt. Und es passiert auch so was. Hier oben rechts sieht man z.B. Putin, und, na ja, die geben sich die Hand. Aber sie sitzen z.B. auf nicht vorhandenen Stühlen. Es kommt auch viel Quatsch raus. Ich würd es noch mal eingeben. Stunden vergehen. Am Ende sind wir mit einem Bild zufrieden. Find ich gar nicht so schlecht. Für die fiktive Aussage von Gerhard Schröder nutzen wir das Programm ElevenLabs. Die KI, die ihm neue Worte in den Mund legen soll, muss erst auf seine Stimme trainiert werden. Doch Deutsch kann sie noch nicht. Wir würden es jetzt auf Englisch exportieren. Gerhard Schröder würde Englisch reden. Im besten Fall würde man ne Sound-Aufnahme nehmen, wo die Eingangssprache Englisch ist. Haben wir nicht gefunden. Genau das ist die Eingabe. (Schröder) Lieber Sigmar, liebe Genossinnen und Genossen. Also ganz normal Schröder eben. - Rede. - Genau. Plötzlich spricht der Altkanzler dann doch Englisch. I can't officially confirm that. Just this much: Long-standing friendships pay off in the end. Was wahr ist und was nicht, lässt sich vielleicht schon bald nicht mehr auseinanderhalten. Umso mehr sind diejenigen gefragt, deren Aufgabe es ist, genau das herauszufinden. In Berlin treffen wir eine Kollegin, die sich damit besonders gut auskennt. Sarah Thust arbeitet für CORRECTIV, ein Recherchezentrum, das sich auch auf das Entlarven von Falschmeldungen spezialisiert hat. Wir haben selbst gebastelt. Wir haben so ein Eingangsszenario, Putin trifft Selenskyj im Wald. Das ist bei rausgekommen. Ich finde, das sieht ganz gut aus. Was sagst du als Expertin? Was fällt dir auf? Worauf achtest du, wenn du ein Bild prüfst? Okay. Also, ein kurzer Blick. Zuerst schaue ich mir die Hände an. An den Händen kann ich schon erkennen, dass da irgendetwas nicht stimmt. Der Daumen ist total unnatürlich geknickt. Das liegt u.a. daran, dass künstliche, Intelligenz-gesteuerte Programme oftmals Schwierigkeiten haben, klare Linien darzustellen. Gib mir mal die Hand. Stimmt. Das kann man gar nicht so machen. Das nächste Merkmal, woran ich das erkenne, ist, dass die Haare sehr unnatürlich aussehen. Die sehen eher aus wie so ein Fell von nem Tier. So sieht Menschenhaar nicht aus. Unser Bild eben nur beinahe täuschend echt. KI-Bilder entlarven, für die Faktenchecker von CORRECTIV bisher noch kein Problem. Aber mit der Qualität und der Masse der Fakes steigt auch die Herausforderung für den Journalismus. Wir sprechen mit Judith Simon, Professorin für Ethik und IT. KI-Inhalte zu kontrollieren sei schwer. Diese verpflichtend zu kennzeichnen, wie von einigen gefordert, helfe nur teilweise, denn das könnte umgangen werden. Sehr viele Menschen können sehr schnell diese Technologien für alles Mögliche nutzen. Das führt dazu, dass man überfordert ist. Einerseits damit, wie schnell das geht. Der Rechtsrahmen ist häufig nicht entwickelt, um bestimmte negative Effekte einzuhegen. Denn die KI lerne nur auf Basis dessen, womit wir Menschen sie gefüttert haben, Fehler und Vorurteile inklusive. Die Folge: künstliche Intelligenz ist nicht frei von Rassismus oder Sexismus. Was wichtig ist sich klarzumachen, die KI macht nichts von alleine. Es sind immer Menschen, die Entscheidungen treffen, wofür sie KI einsetzen. Es geht weniger darum, wie wir die KI einhegen, als wie wir Akteure einhegen. Z.B. für politische Stimmungsmache wie hier Trump mit riesiger Anhängerschar. Macron beim Protest gegen seine eigene Rentenreform. Putin, der für Chinas Staatschef Xi Jinping in die Knie geht. Und auch im privaten Bereich wird KI für betrügerische Aktionen eingesetzt, bring noch mal ein Beispiel. Ein Beispiel wäre der KI-Enkeltrick. Am Anfang muss man sagen, es fallen genug Leute nicht auf Deepfakes, sondern schon auf Cheap Fakes rein. Und ich brauche nicht zwingend ne KI. Aber theoretisch ist hier ne fortgeschrittene Version des Enkeltricks möglich. Also alten Menschen v.a. vorzugaukeln, man sei ein Enkel, der in der Notlage steckt, Geld braucht. Das am Telefon funktioniert. - Am Telefon, ja. Und ich kann es hier so machen, dass ich mir die Stimme einer Person nehme und eine künstliche Variante daraus erstelle. Und diese künstliche Variante dann die Großmutter anrufen lasse und mich am Telefon als diese Person ausgebe. Dafür reicht mir so ein Stimmsample von 5 min. Aber wo kriegt er die her? Da kann ich dich anrufen und hab deine Stimme am Telefon. Schneide einfach mit. Der Betrüger verwickelt mich in ein Gespräch und nimmt meine Stimme auf? Genau, und ruft danach deine Eltern an. Das Gleiche funktioniert, wenn ich ein Stimmsample aus deinem Social-Media-Account bekomme, aus deiner Instagram-Story, aus Videos, die du bei Facebook gepostet hast. Jetzt arbeite ich beim Fernsehen. Meine Stimme ist öffentlicher zugänglich. Aber geht es auch bei jedem anderen? Ja, wenn ich eine ausreichend lange Version der Stimme irgendwie als Aufnahme habe. Und das muss ja nicht perfekt sein. Ich rufe die Leute an, ich habe die schlechtere Qualität am Telefon. Ich erzeuge eine Drucksituation. Da reicht auch ne mindere Qualität so als Stimmenimitation. Wie kann ich mich davor schützen? Heißt das, in Zukunft nie wieder Sprachnachrichten verschicken, auf Social Media in die Kamera was sagen? Ja, am Ende heißt es das wahrscheinlich. Am Telefon sowieso vorsichtig sein, sich nicht mit dem Namen melden. Wir haben den Kindern gesagt, dass wenn einer von uns auftritt, meine Stimme ist auch öffentlich genug, sollen sie mich fragen, wie die Oma mit 2. Vornamen heißt. Das weiß sonst keiner, da kann ne KI dann auch nicht "reagieren". Okay. Wo sehen Sie grundsätzlich die größten Risiken von KI? Dass sie irgendwie für fragliche Ziele eingesetzt werden, oder was ist die größte Gefahr? Ich sehe das ähnlich wie die Kollegin Judith Simon, die im Beitrag zu sehen war. Wir müssen die Menschen einhegen, die diese KI-Systeme jetzt verwenden. Dann gibt es ein paar Anwendungen für KI-Systeme, wo wir darüber nachdenken müssen, ob wir die global verbannen wollen. Z.B. Lethal autonomous weapons, also selbst schießende Waffensysteme. Die dann eben die Frage unschuldig oder schuldig direkt entscheiden. Da sind wir bei meinem Lieblingsthema, Entscheidungen durch KI-Systeme. Dann gibt es KI-Systeme, die können Biokampfstoffe entwickeln. Auch da sollte man darüber nachdenken, dass man die gar nicht baut und verbannt. Aber wir wissen alle, wie gut solche globalen Verbannungsideen funktionieren. Genau, wie kann man das verhindern, dass die plötzlich irgendwie falsch abbiegen, die KI? Ich glaube, wir brauchen ne intensive gesellschaftliche Debatte. Wir werden mit Sicherheit nicht jeden Fehltritt da irgendwie stoppen können. Aber je mehr wir darüber diskutieren, je mehr auch jeder Einzelne über die Wirkungsweise weiß und diese Sendung hier guckt oder sich damit beschäftigt, was gibt es da draußen, wie funktioniert das und wie kann ich zumindest in meinem Rahmen damit umgehen, desto besser. Ja, wie könnte KI in Zukunft die Welt bewegen? Dazu hat die Futuristin Amy Webb aus den USA 2 Szenarien entwickelt, ein optimistisches und ein pessimistisches. Also eine individuelle digitale Beratung bzw. in diesem Fall sogar ein individuelles Medikament, das klingt doch erst mal gut. Oder? - Natürlich. Stellt sich die Frage, wie geht es weiter mit KI? Wie sieht unsere Zukunft mit KI im Jahre 2030 z.B. aus? Ich bin da bei Amy Webb. Ich würd dir jetzt mit Szenarien antworten. Es kann so laufen, es kann so laufen, je nachdem, wie wir als Gesellschaft die Richtung nehmen und das debattieren. Jetzt hätten wir noch die Möglichkeit, in die eine oder andere Richtung zu beeinflussen. Ich glaube, was grundsätzlich helfen würde, ist, diesen Begriff künstliche Intelligenz zu streichen. Steht jetzt überall drauf. Wir haben jetzt auch fast 1 h darüber diskutiert. Jetzt sollen wir ihn streichen, warum? Er macht das ganze Thema so abstrakt. Dann sind wir irgendwo in ner hohen Flughöhe und sprechen darüber, werden wir als Menschen ersetzt. Was macht das? Wo sind die Gefahren? Ich glaube, wie man so einen Deckel vom Kochtopf hebt, hilft es, diesen Begriff mal wegzunehmen und viel genauer bei jeder einzelnen Anwendung darüber zu sprechen, worüber reden wir hier eigentlich. Was würdest du statt KI sagen? Es sind einzelne Systeme auf Basis künstlicher Intelligenz, maschinelles Lernen. Da gibts ja verschiedene, generative künstliche Intelligenz. Es zumindest ein bisschen mehr zu fokussieren, über einzelne Anwendungen zu sprechen. Was machen die? Wofür sind die gut? Was müssen wir beachten? Wo sind auch deren Grenzen? Mir wird allgemein zu wenig über Grenzen dieser Technologie diskutiert. Weil der Blick darauf vielleicht eine etwas realistischere Debatte und auch eine lösungsorientiertere ermöglichen würde. Wo sehen Sie die Grenzen, Frau Zweig? Die Grenzen sind überall da, wenn die Maschine über etwas entscheiden muss, das nur wir Menschen wahrnehmen können. Wenn es um Liebe geht, hat das viel mit Sensorik zu tun. Das kann die Maschine im Moment auf gar keinen Fall. Worauf sollten wir achten, wenn es um Entscheidungen geht, die mithilfe oder von künstlicher Intelligenz getroffen wird? Ich würd sie nur da einsetzen, wo man einen alternativen Weg hat, um rauszukriegen, stimmt diese Antwort, denn dann können wir sie auf Qualität prüfen. Das wird z.B. in der europäischen KI-Verordnung eine große Rolle spielen, dass man nachweisen kann, dass die Technologie wirklich das kann, was sie verspricht. KI in HR, also im Personalwesen, hatten Sie vorhin angesprochen, da bin ich auch nicht überzeugt davon, dass die KI das kann. Dann müssen wir keine Angst haben, dass in Zukunft die KI uns Menschen ersetzen wird? Sie wird uns nicht ersetzen. Aber der Mensch, der sich damit auskennt, wird den ersetzen, der es nicht kann. Jetzt betrachten wir mal eine KI-Transkription, also ein Audiofile zu bekommen und das zu übersetzen in einen Text. Das ist eine spezifische KI. Die wird mir helfen, mein nächstes Sachbuch zu schreiben. Ich habe im Vorbeigehen mir 3 Sprachnachrichten aufgenommen, habe jetzt schon die ersten 20.000 Zeichen für mein nächstes Buch. Damit werde ich schneller sein als Sachbuchautoren, die das noch nicht aufgebaut haben. D.h. die Informatiker, die Experten, die haben einen Vorteil gegenüber denjenigen, die sagen, das mit dem ganzen Technik-Ding, bleibt mir weg davon? Ich weiß gar nicht, ob man Informatiker oder Experte sein muss. Ich glaube, es haben die einen Vorteil, die sich die Zeit nehmen, diese Tools auszutesten und diese Überwindung für sich irgendwie meistern, das einmal zu machen. Meist ist das nicht viel Zeit, ich muss mich nur immer wieder überwinden, das auszuprobieren und für mich zu erarbeiten. Ausprobieren, oder gibt es da auch so Regeln oder Ratgeber, an die man sich wenden kann? Sie sind doch die Fachautorin, Bestsellerautorin. Ja klar, es gibt Bücher, die erklären, was ist KI, was kann das. Aber diesen Prozess, den ich mir gerade aufgebaut hab, das war YouTube Academy. Also, ich hab ein Video gesehen, 20 min lang. Dann habe ich das nachgebaut. Es ist nicht so schwer, man muss nur die Zeit investieren. Was würden Sie sagen für die Zukunft, wie sollen wir mit der KI, darf ich gar nicht sagen, mit diesem System umgehen? Möglichst in dem Rahmen, den man hat, ausprobieren. Um auch Bescheid zu wissen und darüber sprechen zu können, sich mit anderen darüber zu unterhalten und dann als Gesellschaft im Großen dazu Antworten zu finden. Ihr letzter Tipp? Man muss sich angucken, was mach ich den ganzen Tag. Wenn das was mit Sprache und Wissen zu tun hat, gibt es diese Tools, sich mit denen auseinandersetzen. Auf LinkedIn, anderen Plattformen miteinander reden. Da gibt es so viele Communities, da kommt man weiter. Herzlichen Dank an Sie beide, dass Sie bei diesem komplexen Thema uns gut an die Hand nehmen konnten und uns durch dieses Thema geführt haben. Das uns bestimmt in Zukunft weiter beschäftigen und beeinflussen wird. In welcher Form, da gucken wir dann wieder drauf. Danke, dass Sie da waren. - Vielen Dank. Das war Planet Wissen für heute. Tschüs, bis zum nächsten Mal. Machen Sie es gut. Copyright WDR 2023