v1.0 . In unserem Alltag begegnen wir immer häufiger der künstlichen Intelligenz, der KI. Die einen sehen KI als große Chance, die anderen als große Gefahr. Brauchen wir Regeln, und wenn ja, welche? Darüber spreche ich mit der Medienethikerin Jessica Heesen. (Neugierige sphärische Klänge) Frau Heesen, ich freue mich, dass Sie hier sind. Willkommen. Vielen Dank. Wir sprechen über KI, künstliche Intelligenz. Das ist ein Thema, da kommt man, glaub ich, heutzutage nicht mehr dran vorbei. Das ist eins der großen Themen in der Wissenschaft. Würden Sie uns drei Beispiele nennen, wo KI uns heutzutage schon nützlich sein kann oder schon ist? Ja, an erster Stelle, Sie haben es ja gerade erwähnt, da kommt man kaum dran vorbei. Bei jeder Suchmaschinenrecherche wird KI genutzt. Also, es hat einen starken Einfluss darauf, was wir sehen, welche Informationen wir bekommen. Dann so was wie SCHUFA, also Fragen von Kreditwürdigkeit. Also, bekommen wir jetzt einen Kredit, ja oder nein? Das wird häufig durch KI entschieden. Und dann auch so, sagen wir mal, einfachere Geschichten wie natürlich das autonome Fahren oder das teilautonome Fahren oder so was wie Bremsassistenten, so was in der Geschichte. Also, so was, wo wir dann eben versuchen, uns unterstützen zu lassen beim Fahren, da ist KI dann auch am Werke. Bestimmt KI schon mehr unseren Alltag, als wir es vielleicht so merken und denken? Ja, ja und nein. Wir haben ja das große Thema Verwaltungsdigitalisierung, da steckt häufig gar nicht so viel KI drin, in dem, was uns so von staatlicher Seite begegnet. Aber wenn wir an den gesamten Bereich der Plattformökonomie denken, also wenn wir einkaufen zum Beispiel übers Internet, da steckt überall KI drin. Oder an der gesamten Organisation der sozialen Medien steckt wahnsinnig viel KI drin. Das ist etwas, wo wir eigentlich täglich mit konfrontiert sind. Also nicht unbedingt, wenn Sie in Ihrem Bezirk jetzt irgendwie eine Zulassung bestellen für Ihr Auto und so, das ist alles noch sehr konservativ. Aber der gesamte Bereich der Plattformökonomie ist sehr stark strukturiert durch KI. Das waren jetzt, wenn ich es jetzt mal so verallgemeinern möchte, eher positive Beispiele für KI-Anwendungen. Gibt es denn auch schon eher Beispiele, wo Sie sagen würden, da ist die KI nicht gerade dem Menschen nützlich, vielleicht sogar hinderlich? Na, ich hatte ja gerade schon die Kreditwürdigkeitsprüfung genannt. Da kommt es zu vielen ungerechten Urteilen auch durch KI, auch in der Vergangenheit. Oder wir hatten auch solche Beispiele wie jetzt in den Niederlanden, wo Menschen dann keine Sozialhilfe mehr bekommen haben, weil KI falsche Entscheidungen getroffen hat. Und es kommt immer wieder zu sogenannten algorithmischen Diskriminierungen. Da sehen wir zum Beispiel bei der Bilderkennung, dass Menschen mit schwarzer Hautfarbe gar nicht erkannt werden. Oder auch Grenzkontrollen, die mit Hilfe von Künstlicher Intelligenz stattfinden, wo Menschen ungerechtfertigterweise zurückgewiesen werden. Da gibt es schon auch viele negative Beispiele. Um bei der SCHUFA, bei dieser Kreditwürdigkeit, zu bleiben, vielleicht können wir es da mal ein bisschen konkretisieren, wo steckt da die KI drin? Also erst mal, das wird gar nicht so richtig transparent gemacht, aber im Prinzip steckt die KI darin, dass sie versuchen, ganz viele unterschiedliche Informationen auszuwerten für ein bestimmtes Ziel. Dafür ist Künstliche Intelligenz immer sehr gut geeignet. Da wird dann abgeglichen, wo wohnen Sie, haben in ihrer Nachbarschaft auch immer alle ihre Rechnungen bezahlt. Also, man hat dann oft heterogene Datensätze und ganz unterschiedliche Datensätze, die versucht werden, auf ein bestimmtes Ziel zu organisieren. Das kann KI ganz gut. KI läuft ja auch häufig mit der Unterstützung von Algorithmen. Da werden bestimmte Kennzeichen eingestellt. Man möchte da nur Menschen haben, die in guten Wohngegenden wohnen, um einen Kredit auszuzahlen. Oder sie selber als Individuum müssen sich auch als kreditwürdig bewiesen haben, indem sie vorher schon Ihre Rechnungen bezahlt haben. Und alle diese Daten fließen ein, es kommt ein Ergebnis zustande, mit dem die SCHUFA arbeiten kann. Sie haben gesagt, KI ist gut, große Datenmengen zu verarbeiten. Vielleicht können wir da noch mal ein bisschen einsteigen. Was kann KI denn wirklich richtig gut und wo ist sie nicht so gut, wie ... wir Menschen oder vielleicht wie, weiß ich nicht, einfachere mathematische Modelle? Ja, also in der Wissenschaft spricht man, ja, sagen wir mal so sinnbildlich, von KI-Wintern oder auch KI-Sommern. Und wir haben gerade einen KI-Sommer. Also, der KI geht es richtig gut, kann man sagen. Und das liegt vor allen Dingen daran, dass wir ja generell eine starke Digitalisierung der Gesellschaft haben, wo sehr viele Daten vorliegen. Das heißt, die ganzen neuen Entwicklungen im maschinellen Lernen und KI liegen vor allen Dingen darin begründet, dass wir so viele Daten haben und dass gerade die großen Konzerne, die auch KI-Forschung machen, eben diese großen Datensätze haben. Und die KI kann gut mit diesen großen Datensätzen umgehen und darin Muster erkennen. Das heißt, die vergleicht ganz viele unterschiedliche Bilder zum Beispiel miteinander und findet dann heraus, das ist ein Hund zum Beispiel. Und kann dann Prognosen stellen über die Zukunft, also kann Wahrscheinlichkeits- berechnungen herstellen. Also kann sagen, ein Tier, das diese Kriterien hat, wird wahrscheinlich ein Hund sein und gibt diese Prognose ab und liegt damit eben häufig richtig, gerade bei so einfachen Beispielen wie ein Hund. Also, es geht immer um Wahrscheinlichkeitsberechnung und Mustererkennung. Das kann KI eben sehr gut, viel besser und schneller als Menschen. Und was KI eben nicht gut kann, ist das, was Ambivalenzen ausmacht, was zum Beispiel Humor ist in der Kommunikation zwischen Menschen, oder auch so was wie erkennen, ob Menschen in guter Stimmung sind oder eben nicht. Da macht die KI allerdings auch relativ viele Fortschritte. Und sie kann natürlich nicht gut als Interaktionspartnerin zur Verfügung stehen, da, wo es um, sagen wir mal, authentische Kommunikation geht, wie in der Kindererziehung oder in der Trauerarbeit in solchen Fällen. Jetzt gab es in der letzten Zeit ja einen regelrechten Hype um die Chatbots, die mit Künstlicher Intelligenz arbeiten, wie ChatGPT oder Bard. Sie haben es ja auch gerade schon angesprochen, die Suchergebnisse, die wir bekommen, da können jetzt komplexe Texte ausgespuckt werden, wenn man solche Chatbots benutzt. Würden Sie sagen, diese Chatbots oder dieser Hype darum, hat diese ganze KI-Thematik jetzt noch mal befeuert? Auf alle Fälle. Also, das war jetzt eine Technologie, die ja im Herbst letzten Jahres herauskam oder der Öffentlichkeit zur Verfügung gestellt wurde. Und dann ist vielen erst klar geworden, was KI eigentlich alles kann. Und das ist eine Anwendung, die so quasi menschenähnlich ist. Also, wir haben das Gefühl, wir sprechen hier mit jemandem, der uns ganz ähnlich ist und wahnsinnig viel weiß. Und dabei, das muss man sich auch hier wieder bewusst machen, geht es auch hier um Mustererkennung und Wahrscheinlichkeitsberechnung, wie hoch die Wahrscheinlichkeit ist, dass ein Wort auf das nächste folgt. Also, es geht überhaupt nicht darum, was viele denken, dass eine KI überlegt, was könnte die richtige Antwort sein, sondern die berechnet aus immens großen Datenmengen, welches Wort auf das nächste folgen könnte, und liegt dabei ja auch häufig falsch. Und es gibt da auch neue Entwicklungen. Es gibt ja jetzt gerade auch diese großen Suchmaschinen-Konkurrenz zwischen Google und Bing. Und Bing hat es ja auch geschafft, tatsächlich jetzt KI auch noch mal in eine andere Form zu integrieren in die Suchmaschine. Und das wird in Zukunft alles so sein, dass wir, wenn wir eine Suchmaschinen-Recherche machen wollen, einfach eine Frage stellen und wahrscheinlich eine ziemlich gute Antwort bekommen. Das ist alles ziemlich schnell gegangen. Für mich jetzt als Laie, plötzlich gab es diese Chatbots und da ist es vielen bewusst geworden, wie weit KI heutzutage schon ist in anderen Bereichen. Bei der SCHUFA-Abfrage zum Beispiel ist es uns vielleicht dann nicht so bewusst gewesen. Und selbst für manche IT- und Internetfachleute ging diese Entwicklung ziemlich schnell. Und die haben dann ein sechsmonatiges Moratorium gefordert. Elon Musk war zum Beispiel auch dabei. Das hat uns alle so ein bisschen hellhörig gemacht, also, dass Fachleute, die selbst mit diesem Programm arbeiten, die in diesem Bereich Geld verdienen, gesagt haben, wir sollten erst mal sechs Monate innehalten, überlegen, wo wollen wir mit der KI eigentlich hin. Hat Sie dieses Moratorium überrascht? - Ja, es hat mich überrascht. Also, es hat mich auch deshalb überrascht, weil ich es als einen Doppelstandard empfunden habe, so eine Art Doppelmoral letztendlich. Also, die KI-Standards liegen schon lange, lange vor. Seit mindestens zehn Jahren gibt es die entsprechenden Richtlinien. Es gibt bis an 200, haben Kolleg:innen von mir gezählt, also an Ethik-Richtlinien. Man weiß eigentlich, was das wäre, was man umsetzen müsste, aber die großen Konzerne haben sich darum einfach nicht groß gekümmert. Und jetzt einfach zu sagen, jetzt machen wir ein Moratorium, das ist einfach vollkommen unrealistisch, sondern es geht darum, dass man ethische, gesellschaftliche Fragestellungen, von Anfang an integriert in Forschung und Entwicklung. Und nicht dann, wenn das Kind schon in den Brunnen gefallen ist, sagt: "Oh, jetzt wird es unangenehm, jetzt lassen wir uns mal gucken, was wir machen." Ich bin immer dafür natürlich, dass man eine Reflexionsschleife einzieht und dass man draufschaut und guckt, was kann man besser machen. Aber jetzt gerade, sagen wir mal, aus dem Mund von Elon Musk erscheint es doch irgendwie unglaubwürdig, auch vor allen Dingen zu sagen, man schaut so ganz allgemein auf KI. Das macht aus meiner Perspektive überhaupt keinen Sinn, sondern man muss immer schauen, was sind die konkreten Anwendungen für KI. Und wenn ich gerade noch, weil Sie Elon Musk erwähnt haben, gerade Elon Musk hat eine Zulassung bekommen für eine neue Anwendung, die versucht, im medizinischen Bereich eine Schnittstelle herzustellen zwischen dem menschlichen Gehirn und dem Computer. Und da stecken wirklich sehr, sehr viele ethische Probleme drin, und übrigens auch medizinische. Und das scheint für ihn jetzt irgendwie nicht das Thema zu sein. Aber da spielt natürlich auch KI eine große Rolle. Und das ist sehr merkwürdig, dass das Ganze jetzt in Bezug auf generative Sprachmodelle bezogen wird, aber nicht auf die ganzen anderen Bereiche der KI-Forschung, die eben auch sehr, sehr relevant sind. Wenn wir über Reglementierung sprechen, müssten wir uns vorher noch mal überlegen, welche KI-ethischen Standards denn mittlerweile oder auch schon in der Vergangenheit aufgestellt worden sind, an die man sich hätte richten sollen. Was sind da so die großen Eckpfeiler? Es wird immer wieder Transparenz genannt als wichtiger Punkt. Darüber können wir gleich noch mal sprechen. Natürlich auch der Datenschutz, die Verständlichkeit, die mit der Transparenz gekoppelt ist. Dann natürlich Zuverlässigkeit, Nachhaltigkeit von Anwendungen. Auch menschliche Aufsicht ist ganz wichtig. Das sind so große Eckpfeiler. Es gibt auch noch andere Ausdifferenzierungen. Aber gerade, dass Menschen ihre Autonomie wahren dürfen oder können im Zusammenhang mit KI, also menschliche Aufsicht, dass sie immer das letzte Wort haben, das ist eben auch ein ganz wichtiger Punkt. Und diese Richtlinien, sind es Richtlinien, an die müssen sich Unternehmen schon halten oder sollten sich wahrscheinlich dran halten, oder? Es gibt im Moment noch überhaupt keine verbindlichen Regeln. Es gibt durch die Europäische Datenschutz-Grundverordnung bestimmte Regeln, die waren aber nicht direkt auf KI gemünzt. Danach ist es etwa verboten, dass sie einer algorithmischen Entscheidung eins zu eins ausgesetzt werden. Sondern es muss immer noch ein Mensch drauf schauen, dass es um relevante Entscheidungen geht, die Ihre Person zum Beispiel betreffen. Ansonsten gibt es nicht viele Gesetze. beziehungsweise, es gibt Gesetze, die jetzt ganz neu sind. Es gibt den Digital Services Act. Der berührt auch Bereiche, die für die KI relevant sind, zum Beispiel die Organisation der sozialen Medien. Aber wir haben gesehen, in der letzten Woche hat das Europäische Parlament zugestimmt, dass es eine KI-Verordnung geben soll für Europa, den sogenannten AI Act der Europäischen Union. Das sind jetzt lauter Versuche, KI zu regulieren, die wir aber jetzt noch nicht haben. Was wir im Moment nur haben, sind Selbstverpflichtungen der Unternehmen, die aber natürlich wachsweich sind. Vor diesem Hintergrund wachsweiche Selbstverpflichtungen, ist dann die Befürchtung von manchen CEOs, auch wieder aus dem Bereich Tech- und Internetunternehmen, berechtigt, die da gewarnt haben, dass KI im schlimmsten Fall die komplette Menschheit vernichten könnte? Ja, das ist gerne gelesener Stoff der Science-Fiction-Literatur. Das sieht man auch in Filmen natürlich. Also, diese Vorstellung, es gibt ja so einen Kipppunkt, damit wird ja häufig Angst gemacht. Und es würde jetzt so eine Art böswillige KI geben, die den Menschen überlegen ist. Und da gibt's überhaupt keine Beweise für. Also, das wird einfach so gesagt. Dass sie sich verselbstständigt ... - Dass sie sich verselbstständigt? Ein eigenes Bewusstsein entwickelt. - Genau. Dass sie böse wird. Dass sie sich selber Zwecke setzt, das ist so die Vorstellung. Dafür sehen wir aber überhaupt keine Anzeichen. Es gibt tatsächlich eben auch so, na ja, fantastische Erfolge, gerade bei der generativen KI, wenn Sie daran denken, wie Bilder hergestellt werden und auch teilweise welche verblüffend guten Antworten geben. Und da wissen Wissenschaftler:innen selber teils auch nicht genau, wie dann die Prozesse stattfinden innerhalb des maschinellen Lernens. Aber das heißt noch lange nicht, dass man die Prozesse nicht kontrollieren kann. Welche Daten werden reingefüttert, das kann man kontrollieren. Und man kann auch die Ergebnisse kontrollieren, und die Parameter oder Algorithmen kann man entsprechend aufstellen. Das heißt, es gibt sehr viele Möglichkeiten, KI zu regulieren. Zu sagen, da gibt es diesen Kipppunkt, und wir haben bald die Superintelligenz, die uns alle an die Wand spielen wird, das sehe ich ganz kritisch, weil es dann so aussieht, als könnten wir nichts regulieren. Und das auch so eine Stimmung erzeugt, als ob hier eine übermächtige Technologie am Werke wäre. In Wahrheit sind hier übermächtige Konzerne am Werke, die die KI für ihre Zwecke nutzen und damit natürlich vor allen Dingen Geld verdienen wollen. Wir müssen immer genau fragen, wem nützt eine KI-Anwendung und wem schadet sie? Nicht: Haben wir eine Superintelligenz und können uns nicht mehr wehren? Wollen wir eine gute Regulierung, müssen wir in die Anwendungsbereiche schauen. Das heißt, eine KI, die uns übermächtig wird, uns kontrolliert, ein eigenes Bewusstsein entwickelt ... gibt es Ihrer Meinung nach nicht wirklich Anzeichen? Na ja, es ist schon interessant, auch philosophisch. Also, wenn Sie jetzt eine künstliche Intelligenz haben, die auf all dem beruht, was Menschen miteinander besprechen in den sozialen Medien, was sie im Internet findet, dann ist sie schon sehr nah an dem dran, was auch Menschen können. Also, das ist ein Gedankenexperiment, zu sagen, was kommt denn noch dazu, was macht das menschliche Bewusstsein aus? Und wenn eine KI behauptet, sie hat Bewusstsein, dann kann ich das so schlecht nachvollziehen, wie wenn Sie sagen, Sie haben Bewusstsein. Also, da gibt es zwar noch andere Kriterien, die da hinzukommen, Sie sind ein lebendiger Mensch, das andere ist nur eine Maschine, aber trotzdem, es wird schon ein bisschen eng, sagen wir mal. Aber das heißt trotzdem nicht, dass diese KI, die selber behauptet, sie hätte Bewusstsein ... Erst mal hat sie es höchstwahrscheinlich nicht. Aber dass es dann diesen Punkt gibt, wo sie dann auch sagt, ich entwickle eigene Vorstellungen davon, was gut und richtig ist, und ich benutze alles, was ich finden kann an Ressourcen, um zu diesen Zielen zu kommen, das ist doch noch in sehr, sehr weiter Ferne und wahrscheinlich kommen wir da sogar nie hin. Wenn Sie in die konkrete KI-Forschung schauen, sehen Sie, dass es oft sehr beschränkte Anwendungen sind, die auch häufig sehr fehlerlastig sind, und sehr bodenständig sind letztendlich. Vielleicht ist ja dann auch die Frage, ob wir da hinkommen wollen, ob wir sozusagen eine KI haben wollen, die so menschlich ist, dass sie uns ebenbürtig ist. Ja, natürlich. Wir können als Menschen immer entscheiden, welche technologischen Wege wir gehen wollen. Und dieser Begriff "Künstliche Intelligenz" ist natürlich vollkommen irreführend, weil ja schon so eine Ähnlichkeit zum Menschen hergestellt wird. Eigentlich sind das statistische Modelle, und das beschreibt viel besser, worum es sich eigentlich handelt. Und diese Nähe zum Menschen über diesen Intelligenzbegriff, das war mal eine schöne, etwas reißerische Formulierung, um an Fördergelder zu kommen, was ja auch funktioniert hat. Aber das sagt nichts darüber aus, dass sie besonders menschenähnlich ist. Trotzdem oder gerade deswegen haben wir jetzt beschlossen, auf jeden Fall auf europäischer Ebene den AI Act zu verabschieden von der Europäischen Union. Da steht drin, dass es verschiedene KI-Anwendungen gibt, die bestimmten Risikogruppen zugeordnet werden, von minimal über hoch bis inakzeptabel. Und je nachdem, wie diese Anwendung dann eingestuft wird, müssen die Anbieter solcher KI-Anwendungen dann eben Transparenzanforderungen erfüllen, et cetera und so weiter. Im schlimmsten Fall wird eine Anwendung verboten, nicht die KI an sich. Ist das ein guter Ansatz Ihrer Meinung nach? Ich finde so einen risikobasierten Ansatz schon gut. Bei allen Schwierigkeiten, die man damit sich einkauft. Aber die Regulierung von so einer allgemeinen Technologie ist schwierig, auch an einer Technologie, die sich stetig verändert. Aber ein risikobasierter Ansatz an sich bringt Vorteile. Wir brauchen auf jeden Fall eine Regulierung. Es ist auch so, dass Gesellschaften sich immer regulieren. Regulierung bedeutet, dass man sich bestimmte Normen gibt, nach denen man in der Gesellschaft leben möchte. Wenn wir als Demokratie einwirken wollen auf die großen Unternehmen und auf den Fortschritt der Digitalisierung, müssen wir uns Regeln geben in Form von Gesetzen und so weiter. Das heißt, es ist hier eine demokratischere Form von Regulierung, als es die Internetkonzerne wollen. Zum Beispiel bei Elon Musk, als er Twitter übernommen hat, das, was er da so an Ideen und Umsetzungen gemacht hat, fanden ja viele auch nicht gut. Man hat gesagt: Darf ein einzelner Mensch so weit gehen? Und jetzt hat das EU-Parlament gesagt, wir verabschieden den AI Act und geben Europa wenigstens diese Regulierungen. Jetzt müssen diese Beschlüsse erst mal von den einzelnen EU-Staaten und der EU-Kommission durchgesprochen werden. Und dann gibt es die konkrete Umsetzung in den Mitgliedstaaten. Aber könnten Sie trotzdem schon mal so einen Ausblick geben, was könnte dann in Zukunft eine Anwendung sein, die verboten wäre, vermutlich? Die sogenannte biometrische Fernidentifizierung. Das ist ein komplizierter Ausdruck. Da geht es um eine intelligente Videoüberwachung in Echtzeit, womit man sehen könnte, wo Sie sich gerade in der Stadt aufhalten. Ihr Gesicht könnte identifiziert werden, aber nicht nur ihr Gesicht, sondern Ihr gesamter Gang, Habitus. Das geht nicht mehr nur um Gesichtserkennung, sondern biometrische Daten insgesamt, das soll verboten werden. Aber es gibt Ausnahmen, zum Beispiel im Bereich der Strafverfolgung oder wenn man vermisste Kinder finden will, dann kann in bestimmten Gebieten das trotzdem durchgeführt werden. Das heißt, es geht nicht um die KI an sich, die das einmal zum guten Zweck sozusagen macht und einmal zum, ich sag mal, zum bösen Zweck, sondern um die konkrete Anwendung, was ist erlaubt und was nicht. Genau. Oder es soll auch verboten sein, dass man KI dazu verwendet, um Menschen zu manipulieren, vor allem vulnerable Gruppen, zum Beispiel Kinder oder Menschen mit Behinderung. Das soll verboten werden. Also, da sind wir in einem Bereich, wo man sagt, man will auf gar keinen Fall das sogenannte Social Scoring haben, also, dass man Menschen auch bewertet nach ihrem Verhalten. Dass man versucht, so ist es ja in China in manchen Modellprojekten der Fall gewesen, dass man versucht, alles sozusagen in die Waagschale zu schmeißen, was sie bislang in ihrem Leben gemacht haben, ob sie ihre Kredite bezahlt haben oder einen Autounfall hatten, das würde dann alles da erscheinen. Also diese Formen von Social Scoring sollen generell verboten sein. Das sind so die Klassen, wo man sagt, das will man gar nicht haben. Würden wir als Verbraucherinnen und Verbraucher was von dieser Regulierung mitbekommen? Oder läuft das alles irgendwie im Hintergrund? Nee, das würden Sie auf alle Fälle mitbekommen. Also, zum Beispiel KI in der Personalauswahl ist ein großes Thema. Das wäre eine Hochrisiko-Anwendung, weil es eine Anwendung ist, die über Lebenschancen entscheidet, letztendlich. Und da könnte es dann so aussehen, dass solche Anwendungen zertifiziert werden. Also, dass bestimmte Dinge, die Sie kaufen können, also Software letztendlich, die Sie kaufen können, wenn Sie in einem großen Unternehmen arbeiten, bekommt ein Label und entspricht bestimmten Vorgaben. Ist zum Beispiel transparent oder möglichst diskriminierungsfrei. Bei der Personalauswahl ist das besonders wichtig. Und so eine Anwendung hätte dann auch ein Audit-Verfahren zum Beispiel durchlaufen und bekommt dann vielleicht ein Siegel. Sie könnten das kaufen und wären ziemlich sicher, dass Sie eine gute Anwendung gekauft haben, die Sie dann auch anwenden können, ohne dass Sie verklagt werden, zum Beispiel. Es bietet auch viele Vorteile für die Unternehmen. Das heißt, für mich als Verbraucher muss es irgendwie, ich sag mal, wie bei Lebensmitteln, gibt es den noch freiwilligen Nutri-Score. Dann sehe ich, ist das Lebensmittel A, B, C, D, ist es eher gesund oder eher ungesund? Könnte ich dann auch mit so einem ähnlichen Label, oder wie bei der Waschmaschine das Energieeffizienz-Label, sehen. Ist diese KI-Anwendung, weiß ich nicht, sicher oder nicht? Genau, das könnte so kommen. Das ist alles noch nicht klar, wie es genau läuft. Aber ganz konkret für, sagen wir mal, Otto Normalverbraucher:innen, wenn Sie im Internet surfen und Sie sehen Bilder, Texte und so weiter, dann soll es auch in Zukunft gekennzeichnete KI-Texte geben. Das war ja ein großes Thema. Gefälschte Bilder. Der Papst in seiner Daunenjacke. Oder diese Deepfakes, Videos von berühmten Persönlichkeiten, die es so nie gegeben hat. Wo einfach nur ein bisschen Bildmaterial und Tonmaterial einer Person schon ausreichen, um da ein ganz neues Video zu machen, das so nie existiert hat. Das müsste gekennzeichnet werden, damit ich als Verbraucher das sehe. Das stelle ich mir schon schwierig vor. Oder ist es leicht machbar, da wirklich das Echte vom Unechten zu unterscheiden? Das ist wirklich sehr schwierig umzusetzen. Sagen wir mal, etablierte Beteiligte der öffentlichen Kommunikation, wie etwa Journalistinnen und Journalisten, die werden das natürlich machen, die haben ja ein Berufsethos und so, und können wie jetzt ja auch schon, Bilder müssen ja als Symbolbilder gekennzeichnet werden, oder manipulierte Bilder. Da wird das sicherlich ohne Probleme stattfinden, durch Symbole oder Metadaten, die entsprechend abgelegt sind. Aber wenn sie einen bösen Willen haben, Leute, die manipulieren wollen, politische Unruhe stiften wollen, die werden natürlich diese Deepfakes, diese künstlich erzeugten Bilder nicht kennzeichnen wollen. Da wiederum kann dann auch KI helfen, zu erkennen, welche Bilder erzeugt wurden mit Hilfe von KI. Oder welche Texte geschrieben wurden durch künstliche Intelligenz. Das ist auch sehr wichtig, hier auch solche Texte zu kennzeichnen, zum Beispiel spricht man da auch von Wasserzeichen, die in die Texte integriert werden sollen. Nach unserem alltagsweltlichen Verständnis können wir uns das mit dieser Wasserzeichenmetapher ganz gut vergegenwärtigen. Sodass KI auch erkennen kann, welche Texte durch KI erzeugt wurden und die nicht noch mal verwendet. Weil sich sonst auch Fehler immer weiter fortreproduzieren können, wenn KI auf KI-erzeugte Texte zurückgreift. Wichtig ist, dass wir Kommunikation, die durch KI erzeugt wurde, unterscheiden können von Kommunikationsinhalten, die durch Menschen erzeugt wurden. Und können wir das? Mithilfe der KI, würden Sie sagen, in Zukunft wird es gut möglich sein, das zu unterscheiden? Und das Gute von einem Gefälschten mit bösem Hintergrund zu unterscheiden? Es wird immer einen Wettbewerb geben von denjenigen, die versuchen, KI-Mechanismen zu unterlaufen und das unkenntlich zu machen und manipulativ zu machen. Aber KI wird auch immer besser werden. Und auch die Menschen werden immer besser werden. Die Rundfunkanstalten, zum Beispiel, haben Verifikationscenter und so. Aber da wird es immer wieder Tiefschläge geben, Betrug geben, wie es den auch sonst gibt in der öffentlichen Kommunikation. Das heißt, so was wie der AI Act, den das EU-Parlament auf den Weg gebracht hat, würde helfen, ja, KI ... zu kennzeichnen, auf der einen Seite die Gute und die Böse, und uns helfen als Verbraucher, dass uns KI mehr nützt als schadet? Es geht auf alle Fälle in die richtige Richtung. Brauchen wir da noch mehr? Na ja, also ... Reglementierung, noch mehr Regeln? Ja, man kann nicht alles durch Regeln eben abdecken. Vor allen Dingen, wenn wir KI in die richtige Richtung bewegen wollen. Man spricht KI für das Gemeinwohl, AI for good auf Englisch. Also, wenn wir versuchen, die für die gesellschaftliche Wohlfahrt zu nutzen, brauchen wir vor allen Dingen positive Impulse. Man braucht natürlich dann auch Bildung im Bereich KI. Man braucht Partizipation und Schulbildung. Man braucht auch in der Informatik die entsprechenden Anreize, das eben auch für die Öffentlichkeit fruchtbar zu machen. Man kann nicht alles über den Markt regeln, sondern muss partizipativ rangehen, wo viele Ideen für den Fortschritt der Gesellschaft genutzt werden und das nicht nur in der Hand großer Konzerne liegt. Sie meinen, dass wir alle da ein bisschen geschult werden in Sachen KI und dann auch sagen können, was wir wollen und was wir nicht wollen. Genau, also dass wir das selber auch entscheiden können. Also, es ist natürlich immer schwierig, bei jedem gesellschaftlichen Fortschritt durch Technik werden die Menschen nicht von Anfang an gefragt, sondern das sind immer iterative Prozesse. Und meistens läuft es auch über negative Impulse, dass man sagt, so will man es nicht haben. Und wir lernen vor allem auch einzuschätzen, wo liegen überhaupt die Risiken für KI. Und wir können auch besser lernen, wo einzelne Anwendungen nachgebessert werden müssen. Wir können vor allem auch besser reinschauen in die Trainingsdaten. Das ist enorm wichtig, dass wir wissen, woher hat die KI das, womit sie arbeitet. Das ist bislang alles noch nicht gesichert und wird sicherlich in Zukunft eben besser reguliert sein. Wer beobachtet diese ganze Entwicklung für uns Verbraucher, dass da nichts Schlimmes in Anführungszeichen passiert. Ja, das ist auch noch Gegenstand der Verhandlungen. Also, ist noch nicht klar. Wahrscheinlich wird es eine EU-Behörde geben, die dann, sagen wir mal, aufnimmt, was sind riskante Anwendungen, und dann wird's einen KI-Register geben. Das Ganze wird aber natürlich auch auf nationaler Ebene stattfinden. Da ist es noch nicht ganz klar, wer das übernehmen kann, ob zum Beispiel die Landesmedienanstalten da aktiv sind. Das muss alles noch mal genauer in den Blick genommen werden. Aber ich will trotzdem auch noch mal ergänzen, ganz wichtig ist natürlich auch, dass die Verbraucher:innen und Nutzer:innen von solchen Anwendungen sich auch beschweren können. Also, dass sie sagen können, was nicht richtig läuft. Das ist noch eine Schwachstelle in dem AI Act. dass noch keine Beschwerde- mechanismen grundgelegt werden. Dafür haben wir die aber wiederum in diesem schon genannten Digital Services Act. Da ist die gesamte Infrastruktur schon viel stärker darauf ausgelegt, dass wir dann auch eine Kontaktstelle haben bei den großen KI-Konzernen, wo wir dann uns beschweren können. Wenn was nicht gut gelaufen ist, wenn wir uns diskriminiert fühlen. Aber da könnten wir dann drauf schauen, dass so eine Stelle eingerichtet wird, oder? Ja, vor allem, dass die Konzerne gezwungen werden, entsprechend offen zu sein und solche Reklamationen anzunehmen. Aber wir haben hier in Deutschland auch NGOs, die sich darum kümmern im Moment. Aber es soll natürlich nicht nur mehr oder weniger zufällig sein, dass wir da gute Institutionen haben, sondern das muss auch so durch die Öffentlichkeit, durch den Staat vorgegeben sein. Können Sie den Zeitraum so ein bisschen abstecken? In wie vielen Jahren werden wir dann in Deutschland wirklich die Regeln haben, wonach dann KI klassifiziert wird? Ich denke, dass das so in zwei Jahren der Fall sein wird. Also, die jetzige EU-Präsidentschaft legt da schon großen Wert drauf, dass es vorangeht. Und da werden wir bald schon erste Ergebnisse sehen. Was glauben Sie, Frau Heesen, in welchen Bereichen wird KI noch in den nächsten Jahren einen Riesensprung machen, den wir jetzt so vielleicht noch gar nicht voraussehen können? Also, ich nicht, Sie vielleicht. Ja, ich glaube, es wird viel mehr im Bereich Sprache funktionieren. Also, dass wir so quasi intuitiv dann auch uns unterhalten können mit künstlicher Intelligenz, dass wir persönliche Sprachassistenten haben, so wie jetzt schon, aber noch mal viel besser. Also, dass wir so was wie, ja, Assistenten haben, die uns durchs Leben begleiten, die dann auch die Reisen für uns buchen können, die ganze Mobilität organisieren, Finanzen und so weiter. Es wird, glaub ich, sehr stark in diese Richtung gehen, dass wir gar nicht mehr so tippen und ganz konventionell da so sitzen wie an der Schreibmaschine, sondern dass wir alles nur noch so über Sprache regulieren. Mobilität und Medizin, da werden wir große Fortschritte sehen. Wir haben ja jetzt auch die Bestrebungen, einen europäischen Gesundheitsdatenraum zu erschaffen, und große Datenmengen bringen auch jedes Mal die KI-Forschung voran. Das werden wir dann auch in diesem Bereich auf alle Fälle sehen. Da lese ich zwischen den Zeilen, dass Sie in ein paar Jahren sagen werden: "Eigentlich ganz gut, dass es die KI gibt." Und nicht sagen werden: "Verdammt doof, dass wir die uns ausgedacht haben." Das kann man so nicht sagen. Es ist ja immer unerwartet, was schiefgehen kann. Oder auch, was so Killer-Applikationen sind, wie man so schön sagt. Da wage ich jetzt keinen Blick in die Zukunft. Das sind oft auch so singuläre Ereignisse, die die öffentliche Stimmung kippen lassen. Aber generell ist KI so eine Art Rückgrat der Digitalisierung. Das wird auch so bleiben. Wir haben ja so viele unterschiedliche Technologien, die sich auch versammeln unter diesem Begriff "KI", und so viele unterschiedliche Anwendungen. Da bin ich wirklich gespannt, was kommt, und wage da keine Prognosen für die große Anwendung, die wir dann sehen werden. SWR 2023