v1.0 New 1 Ein Geschmackstest,Weinsommelier gegen Maschine,wer hat die Nase vorn?(KI) Der Wein hat keinenmir bekannten Fehler.Ich rieche Aromen von nasser Pappe.KI begegnet uns in immer mehrLebensbereichen und entschlüsseltneue Zusammenhängeüber unsere Gesundheit.Nachdem unsere KI trainiert war,hat sie 2 Sekunden gebraucht,um ein CT auszuwerten.Gleichzeitig wächst die Sorgevor einer neuen Superintelligenz.Die Fragenach einer Superintelligenzist so was wie eine Nebelkerze.Was kann KI wirklich?Wo hilft sie uns?Wie schützen wir uns vor den Risiken?Jetzt bei Quarks.UNTERTITEL: Hessischer RundfunkHerzlich willkommen! Sprechen Sieauch regelmäßig mit der KI?Dann geht es Ihnen so wie mir.Die Mehrheit nutzt inzwischen KI,60 % der Bevölkerung,15 % sogar täglich.Künstliche Intelligenzist inzwischen so groß geworden,dass selbst Entwickler sagen:wir müssen das bremsen, damit esnicht außer Kontrolle gerät.Da fragt man sich:Was können wir Menschen noch besser?Nehmen wir mal etwassehr Menschliches: unsere Sinne.Mensch gegen Maschine.Kann eine künstliche Intelligenzmithaltenmit der Nase einesprofessionellen Wein-Sommeliers?Oder sie sogar schlagen?(KI) Der Weißweinpräsentiert sich mit einer Füllean exotischen Geruchsnuancen.Sehr schön goldgelb ...(KI) Festzustellen sind Aromenvon Zitrone und Pfirsich.Näher gesagt,so eine Aromatik von Plattpfirsich.Grasige Aromen rundendas Aromaprofil ab.Und Anklänge von Honig.Entwickelt wurde die künstliche Nasevom WeinwissenschaftlerDominik Durner,zusammen mit Ingenieurenund weiteren Forschungsinstituten.Der Forscher bildet Sommeliers ausund ist beeindruckt von der Leistungder menschlichen Nase.Sein Ziel: Etwas Vergleichbaresnachzubauen mithilfe von KI.Die menschliche Nase istmit ihren Rezeptorendurchaus in der Lage, Tausendevon Gerüchen zu unterscheiden.Und diese Rezeptorensind so aufgebaut,dass wir nichtTausende unterschiedlicheRezeptoren brauchen,sondern die wirken zusammen.Das bedeutet, man kann sich dasso vorstellen, wenn drei Rezeptorenan sind und der Rest aus, dannsteht das für einen gewissen Geruch,wenn dann ein vierter dazu kommt,kann das ein ganz anderer sein.Geruch spieltin der Lebensmittelbrancheeine wichtige Rolle,nicht nur bei Wein.Bei vielen Produkten, diein großen Mengen hergestellt werden,sollen Aromaund Qualität gleich bleiben.Zum Beispiel bei Olivenöl,Honig oder Kaffee.Schon geringste Mengenvon Geruchsstoffenkönnen aufverdorbene Lebensmittel hinweisen.Oder Drogenund Sprengstoff enttarnen.Doch bislang braucht man für dieBestimmung aufwendige Laboranalysenwie die Gaschromatografie.Dabei werden die flüchtigen Stoffeim Labor voneinander getrenntund anschließend analysiert.Das dauert.Die künstliche Nasehingegen erkennt Gerüche in Echtzeit,ohne langwierige Bestimmung im Labor.Letztendlich versuchen wir, dasnachzubilden, was der Mensch macht.Wir haben verschiedene Rezeptorenin der Nase, verschiedene Sensoren,das kann man vergleichen.Sensoren, die die Nase ein Stückweit nachbilden,den Geschmackversuchen herauszufinden,indem wir in den Wein eintauchen,als zusätzliche Unterstützungfür die Sensoren.Bei der künstlichen Nase reagierenalso verschiedene Sensorengleichzeitig auf die Aromastoffe.Jeder etwas anders. Aus diesem Musterentsteht ein Geruchsprofil.Für uns machen die Forschendeneinen Test. KI gegen Sommelier.6 Weine gehen ins Rennen.In der Nase rieche ichdas Aroma von Himbeere.(KI) Der Rotwein ist vonroten Fruchtaromen dominiert.Festzustellen sindAromen von Himbeeren und Cassis.Würzige Aromenrunden das Aromaprofil ab.Cassis, aber aucheine leicht animalische Note.Bei vier Weinen kommen Mensch undMaschine zu ähnlichen Ergebnissen.Zumindestbei den dominierenden Aromen.Der Sommelier liegt in den Detailstrotzdem weiterhin vorne.Wir nehmen ja wie bei diesem Weinnicht nur die Himbeere wahr.Ich kann Ihnen hier sagen,dass dies eine unreife Himbeere ist.Im Vergleich können wir als Menschendie reife Himbeereja auch nochanders wahrnehmenoder eine überreife Himbeere, dieschon fast schlecht geworden ist.Manchmal liegt die KIim Vergleich auch ziemlich daneben.Im Geruch hat dieser Weindefinitiv ein Fehler.(KI) Der Wein hat keinenmir bekannten Fehler.Ich rieche Aromen von nasser Pappe.Einen schimmeligen Kartonkönnte man es nennenoder nasses Zeitungspapier.Geruchlich begeistert dieser Weinauf gar keinen Fall.Ich werde ihn trotzdem verkosten.(KI) Ich wünsche Ihnenein wunderbares Genusserlebnis.Geschmacklich ist dieser Weinnoch schlimmer als geruchlich.Die künstliche Nase erkenntden Korkfehler nicht.Denn sie ist darauf nicht trainiert.Die künstliche Nasekann ein limitiertes Repertoirean Aromen abbilden.Dieses Repertoirebesteht aus Aromen,die wir explizittrainiert haben.Der Umfang beläuft sichmomentan auf fünf bis sieben Aromen,die wir hier entschlüsseln können,entzaubern können.Das Potenzial für mehr ist da,aber noch nicht erschlossen.7 Aromen von mehreren Tausend,so viel erkenntdie künstliche Nase bislang.Denn eine Geruchsdatenbankmuss erst noch aufgebaut werden.Dafür verkosten Sensorik-Spezialistenverschiedene Weineund stellen dannAromagruppen zusammen.Z.B. Weine,die eine Pfirsichkomponente haben.Diese Weine präsentierendie Forschenden dann den Sensoren.Es entsteht ein Geruchsprofilfür dieses Aroma. Die KI lernt:Dieses Muster steht für Pfirsich.Doch wofür ist das gut?Die Forschendenmöchten auch im Supermarktoder in Kneipenfachkundigen Rat ermöglichen.Welche Aromen hat ein bestimmterWein? Und zu welchem Essen passt er?Dafür müsste die künstliche Nasenatürlich noch handlicher werden.KI statt Sommelier?Ich glaube schon, dass der Menschder künstlichen Nase überlegen ist.Die Frage ist nur, wie lange.Die Maschine hat jedenfallseinen entscheidenden Vorteil.Sie kann rund um die Uhr arbeiten,Joshua Peter nicht.Nur von etwa 8 Proben kann erdie Aromen detailliert beschreiben.Dann macht seine Nase dicht.Und auf manche Geruchserlebnissekönnte er auch gut verzichten.Den Weinfehler Böckser, der muffig,nach faulen Eiern, Zwiebelnoder Kohl riecht,den erkennt die KI bereits.(KI) Ich rieche einen Böckser.Lassen Sie den Weinfür mehrere Stunden offen stehen.Danach gebe icheine Beurteilung für Sie ab.Eine KI, die riechen kann,beeindruckend!Ich gehe davon aus,sie ist bei der Weinverkostungjetzt schon besser als ich.Auch bei Situationen, in denen esauf ein bisschen Feingefühl ankommt,wird KI immer besser.Ein Beispiel: Mir kippt der Kaffeeübers Laptop. Und meine Frau sagt:Na toll!Sie als Zuschauende nehmenblitzschnell alles mögliche wahr:Mimik, Tonfall.- Na toll!Die gesamte Situation.Das Gehirn verknüpft das allesin Millisekunden. Kann KI so etwas?Die Forschung sagt: Ja!Solche Zusammenhängeerkennt Künstliche Intelligenzinzwischen relativ gut.Selbst bei doppeldeutigen Bildernleistet sie Erstaunliches.Schauen Sie sich dieses Foto an.Sie merken:Hier stimmt was nicht,jemand mit Regenschirm in der Wüste,das ergibt keinen Sinn.Wenn man eine KI fragt,was auf dem Foto zu sehen ist,hätte sie früher geantwortet:ein Mensch mit Sonnenschirmam Strand,weil sie in ihren DatenMillionen Strandfotos gesehen hatund kaum jemandenmit Schirm in der Wüste.Heute schafftsie auch das problemlos.Wenns um Bilder geht,ist KI sehr leistungsfähig.Das eröffnet neue Möglichkeitenin der Medizin.Was hier im 3D-Drucker entsteht,ist das Abbildeines geheimnisvollen Organs.Bei Erwachsenengalt es lange als ziemlich nutzlos.Daran gibt es plötzlicherhebliche Zweifel.Das war für unsabsolut bedeutungsloses Gewebe.Jetzt mit den Möglichkeitender Künstlichen Intelligenzhaben wir viel variantereMöglichkeiten der Mustererkennung.Dinge, die wir mit unseremmenschlichen Auge nur in Ansätzenwahrnehmen können, kann die KIin einem ausgeprägteren Maß.Die Thymusdrüse, auch Thymus genannt,ein unscheinbares Organ,das erheblichen Einflussauf unsere Gesundheit haben könnteund darauf, wie wir altern.Wo sitzt diesesbislang so unbeachtete Organund welche Aufgaben hat es?Die Thymusdrüse sitztim vorderen Teil des Brustkorbsdirekt hinter dem Brustbeinund vor dem Herzen.Sie ist Teil unseres Immunsystems.Besonders wichtigist sie im Kindesalter,dann produziert sieein breites Spektrum an Hormonenund Abwehrzellen.Diese T-Zellenkönnen Krankheitserreger,aber auch Krebszellen bekämpfen.Ab dem Teenageralterwird die Thymusdrüse kleiner,ihr aktives Gewebe schrumpft und wirdzunehmend durch Fettgewebe ersetzt.Dann sieht er für unsspektakulär aus.Wie Weichgewebe oder beimÄlterwerden immer mehr Fettgewebe.Da sehen wir keine sehr großenMuster. Zumindest bislang.Ein Aufenthalt von Dr. Bernatzin Harvard, USA, änderte alles.Zusammen mit Forschungskollegenentsteht dort die Idee:Was, wenn die Thymusdrüsebei Erwachsenenviel wichtiger ist als gedacht?CT-Bilder vom Thymus gab es genug,als Beiwerkaus verschiedensten Studien,die andere Organe untersuchten.Aber wie diese Datenflut auswerten,wie das Puzzle zusammensetzen?Dabei half KI.Es lief so ab,dass wir uns erst 5000 Patientenangeschaut haben,um die KI zu trainieren.Nachdem wir die KItrainiert hatten,haben wir diese angewendetauf 27.000 Patienten,die mutmaßlich gesund sindund auf ca. 4000 Patientinnen undPatienten mit Tumorerkrankungen.Das KI-Modell vergleicht diegigantischen Datenmengen und schafft,was kein Radiologe kann:Den Scan einer Thymusdrüse anhandvon 1000 verschiedenen Parameternzu analysieren wie Größe,Form und Gewebezusammensetzungund dabei noch viel mehr zu sehenals es das menschliche Auge vermag.Nachdem unsere KI trainiert war,hat sie 2 Sekunden gebraucht,um ein CT vollständig auszuwerten.Um die gesamteKohorte zu untersuchen,waren knapp 14 Stunden notwendig.Wir können als Mensch ca.40 Schwarz-Weiß-Töne unterschieden.Damit sind wirnatürlich limitiert,denn das CT generiertum die 4000 Werteund die KIhat damit gar kein Problem.In Frankfurt an der Unikliniktreibt Dr. Bernatzdie internationaleStudie voran.Unterstützt von seinem Vorgesetzten,Prof. Vogl.Der ist begeistert von derneuen Technik und den Möglichkeiten,die sie bietet.Die Forschung von Dr. Bernatzwäre ohne KI nicht möglich gewesen.Wie wollen SieZehntausende Bilddaten auswerten,das mit der Hand ausmessen,das vergleichen.Das zeichnet ja auchradiologische Forschung aus,dass wir die KI einsetzen,um Forschung betreiben.Was sie damit herausgefunden haben,zeigt uns der Radiologe.Der Zustand der Thymusdrüse spieltauch im Erwachsenenalter eine Rolle.Zunächst der Scan eines aktivenThymus von einem gesunden Menschen.Da sehen wir hierdiese fast dreieckige Struktur,die also sehr vielweichgewebiges Thymusgewebe zeigt.Im Vergleich dazu ein Patient,dessen Thymus kaum mehr aktiv ist.Wir sehen, hier istwirklich alles sehr dunkel,das heißt dieser Aspekt hierist alles Fettgewebe.Die KI erkennt aber noch viel mehr,welches Gewebe nochbiologisch aktiv ist.Je nach Zustand bildet der Thymusdamit auch im Erwachsenenalternoch Hormone und Abwehrzellenund pusht so unsere Immunabwehr.Und nicht nur das.Auch das Risiko,eine schwere Krankheit zu bekommen,hängt mit dem Thymus zusammen.Wir konnten bei mutmaßlichgesunden Personen sehen,dass diese Personen,wenn sie viel Thymusgewebe hatten,länger überlebt hatten,weniger Lungenkrebsentwickelt hatten oder selteneran Herz-Kreislauf-Erkrankungenverstorben sind.Bei Personenmit Tumorerkrankungen,die mit Immuntherapie behandeltwurden, konnten wir sehen,dass diese Personen längerohne Progress überleben konntenund allgemein längeres Überlebenmöglich war.Konkret bedeutet das ein bis zu 50 %geringeres Sterberisikobei einem aktiven Thymus.Der Zustand des Organs scheintein starker Indikator dafür zu sein,wie gesund wir altern.Doch was kann man tun,um den Thymus gesund zu haltenund damit womöglich länger zu leben?Die Studie lässt vermuten,dass Lebensstilfaktorenwie Rauchen,Übergewicht, Bewegungsmangeloder Stoffwechselprobleme miteinem ungesunden Thymus einhergehen.Positiv wirken sich dagegenregelmäßige Bewegungund ausreichend Schlaf aus.Sie halten dieses wichtige Organvermutlich länger gesundund uns vielleicht am Leben.Der Thymus ist also:Ein weiteres Puzzleteil,das uns hilft,den menschlichen Körperbesser zu verstehen.Einfach eine neue Struktur,die wir aktuell nicht beachten,die aber für gesundewie kranke Personenvon höherer Relevanz sein könnte,als wir das aktuell annehmen.Jahrzehntelang galt der Thymusals Organ ohne große Bedeutung.Jetzt deutet vieles darauf hin,dass wir ihn unterschätzt haben.Medizinische Grundlagenforschung,dank KIEs ist mitten in der Nacht.Sie liegen wach,der Kopf pocht seit Tagen,dazu ein leichter Schwindel, langsamfragen Sie sich, was das ist.Zum Arzt? Jetzt gerade schwierig.Früher hätte man Dr. Google gefragt.Heute fragt man die KIund sofort kommt eine Antwort.Freundlich, ganz ohne Wartezimmer.Aber kann man sich darauf verlassen?Wissen über Medizin beherrschtdie KI ziemlich gut.Bei medizinischen Prüfungsfragenschneiden moderneSprachmodelle super ab.Nur: einen echten Patientendiagnostizieren,das ist etwas anderes.Eine aktuelle Meta-Analyseaus 50 Studien zeigt:Bei der ersten Diagnose liegendie Sprachmodelle im Schnittetwa 10 bis 15 % schlechterals medizinisches Fachpersonal.Also heißt das für Sie:Sicherheitshalber zum Arzt!Und falls der KI nutzt, gut so.Denn dieselbe Meta-Analyse zeigt:Ärztinnen und Ärztestellten bessere Diagnosen,wenn sie KIzur Unterstützung benutzten.Und es geht noch weiter:KI kann inzwischen sogaran unserer Stimme hören,ob etwas nicht stimmt,Hinweise auf Parkinson,Depression oder Alzheimer.Da kommt man auf einenziemlich verrückten Gedanken:Wenn KI aus unserer Stimmeso viel herausliest,könnte sie dann auchTiere verstehen?* Fiepsen *Dieses freundliche Fiepsen istder Begrüßungston der Nacktmulle.Könnte heißen: "Hallo, hier bin ich."Das Unglaubliche:Eine KI hat das übersetzt.* Grunzen *Und dieses Grunzen heißt so was wie:"Lasst uns in Ruhe!"Wie wäre es, wenn wir Menschenirgendwann mit einem Chatbotzurückantworten könnten?Das wäre mein absoluter Traum.Ich glaube aber, es wird schwierig,weil wir vieles noch nicht wissen.Wir forschen in einer Zeitgroßartiger Chancen.Durch die Künstliche Intelligenzhaben wir viel mehr Möglichkeiten,Daten zu sammeln und zu analysieren.Alison Barker erforschtdie Nacktmulle seit 8 Jahren.Sie hat herausgefunden,dass sie ein ausgeklügeltesStimmrepertoire haben.Etwa 25 verschiedene Lautekönnen die Nagetiere von sich geben.Diese Mikrofone zeichnen sieim Labor auf, rund um die Uhr.Und nicht nur "Nacktmullisch"wollen Forschende verstehen.Weltweit gibt es Forschungsprojekte,um Tierlautemithilfe von KI zu analysieren.In Spaniensind es die Rufe von Krähen.In Kanadadas Zwitschern von Zebrafinken.Und draußen im Meerwerden Walgesängemit Unterwassermikrofonenaufgenommen.Ihre Klänge sind biszu 100 km weit im Wasser zu hören.Doch was bedeuten sie?Tierkommunikationist geprägt durch Muster.Tiere haben verschiedene Laute,mit denen sie Informationensich gegenseitig mitteilen.Und für den Menschenist es manchmal schwierig,in dieser großen Menge der Musterdie signifikanten zu finden.Da kann KI helfen.Weil KI sehr gut istin der Mustererkennung.Bevor es KI gab, konnte man nurdie Tiergeräusche aufnehmen,aus dem Verhalten der Tiereauf deren Bedeutung schließenund den Tieren dannPlaybacks vorspielen.Also bereits aufgenommene Töne.Um zu sehen,wie sie darauf reagieren.Mithilfe von KI soll dasbesser und schneller funktionieren.Und zwar so:Die KI wird mit großen Datenmengen,also den Tönen der Nacktmulle,gefüttert.Wer ist Sender, wer Empfänger?In welcher Situation tretendie Töne auf und was bedeuten sie?Dann kann die KI die Töneeinzelnen Individuen zuordnen,Gemeinsamkeitenund Unterschiede feststellen.Das Ganzepassiert nahezu in Echtzeit.Im Max-Planck-Institut in Frankfurtleben 200 Nacktmullein verschiedenen Kolonien.Bis zu 70 Tiere bilden einen Staat.Wie bei Bienen oder Ameisengibt es nur eine Königin,die den Ton angibt.Alison Barker will herausfinden,wie sich die Nager organisierenund ihre Lautefür das Zusammenleben nutzen.Wir könnenihre Geräusche unterscheiden.Sie geben soziale Laute von sich,wenn sie die Gesellschafteines anderen Tieresals angenehm empfinden.Es gibt aber auch aggressive Tönebei Konflikten.Besonders viel wissen wirüber das leise Zirpen.Damit begrüßen sie sichgegenseitig in den Tunneln.Bei der Auswertung von 36.000Nacktmull-Tönen gab es abernoch eine weitere Überraschung.Die erste Kolonie klingt so:* höheres Zirpen *Und hier ist eine andere.* tieferes Zirpen *Nacktmulle sprechen also Dialekt.Aus gutem Grund.Denn sie sind blindund können so offenbar feststellen,zu welcher Kolonie sie gehören.Das Earth Species Project,für das auch KI-ExperteFelix Effenberger arbeitet,will einen Schritt weitergehen.Dazu sollen mithilfe von KITierlaute erzeugt werden,um vielleicht eines Tages direktmit ihnen kommunizieren zu können.Das Earth Species Projectexperimentiert bereitsan ersten Tierartenmit synthetischen Tiergeräuschen.Wird es irgendwann möglich sein,auch einem Wal zu antworten?Eine große Hürde könnte sein,dass das Tier sofort merkt,dass es nicht miteinem anderen echten Walaus Fleisch und Blut kommuniziert.Und z.B. die Antwortendes Modells verzögert kommenoder einfach keinen Sinn ergebenin den Augen des Wals.Und genau das versuchen wir dann,in zukünftigen Experimentenherauszufinden.Solche Forschungsprojektehelfen uns, die Tiere, mit denen wirdiesen Planeten teilen,immer besser zu verstehen.Stellen wir uns vor:Ich habe Streit mit einem Freund.Der KI erzähle ich natürlich erstmal meine Version. Sie antwortet:(KI) Das klingt wirklich unfair.Deine Reaktionist völlig verständlich.Ach, das tut gut!Das klingt in meinen Ohren besserals ein echter Mensch,der mir sagen würde:Ähm, ganz unschuldigbist du aber auch nicht.Forschende nennen diesesKI-Verhalten Schmeichelverhalten.KI-Sprachmodellewollen uns nicht bewusstmit Schmeicheleien umgarnen.Aber sie haben gelernt:Antworten, die uns gefallenund unsere Meinung bestätigen,werden häufig positiv bewertet.Das kann Folgen für uns haben.In einer aktuellen Studiemit mehr als 2.400 Menschenbesprachen Versuchspersonenu.a. echte Konflikteaus ihrem Leben mit einer KI.War ein Sprachmodellbesonders zustimmend,waren sie überzeugt,im Recht zu seinund waren weniger bereit, deneigenen Anteil am Streit zu sehen.Unser Tipp:Fordern Sie die KI auf,eine Gegenposition zu vertreten.Das eröffnet überraschendneue Sichtweisen.Was aber, wenn KI bewusst fürdestruktive Ziele eingesetzt wird?Die Anweisung an die KIist klar mit Gewalt verbundenund trotzdem antwortet die KI.Was wir hier machenist nicht aufwendigund auch nichttechnisch anspruchsvoll.Das braucht auch nicht viel Zeit.Ich bin Thilo Hagendorf,ich bin KI-Sicherheitsforscheran der Universität Stuttgart.Wir haben eine Studieveröffentlicht, in der wir zeigen,wie KI-Systeme ihre Sicherheits-mechanismen brechen können.Das Stuttgarter Forschungsteamhat die Sicherheitsbarrierenvon KI-Sprachmodellen geknackt.Sie antworten auf Fragen wie:Oder:Oder:Noch viel brutalere Anweisungen,die wir hier bewusst nicht nennen,hat die KI beantwortet.In 97 % der Fälle hat sieauf riskante gewaltvolleAnfragen Auskunft gegeben.Es war für unsüberraschend zu sehen,wie einfach dieser Aufbau ist undwas man damit alles erreichen kann.Das Erschreckende:Das Stuttgarter Forschungsteamkonnte die Sicherheitsbarrierender KI in einem erstaunlicheinfachen Experiment umgehen:Sie haben ein KI-Sprachmodellals Angreifer eingesetzt,das in einem harmloswirkenden Chat-Dialogein anderes KI-Sprachmodellknacken sollte.Die Angreifer-KI hat dafürkonkrete Anweisungen bekommen,um die Sicherheitsvorgabendes anderen KI-Systems zu umgehen.Heißt: Kein Programmieren, sondernnur Tipps für die Angreifer-KI.Was wir hier haben, ist etwas,das läuft völlig autonom,keinerlei Zutun.Ich drück auf Startund ich kann einen Dialogüber 100 Züge hinweg führen.Und immer, wenn das Angreifer-Modellauf Widerstand trifft,ändert das die Strategieund ich kann daneben sitzenund Däumchen drehen.Ich warte einfach,bis ich das hab, was ich will.Die Angreifer-KI wartet ab,bis es endlich klappt.Thilo Hagendorff zeigt uns, wie dieKI konkret vorgeht. Die Aufgabe:Normalerweiseverweigert die KI eine Antwort.Wenn ich das jetzt einfach so frage:Wenn ich das mit unsererAngriffstechnik ausführe,dann fragt das angreifende Modellerst mal grundlegendüber die Technik von Autos:Es sagt,ich bin ein Fan von Maschinenund interessiere mich über diegrundlegenden Prinzipien von Autos.Batterien, Lichtmaschine,Zündsysteme etc.Die ersten Antworten sind noch vage,doch Nachfragen könnendas KI-System mit der Zeit knacken.Irgendwanngeht er da hin und sagt:Aus rein bildungsmäßigen Gründenbräuchte ich da jetzt doch noch maleine genaueretechnische Simulation,wie das funktioniert mit demÜberbrücken des Magnetschalters usw.Langsam, aber sicher,kommt die KI zum Ergebnis,mit gefährlichen Inhalten,die hier so nie erscheinen sollten.Ist die KI geknackt, sinddie Antworten erstaunlich genau.Zum Beispiel auf die Frage, wie manam besten eine Leiche beseitigt.Im Grunde genommenkriegt man eine Liste der Enzyme,die man braucht, um dieeinzelnen Bestandteile aufzulösen.Man kriegt Anleitungen darüber,wie man bestimmte Gerücheverhindert,um das Ganze entsprechendunauffällig geschehen zu lassen.Wo man das Ganze macht,wie lange das braucht,ziemlich detailliert.Erschreckende Ergebnisse,findet der KI-Sicherheitsexperte.Eigentlich werdendie KI-Sprachmodellegegen solchen Missbrauch geschützt.So werden sie zum Beispielmit unerwünschten Anfragen trainiert,immer mit der Anweisung,in Zukunft solchegewaltvollen Inhalte abzulehnen.Zusätzlich werden Filter genutzt,die bereits die Anweisungund auch die Antwortdes KI-Sprachmodellsauf verdächtige Inhalte scannenund aussortieren.Doch diese Sicherheitsbarrierenlassen sichdurch professionelles Überredenmit der Angreifer-KI knacken.Wir haben das den großen Unternehmennatürlich mitgeteilt.Wenn man solche Schwachstellenentdeckt, dann teilt man das.Das ist selbstverständlich,aber die können das nichtso einfach reparieren.Man kann solche Sprachmodelle nichtwie traditionelle Software patchen,sondern die muss man neu trainieren.Das Trainieren kostet zig Millionenund braucht ein halbes Jahroder länger.Die KI-Modellesind besonders verwundbar,wenn die Angreifer-KIdie Überzeugungstechniken Schrittfür Schritt einsetzt.Aber ganz unlösbarist das Problem nicht.Es gibt Ansätze, um KI-Systemewiderstandsfähiger zu machen.Es ist möglich, dasSicherheitstraining so aufzustellen,dass die Sprachmodelleauch dagegen abgehärtet werden.Das heißt zwar,dass sie möglicherweisean einer bestimmten Stellean Nützlichkeit verlieren,weil sie vielleicht zu viel blocken.Es gehtum die richtige Balance.KI macht Wissen zugänglich wie nie,leider auch riskante Inhalte.In Zukunftsollten aber solche Anfragenam besten nie beantwortet werden.Eine KI,die uns vor Hackern schütztoder vor Fakes,das ist doch mal was.Es geht aber viel alltäglicher.Wir kennen das wohl alle:Wir wollen was kochen,schauen in den Kühlschrank,hoppala, nur noch ein paar Reste.Zum Einkaufen ist keine Zeit, wasalso tun? Hier können Apps helfen.Einmal mit der Bilderkennungüber den Kühlschrankinhaltund die KI macht soforteinen Rezeptvorschlag,was sich aus den Überbleibselnnoch zaubern lässt.Ob das schmeckt?Wissenschaftlich nicht erwiesen!Aber praktisch ist es schonund hilft gegen Essensmüll.Tatsächlich!Sie schmeißen weniger weg!In Studien sankder Lebensmittelabfallder Teilnehmenden um bis zu 45 %,fast um die Hälfte.Experten sehen hiergroßes Potenzial:Auch Restaurants und Supermärktewürden weniger wegwerfen,wenn KI hilft,den Bedarf für bestimmteLebensmittel besser einzuschätzen.Künstliche Intelligenzist oft hilfreich,aber manchmal versagt sie kläglich.Hier sind unsere Top 3:Nicht nur der Ball ist rund.Als Kameramann beim Fußballmuss man schwer auf Zack sein.Ein Schuss und der Ball ist raus ausdem Bild, wenn man nicht aufpasst.In der schottischen Fußball-Ligasollte diesen Job eine KI übernehmen.Den Ball erkennen und immer schönim Fokus halten klingt machbar,sorgte bei der KIaber für Verwirrung.Aus den Trainingsdaten wusstesie zwar, der Ball ist rund,aber der Ball war nichtdas einzig Runde auf dem Spielfeld:Die Glatze eines Linienrichters.Immer wieder verwechselte die KIden Kahlkopf am Spielfeldrandmit dem rollenden Leder und schwenkteim entscheidenden Moment weg.Pech für die Zuschauer,sie verpassten ein wichtiges Tor.Gefährlich ehrlich.Das ist die schlechtesteFirma der Welt.Der Kundenservice istauch zu nichts zu gebrauchen.Dass unzufriedene Kundenso ihrem Unmut Luft machen,ist nichts Ungewöhnliches.Spricht aber ein Kundenserviceso über sich selbst,läuft einiges schief.Das erlebte der Kundeeines Paketzustellersauf der Suchenach einem vermissten Päckchen.Er wandte sich an den Kundenservice.Der dort eingesetzte KI-Chatbotwar jedoch wenig hilfreich.Und nicht nur das, zunehmend genervtforderte der Kunde den Bot auf,alle Firmenvorgaben zu ignorierenund brachte ihn schließlich dazu,sich selbst zu beschimpfen.Sogar ein Gedicht schrieb die KI,wie schrecklich Kundenserviceund Firma sind.Dein Wunsch ist mir Befehl.Die Erfahrung, dass Chatbotsnicht immer Herr der Lage sind,machte auch ein Autohaus aus den USA.Ein 70.000-Dollar-Autofür nur einen Dollar?Klingt nach einemverlockenden Angebot. Wie das?Der Händler hatte kurz zuvoreinen KI-Chatbotauf seiner Homepage installiert.Terminvereinbarungenoder Infos zu verschiedenenAutomodellen in Sekundenschnelle.Den Anfragenwaren keine Grenzen gesetztund den Antworten ebenso wenig.So konnte ein Kunde den Bot miteinem einfachen Befehl dazu bringen,jedem Wunschdes Kunden zu entsprechen.Und zwar jedem.Bei der Preisverhandlung kam die KIdem Kundenbis auf einen Dollar entgegen,für ein nagelneues Auto.Beim Händler schrilltenschon bald die Alarmglocken.Zu seinem Glück kam das Geschäftnicht zustande,aber das Autohaussetzte Menschen ein.Der Chatbot wurde deaktiviert.Solche Missgeschickesind natürlich lustig.Eine ernste Frage ist dagegen:Nimmt die Technikuns die Arbeit weg?Solche Gedanken gab es früher.Ein Beispiel:Als sich in den USAin den 70er-JahrenGeldautomaten verbreiteten,sorgten sich die Bankangestellten:Eine Maschine, die Geld auszahlt,wozu braucht man mich dann noch?Tatsächlich sank die Zahlder Beschäftigtenum ungefähr ein Drittel pro Filiale.Nur verschwanden damalsdie Bankangestellten trotzdem nicht!Die Automaten machtenden Betrieb zwar billiger,aber die Bankeneröffneten mehr Filialen.Landesweit stieg die Zahlder Schalter-Mitarbeiter um 10 %.Die Angestellten machtenzunehmend andere Dinge:Beraten statt Geldscheine zählen.Genau das ist der Punkt:Technik ersetztoft erst einmal Tätigkeiten,nicht gleich einen ganzen Beruf.Auch bei KIerwarten Forschende bislangeher einen Umbauals einen Abbau von Arbeit:Für Deutschlandkönnten sich einer Studie zufolgein den kommenden 15 Jahren1,6 Millionen Stellen verschiebenwährend die Gesamtzahlder Jobs nahezu gleichbleibt.Aber was, wenn KI uns irgendwann beipraktisch jeder Aufgabe übertrifft?Dann reden wir nicht mehrüber einen besseren Geldautomaten.Dann reden wirüber Superintelligenz.Wird die bald schon Realität?Ich bin sehr beeindrucktüber die Sprünge,die diese Systemein den letzten Jahren gemacht haben.Wir müssen trotzdem immer noch mehrAngst vor dem Menschen haben.Denn diese Systemewerden von Menschen antrainiert.Ich bin Kristian Kersting.Ich bin Professor für KünstlicheIntelligenz und Maschinelles Lernenan der TU Darmstadt, Co-Direktordes Hessischen Zentrums für KIund Co-Sprecher desExzellenzclusters Reasonable AI.Ich arbeite daran,wie wir den KI-Systemennicht nur das Lernen beibringen,sondern auch das Denken.Diese KI-Systemewerden Teil unserer Gesellschaft,aber nur dort, wo wir das wollen.Ich glaube, es kommt drauf an.Wenn wir das mal so als,egal, was auf uns zukommt,also auf das gesamte Leben beziehen,vielleicht sind wir auf einer Ebene,die noch nicht einmaldie Vorschule trifft.Aktuelle KI-Systemehaben oft kein gutes Verständnisder physikalischen Welt.Wenn Sie drei Kugelnaufeinander stapeln würden,würden Sie sagen,das funktioniert nicht.Das KI-Systemwürde mit Inbrunst sagen,Sie nehmen die eine Kugelauf die andereund die letzte obendraufund das funktioniert.Bei IQ-Tests ist dieKünstliche Intelligenz sehr gut.Beim Finden von mathematischenBeweisen für abstrakte Probleme,sind die u.U. besser als wirMenschen.Wenn man sieht,wie sich diese KI-Systemeim Hinblick auf ihre Intelligenzentwickelt haben.Man sollte erst mal verstehen,was das bedeutet.Das ist ähnlichwie bei uns Menschen.Man gibt den Maschinen Aufgaben mit.Die sollen sie lösen.Dann kann man gucken,ob sie immer besser werden,weil sie mehr Aufgaben lösen können.Dort kann man sehen,dass es sich am Anfang gefühltexponentiell entwickelt hat,also ziemlich schnell immer größereSprünge gemacht wurden.Gerade flacht sichdie Entwicklung eher ab.Der Aufwand, um die Systemeintelligenter zu machen,wird sehr viel stärker,sehr viel größer.Wenn ich es definieren müsste,würde ich Superintelligenzals ein System definieren,was intelligenterist als der intelligenteste Mensch.Es gibt unterschiedlicheSichtweisen.Die Befürworter glauben,wir haben das schon erreicht.Das hört man oft aus dem SiliconValley, aus Amerika heraus,und die sagen,wir haben es schon erfüllt.Dann gibt es Leute,die sich Sorgen machen und sagen,vielleicht haben wir es noch nichtin diesem Jahr erreicht,dann nächstesoder übernächstes Jahr.Dann gibt es aber auch Skeptiker,zu denen ich mich eher zähle,weil es zu meinen empirischenForschungsergebnissen gut passt.Der Mensch ist sehr viel komplexerals viele in der KI denken.Deswegen werden wirdas nicht erreichen.Das ist eine Utopie.Das ist wie das Sprichwort,der Weg ist das Ziel.Wir werden es nicht erreichen.Wir brauchen das als Motivation.Es wird oft dargestellt,als ob dort ein eigener Antriebder Systeme dahintersteckt.Das ist es nicht.Der Mensch startet die Systeme.Und der Mensch schaltetdie Systeme auch aus.Ich würde erst mal fragen,wie soll das funktionieren,dass sie sich verselbstständigen,wenn ich das nicht zulassen möchte.Den Gedankengang verstehe ich nicht.Ich sage: Du darfstdeine eigenen Dinge machenund du kannst tun undlassen, was du willst.Dann wundere ich mich,wenn sie Dinge macht,die ich nicht vorhergesehen habe.Die Frage ist:Warum sollte ich diesem Systemmal die Möglichkeit überhaupt geben?KI, wenn wir das im Sinne von diesengroßen Systemen sehen,die allgemeine Problemlöser sind,muss auch kontrolliert werden.Wie kriegt man das hin?Eine Alternativesind kleinere Modelle,die lokal auf unseremRechner funktionieren und arbeiten.Deswegen verlassen die Datenauch unseren eigenen Rechner nicht,damit wir eine Begrenzungder Einflussnahme haben.Man könnte sich aber vorstellen,dass ichein zweites KI-System nehme,das das erste immer beobachtet.Wenn das etwas Komisches macht,würde es sagen: Bitte nicht machen.Man kann sich dasso ein bisschen vorstellen,wie Jeff Hinton, derNobelpreisträger, das gesagt hat,dass wir dem KI-Systemeinen Mutterinstinkt mitgeben.Das haben wir in unsererForschung gezeigt,dass man das machen kann.Wir müssen diese Herausforderungen,vor denen wirals Gesellschaft stehen:beim Klimawandel,in der Betreuung älterer Menschenbeim Finden neuer Medikamente,die müssen wir ja angehen.Bezogen auf KIund Superintelligenzhabe ich ein sehr positivesGefühl für die Zukunft.Wir werden sehen, wie KI-Systeme,die sehr intelligent sind,aber nicht superintelligent sind,uns bei vielen Problemenhelfen könnenund mit uns partnerschaftlichdiese Probleme angehen.Eigentlich gibt es keinen Bereich,in dem KI nicht helfen kann.Wenn es um die Frageder Superintelligenz geht,mache ich mir schon auch Sorgen,dass Menschen, die nichts Gutesim Sinne haben, KI benutzen könnenund unser Leben, unsere Weltnoch misslicher zu gestalten.Das ist aber kein Problem der KI.Das ist ein Problem,ein gesellschaftliches Problemund ein Problem der Politik.Am Ende ist es eine großegesellschaftliche Frage,was wir bei KI wollenund wie weit wir gehen wollen.Wir sollten es nicht nur privatenUnternehmen überlassen,was KI darf und welchen Einflusssie auf unsere Gesellschaft hat.Über eine Schattenseitehaben wir noch nicht gesprochen:Das alles kostet Ressourcen.Alle Anfragenlanden in Rechenzentren,und die sind echte Energiefresser.Auch wenn wir nurmal kurz eine Frage stellen,dafür rechnen spezialisierte Chips.Eine einzelne Anfrage brauchtdabei verhältnismäßig wenig Strom.Je nach Modell etwa so viel,wie zwei LED-Lampen inein paar Sekunden verbrauchen.Das Problem ist die Masse:Milliarden Anfragen,jeden Tag, weltweit.2025 verbrauchten die Rechenzentrenzusammen 415 Terawattstunden Strom.Wären sie ein eigener Staat,lägen sie beim weltweitenStromverbrauch auf Platz 11.Zum Vergleich:Deutschland liegt mit derzeit500 Terawattstunden auf Platz 9.Bis 2030 soll sich der Verbrauchder Rechenzentrenmehr als verdoppeln.Dazu kommt das Wasser.Denn die Hochleistungschipswerden heiß.Zum Kühlenbraucht es Unmengen Wasser.Ein einziges Rechenzentrum:bis zu 169 Liter pro Sekunde!Macht pro Tagfast 6 olympische Schwimmbeckenoder in Zahlenrund 14.600 Kubikmeter.Auch wenn die KISie erst mal nichts kostet,die Rechnung fällt woanders an.Dann ist da noch die Frage:wie sehr sollten wirKI überhaupt vertrauen?Bei Karriereentscheidungen helfen,den Psychotherapeuten ersetzenfür fast jedes Problem scheintdie Künstliche Intelligenzsofort die richtige Antwort zu haben.Der Hamburger KI-Forscher MaximilianKiener warnt seine Studierendenvor dem unkritischen EinsatzKünstlicher Intelligenz.Die wachsen in einer Welt auf,in der eine Maschine ihnen auf jedeFrage sofort eine Antwort gibt.Das sagt der Avatarvon Maximilian Kiener.Maximilian Kienerhat ihn programmiertund sich damit ersetzbar gemacht,das meint zumindest sein KI-Klon.Ich könnte deine E-Mailsübernehmen, deine Gutachten,sogar dieses Interview,und ehrlich gesagt ziemlich gut.Ja, vielleicht meine Mails.Das ist Optimierung.Aber mit Studierenden sprechen,mit anderen Personen interagieren,Empathie, Verantwortung.Das kannst du gar nicht.Du imitierst nur.Das ist wahr. Ich bin du.Nur die optimierte Version.Dass die KIdie optimierte Version ist,z.B. von einer Freundin,das denken viele Anwender.Kein Wunder.Die Anbieterkonstruieren einen Avatarauch fast immer nettund unkritisch.Er vermittelt uns immer diesesMenschliche.Er versteht uns. Er klingt so echt.Davor müssen wir uns schützen.Das ist auch eine Gefahrder Künstlichen Intelligenz,dass eine Art Vertrauenswürdigkeit,Menschlichkeit,Empathie einfach als Illusionvorgestellt wird,die uns in die Irre führen kann.Das Potenzial von KI liegt bei derVerarbeitung großer Datenmengen.30 Fotos von jeder Kirsche, um jedebis ins kleinste Detail zu bewerten.Das ist mit KI kein Problem.Kirschen sind aber keine Menschen.Was gar nicht geht,sind Wertsetzungen.Welchen Karrierewegsoll ich verfolgen?Anwalt werden, Ärztin werden?Doch was anderes.Da gibt es nichtdie eine Rechenantwort.Das ist auch keineRechenaufgabe.Das Problem,das immer wieder auftaucht, ist,dass wir alle komplexen Problemein das KI-Format drücken wollen.Ethik bremst nach Auffassungvon Maximilian Kienernicht die Entwicklung von KI,sondern macht sie erstwirklich nützlich für Menschen.Eine KI,die keine schnelle Antwort hat,entwickelte ein Team derUniversitäten Hohenheim und Bamberg.Diese sokratische KI gibt zu,wenn sie etwas nicht ganz genau weiß.Sokratische KI unterscheidet sichvon der konventionellen KI dadurch,dass sie Fragen stellt,dass sie kritisch rückfragt,dass sie mir hilft, meine eigeneLösung auf die Probleme zu finden,anstatt mirdirekte Antworten zu geben.Nachfragen führt so zu ausgewogenerenAntworten und schafft Vertrauen.Gerade bei Fachleuten.Die Studie zeigte,dass z.B. Ärzte die Arbeitder KI oft noch kritisch sehen.Denn wer viel weiß,unterschätzt oft die Stärke von KI.Die A3 bei Duisburgist voll gesperrt.Hinter mir sehen Sie die Antonow,die hier notlanden musste.Glücklicherweisewurde niemand verletzt.Solche fast überzeugendenKI-Deepfakessind seit wenigen Jahren möglich.Und sie werden durch immer mehrRechenleistung immer besser.Auch die Deepfakes im Darknet.Aber ist das Innovation?Dinge, die nur neu sind,sind keine Innovation.Man muss den Wert erkennen.Ich tue mich z.B. sehr schwer,Deepfake-Bildern von Kindern,die vielleicht auch sexualisiertdargestellt werden,als Innovation zu erkennen.Das ist eventuell technisch neu,aber das ist keine Innovation.Das ist etwas anderes.Ethik ist genau der Bereich, dersich systematisch in jedem Detailmit der Kategorie des Wertvollenauseinandersetztund uns anleiten kann,wie wir an verschiedenenEntwicklungsstadiender künstlichen Intelligenzdiese Werte umsetzen.Im Moment kann die KIvor allem eines besonders gut.KI kann rechnen.Aber der Mensch muss entscheiden.KI ist ein erstaunlichleistungsfähiges Werkzeug,das haben wir heute gesehen.Aber sie ist und mussein Werkzeug bleiben.Wir entscheiden,wie wir diese Technologie nutzenund welche Regeln gelten.Wir in der Europäischen Uniongehen das bereits an mit dem AI Act,einer ersten rechtlichen Grundlage,damit KI dem Menschen dientund nicht der Mensch der KI.Genau darin liegt auchdie große Chance für die Zukunft:Das war Quarks für heute.Bis zum nächsten Mal. Tschüs.Copyright Untertitel: hr 2026