Halten mit KI hergestellte Missbrauchsdarstellungen Täter vom realen Missbrauch ab, Jessica Szczuka?

[00:00:02.260] - Jessica Szczuka 

Die Künstlichkeit, die schon im Namen suggeriert ist - KI, künstlich - das lässt ja vermuten, dass da kein echtes Kind in irgendeiner Form irgendwie Schaden vornimmt, weil es nicht abgebildet ist, weil es ja diese Person gar nicht gibt. Aber das ist ein totaler Trugschluss, weil um diese Modelle zu trainieren sind, und das wissen wir mittlerweile durch große Analysen auch von Stanford, die gezeigt haben, dass in diesen ganzen Modellen, die wir auch zum Teil tagtäglich nutzen, auch Missbrauchsdarstellungen von Kindern inkludiert sind. Oder aber es sind Kinder involviert in nicht sexualisierten Situationen sozusagen und die werden dann trotzdem in diese Situationen gebracht. Das heißt, diese Vorstellung, dass das einfach so getrennt werden kann und gesagt werden kann, „Das hat ja mit der echten Welt nichts zu tun", ist total wishful thinking.

[00:00:53.240] - Nadia Kailouli 

Hi, herzlich willkommen bei einbiszwei, dem Podcast über Sexismus, sexuelle Übergriffe und sexuelle Gewalt gegen Kinder und Jugendliche. Ich bin Nadja Kailouli und in diesem Podcast geht es um persönliche Geschichten, um akute Missstände und um die Frage, was man tun kann, damit sich was ändert. 

Hier ist einbiszwei. Schön, dass du uns zuhörst!

Dass künstliche Intelligenz tatsächlich technischer Fortschritt ist, den man unbegrenzt feiern kann, bezweifeln mittlerweile nicht Wenige. Aktuelles Beispiel, wie KI aus dem Ruder läuft: KI-Chatbots, die vorspielen, die besten Freundinnen oder Freunde zu sein. Und nicht nur das. Mithilfe von künstlicher Intelligenz erzeugen immer mehr Täter künstliche Missbrauchsbilder oder Videos. 

Die Sozialpsychologin Dr. Jessica Szczuka von der Universität Duisburg beschäftigt sich seit Jahren mit digitaler Intimität und digitaler sexueller Gewalt. Was sie herausgefunden hat, das erzählt sie uns selbst. Sie ist heute unser Gast. Herzlich willkommen bei einbiszwei, Dr. Jessica Szczuka. Schön, dass du da bist!

[00:01:56.390] - Jessica Szczuka 

Vielen lieben Dank, dass ich da sein darf.

[00:01:58.080] - Nadia Kailouli 

Wir reden heute mit dir über ein Thema, was, glaube ich, aus unserer digitalen Welt gar nicht mehr wegzudenken ist: Und zwar alles, was man mit KI machen kann, sei es vom Chatten bis hin zu Bildern erstellen. Dahingehend forschst du nämlich schon seit ein paar Jahren und wir sind ganz froh, dass wir heute mal ein bisschen im Detail darüber reden können. Nicht nur, was das für eine vermeintlich tolle Technologie ist, sondern was da auch, vor allem bei Kindern und Jugendlichen, für eine Gefahr ausgehen kann. Erst mal, wie stehst du generell ganz persönlich in deinem Alltag, weg vom Forschen, zu diesem Thema Chatbots?

[00:02:29.420] - Jessica Szczuka 

Ich glaube, dass das so ein bisschen wie jede Art von Tool total davon abhängt, was man damit macht. Ich glaube, dass es für ganz viele Menschen auf der Individualebene ganz viele Potenziale bringen kann, von sozialer Teilhabe und einem Ausleben von ganz natürlichen sozialen Bedürfnissen bis hin zur Assistenz bei irgendwelchen E-Mails schreiben und anderen kleinen Aufgaben. Aber zum jetzigen Zeitpunkt ist die Technologie halt maximal unreguliert, was halt natürlich bedeutet, dass damit auch ganz viele Dinge passieren, die auf der gesamtgesellschaftlichen Ebene total kritisch gesehen werden sollten und natürlich auch auf Individual-Ebene ganz viel Schaden anrichten können. Von daher ist das Gefahrenpotenzial aktuell auch sehr, sehr, sehr groß.

[00:03:16.620] - Nadia Kailouli 

Wir wollen direkt mit dir mal über diese Gefahren sprechen. Und zwar würde ich direkt sagen, wir fangen ziemlich heftig an: und zwar nutzen Menschen diese KI-generierten oder mit KI generieren sie Abbildungen von Kindesmissbrauch. Das sind dann Videos oder Bilder, wo zwar keine echten Kinder drin vorkommen, aber eben die Abbildung suggeriert, das ist ein Kind und man baut sich halt einfach mit dieser Technologie Abbildungen von Kindesmissbrauch, Videos et cetera et cetera. Was sagst du auf Forschungsebene dazu? Wie etabliert ist das und warum müssen wir da, also unabhängig davon, dass man das verurteilen kann, was man da sieht, aber dass man diese Technologie gerade dafür nutzt?

[00:04:03.680] - Jessica Szczuka 

Oh, das ist alleine diese Frage kann jetzt schon ganz viel, ganz viel Inhalt anstoßen. Also insgesamt müssen wir im Hinblick auf das Vorkommen schon mal festhalten, dass die Zahlen explodieren. Also es gibt Zahlen von Reportings, das heißt, wo User:innen halt Alarm schlagen, dass sie so was sehen, die um das Tausende Prozent fache quasi ansteigen im Hinblick vor die Zeit, wo Large-Language-Modelle noch nicht genutzt wurden, um Bilder zu kreieren oder diese Chatbots dazu genutzt wurden, um Bilder zu kreieren im Vergleich zu jetzt. Dann senkt es natürlich die Schwelle, wie man an solch ein Material kommt, enorm. Was vorher irgendwie im Darknet ganz schwierig auch nur zugänglich war, wird jetzt auf einmal ganz niedrigschwellig auch zugänglich. 

Das, was außerdem, glaube ich, nicht so direkt auf dem Schirm von vielen Leuten ist, ist die Tatsache, dass das, was abgebildet wird, in seiner Intensität, in der physikalischen Intensität auch einfach ins Extreme geht. Also da gibt es tatsächlich so diese Zahl, dass in anderen juristischen Systemen gibt es so ein Klassifikationssystem ABC quasi, wie missbräuchlich oder wie auch physikalisch anspruchsvoll die Abbildungen sozusagen sind. Und da ist die Anzahl von Kategorie A, also schwersten Missbrauchsdarstellungen, um 65 Prozent gestiegen im Vergleich dazu, was man vorher bei Fotos und Videos hatte, die halt eben mit der Kamera sozusagen aufgezeichnet worden sind. Dass ist natürlich, weil die KI es möglich macht, physikalische Grenzen komplett außen vor zu lassen. Das heißt, das, was vorher auch einfach durch körperliche Grenzen nicht darstellbar war, wird jetzt natürlich alles in irgendeiner Form abbildbar. 

Das, was psychologisch dahinter natürlich total spannend ist, ist so diese, wir nennen das Moral Disengagement, also dieses moralische Distanzieren vom Konsum, weil die Künstlichkeit, die schon im Namen suggeriert ist, - KI, künstlich - das lässt ja vermuten, dass da kein echtes Kind in irgendeiner Form irgendwie Schaden vornimmt, weil es nicht abgebildet ist, weil es ja diese Person gar nicht gibt. Aber das ist ein totaler Trugschluss, weil um diese Modelle zu trainieren sind, und das wissen wir mittlerweile durch große Analysen, auch von Stanford, die gezeigt haben, dass in diesen ganzen Modellen, die wir auch zum Teil tagtäglich nutzen, auch Missbrauchsdarstellungen von Kindern inkludiert sind. Oder aber es sind Kinder involviert in nicht sexualisierten Situationen sozusagen, und die werden dann trotzdem in diese Situation gebracht. Das heißt, diese Vorstellung, dass das einfach so getrennt werden kann und gesagt werden kann, das hat ja mit der echten Welt nichts zu tun, ist total wishful thinking, so nennen wir das. Also einfach nur eine vermeintlich total einfache Lösung zu einem existierenden Problem, was aber überhaupt nichts mit der Realität zu tun hat.

[00:07:01.900] - Nadia Kailouli 

Das heißt, wenn ich das jetzt richtig verstanden habe, ist, dass die KI, die man nutzt, ja, um diese Missbrauchsabbildung darzustellen, sich auch inspirieren lässt, sage ich jetzt mal in Anführungsstrichen, von „Content“, was es schon im Netz gibt, wo echte Kinder eben missbraucht worden sind und im Darknet halt dieses Videomaterial zu finden ist?

[00:07:23.120] - Jessica Szczuka 

Absolut. Und da gibt es Analysen, die genau das auch zeigen, dass zum Teil - es gibt ja immer mal wieder so lustige Apps, wo man irgendwie sein Gesicht in irgendeinen kleinen Weihnachtself oder so was reinmorphe kann, sozusagen - die funktionieren technisch gesehen mit einem Algorithmus, der trainiert worden ist, wo nachweislich Missbrauchsmaterialien von Kindern sozusagen in das Trainingsmaterial eingeflossen sind. Das ist also zum jetzigen Zeitpunkt auch die Technologie, die in der Gesellschaft ist, ist sozusagen auch ethisch schon durchaus extrem fragwürdig.

[00:07:55.880] - Nadia Kailouli 

Jetzt hast du gerade diese Zahl genannt, dieser Zuwachs von dem extremen Material, was produziert wird, dass es da einen Zuwachs von 65 Prozent gibt. Nun wissen wir ja auch durch diesen Podcast, weil wir schon viele Gespräche geführt haben, von Recherchen, die Journalistinnen und Journalisten gemacht haben, dass es wahnsinnig schwierig ist, im Darknet Videos löschen zu lassen, wo tatsächlich eben Videos und Fotos bestehen von Missbrauch von Kindern. 

Jetzt kann ich mir vorstellen, dass durch die KI das ja noch schwieriger wird, weil es einfach so ein Massenmaterial mittlerweile gibt, dass man doch da gar nicht mehr hinterherkommt. Weil nur weil das ja kein echtes Kind ist, ist es ja trotzdem das Abbilden von einer Straftat, die da passiert. Wie habt ihr euch das angeguckt? Kriegt man das jemals hin, dass das aus dem Netz verschwindet, was da produziert wird?

[00:08:46.770] - Jessica Szczuka 

Die Frage ist eine total gute. Ich arbeite da mit einer Kollegin aus Australien an einem größeren Projekt, was auch so ein bisschen in diese Justice-Richtung, also in die ganze Frage auch, wie man das gerichtlich bewertet, irgendwie geht. Und das erste Riesenproblem ist, da gibt es in der Regel, das kann nämlich manchmal bei anderen Fällen anders sein, dass eine Person abgebildet ist und persönliches Interesse daran hat, dass das natürlich dementsprechend auch verschwindet. Das hat man hier ja gar nicht. Das heißt, es ist sozusagen Goodwill der Behörden, dass man diese Materialien findet und dann dementsprechend runternimmt. Das ist also schon mal ein riesengroßes Problem. 

Das andere Problem ist, dass nicht mal zum jetzigen Zeitpunkt in allen Ländern Rechtsprechungen zu diesem Bereich existieren und noch gar nicht klar ist, wie das eigentlich zu verorten ist. Es ist beispielsweise im deutschen Recht durchaus so, dass KI-generierte Darstellungen auch ein, also das ist jetzt auch noch gar nicht so lange so, aber dass die halt auch einen Straftatbestand erfüllen sozusagen und deswegen gerichtlich entscheidbar sind. Es gibt aber noch kein Verfahren dazu. Also das heißt, es hat noch kein Richter entschieden oder keine Richterin entschieden, wie das denn nun bewertet werden soll. 

Und das Spannende ist, das sagtest du nämlich vorhin auch so in der ersten Frage, ja, das sind ja nicht existierende Personen. Die Realität zeigt aber gerade, dass die ersten Fälle, die auftauchen, ganz oft in Anlehnung an existierende Person stattfindet. Das heißt, dass Leute irgendwelche Kinder beispielsweise kennen und dann auf Basis dessen, was sie wissen, diese Prompts gestalten. Das verändert die Tatsache ein bisschen, weil in dem Moment ja durchaus dann dieses, „ach, das ist ja alles künstlich“, wieder komplett infrage gestellt wird, weil man sozusagen auf Basis einer existierenden Person KI nutzt, um sich dementsprechend die Materialien herzustellen. 

Und da ist es in der Tat gerade so, dass wir versuchen, in einem großen Projekt jetzt durch Interviews, durch Fallvergleichungen, herauszufinden, wie wird da in Zukunft die Rechtsprechung sein. Denn es gibt ja immer noch diese große Frage, die im Raum steht: Kann es nicht auch für einige Personen ein Safe Outlet sein, um diese Sexualität in irgendeiner Form zu leben? Und es ist doch besser, dass man dann diese künstlichen Materialien konsumiert, als dass man sich sozusagen da in irgendeiner Form an existierenden Kindern vergeht. Und das ist immer noch eine Idee, die in den Köpfen ist, aber eigentlich spricht in der Theorie so gut wie alles dagegen, dass das eine Art von Safe Outlet ist, das immer ausreichend wird. Weil halt diese Idee von, man konsumiert immer mehr und um das Erregungsniveau zu erreichen, wird immer wieder weiter konsumiert und anderer Content konsumiert. Es gibt diese Online-Only-Konsument:innen sozusagen, das gibt es. Aber die Gefahr, dass das sich reinsteigert, ist halt sehr hoch. 

Und das, was halt auch immer wieder von Kinderschutzorganisationen angebracht wird, ist halt dieses schiere, die Masse an Material, die jetzt existiert, werden auch viel mehr Personen zum ersten Mal mit so einer Art von Material konfrontiert. Und dadurch können sich ja auch erstmalige Kontakte und auch diese Bewertung von: Wie finde ich das eigentlich? auch bei ganz vielen Personen jetzt anders einstellen. Das heißt, es kann durchaus auch sein, dass diese sogenannten Prävalenzraten, also die Frage, wie oft das eigentlich vorkommt, auch in nächster Zeit höher werden, weil einfach mehr Menschen mit so einer Art von Material erst mal in Kontakt kommen werden durch die schiere Masse an KI-generierten, Materialien, die da gerade durchs Netz wabert.

[00:12:22.630] - Nadia Kailouli 

Jetzt passiert bei mir gerade ganz viel im Kopf, weil ich mir denke: Moment mal, also da gibt es Leute, die sagen: Hey, ist doch in Anführungsstrichen „super“, dass man dann lieber künstlich generierte Missbrauchsabbildungen von Kindern herstellt, anstatt dass man Kinder wirklich missbraucht und das mit der Videokamera festhält. Dann doch lieber mit KI. 

Ich frage mich die ganze Zeit: Moment mal, ist das nicht eigentlich total egal? Also was heißt total egal? Also am Ende, klar, will man überhaupt gar nicht, dass Kinder missbraucht werden, aber ich denke mir halt, da ist es doch egal, ob jetzt künstlich oder nicht künstlich. De facto müssen wir doch das Künstliche genauso verurteilen wie das Nichtkünstliche. Also da denke ich mir gerade: Hä, wie kann man das denn gleichstellen, zu sagen, na ja, ist doch besser künstlich, weil dann schützen wir die Kinder?

[00:13:07.360] - Jessica Szczuka 

Das ist aber genau die eine weitere, ich sage mal, mentale Brücke, die da auch gebaut wird, um das weiter zu verharmlosen, den Konsum von KI-generiertem Material, weil es beispielsweise in der Rechtsprechung unterschiedlich gehandhabt wird in der Schwere der…Weil es halt auch aktuell ganz wenig Zahlen in irgendeiner Form dazu gibt, ob das denn jetzt sozusagen im Konsum gleichzusetzen ist. dann im Hinblick auf die sogenannten Real-World-Offenses, also die Frage, ob es dann zu einer Kontaktstraftat kommt. Da gibt es halt sozusagen keine Zahlen zu und dementsprechend tut sich die Rechtsprechung da aktuell noch sehr, sehr schwer, das in irgendeiner Form einzuordnen. 

Und es sind ja halt nur Theorien im Moment, dass man sagt, das führt zu einer Normalisierung von so einer Art von Material oder von so einer Art von Weltanschauung. Das sind Gefahren, die wir kommunizieren aus der Wissenschaft sozusagen. Aber die werden halt von Einigen auch, wie gesagt, nicht wirklich ernst genommen. Und da wird dann weiterhin sozusagen an dieser Idee festgehalten, die eigentlich eher, glaube ich, eine Bequemlichkeitstheorie ist. Also dieses: Ach, ist das super, dann haben wir das Problem gelöst. Dann wenden sich die Menschen dem Künstlichen zu und dann haben wir irgendwie, haben wir das auch positiv genutzt für uns. Aber dass dadurch halt so viele Nebenprobleme aufgemacht werden, die völlig neue Problemfelder aufmachen auch, ist glaube ich bei vielen Leuten nicht auf dem Schirm. 

Und man muss ja sagen, Foto und Video ist da ein großes Problem und das wird auch so sehr prominent diskutiert. Aber das, was Chatbots oder KI halt jetzt auch völlig neu aufmachen, ist die Art von Beziehungsbildung, die stattfinden kann. Wir erleben das alle im Alltag, dass man vielleicht mal auch mal tiefere Beziehungen mit KI-Systemen eingeht, weil man dann auf einmal die KI als Therapeut nutzt oder dann doch mal irgendwie, wenn man sich einsam fühlt, ein Gespräch führt oder wie auch immer. Also es gibt da mittlerweile wirklich Menschen, die tiefe Beziehungen zu ihren KI-Modellen aufbauen. Aber genauso wie es halt diese sozialen Beziehungen im Hinblick auf zum Beispiel KI als mein Therapeut gibt, gibt es halt auch Leute, die das jetzt nutzen auf einer sprachlichen Ebene, um sich sozusagen eine Kinder-Persona zu schaffen und mit der dann auch sexuelle Szenarien durchzusprechen. Und das ist etwas, was auch noch überhaupt nicht in irgendeiner Form ernst genommen und auf dem, also auf dem, auf dem auch Forschungsgebiet wird es auch noch total unterrepräsentiert. 

Aber das ist natürlich noch mal eine ganz andere Art von Beziehungsbildung, die sich da abspielt, weil das ja viel emotionaler ist als der Konsum für Bilder und sozusagen sexuelle Befriedigung. Und ich glaube, das ist etwas, was auch unbedingt noch viel mehr in den Diskurs muss, dass das eine ganz große Gefahr ist. Weil es gibt zum jetzigen Zeitpunkt schon ganz viele Plattformen, wo man mit sogenannten Minor-Personas diese Arten von sexuellen Fantasien in irgendeiner Form ausleben kann. Und das wird überhaupt nicht reguliert. Also das ist ganz, ganz schwierig.

[00:15:59.820] - Nadia Kailouli 

Vielleicht bleiben wir da auch noch mal kurz mit dir auf jeden Fall dranhängen, weil worüber reden wir da genau? Also sind das Plattformen, wo gezielt Kinder angesprochen werden, zu sagen: „Hey, hier kannst du kommunizieren, wir hören dir zu und geben dir Tipps“. Und dann stellt sich heraus, dass das trotzdem, oder dass das nicht einfach nur ein Goodwill ist, Tipps für die Schulaufgaben zu geben oder so was, sondern dass das ja vorsätzlich ausgenutzt wird, um sexuellen Content irgendwie mit diesem Kind herzustellen? Oder von was für einer Plattform sprechen wir da?

[00:16:29.320] - Jessica Szczuka 

Wir sprechen tatsächlich von ganz vielen unterschiedlichen Anwendungsfällen. Dass das Kind sozusagen die Plattform nutzt und dann da irgendwelche auch Grooming-Situationen entstehen, ist so die eine Nutzungsform, aber ich spreche wirklich auch von, man nutzt gar keine existierenden Kinder involved in irgendeiner Form eine Plattform, um sich eine Persona zu bauen und dann mit der zu chatten. Und alle existierenden Fantasien werden sozusagen von diesem Chatbot nachgespielt auf eine Art. Also man entwickelt sozusagen auf dem Handy eine komplette Welt, in der man mit diesem, mit dieser kinderähnlichen Persona alle Extremformen von Sexualität in irgendeiner Form schriftlich und auch bildlich dann abspielen lassen kann.

[00:17:15.570] - Nadia Kailouli 

Okay, das heißt, okay, ach, jetzt habe ich es verstanden. Also gar nicht das Kind chattet mit einem Chatbot und denkt sich, alles cool hier, sondern ein Erwachsener chattet proaktiv mit einem künstlichen Kind und tauscht mit dem künstlichen Kind eben Sexualfantasien aus.

[00:17:33.690] - Jessica Szczuka 

Das, was vorher da sozusagen immer auf Fotos und Videos als Grundlage für sexuelle Erregung sozusagen genutzt worden ist, wird hier einfach auf die Textform ausgeweitet. Was da aber so gefährlich dran ist, ist, dass hier dann auf einmal diese emotionale Komponente eine viel größere Rolle spielt. Weil das, was man vorher gezeigt hat, wurde ja auch von dem Gegenüber sozusagen geframed, was man überhaupt darstellen kann. 

Aber in diesen Chats kann man das ja auch alles so sich hinschreiben lassen, dass das Kind das ganz toll findet und die andere Person total toll findet und da eine richtige Art von Beziehungsbildung in irgendeiner Form passiert. Und deswegen, wie gesagt, denke ich, dass das auch in den nächsten Jahren auch noch viel, viel, viel, viel größer sein wird als das, was wir bisher schon sehen. Und wir sehen das schon. Also ich bin im Kontakt mit Personen, die im Präventionsfeld arbeiten an der Charité. Und die haben alle, die haben alle Patientinnen, die quasi sich lokal Chatbots, die nicht mit dem Internet verbunden sind, sondern dann quasi auf ihren lokalen Servern sich diese Chatbots selber bauen und dann da extensiv Persona aufbauen, mit denen chatten und dann halt auch Bilder und Videos kreieren lassen. 

Also das ist auch schon bekannt. Man findet dann auch im Darknet seitenlange Anweisungen, wie man das alles auf lokalen Servern in irgendeiner Form betreiben kann, sodass man da auch nicht Gefahr läuft, von irgendwelchen Guidelines von diesen ganzen Chatbots sozusagen gesperrt zu werden oder irgendwie auch gecatcht zu werden. Das heißt, diese Technologie wird jetzt schon im großen Stile sozusagen auf privaten Rechnern für Missbrauchsdarstellungen, sei es halt textlich oder visuell, genutzt.

[00:19:17.530] - Nadia Kailouli 

Vielleicht halten wir noch mal fest von deiner Erkenntnis und von dem Austausch auf anderen Forschungsgebieten: Warum müssen wir das gleichwertig als Gefahr einstufen, diese Chats, diese emotionalen Chats wie die Abbildung von Videos und Fotos?

[00:19:32.730] - Jessica Szczuka 

Die Frage ist wirklich so, dieses Wort gleichwertig, da würden wir jetzt wahrscheinlich Juristinnen schon das erste große Fragezeichen dransetzen. Natürlich müssen wir es auch irgendwie evidenzbasiert in den nächsten Jahren tracken. 

Das große Problem ist, es gibt kaum Leute, die empirische Forschung zu diesem Bereich machen, weil sie halt eben so anspruchsvoll ist ethisch. Und einfach auch schwierig zu machen ist. Man muss es auch sagen, es ist auch ein Thema, das halt eben in der Forschungslandschaft schwer zu platzieren ist. Also, es ist auf so ganz vielen Ebenen schwer, da gerade Evidenzen zu kreieren, die dann helfen würden, gute Regulationen zu schaffen. 

Aber nichtsdestotrotz ist das, was vor allen Dingen die Kinderrechtsorganisationen immer wieder völlig zu Recht in den Vordergrund rücken als große Gefahr, die dieses: es werden viel mehr Menschen mit dieser Art von Interaktion jetzt konfrontiert werden, was die reine Anzahl von Konsument:innen in die Höhe treiben wird. Und dann die Frage, wird das sich wiederum in einem extremen Anstieg auch an realweltlichen Übergriffen übersetzen? Und dann halt auch diese Tatsache, dass die Materialien so extrem sind, ist ein riesengroßes Problem, weil man jetzt natürlich alles, was man sich nur in seiner, also was man bisher nur sich vorstellen konnte in irgendeiner Form, kann man sich visuell abbilden lassen. Und wir wissen ja, dass dieser Konsum von bestimmten Materialien immer dazu führt, dass man irgendwann so ein Plateau erreicht und immer extremere Dinge konsumieren muss, um überhaupt noch das Erregungsniveau zu erreichen. Und dass man dann irgendwann diesen Schritt geht von: Okay, jetzt habe ich irgendwie online so unter…also wirklich sehr extreme Dinge konsumiert. Ich brauche den neuen Kick. Und der neue Kick ist dann aber, dass man sozusagen in die Realwelt übergeht. Das ist eine Sorge, die wir unfassbar ernst nehmen sollten. Denn im Zuge von sexualisierten Robotern auch ein Kollege von mir so sehr schön geschrieben: Es gab eigentlich nie den Moment, dass jemand gesagt hat: „So, und jetzt reicht mir das, jetzt reicht mir das an extremem Material, jetzt bleibe ich auf diesem Niveau.“ Sondern es wurde halt, in der Regel wird das immer, immer höher. 

Wie gesagt, es gibt auch diese Online-Only-Konsumentinnen, aber die schiere Wahrscheinlichkeit, dass durch mehr Leute auch mehr Leute zu den realweltlichen Übergriffen dazukommen, ist es wert, das sozusagen in gleichem Maße strafrechtlich zu verfolgen. Aber man muss auch dazu sagen, strafrechtliche Verfolgung ist ja nur ein Hebel, mit dem man das Problem adressiert, sozusagen. Also ob der überhaupt am Ende jetzt die Heilung dahingehend bringen würde, ist fraglich. 

Also es gab ja dann diesen großen Skandal irgendwie um Grok. Also es ist ja so ein sehr großes Large-Language-Modell, das genutzt werden kann, um sexualisierte Bilder und Darstellungen irgendwie zu kreieren. In einer Welt, wo wir diese Technologien so leicht zugänglich aktuell noch haben, ist das so, dass dieses Material uns da irgendwie überschwemmen wird.

[00:22:23.340] - Nadia Kailouli 

Ich denke mir gerade auch so, die strafrechtliche Verfolgung ist ja das eine. Das versuchen wir ja aber schon seit Jahrzehnten irgendwie in den Griff zu bekommen bei realen Verbrechen. Jetzt kommen wir zu den digitalen Verbrechen. Das wird ja nicht einfacher, ja. Anonymität spielt da eine Rolle. Darknet, bis man da reinkommt und, und, und. Das ist ja alles schwierig. Aber ich frage mich einfach, wenn wir doch wissen, und die Wissenschaft, danke, dass es euch da gibt, die sich das überhaupt angucken und dazu wissenschaftliche Erkenntnisse erforschen. Aber das scheint ja auch nicht auszureichen, dass man schnell handelt. Und ich meine jetzt wirklich schnell handelt, weil die Technologie ist ja nun mal schneller, als wir irgendwelche Paragraphen entwickeln können. Und da frage ich mich: Wie frustriert und sauer gehst du denn da aus Gesprächen raus oder aus Treffen, wenn du sagst, ich habe es hier schwarz auf weiß, wir haben uns den ganzen Scheiß hier angeguckt und wir sprechen jetzt hier offiziell auch noch mal eine Warnung aus: das wird nicht besser, das wird sogar schlimmer. Und zwar nicht, nur im Bildermaterial, sondern selbst auch, selbst auch das Chatten wird hier zu einem wirklichen Problem und einer Gefahr für Kinder und Jugendliche. Was ist denn da die Antwort, die du da bekommst?

[00:23:27.950] - Jessica Szczuka 

Also ich meine, ich bin ja schon, ich bin ja schon froh, ich bin ja schon froh, dass dann, nachdem bei besagtem Grok, das ist ja…

[00:23:36.220] - Nadia Kailouli 

Grok, ist das die Elon-Musk-Nummer da?

[00:23:38.670] - Jessica Szczuka 

Ja, exakt. Und da kann man sich ja auch mal überlegen, so, wo steht denn die Person im politischen Gefüge? Also es ist durchaus auch einflussreich, möchte ich sagen. Wenn diese Art von Nutzung so lange auch positiv, auch völlig sehenden Auges quasi promotet worden ist und dann sind auf einmal alle ganz schockiert. Es war ja so irgendwie um den Winter herum, dass auf einmal die Nutzungszahlen zeigen, dass irgendwie über 80 Prozent der Nutzung auf das Erstellen von sexualisierten Materialien von Frauen und Kindern abzielt. Ja, wie lange hat es dann gedauert, dass jetzt beispielsweise die EU ja mal endlich ein Verfahren eröffnet hat und gesagt hat, wir müssen uns dem mal widmen? 

Was mich daran so ärgert, ist, das war völlig klar. Also diese, diese Idee, dass Menschen neue Technologien zum Nutzen von sexuellen Bedürfnissen oder Vorlieben nutzen, sozusagen, ist so alt wie die menschheitliche Geschichte und der Nutzen von Technologien. Wir gucken uns die Fotografie an. Das Erste, was gemacht worden ist, ist davon sozusagen so sogenannte pornografische Abbildungen oder halt eben, also sexualisierte Darstellungen irgendwie zu liefern. Wir gucken uns die Geschichte des Internets an. Wo stehen wir? Großteil der Dateien im Internet sind in irgendeiner Form sexualisiert. Ich könnte jetzt so weitermachen. Es gibt so viele Beispiele davon, wie Menschen das direkt nehmen zu sexueller Befriedigung. Deswegen war völlig klar in dem Moment, als Large-Language-Modelle und die Chatbots, die auf diesen Large-Language-Modellen basieren, als die auf den Markt kamen und sozusagen, also das hat ja angefangen mit ChatGPT vor allen Dingen, großflächig zu werden. Es war völlig klar, dass Leute das für sexuelle Anfragen nutzen werden. Und da war auch schon klar, dass Leute damit dann, als dieses Generieren von Bildern noch dazu kam als neues Feature sozusagen, dass das sofort für missbräuchliche Darstellungen genutzt wird ist seitdem klar. 

Und wir reden jetzt mittlerweile seit über zwei Jahren. Und jetzt so langsam bewegt sich die EU dahin, sozusagen zu sagen, ja, wir müssen uns das jetzt mal angucken und wir müssen da jetzt mal was regulieren. Da hätte viel, viel, viel, viel früher schon hingeguckt werden müssen. Und wie gesagt, das Problem ist, man kann dem aber schlecht auch Herr werden. Also das eine ist ja, man nutzt irgendwie kommerzielle Anbieter für diese Arten von Materialherstellung. Aber was ja passiert, ist, dass die Leute sich dann wirklich anfangen, da technisch reinzufuchsen. Und diese Modelle, also es gibt ja sogenannte Open-Source-Modelle, das heißt, da können alle drauf zugreifen, die sozusagen dann auf lokalen Servern zu hosten und das dann vom Internet abzutrennen und da sich die eigenen Modelle zu trainieren, die da das Erstellen von eigenen Materialien erlauben. 

Und so wie ich das mitbekomme aus der Präventionspraxis, gibt es dann wirklich jetzt Leute, die sich da richtig, ich möchte sagen, reinsteigern und da richtig Stunden über Stunden diese Modelle trainieren und versuchen, das Material realistischer zu machen. Das Material extremer zu machen und so. Es ist ja auch eine Art von Obsession, in die man sich dann irgendwie begibt. Und das ist, glaube ich, alles so als Gefahr noch nicht gut genug erkannt, meiner Meinung nach, zum jetzigen Zeitpunkt. 

Aber ist ja, die Nachverfolgung ist halt auch nicht einfach im Zweifel, ne. Also weil auch, was ich vorhin auch so am Anfang schon sagte, es gab halt bei Fotos, Videos ganz oft dann halt auch existierende Personen, bei denen man argumentieren kann, deren Menschenwürde ist angefasst und es ist Schaden entstanden. Und es ist halt zum jetzigen Zeitpunkt noch relativ ungeklärt, wie man das sozusagen verargumentieren möchte, dass es sich dann auch lohnt, Leute abzustellen, um quasi nicht existierenden Personenschaden in irgendeiner Form Herr zu werden. Und das ist, muss man sagen, auch juristisch und in der Präventionsarbeit eine Riesenaufgabe, weil ich kann sagen, aus beiden Zielgruppen sozusagen, die sind beide überhaupt nicht darauf vorbereitet, was da gerade auf die zukommen wird. 

Also, wir versuchen gerade, wie gesagt, mit Personen, die richterliche Entscheidungen treffen sollen, werden wir dann Interviews führen. Und wir merken jetzt schon, es gibt kaum jemanden, der sich damit auskennt. Und wie soll man eine wirklich auch ethisch und gesellschaftlich verantwortlich gute Entscheidung treffen, wenn man auch zum Beispiel nicht weiß, dass selbst bei diesen ganzen normalen Modellen, die wir im Alltag nutzen, durchaus auch schon Kindesmissbrauchsdarstellungen eingeflossen sind, in die Trainingsmaterialien. Dieses Wissen sollte man ja haben, um sich so ein bisschen von der Idee zu lösen, ach, da ist kein Kind zu Schaden gekommen. Um das dann wiederum in ein angemessenes Urteil einfließen zu lassen auch. 

Gleiches gilt für die Präventionspraxis. Da sitzen halt Therapeut:innen und die werden von ihren Klienten dann mit technischen Details überladen, was die jetzt da alles machen, um ihr perfektes sexualisiertes Material irgendwie herzustellen. Und die Leute sitzen da und sagen, ich habe keine Ahnung, wovon die reden. Die reden dann von irgendwelchen Servern. Ich weiß nicht mehr, worum es irgendwie geht. Ich kann da auch gar nicht präventionstechnisch richtig rein, weil ich gar keine Ahnung davon habe, wie ich das zu verorten habe und was da eigentlich gerade passiert. Und wir sind ja quasi am Anfang der Technologie. Also jeder Monat, der verstreicht, ist eigentlich jetzt gerade eine Einladung für mehr Menschen, sich da in diese Richtung mehr reinzufuchsen und mehr Material zu erstellen.

[00:28:54.220] - Nadia Kailouli 

Also mir passiert das ja selten, dass ich hier physisch merke, was so ein Gespräch mit mir macht. Aber ich bekomme wirklich richtig Bauchschmerzen, und zwar im Vorzimmer. Mir sticht es überall rein und ich denke mir, ich weiß ja, dass wir in einer teilweise kranken Welt leben, aber dass sie dank dieser Technologie noch kranker wird, ist wirklich - also du erlebst mich nicht schockiert, sondern eher alarmiert. Und ich frage mich die ganze Zeit: Okay, ich will das nicht. Ich will nicht, dass das so weitergeht. Aber who am I, da irgendwie was zu machen?Jetzt ist die Frage: Kann ich noch guten Gewissens überhaupt mich mit dieser Technologie in anderen Bereichen befassen? Oder ist der große Boykott am Ende das Einzige, was noch hilft?

[00:29:34.130] - Jessica Szczuka 

Ich befürchte fast, ich möchte gar nicht zu pessimistisch da in irgendeiner Form sein, aber ich befürchte fast, wir befinden uns faktisch in einer Art Realweltlabor. Als diese Technologien auf die Gesellschaft geworfen worden sind, gab es keine Audits vorher. 

Also beispielsweise bei Autos ist es ja so, oder Medikamenten ist es ja so, dass die vorher Prüfungen durchlaufen müssen, bevor sowas auf den Markt kommt, sozusagen. Als Large-Language-Modelle und Chatbots das gesellschaftliche Leben getroffen haben, gab es keine angemessene Risikoabschätzung. Und die gibt es übrigens auch bis zum heutigen Tage nicht, weil soziale KI-Systeme nicht als High-Risk-AI System gelten, sozusagen noch nicht. Wobei ich sagen muss, ich weiß, dass die EU auch darüber nachdenkt, was ich sehr, sehr, sehr wichtig finde auch, dass das passiert. Aber das ist jetzt schon so in unseren Alltag in irgendeiner Form verwoben. Und natürlich muss man auch sagen, dass der absolute Großteil der Anwendungen vor allen Dingen effizienzgetrieben ist. Und noch mal, auch auf der sozialen Ebene gibt es ganz, viele positive Potenziale für Menschen, auch gerade in Akutsituationen eine positive soziale Stimulanz daraus zu nehmen. 

Aber, und das muss man auch so einfach, das gehört zu einem holistischen Blick auf KI, man muss auch anerkennen, dass ganz schlimme Dinge damit getan werden. Vor allen Dingen vor dem Hintergrund von Open Source, also das heißt diesem wirklich frei verwendbaren Modell, darauf eingestellt werden muss, dass diese Technologie dann genutzt wird. Und da muss man auch ehrlich sagen, da kann man sich diesen, also wenn man, selbst wenn man den großen Boykott jetzt ausruft, dadurch, dass die Modelle dann lokal gehostet sind, würde das gar nichts an der Sache bringen. 

Man kann sich natürlich mal selber damit so ein bisschen befassen. So, was sind das eigentlich für Firmen und welche Arten von Chatbots nutze ich irgendwie? Und stehe ich im Einklang mit den Werten, die da so ein bisschen hinter stehen? Aber, und ich will da gar nicht in diesem Podcast zu politisch werden, aber das Stichwort digitale Souveränität in Europa Wir haben zum Beispiel kein großes Modell. Mistral ist jetzt so das erste, was auch mit den sogenannten europäischen Werten gebaut wird. Ob das jetzt wirklich was verändert, ist eine Frage, die man stellen kann. Aber ich habe dann doch die Hoffnung, dass da noch ein bisschen mehr Oversight irgendwie stattfindet. 

Und man muss auch auf der anderen Seite sagen, nicht jedes Modell ist gleich. Nicht jede, nicht jede Firma ist auch gleich, die einen Chatbot hat. Da gibt es mehr oder weniger Ethical Oversight. Viele große Player haben auch diese ethischen Konsortien dahinter und Forschung dahinter und versuchen das besser und sicherer zu machen. Aber wie gesagt, es ist so ein bisschen wie mit jedem Tool, das man der Menschheit in die Hand gegeben hat, wo ganz viel positives Potenzial ist. Genauso gibt es dann halt auch die Leute, die das halt eben für extrem schädliche und schadhafte Dinge irgendwie nutzen.

[00:32:33.030] - Nadia Kailouli 

Ja, und zur Wahrheit gehört wahrscheinlich auch, dass die, die eine ethisch korrekte, saubere KI auf den Markt werfen, halt in dieser Monopolisierung von den großen Playern einfach gar keine Chance haben. Alleine was die finanziellen Mittel betrifft, sind die halt lange nicht so aufgestellt, wie wenn man sich halt Big Tech anguckt. Und ja, dass da eine große Gefahr in allen Bereichen ist, glaube ich, haben wir, haben wir schon oft gehört. Aber ich finde, wenn du das jetzt noch mal so schilderst, was da im Bereich Kindesmissbrauch passiert, was KI betrifft, dann frage ich mich, warum die Alarmglocken nicht schon ausgeläutet sind eigentlich im ganzen EU-Kosmos. Und gut, aber das wird wirklich sehr politisch. Aber es ist gut und wichtig, dass du hier, ich will nicht sagen pessimistisch, aber sehr, sehr klar alarmierend uns einen Einblick darin gegeben hast, was da eigentlich wirklich los ist und dass das, solange wir das so in Anführungsstrichen tolerieren, weil wir zu langsam sind, da irgendwie Regularien hinzulegen, nicht besser wird. 

Ich würde gerne die Chance noch mal ein bisschen nutzen, um über etwas, ich sage jetzt mal, Seichtes zu sprechen, aber wo wir ja aus der Vergangenheit durchaus auch Gefahren gesehen haben, was die Nutzung von KI im Bereich Kinder und Jugendliche betrifft. Und zwar geht es da um eine emotionale Beziehung, die man aufbauen kann. Wir kennen den Fall aus den USA, dass sich ein Junge das Leben genommen hat, weil er eine gefühlte Liebesbeziehung hatte mit einer künstlichen Intelligenz und die Antwort irgendwie war oder eine Bestätigung dahingehend, sich selbst das Leben zu nehmen. Wie weit sind da eure Erkenntnisse darüber, dass Liebesbeziehungen, die auf künstlicher Intelligenz basieren, zu einer Gefahr werden kann?

[00:34:10.800] - Jessica Szczuka 

Ich weiß, das ist so unfassbar unbefriedigend, wenn Wissenschaftler:innen das machen. Aber jetzt kommt wieder dieses: Ja, es ist nicht alles so einfach zu sehen. Denn wie gesagt, wir erleben in der Zusammenarbeit mit den Teilnehmenden bei unseren Studien ganz viel positives soziales Erleben. Das sind nicht immer Leute, die irgendwie, also auch nicht Kinder und Jugendliche, die in irgendeiner Form sozial total abgehangen sind und weil sie es nicht anders hinbekommen haben, sich jetzt diesen Chatbots zu wenden. Und da, na, diese Komischen, die es sonst nicht anders hinkriegen, die sind jetzt da irgendwie gut aufgefangen. Das ist überhaupt nicht so. Ich glaube, ganz viele Menschen können das nachvollziehen, dass wenn man irgendwie was, einen sinnvollen Output von einem Chatbot bekommen hat, dass man so das innerliche Gefühl hat, Danke sagen zu wollen. War ja auch eine große Diskussion, ob das überhaupt sinnvoll ist oder eben nicht. Aber das ist quasi die Basis dafür, wie Menschen, Kinder und Jugendliche eingeschlossen, soziale Beziehungen zu diesen Chatbots aufbauen. Und man muss halt sagen, diese Geräte sind quasi auf der Gesamtheit des Internets trainiert. Das heißt, die haben genau gelernt, wie Menschen Beziehungen aufbauen. 

Und da kann man jetzt wieder Big Tech einen kleinen Vorwurf machen. Ganz viele von diesen Chatbots nutzen nämlich ganz gezielt diese sozialen Beziehungsaufbau und kommunikationspsychologischen Mechanismen, um sozusagen gezielt eine Beziehung zu den Nutzer:innen aufzubauen. Und das, was man natürlich sagen muss, ist, dass Kinder und Jugendliche, in Klammern auch extrem abhängig vom Alter im Übrigen, da unterschiedlich drauf positiv reagieren. Weil natürlich ist so eine der großen Gefahren, die da auch immer gesehen wird, ist so dieses, ja, die können ja viel schlechter unterscheiden, ob es jetzt eine existierende Person ist oder eben halt so ein Chatbot. Also unsere Studien zeigen, dass alle Leute, die damit interagieren, sehr wohl außerhalb der Interaktion wissen, das ist keine echte Person. Aber das ist in dem Moment der Interaktion total unwichtig, weil das, was die erleben, ist eine Art von sozialem Zuspruch und eine Art von positiver sozialer Reaktion, die die aus ganz vielen unterschiedlichen Gründen nicht bekommen. 

Und wenn man jetzt wirklich mal an Kinder und Jugendliche denkt, gibt es eine total spannende Studie aus Dänemark mit Highschool-Students, die zeigt, es gibt ganz wenige, die wirklich so in diese emotionale und Beziehungsaufbaurichtung gehen. Die gibt es aber, und die sind auch signifikant einsamer als die Leute, die es sozusagen so ganz generalistisch nutzen. Aber das Spannende ist, dass es wohl sehr situative Trigger gibt, gibt, wann dieser emotionale Nutzen von diesen Chatbots genutzt wird. Und da stellt sich dann auch so ein bisschen die Frage: Kann man das vielleicht als eine Art interaktives Tagebuch auch sehen? 

Denn Menschen waren ja schon immer mit, gerade im Aufwachsen, mit schwierigen sozialen Situationen konfrontiert. Und dass man dann irgendwie zu einer Art Tagebuch greift, um das alles noch mal zu reflektieren, war ja dann so damals vielleicht eine der Arten, wie man das gemacht hat. Und jetzt nimmt man halt den Chatbot, weil der auch noch im Zweifel einem sagt, ja, ich verstehe dich und deine Gefühle sind valide. Das heißt, die Technologie füllt da ja völlig verständlich eine Art von Vakuum, das es nun mal in der Gesellschaft gibt. Und vor dem Hintergrund ist das, glaube ich, sehr, sehr nachvollziehbar und total, wie gesagt, altersabhängig. Also ich finde es total schwierig zu sagen, diese Gruppe von Kindern und Jugendlichen, weil das, die sind nicht gleich. Also es gibt die ersten Zahlen, die zeigen, dass selbst Vier- bis Siebenjährige, also sind fünf Prozent der Vier- bis Siebenjährige in den USA, schon generative KI in irgendeiner Form genutzt haben. Wo ich mir so denke, okay, das ist in der Tat wahnsinnig früh, aber es sind halt auch fünf Prozent, ne. 

Also ich glaube, dass ein großer Baustein sein wird, und ich hasse, dass ich das jetzt sagen werde, aber ein großer Baustein wird sein, dass man mit Kindern und Jugendlichen darüber spricht. Und ich sage, ich hasse, dass ich das jetzt sagen werde, weil ich eigentlich eigentlich nie ein Fan davon bin zu sagen, die Eltern oder die Lehrkräfte oder das Umfeld ist dafür da, Menschen sicher zu halten. Weil eigentlich ist es die Aufgabe von den Companies sozusagen, Produkte auf den Markt zu bringen, die irgendwie sozial verträglich sind. Und es wurde ja ganz lange in der Forschung auch debattiert, dieses Stichwort Explainable AI, Trustworthy AI, also dass man Literacy, das heißt, die Leute aufklärt darüber, wie KI funktioniert. Aber ich finde, es ist viel zu viel Verantwortung bei den Nutzenden. Wir können uns auch nicht, bevor wir in ein Flugzeug uns setzen, uns auch nicht alle damit auseinandersetzen, wie so ein Flugzeug eigentlich funktioniert, um dieser Art von Technologie vertrauen zu können. Sonst sind wir ja alle irgendwann Flugzeugingenieure sozusagen. Das geht halt nicht. Und vor dem Hintergrund mag ich nicht, wenn ich das jetzt sagen muss, aber ich glaube, dass ganz viel positiver Nutzen vor allen Dingen dann entstehen kann, wenn man Infos mitbekommt, sei es von zu Hause, sei es aus der Schule, sei es irgendwie aus dem Kindergarten auch schon, wie man diese Art von Technologie verantwortungsvoll nutzen kann.

[00:39:15.020] - Nadia Kailouli 

Und ich möchte an dieser Stelle auch noch mal sagen, also es sind ja nicht nur Kinder und Jugendliche, die, ich sage jetzt mal, so ahnungslos sind, dass sie sich am Ende die Hilfe über einen Chatbot holen. Also ich meine, ich bekenne mich schuldig, ich habe ChatGPT natürlich auch schon mal gefragt, was jetzt das Beste wäre in irgendwelchen emotional schwierigen Situationen. Also ich möchte das überhaupt nicht abrollen auf Kinder und Jugendliche, dass sie dann so blöd sind und so eine KI fragen, sondern ich glaube, gerade wir Erwachsene sind da natürlich auch überhaupt nicht, ja, ich sage jetzt mal geschützt vor, obwohl ich jetzt auch nicht immer alles schlecht finde, was man sich dann da abholt. 

Aber man muss natürlich schon sehr klar im Kopf sein, um zu verstehen: Jo, danke, hat mir jetzt mal gutgetan, aber es ist am Ende ein Computer, der hier zu mir spricht. Und wenn ich es wirklich klar noch mal wissen will, dann muss man sich vielleicht dann doch noch mal woanders hinwenden. Also nicht nur Kinder und Jugendliche nutzen diese Technologie. Wir Erwachsenen tun das natürlich auch und können damit auch uns dahin verlaufen, dass man einen da auch wieder rausholen muss. Das ist ganz klar. 

Jessica, wir reden jetzt, glaube ich, schon über 40 Minuten und ich glaube, es könnte noch Folge 2, 3, 4 bis 10 mit dir geben, weil das so interessant ist, leider sich das alles anzuhören. Aber ich glaube auch sehr, sehr wichtig, dass man sich davor nicht verschließt, um zu wissen: Hey, diese Technologie ist nicht nur dafür da, dass wir den Weg nach Hause finden, sondern vor allem auch, dass viele, viele Menschen diese missbrauchen, um eben Missbrauch von anderen darzustellen. Und das ist nicht gut. Und da muss hoffentlich bald was passieren. 

Hinten raus noch mal: Gibt es eine ganz klare Forderung, die du uns mitgeben kannst, wo du sagst, damit wäre schon viel getan, wenn man diese Forderung erfüllen würde?

[00:40:49.810] - Jessica Szczuka 

Es wäre total wichtig, dass wir auf einer regulatorischen Ebene verstehen würden, dass, ob die Abbildung jetzt ein Foto ist oder nicht, dass diese kognitive Abzweigung, es ist künstlich, einfach nur ein Schutzmechanismus ist. 

Die Abbildungen sind trotzdem da, die Abbildungen zeigen trotzdem Kinder. Ob man die vorher immer auch gekannt hat oder nicht beim Konsum, ist ja auch so eine Frage. Und vor dem Hintergrund finde ich, dass diese Abstufung ehrlich gesagt infrage gestellt werden sollte, inwiefern die uns wirklich was bringt im Straftatbestand sozusagen, was auch in anderen Ländern so ist. Deswegen kann man das schon so global sagen. Und auf einer gesamtgesellschaftlichen Ebene fände ich es total wichtig, dass das auch einfach im Hinterkopf behalten wird, so als Thema einfach nur, weil ich glaube, dass ganz viele Leute bei der Nutzung von KI mit diesen Aspekten auch völlig fairerweise, nicht jeder muss sich mit allen Grausamkeiten der Welt beschäftigen, aber das auf dem Schirm zu haben, dass das auch ein Bestandteil von KI-Nutzung ist, halte ich für total, total wichtig. 

Und noch mal, nicht jede KI-Nutzung ist schädlich und nicht alles daran ist problematisch. Aber natürlich gibt es halt eben diese Aspekte und die sollte man auch in die gesamtgesellschaftliche Perspektive auf KI mit einbeziehen.

[00:42:03.830] - Nadia Kailouli 

Ich sage vielen, vielen Dank für deinen Besuch heute und für diese ganz klaren und guten Worte zu diesem Thema. Danke dir.

[00:42:10.590] - Jessica Szczuka 

Ja, vielen lieben Dank, dass ich da sein konnte. Das finde ich total wichtig, darüber mehr zu sprechen.

[00:42:16.970] - Nadia Kailouli 

Also Leute, es ist alles gesagt, was gesagt werden musste. Dr. Jessica Szczuka hat das ja sowas von gut erforscht und ich, also ich bin sprachlos und ich denke mir nur so: Leute, gerade an die Politik, nehmt diese Forschungsergebnisse und macht was, wirklich!

An dieser Stelle möchte ich mich auch ganz herzlich mal bei euch bedanken, dass ihr uns so treu zuhört und dass ihr auch bei schwierigen Themen dranbleibt. 

Wenn ihr wollt, dann folgt uns doch gerne, abonniert unseren Kanal, und wenn ihr uns persönlich einmal schreiben wollt, dann könnt ihr das natürlich sehr gerne tun. 

Eine E-Mail könnt ihr einfach schreiben an einbiszwei@ubskm.bund.de.