KI und Kinderschutz

Berlin/Vatikanstadt, 22.03.2025. Vom 20. bis 22. März 2025 fand im Vatikan die Internationale Konferenz „Risks and Opportunities of AI for Children: A Common Commitment for Safeguarding Children“ (Risiken und Chancen der KI für Kinder: Eine gemeinsame Verpflichtung zum Schutz von Kindern“) statt. Die Veranstaltung wurde organisiert von der Päpstlichen Akademie der Wissenschaften in Zusammenarbeit mit der World Childhood Foundation und dem Institut für Anthropologie der Päpstlichen Universität Gregoriana. Sie brachte Vertreter:innen der Technologiebranche, Politik, Wissenschaft, Zivilgesellschaft und Betroffene von sexualisierter Gewalt zusammen. Ziel war es, die Chancen und Risiken in der digitalen Welt und die Auswirkungen von KI auf das Leben von Kindern und Jugendlichen zu erörtern und gemeinsame Strategien zum Schutz und zur Förderung der Rechte und Schutz von Minderjährigen in der digitalen Welt zu entwickeln.

Die Unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs (UBSKM), Kerstin Claus, nahm an dem Austausch teil, um auch international dafür zu werben, dass Kinderschutz ein verlässliches politisches Mandat brauche. Zudem ging es ihr darum, aus internationalen Entwicklungen und Erkenntnissen Impulse für ihre Arbeit in Deutschland mitzunehmen. Internationale Kooperationen seien entscheidend, um wirksame Schutzmechanismen zu entwickeln und gemeinsam Verantwortung zu übernehmen.

Auf dem Programm standen die komplexen Herausforderungen durch automatisierte Inhalte und Deepfakes. Expert:innen warnten davor, dass KI die Verbreitung sowie Generierung von Missbrauchsdarstellungen erleichtern, Cybergrooming verschärfen und neue Täterstrategien begünstigen könnte. Gleichzeitig wurde betont, dass KI auch zur effektiven Prävention und Bekämpfung von Missbrauchsfällen beitragen könnte.

Im Rahmen der Veranstaltung erörterten Forscher:innen die neuesten Erkenntnisse zu den Auswirkungen von KI auf die Entwicklung, das Wohlbefinden und die psychische Gesundheit von Kindern und Jugendlichen. Ein wichtiger Aspekt für die Teilnehmenden waren die Bezüge und das Verhältnis von KI zu Kinderrechten, der Notwendigkeit einer evidenzbasierten Forschung zu KI als Grundlage für politisches Handeln ebenso wie ethische Grundlagen in Wirtschaft und Kinderschutz. Wichtig war die Perspektive auf das Potenzial von KI für die Prävention von sexuellem Kindesmissbrauch und ihre Potentiale, Zugänge zu Bildung und Wissenschaft für Kinder und junge Menschen weltweit zu verbessern.

In diesem Zusammenhang diskutierten die Teilnehmenden auch über notwendige ethische Standards in der Technologieentwicklung. Ein Schwerpunkt lag auf der Frage, wie KI zum Schutz von Kindern und Jugendlichen eingesetzt werden kann, ohne dabei ihre Privatsphäre und ihre Rechte zu gefährden.

Die Konferenz schloss mit dem Appell an alle Beteiligten, Verantwortung in ihrem jeweiligen Einflussbereich zu übernehmen, um junge Menschen besser vor digitalen Gefahren zu schützen. Der Kampf gegen digitale sexualisierte Gewalt brauche internationale und interdisziplinäre Zusammenarbeit. Die Grundlage dafür sei, ein gemeinsames Verständnis für die Risiken und Chancen von KI im Kinderschutz und in der kindlichen Entwicklung zu schaffen.

Für Deutschland fordert die Beauftragte von der neuen Bundesregierung eine nationale Grundsatzstrategie im Kampf gegen digitale sexualisierte Gewalt und den digitalen Risiken, denen junge Menschen ausgesetzt sind. Sie sprach sich für eine stärkere Regulierung des Netzes als auch die Prävention von digitalen Risiken, insbesondere sexueller Gewalt im Netz, aus.

Ein entsprechender Vorschlag von UBSKM für die Koalitionsverhandlungen zur 21. Legislaturperiode zu den Themen digitale sexualisierte Gewalt, aber auch niedrigschwellige ergänzende Hilfen, Sexualstrafrecht, Schutz von Kindern und Jugendlichen, Forschung und Aufarbeitung ist in dieser Woche auch an die parlamentarischen Verhandlungsführer*innen aus dem Familienausschuss und an thematisch angrenzende Ressorts gegangen.