Das Internet eröffnet Kindern und Jugendlichen vielfältige Möglichkeiten zur Teilhabe, Information und Kommunikation. Gleichzeitig entstehen im digitalen Raum neue Risiken, die Minderjährige besonders vulnerabel gegenüber sexueller Gewalt machen. Die bestehenden Gesetze und Rechtsvorschriften halten mit den rasanten technischen Entwicklungen jedoch häufig nicht Schritt oder weisen Regelungslücken auf. Um Kinder und Jugendliche wirksam zu schützen, muss der Kinderschutz konsequent auf den digitalen Raum ausgeweitet werden. Darüber hinaus sind bestehende Kinderschutzvorschriften an die neuen technologischen Entwicklungen anzupassen und gezielt zu ergänzen.
Plattformregulierung: europäische und nationale Normen
Eine zentrale Rolle für den Schutz von Kindern und Jugendlichen vor digitaler sexualisierter Gewalt spielen Online-Dienste. Seit 2024 gilt in der EU der Digital Services Act (DSA), eine Verordnung, die Nutzer*innen besser schützen, den Umgang mit illegalen Inhalten regeln und mehr Transparenz bei Algorithmen und Werbung schaffen soll.
Artikel 28 Digital Services Act
Artikel 28 DSA ist die maßgebliche Norm für den Kinder- und Jugendschutz im Netz. Artikel 28 Abs. 1 DSA verpflichtet in einer sehr weit gefassten und allgemeinen Formulierung alle Online-Plattformen, „geeignete und verhältnismäßige Maßnahmen zu ergreifen, um ein hohes Maß an Privatsphäre, Sicherheit und Schutz Minderjähriger auf ihren Diensten zu gewährleisten“. Im Jahr 2025 veröffentlichte die Europäische Kommission Leitlinien, die die Vorsorgemaßnahmen des Artikels 28 DSA, konkretisieren sollen. Beispielsweise begrenzt die Funktion „Kontaktaufnahme nur mit Freunden“ die Ansprache und Anbahnung durch fremde Personen. Empfohlene Maßnahmen innerhalb der Leitlinien für Anbieter sind:
- Standardmäßig private Konten für Minderjährige
- Deaktivierung von suchtfördernden Funktionen (z. B. Autoplay)
- Verbot von manipulativen Designs („Dark Patterns“)
- Einfache Melde- und Moderationsfunktionen
- Stärkere Möglichkeiten zum Blockieren und Stummschalten
- Schutz vor dem automatischen Hinzufügen zu Gruppen
- Mehr Kontrolle über Empfehlungsalgorithmen
- Sperren von Downloads und Screenshots bei Inhalten für Minderjährige
- Keine personalisierte Werbung für Minderjährige
- Verwendung wirksamer Methoden der Altersüberprüfung
Die konkrete Ausgestaltung der einzelnen Schutzmaßnahmen bleibt im Ermessen der Plattformbetreiber, da die Leitlinien nur konkretisierende Wirkung haben.
Die Leitlinien finden sich hier: https://digital-strategy.ec.europa.eu/de/library/commission-publishes-guidelines-protection-minors
Risikobewertung und -minimierung, Haftungsprivileg und Nachforschungspflicht
Weitere relevante Normen für den Schutz von Kindern und Jugendlichen vor digitaler sexualisierter Gewalt im Netz sind die Artikel 34 und 35 DSA, die die Risikobewertung und Risikominderung, insbesondere für „very large online platforms“ (VLOPs) und „very large online search engines“ (VLOSEs) regeln.
Für die Frage, wann Hosting-Dienste für illegale Inhalte verantwortlich sind, sind vor allem die Artikel 6 und 8 des Digital Services Act (DSA) wichtig.
Nach Artikel 6 DSA haften Hosting-Dienste grundsätzlich nicht für rechtswidrige Inhalte, die Nutzerinnen und Nutzer hochladen. Hosting-Dienste sind Anbieter, die Inhalte oder Daten für andere speichern und zugänglich machen. Dazu gehören zum Beispiel soziale Netzwerke wie Instagram, Videoplattformen wie YouTube, Internetforen oder Cloud-Speicher wie Dropbox.
Sobald ein Hosting-Dienst jedoch von einem rechtswidrigen Inhalt erfährt, muss er diesen entfernen. Das ist zum Beispiel der Fall, wenn der Anbieter selbst einen problematischen Inhalt entdeckt oder wenn eine betroffene Person ihn so genau meldet, dass die Rechtswidrigkeit bereits aus der Meldung eindeutig erkennbar ist.
Artikel 8 DSA stellt außerdem klar, dass Hosting-Dienste Inhalte nicht grundsätzlich überwachen oder aktiv nach möglichen Rechtsverstößen suchen müssen. Sie sind also nicht verpflichtet, alle von ihren Nutzerinnen und Nutzern hochgeladenen Inhalte vorsorglich zu kontrollieren.
Bußgelder Artikel 52 Digital Services Act
Artikel 52 des Digital Services Act (DSA) regelt, welche Folgen Verstöße gegen die Verordnung haben können. Die EU-Mitgliedstaaten müssen dafür sorgen, dass Verstöße wirksam geahndet werden.
Bei Verstößen gegen den DSA können Geldbußen von bis zu 6 % des weltweiten Jahresumsatzes eines Unternehmens aus dem vorherigen Geschäftsjahr verhängt werden. Die einzelnen Mitgliedstaaten legen fest, wie sie diese Sanktionen ausgestalten und durchsetzen.
Für sehr große Online-Plattformen und Suchmaschinen mit mehr als 45 Millionen Nutzerinnen und Nutzern ist die Europäische Kommission zuständig. Sie kann die Einhaltung des DSA überwachen und bei Verstößen selbst Maßnahmen ergreifen und Sanktionen verhängen.
Nationale Behörden: BzKJ und KidD
In Deutschland werden die Vorgaben des Digital Services Act (DSA) zum Schutz von Kindern und Jugendlichen durch das Digitale-Dienste-Gesetz (DDG) konkretisiert.
Das DDG legt fest, welche Behörden für die Durchsetzung dieser Regeln zuständig sind. Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) überwacht, ob Online-Plattformen die im DSA vorgesehenen Maßnahmen zum Schutz von Kindern und Jugendlichen umsetzen. Das gilt jedoch nur, soweit diese Aufgaben nicht bereits durch den Jugendmedienschutz-Staatsvertrag (JMStV) geregelt sind.
Für Bereiche, die unter den JMStV fallen, sowie für konkrete Maßnahmen im Einzelfall sind die Medienaufsichtsbehörden der Bundesländer zuständig.
Damit die BzKJ ihre Aufgaben nach Artikel 28 Absatz 1 DSA wahrnehmen kann, wurde die Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten (KidD) eingerichtet.
CSA-Verordnung: Umgang mit Missbrauchsdarstellungen und Cybergrooming
Im Mai 2022 hat die Europäische Kommission den Vorschlag für eine „Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern“ vorgelegt. Mit der so genannten CSA-Verordnung (Child Sexual Abuse-Verordnung) soll eine Pflicht zur Erkennung, Meldung und Entfernung von Missbrauchsdarstellungen eingeführt, ein Europäisches Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern eingerichtet, die Zusammenarbeit der Strafverfolgungsbehörden verbessert sowie Prävention und Betroffenenschutz gestärkt werden.
Der Vorschlag befindet sich noch im interinstitutionellen Gesetzgebungsverfahren der EU und ist Gegenstand kontroverser und intensiver mehrjähriger Verhandlungen zwischen EU-Parlament, Rat und EU-Kommission. Zwischen den beteiligten Akteuren gibt es Meinungsverschiedenheiten darüber, ob Betreiber freiwillig oder verpflichtend nach Missbrauchsdarstellungen suchen sollen. Umstritten ist außerdem, wonach gesucht werden soll – nach bekannten und/oder unbekannten Missbrauchsdarstellungen und/oder nach Groomingmustern und welche Regelungen für das Suchen im öffentlich zugänglichen Netz bzw. in der privaten Kommunikation gelten sollen.
Interimsverordnung (EU) 2021/1232
Die Verordnung (EU) 2021/1232, die so genannte „Interimsverordnung“ schuf viele Jahre eine befristete Ausnahme von der ePrivacy-Richtlinie der EU. Diese Richtlinie ist Teil des europäischen Datenschutzrechts und schützt die Vertraulichkeit elektronischer Kommunikation. Sie untersagt grundsätzlich das anlasslose Durchsuchen privater Nachrichten.
Die Ausnahme in der Interimsverordnung erlaubte Anbietern digitaler Kommunikationsdienste wie Gmail, Facebook Messenger, Skype oder Snapchat, ihre Plattformen freiwillig nach Missbrauchsdarstellungen zu durchsuchen und entsprechende Funde zu melden und damit strafrechtliche Ermittlungsverfahren zu unterstützen. Ohne diese Ausnahmeregelung wäre ein solches Scannen mit dem europäischen Datenschutzrecht nicht vereinbar gewesen.
Die Verordnung war von Beginn an als Übergangslösung angelegt, bis eine dauerhafte Regelung – insbesondere durch die geplante CSA-Verordnung (s. o.) – in Kraft tritt. Ursprünglich galt sie bis August 2024. Da über die CSA-Verordnung keine Einigung erzielt werden konnte, wurde ihre Geltungsdauer zunächst bis zum 3. April 2026 verlängert. Nach einer 3-monatigen Regelungslücke beschloss die Europäische Union im Juli 2026 eine erneute Verlängerung der Interimsverordnung. Sie gilt nun bis zum 3. April 2028.
CSA-Richtlinie: Strafrechtliche Vorgaben auf EU-Ebene
Die Richtlinie 2011/93/EU (CSA-Richtlinie) bildet den unionsrechtlichen Rahmen zur Bekämpfung des sexuellen Missbrauchs und der sexuelle Ausbeutung von Kindern und Jugendlichen. Sie legt EU-weite Mindeststandards für die Definition von Straftaten und die Höhe von Strafen fest, um eine wirksame und möglichst einheitliche Strafverfolgung in allen Mitgliedstaaten einheitlich sicherzustellen. Darüber hinaus verpflichtet sie die EU-Staaten, Maßnahmen zur Prävention, zum Schutz und zur Unterstützung betroffener Kinder sowie zur wirksamen Strafverfolgung zu ergreifen.
Im Juni 2026 wurden die Verhandlungen zur Reform der CSA-Richtlinieauf europäischer Ebene vorläufig abgeschlossen. Die reformierte Richtlinie geht insbesondere auf die technischen Entwicklungen und deren Verwendung im Phänomenbereich ein. Darüber hinaus stellt sie unter anderem das Livestreaming von sexualisierter Gewalt und die sexuelle Erpressung unter Strafe. Zudem stärkt sie den Schutz von Jugendlichen vor Cybergrooming: Eine Strafbarkeit ist künftig für das Herstellen- und Verbreitenlassen von Darstellungen vorgesehen, wenn der Kontakt unter Einsatz von Drohung, Nötigung oder Täuschung angebahnt wird.
Strafrechtliche Normen und digitale sexualisierte Gewalt
Viele der Phänomene digitaler sexualisierter Gewalt sind nach dem deutschen Strafgesetzbuch bereits strafbar.
Die §§ 184b und 184c StGB stellen die Herstellung, die Verbreitung, den Erwerb und den Besitz von „kinder- und jugendpornographischen Inhalten“ unter Strafe. Darunter fallen auch realistisch wirkende fiktive Darstellungen, einschließlich KI-generierter Inhalte, sofern sie ein tatsächliches oder wirklichkeitsnahes Geschehen wiedergeben – maßgeblich ist der Eindruck eines objektiven Betrachters, nicht die technische Entstehung. Bei erkennbar fiktiven Darstellungen (z. B. Zeichnungen) ist demgegenüber nur die Verbreitung strafbar, nicht der bloße Besitz.
Cybergrooming wird strafrechtlich vor allem durch § 176b Abs. 1 StGB erfasst, der das Einwirken auf ein Kind mittels eines Inhalts unter Strafe stellt, um es zu sexuellen Handlungen zu bringen oder eine Straftat nach § 184b StGB zu begehen. Eng verwandt ist § 176a Abs. 1 Nr. 3 StGB, der das – bereits vollendete – Einwirken auf ein Kind durch pornografischen Inhalt oder entsprechende Reden erfasst. Beide Tatbestände schützen Kinder – also Personen bis 14 Jahren – vor digitalen Kontaktaufnahme zu sexuellen Zwecken. Jugendliche zwischen 14 bis 18 Jahren werden von diesen Grooming-Tatbeständen nicht erfasst.
Im deutschen Strafrecht gibt es keine gesetzlichen Regelungen speziell für Sextortion und Livestreaming. Solche Taten können nach anderen Normen bestraft werden, etwa als Erpressung nach § 253 StGB oder als Anstiftung zum sexuellen Missbrauch von Kindern. Eine EU-weite Neuregelung ist bereits absehbar: Im Juni 2026 haben sich Parlament und Rat auf eine Reform der oben bereits genannten CSA-Richtlinie geeinigt, die erstmals eine Strafbarkeit für Sextortion und Livestreaming von Missbrauch vorsieht (s. o.). Die Umsetzung der Richtlinie in nationales Recht durch das BMJV kann zum Anlass genommen werden diese Phänomene nunexplizit im Strafgesetzbuch zu regeln.
KI-Verordnung
Während die KI-Verordnung in ihrer ursprünglichen Fassung wenige explizite Regelungen zu Kinderrechten, Kinderschutz oder dem Schutz vor sexualisierter Gewalt enthielt, bringen im Juni 2026 beschlossene Reform (KI-Omnibus)-hier eine Konkretisierung.
Die Reform stuft das Inverkehrbringen, die Inbetriebnahme oder die Nutzung von KI-Systemen, die Missbrauchsdarstellungen oder andere nicht einvernehmliche intime Aufnahmen erstellen – sogenannte Nudify-Apps – als verbotene Praxis nach Artikel 51 KI-VO ein. Das Verbot soll ab Dezember 2026 gelten.
