Das Vereinigte Königreich plant einen historischen Schritt zur Bekämpfung von Online-Kinderpornografie, indem es als erstes Land Gesetze einführt, die den Besitz, die Erstellung und die Verbreitung von KI-Tools, die zur Generierung sexualisierter Bilder von Kindern verwendet werden, kriminalisieren. Innenministerin Yvette Cooper bezeichnete diese Entwicklungen als dringend erforderlich, um das wachsende Problem des sexuellen Missbrauchs von Kindern im Internet zu bekämpfen. Diese Gesetzesinitiative ist Teil eines umfassenderen Plans zur Verbesserung der Kindersicherheit online und wird innerhalb des bevorstehenden Crime and Policing Bill umgesetzt, wie Al Jazeera berichtet.
Die neuen Gesetze beinhalten strenge Strafen. So wird der Besitz, die Erstellung oder Verbreitung solcher KI-Tools mit bis zu fünf Jahren Gefängnis bestraft. Für den Besitz von sogenannten „Pädophilen-Handbüchern“, die Anleitungen zur sexuellen Ausbeutung von Kindern geben, drohen Strafen von bis zu drei Jahren. Auch Betreiber von Websites, die speziell für Pädophile konzipiert sind, werden mit bis zu zehn Jahren Gefängnis belegt, wenn sie kinderpornografische Inhalte verbreiten oder Ratschläge zum Grooming anbieten. Innenministerin Cooper warnte, dass etwa 500.000 Kinder im Vereinigten Königreich jährlich Opfer von Missbrauch in irgendeiner Form werden, wobei der Online-Aspekt dabei zunehmend besorgniserregend ist.
Zunehmende Bedrohung durch KI
Laut der Internet Watch Foundation (IWF) stehen KI-generierte Kindesmissbrauchsbilder im Fokus dieser neuen Gesetze. Erst kürzlich identifizierten IWF-Analysten innerhalb von nur 30 Tagen 3.512 solcher Bilder auf einer einzigen Dark-Web-Seite. Dieser Anstieg zeigt, dass das Problem nicht nur real, sondern auch zunehmend komplex ist. In einer einzigen Untersuchung stiegen die schwerwiegendsten Fälle um 10 Prozent im Vergleich zum Vorjahr.
Zusätzlich zu den bestehenden Herausforderungen hat die National Crime Agency (NCA) festgestellt, dass allein in einem Monat etwa 800 Festnahmen im Zusammenhang mit Bedrohungen von Kindesmissbrauch erfolgen. Schätzungen zufolge stellen ungefähr 840.000 Erwachsene in Großbritannien eine Bedrohung für Kinder dar. Diese alarmierenden Zahlen haben Organisationen wie die IWF dazu veranlasst, weitere Maßnahmen zu fordern, einschließlich eines Verbots von Apps, die die Erstellung sexualisierter Bilder von Kindern ermöglichen.
Bedürfnis nach gesetzlichen Maßnahmen
Die Einführung dieser Gesetze erfolgt in einem Kontext, in dem KI-Technologie das Gefährdungspotenzial für Kinder im Internet erhöht hat. Eine aktuelle Studie hebt hervor, dass generative KI es zunehmend erschwert, zwischen Realität und Fälschung zu unterscheiden. Risiken wie sexuelle Gewalt, Mobbing und Extremismus sind dadurch weiter angestiegen. Bundesjugendministerin Lisa Paus bekräftigt die Notwendigkeit besserer Schutzmaßnahmen für Kinder.
Außerdem erfordert der Digital Services Act, dass Anbieter den Zugang Minderjähriger zu ungeeigneten Inhalten unterbinden. Diese Gesetzesinitiativen sind nicht nur notwendig, sondern auch überfällig, da einige Plattformen unzureichend auf Verstöße reagieren und Altersüberprüfungen nicht angemessen durchführen. Der Jahresbericht von jugendschutz.net zeigt, dass allein im Jahr 2023 7.645 Fälle von Verstößen bearbeitet wurden, wobei zwei Drittel davon sexualisierte Gewalt betrafen.
Die Maßnahmen des Vereinigten Königreichs, einschließlich der bevorstehenden Gesetze zur Kriminalisierung von KI-Tools zur Schaffung sexualisierter Bilder von Kindern, sollen als umfassende Strategie zur Verbesserung der Sicherheit von Kindern im Internet dienen. Die Entwicklungen der letzten Jahre haben deutlich gemacht, dass schnelles Handeln erforderlich ist, um das Wohlergehen von Kindern in der digitalen Welt zu gewährleisten.