Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, wie der unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs meldet. Dass sich die Gefahrenlage für digitalen Missbrauch von Kindern und Jugendlichen in letzter Zeit insgesamt zugespitzt hat, mag kaum zu verwundern. Hat sich doch gerade auch für Kids und Teens durch die Corona-Pandemie vieles im Sozialleben ins Digitale verlagert. Wie das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) betont, spielen dabei Onlinedienste wie Messenger, soziale Medien, Chatforen von Onlinespielen und Ähnliches eine besondere Rolle. Denn sie ersetzen in der Pandemie noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche.

Parallel zu dieser Entwicklung werden deshalb auch die Forderungen nach einem besseren Schutz von Kindern vor Missbrauch im Netz lauter. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.

Beispielsweise ist das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – auch unter Heranwachsenden verbreitet. Und gerade auch bei ihnen kann es zu Problemen wie Mobbing oder Erpressung führen. Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT im Rahmen der Studie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren. Mit dieser Art der Künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten.

Auch vor Cybergrooming sollen neue Technologien Kinder und Jugendliche besser schützen können. So geben dabei die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Technologien soll sich aber das echte Alter von Chat-Teilnehmenden einschätzen lassen können. Falls nun das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teilnehmenden zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.

Die Studie ist samt ausführlicher Beschreibungen und Ergebnisse der technischen Untersuchungen sowie des Trainings des neuronalen Netzes unter [1] frei verfügbar.

mh

[1] www.sit.fraunhofer.de/de/jugendschutz