Meldung

Studie: Digitaler Jugendschutz mit Künstlicher Intelligenz

Das Fraunhofer-Institut für Sichere Informationstechnologie hat untersucht, welche Technologien dabei helfen können, Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien zu schützen. Die Machbarkeitsstudie zeigt, dass sich mithilfe Künstlicher Intelligenz und Multimediaforensik viele Delikte erkennen oder sogar unterbinden lassen.
Viele Digitalgefahren für Heranwachsende sollen sich durch Künstliche Intelligenz verhindern lassen.
Cybergrooming, das gezielte sexuelle Umgarnen und Manipulieren von Kindern im Internet, hat während der Pandemie enorme Ausmaße angenommen, wie der unabhängige Beauftragte für Fragen des sexuellen Kindesmissbrauchs meldet. Dass sich die Gefahrenlage für digitalen Missbrauch von Kindern und Jugendlichen in letzter Zeit insgesamt zugespitzt hat, mag kaum zu verwundern. Hat sich doch gerade auch für Kids und Teens durch die Corona-Pandemie vieles im Sozialleben ins Digitale verlagert. Wie das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) betont, spielen dabei Onlinedienste wie Messenger, soziale Medien, Chatforen von Onlinespielen und Ähnliches eine besondere Rolle. Denn sie ersetzen in der Pandemie noch mehr als sonst die analoge Kommunikation für Kinder und Jugendliche.

Parallel zu dieser Entwicklung werden deshalb auch die Forderungen nach einem besseren Schutz von Kindern vor Missbrauch im Netz lauter. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT. Besonderer Schwerpunkt bei der Technologiebeurteilung lag auf der praktischen Umsetzbarkeit.

Beispielsweise ist das Versenden von Nacktfotos über Messenger-Dienste – Sexting genannt – auch unter Heranwachsenden verbreitet. Und gerade auch bei ihnen kann es zu Problemen wie Mobbing oder Erpressung führen. Um unbedachtes Sexting zu verhindern, haben Forschende des Fraunhofer SIT im Rahmen der Studie unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren. Mit dieser Art der Künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. So lassen sich zum Beispiel auf einem Smartphone Nacktbilder als solche identifizieren. Jugendliche könnten also technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten.

Auch vor Cybergrooming sollen neue Technologien Kinder und Jugendliche besser schützen können. So geben dabei die Täter ein falsches – jüngeres – Alter an. Über textforensische Profiling-Technologien soll sich aber das echte Alter von Chat-Teilnehmenden einschätzen lassen können. Falls nun das angegebene (junge) Alter nicht mit dem Schreibstil des (eigentlich erwachsenen) Teilnehmenden zusammenpasst, könnte die Moderation des Forums benachrichtigt werden. Auch wenn bereits bekannte auffällig gewordene und geblockte Personen mit einem neuen Profil in Foren unterwegs sind, können textforensische Methoden dies mit einer gewissen Wahrscheinlichkeit erkennen.

Die Studie ist samt ausführlicher Beschreibungen und Ergebnisse der technischen Untersuchungen sowie des Trainings des neuronalen Netzes unter [1] frei verfügbar.
22.02.2022/mh

Tipps & Tools

Änderungen auf Webseiten nachverfolgen [6.08.2022]

Die wenigsten Nutzer haben die Zeit, um regelmäßig besuchte Webseiten im Detail auf Aktualisierungen zu prüfen. Mit dieser Aufgabe kann der "WebChangeMonitor" besser umgehen, der automatisch eine Vielzahl an Internetseiten automatisch auf Änderungen überprüft. Dabei können Sie das Intervall für jede Webseite individuell festlegen. [mehr]

Dokumente mit Barcodes ausstatten [5.08.2022]

Mittlerweile werden viele Informationen in Dokumenten wie zum Beispiel Webseiten-URLs durch einen Barcode ersetzt. Das bekannteste Format ist der QR-Code, den Sie jetzt mit ein paar Handgriffen und den Word-Bordmitteln selbst in Ihre Projekte einfügen können. Die Feldfunktion heißt "Displaybarcode" und unterstützt zehn verschiedene Typen an Barcodes. [mehr]

Fachartikel

Exchange Online verwalten (2) [15.08.2022]

Exchange Online lässt sich wie eine lokale Installation von Exchange über zwei Wege konfigurieren – das Exchange Admin Center und die Exchange Management Shell. Beide Tools stellen wir Ihnen in diesem Beitrag vor und geben Ihnen nützliche Tipps für die tägliche Administration an die Hand. In der zweiten Folge geht es vor allem um die Exchange Management Shell und wie Sie Fernzugriff einrichten und absichern. [mehr]

Buchbesprechung

Kerberos

von Mark Pröhl und Daniel Kobras

Anzeigen