Microsoft hat ein Tool um Pädophile in Online-Chats zu entdecken.

0 64

Die Nachricht: Microsoft hat ein automatisiertes System entwickelt, um sexuelle Straftäter zu erkennen, die versuchen, Kinder online zu striegeln. Das Tool mit dem Codenamen Project Artemis soll Kommunikationsmuster in Gesprächen erkennen.

Bewertung:  Auf der Grundlage von Wörtern und Sprachmustern vergibt das System eine Bewertung für die Wahrscheinlichkeit, dass einer der Teilnehmer versucht, den anderen zu pflegen. Unternehmen, die diese Technik implementieren, können eine Punktzahl (z. B. 8 von 10) festlegen, über der alle gekennzeichneten Konversationen an einen menschlichen Moderator gesendet werden, um sie zu überprüfen. Die Moderatoren könnten potenziell drohende Bedrohungen identifizieren und sie den Strafverfolgungsbehörden melden. Es würde auch Experten für Kinderschutz mehr Informationen darüber liefern, wie Pädophile online vorgehen. Microsoft verwendet diese Techniken seit mehreren Jahren für seine eigenen Produkte, darunter die Xbox-Plattform und Skype, sagte Courtney Gregoire, Chief Digital Safety Officer des Unternehmens, in einem Blogbeitrag .

Wie funktioniert es? Microsoft hat die genauen Wörter oder Muster, nach denen das Tool sucht, nicht erklärt. Dies könnte dazu führen, dass Straftäter ihr Verhalten anpassen, um zu versuchen, ihre Aktivitäten zu maskieren. Das Tool ist für Unternehmen, die Online-Chat-Funktionen anbieten, kostenlos über die gemeinnützige Organisation Thorn erhältlich, die Technologieprodukte entwickelt, um Kinder vor sexuellem Missbrauch zu schützen.

Die Risiken: Das System wird wahrscheinlich viele Fehlalarme auslösen, da automatisierte Systeme immer noch Schwierigkeiten haben, die Bedeutung und den Kontext der Sprache zu verstehen. Das bedeutet, dass Social-Media-Unternehmen in mehr Moderatoren investieren müssen, wenn sie sich wirklich für die Bekämpfung der Online-Pflege engagieren (und die Opfer sind der Meinung, dass dies nicht klar ist ). Das System geht auch davon aus, dass Nachrichten nicht verschlüsselt sind und dass Benutzer dem Lesen ihrer privaten Kommunikation zustimmen, was nicht unbedingt selbstverständlich ist.

Das könnte dir auch gefallen

Hinterlasse einen Kommentar

avatar
Thanks for submitting your comment!
  Abonnieren  
Benachrichtige mich bei