Forscher am California Institute of Technology (Caltech) http://caltech.edu haben einen Sprachanalyse-Algorithmus entwickelt, der Cybermobbing im Social Web entdeckt. Indem eine Künstliche Intelligenz (KI) die Ähnlichkeit der Bedeutung zwischen Wörtern analysiert, kann sie schnell neue Begriffe erkennen, die Cybermobber in sozialen Foren anwenden.
“Nähe” zwischen Wörtern
Laut Caltech-Forscherin Anima Anandkumar verlassen sich aktuelle Algorithmen nur auf einen vorgefertigten Satz an Schlüsselwörtern. “Die Suche nach solchen Wörtern leidet an der Geschwindigkeit, mit der sich Online-Konversationen weiterentwickeln. Ein Schlüsselwort, das zuerst ernst gemeint war, könnte plötzlich sarkastisch verwendet werden”, so Anandkumar.
Um dem Algorithmus beizubringen, sich an diese sprachlichen Veränderungen anzupassen, nutzt das Team im Experiment ein sogenanntes “GloVe-Modell”. Dabei handelt es sich um ein System, das Wörter in einem Vektor-Raum darstellt und die semantische “Nähe” zwischen ihnen ermittelt. Die KI erkennt also, wenn ein neuer Begriff eine ähnliche Bedeutung hat wie ein veraltetes Cybermobbing-Wort.
Sprachkontext entscheidend
Indem der Algorithmus mit einem Schlüsselwort anfängt, kann er weitere Begriffe mit ähnlicher Bedeutung erkennen. Die Forscher testeten ihn unter anderem auf Twitter und verwendeten dabei den Begriff #MeToo. Dabei erkannte die KI die Verbindung mit ähnlichen Hashtags wie “#ImWithHer,” und “#NotSilent”.
Der Kontext, in dem Begriffe vorkommen, ist laut Anandkumar entscheidend für die richtige Sprachanalyse. Das GloVe-Modell berücksichtigt auch, in welchen Foren Wörter angewendet werden. Beispielsweise stand das Wort “female” (weiblich) in einem Reddit-Forum, das von Frauenfeindlichkeit geprägt war, mit Begriffen wie “sexual” oder “negative” in Verbindung. Bei Twitter-Postings über die #MeToo-Bewegung assoziierte die KI “female” dagegen mit “companies” (Unternehmen) oder “victims” (Opfer).
Erst im Jahr 2019 hat das kanadische Start-up Receptiviti eine Sprachanalyse-KI entwickelt, die negative Emotionen in E-Mails erkennt und so auch Cybermobbing verhindern soll (pressetext berichtete: http://pressetext.com/news/20191011016 ). Doch der Algorithmus benutzt, anders als der des Caltech, vorgefertigte Sätze an Schlüsselwörtern und kann noch keine neuen finden.
pressetext/red
