Forscher beginnen, künstliche Intelligenz zum Kampf gegen Hassrede im Internet auszubilden

Falsche Nachrichten und Hassrede im Internet werden zu einem nicht täglichen, sondern minütlichen Problem. Laut IkigaiLab mussten Facebook (META ) und Twitter kürzlich über 1,5 Milliarden bzw. 70 Millionen Konten schließen, um zumindest den Verbreitung von Falschnachrichten und Hassrede weltweit einzudämmen.

Dennoch erfordert eine solche Aufgabe derzeit enorme menschliche Arbeitskraft und fast konstante Arbeitszeiten, um nur die Spitze des Hassrede-Eisbergs zu erreichen. Um das Problem zu lösen, beginnen Forscher in zahlreichen Labors, künstliche Intelligenz (KI) auszubilden, um bei dieser enormen Aufgabe zu helfen.

Ikigai zitiert das Rosetta-System, das Facebook verwendet, um die Authentizität von Nachrichten, Bildern oder anderen Inhalten zu überprüfen, die auf diesem sozialen Medium hochgeladen werden. Wie erklärt wird, scannet Rosetta “das Wort, Bild, die Sprache, die Schriftart, das Datum des Beitrags sowie andere Variablen und versucht, zu bestimmen, ob die präsentierte Information echt oder nicht ist.” Nachdem das System die Informationen gesammelt hat und unter Berücksichtigung, dass KI noch nicht vollständig in der Lage ist, “Anspielungen, Anspielungen, Seitenhiebe und den Kontext, in dem der Inhalt veröffentlicht wurde, zu verstehen”, übernehmen die menschlichen Moderatoren und leiten das KI-System an, um Hassrede und Falschnachrichten zu entdecken.

Um die Fähigkeit der KI-Systeme weiterzuentwickeln, alle möglichen Nuancen zu erkennen, die Hassrede ausmachen, hat ein Team von Forschern an der UC Santa Barbara und Intel (INTC ), wie TheNextWeb (TNW) berichtet, “tausende von Gesprächen aus den schlimmsten Gemeinschaften auf Reddit und Gab verwendet, um KI zum Kampf gegen Hassrede auszubilden.”

Laut ihrem Bericht haben die gemeinsamen Forschergruppen dazu ein bestimmtes Dataset erstellt, das “tausende von Gesprächen enthält, die speziell ausgewählt wurden, um sicherzustellen, dass sie voller Hassrede sind.” Sie verwendeten auch eine Liste von Gruppen auf Reddit, die hauptsächlich durch den Gebrauch von Hassrede gekennzeichnet sind, die von Justin Caffier von Vox zusammengestellt wurde.

Die Forscher sammelten “mehr als 22.000 Kommentare von Reddit und über 33.000 von Gab.” Sie entdeckten, dass die beiden Seiten ähnliche beliebte Hassschlüsselwörter aufweisen, aber die Verteilungen sehr unterschiedlich sind.

Sie stellten fest, dass aufgrund dieser Unterschiede es sehr schwierig für soziale Medien im Allgemeinen ist, in Echtzeit einzugreifen, da der Fluss von Hassrede so hoch ist, dass er countless reale Personen erfordern würde, um ihm zu folgen.

Um das Problem anzugehen, begannen die Forscher, KI zum Eingreifen auszubilden. Ihre anfängliche Datenbank wurde an Amazon (AMZN ) -Turk-Arbeiter gesendet, um sie zu kennzeichnen. Nachdem die Arbeiter die einzelnen Fälle von Hassrede identifiziert hatten, kamen sie mit Phrasen, die KI verwenden würde, “um Benutzer davon abzuhalten, ähnliche Hassrede in der Zukunft zu posten.”

Basierend darauf liefen die Forscher “diesen Datensatz und ihre Datenbank von Eingriffen durch verschiedene maschinelle Lern- und natürliche Sprachverarbeitungssysteme und erstellten eine Art Prototyp für eine Online-Hassrede-Eingriff-KI.”

Die Ergebnisse waren hervorragend, aber da die Entwicklung noch in einem frühen Stadium ist, ist das System noch nicht bereit, aktiv verwendet zu werden. Wie erklärt wird, “sollte das System theoretisch Hassrede erkennen und sofort eine Nachricht an den Poster senden, um ihm mitzuteilen, warum er Dinge, die offensichtlich Hassrede darstellen, nicht posten sollte. Dies erfordert mehr als nur Schlüsselwort-Erkennung – damit die KI funktioniert, muss sie den Kontext richtig verstehen.”