KI-Browser-Tools zielen darauf ab, Deepfakes und andere gefälschte Medien zu erkennen

Die Bemühungen von Technologieunternehmen, Fehlinformationen und gefälschten Inhalten entgegenzuwirken, haben in letzter Zeit an Fahrt gewonnen, da sich die Technologien zur Erstellung von gefälschtem Inhalt wie Deepfakes einfacher und raffinierter gestalten. Ein bevorstehender Versuch, Menschen dabei zu helfen, Deepfakes zu erkennen und zu bekämpfen, ist RealityDefender, produziert von der AI Foundation, die sich der Entwicklung ethischer KI-Agenten und -Assistenten verschrieben hat, die Benutzer für verschiedene Aufgaben trainieren können.

Das bekannteste Projekt der AI Foundation ist eine Plattform, die es Menschen ermöglicht, ihre eigenen digitalen Persönlichkeiten zu erstellen, die wie sie aussehen und sie in virtuellen Treffpunkten repräsentieren. Die AI Foundation wird vom Global AI Council beaufsichtigt und als Teil ihres Mandats müssen sie die möglichen negativen Auswirkungen von KI-Plattformen vorhersehen und dann versuchen, diese Probleme zu lösen. Wie von VentureBeat berichtet, ist eines der Tools, das die AI Foundation zur Erkennung von Deepfakes entwickelt hat, Reality Defender. Reality Defender ist ein Tool, das eine Person in ihrem Webbrowser verwenden kann, das Videos, Bilder und andere Arten von Medien analysiert, um Anzeichen dafür zu erkennen, dass das Medium gefälscht oder in irgendeiner Weise verändert wurde. Es wird gehofft, dass das Tool dazu beitragen kann, den zunehmenden Fluss von Deepfakes im Internet zu bekämpfen, der laut einigen Schätzungen in den letzten sechs Monaten etwa verdoppelt hat.

Reality Defender funktioniert, indem es eine Vielzahl von KI-basierten Algorithmen verwendet, die Hinweise darauf erkennen können, dass ein Bild oder ein Video gefälscht sein könnte. Die KI-Modelle erkennen subtile Anzeichen von Täuschung und Manipulation, und die Falschpositiven, die das Modell erkennt, werden von den Benutzern des Tools als falsch markiert. Die Daten werden dann verwendet, um das Modell neu zu trainieren. KI-Unternehmen, die nicht täuschende Deepfakes erstellen, haben ihre Inhalte mit einem “ehrlichen KI”-Tag oder Wasserzeichen versehen, das es Menschen ermöglicht, die KI-erzeugten Fälschungen leicht zu identifizieren.

Reality Defender ist nur eines von einer Reihe von Tools und einer gesamten KI-Verantwortungsplattform, die die AI Foundation zu erstellen versucht. Die AI Foundation verfolgt die Entwicklung von Guardian AI, einer Verantwortungsplattform, die auf dem Prinzip basiert, dass Einzelpersonen Zugang zu persönlichen KI-Agenten haben sollten, die für sie arbeiten und sie vor Ausbeutung durch böswillige Akteure schützen können. Im Wesentlichen zielt die AI Foundation darauf ab, den Einsatz von KI in der Gesellschaft zu erweitern und sie mehr Menschen zugänglich zu machen, während sie gleichzeitig die Risiken von KI abwägen.

Reality Defender ist nicht das einzige neue KI-getriebene Produkt, das darauf abzielt, Fehlinformationen in den Vereinigten Staaten zu reduzieren. Ein ähnliches Produkt ist SurfSafe, das von zwei Studenten der UC Berkeley, Rohan Phadte und Ash Bhat, entwickelt wurde. Laut The Verge funktioniert SurfSafe, indem es den Benutzern ermöglicht, auf ein Medium zu klicken, das sie interessiert, und das Programm führt dann eine umgekehrte Bildsuche durch und versucht, ähnliche Inhalte von vertrauenswürdigen Quellen im Internet zu finden und Bilder zu markieren, die als bearbeitet bekannt sind.

Es ist unklar, wie effektiv diese Lösungen langfristig sein werden. Der Professor von Dartmouth College und Forensik-Experte Hany Farid wurde von The Verge zitiert, als er sagte, dass er “extrem skeptisch” ist, dass Systeme wie Reality Defender in bedeutender Weise funktionieren werden. Farid erklärte, dass eine der Hauptherausforderungen bei der Erkennung von gefälschtem Inhalt darin besteht, dass Medien nicht rein gefälscht oder echt sind. Farid erklärte:

„Es gibt ein Kontinuum; einen unglaublich komplexen Bereich von Problemen, mit denen wir umgehen müssen. Einige Änderungen sind bedeutungslos, und einige ändern grundlegend die Natur eines Bildes. Es ist naiv, zu behaupten, wir könnten eine KI trainieren, um den Unterschied zu erkennen. Und es ist noch naiver, zu behaupten, wir könnten es crowdsourcen.“

Darüber hinaus ist es schwierig, Crowdsourcing-Elemente wie das Markieren von Falschpositiven einzubeziehen, da Menschen normalerweise sehr schlecht darin sind, gefälschte Bilder zu identifizieren. Menschen machen oft Fehler und übersehen subtile Details, die ein Bild als gefälscht markieren. Es ist auch unklar, wie man mit böswilligen Akteuren umgeht, die trollen, wenn sie Inhalte markieren.

Es scheint wahrscheinlich, dass, um maximal effektiv zu sein, Tools zur Erkennung von Fälschungen mit Bemühungen zur Förderung der digitalen Literacy kombiniert werden müssen, die Menschen lehren, wie sie mit dem Inhalt umgehen, den sie online interagieren.