Experte sagt: “Völlig realistische” DeepFakes werden in 6 Monaten hier sein

Die beeindruckenden, aber umstrittenen DeepFakes, Bilder und Videos, die durch Deep-Learning-Netzwerke manipuliert oder generiert werden, werden wahrscheinlich sowohl beeindruckender als auch umstrittener in der nahen Zukunft, laut Hao Li, dem Direktor des Vision and Graphics Lab an der University of Southern California. Li ist ein Experte für Computer-Vision und DeepFakes, und in einem kürzlichen Interview mit CNBC sagte er, dass “völlig realistische” DeepFakes wahrscheinlich innerhalb eines halben Jahres eintreffen werden.

Li erklärte, dass die meisten DeepFakes noch immer als falsch zu erkennen sind, und dass sogar die überzeugenderen DeepFakes noch immer erhebliche Anstrengungen vonseiten des Erstellers erfordern, um sie realistisch erscheinen zu lassen. Li ist jedoch überzeugt, dass innerhalb von sechs Monaten DeepFakes, die völlig realistisch erscheinen, auftauchen werden, da die Algorithmen immer sophistizierter werden.

Li dachte ursprünglich, dass es zwei bis drei Jahre dauern würde, bis extrem überzeugende DeepFakes alltäglicher werden, und machte diese Vorhersage auf einer kürzlichen Konferenz, die am Massachusetts Institute of Technology ausgerichtet wurde. Li revidierte jedoch seine Zeitleiste nach der Enthüllung der jüngsten chinesischen App Zao und anderen jüngsten Entwicklungen im Zusammenhang mit DeepFakes-Technologie. Li erklärte CNBC, dass die Methoden, die benötigt werden, um realistische DeepFakes zu erstellen, mehr oder weniger die Methoden sind, die derzeit verwendet werden, und dass das Hauptzutat, das realistische DeepFakes erstellen wird, mehr Trainingsdaten sind.

Li und seine Kollegen haben hart an der DeepFake-Erkennungstechnologie gearbeitet, in Erwartung der Ankunft extrem überzeugender DeepFakes. Li und seine Kollegen, wie Hany Farid von der University of California Berkely, experimentierten mit den neuesten DeepFake-Algorithmen, um zu verstehen, wie die Technologie, die sie erstellt, funktioniert.

Li erklärte CNBC:

“Wenn Sie in der Lage sein wollen, DeepFakes zu erkennen, müssen Sie auch sehen, was die Grenzen sind. Wenn Sie A.I.-Frameworks bauen müssen, die in der Lage sind, extrem realistische Dinge zu erkennen, müssen diese mit diesen Arten von Technologien trainiert werden, sodass es in einigen Fällen unmöglich ist, sie zu erkennen, wenn Sie nicht wissen, wie sie funktionieren.”

Li und seine Kollegen sind daran interessiert, Tools zu erstellen, um DeepFakes zu erkennen, in Anerkennung der potenziellen Probleme und Gefahren, die die Technologie mit sich bringt. Li und seine Kollegen sind weit entfernt von der einzigen Gruppe von A.I.-Forschern, die sich um die möglichen Auswirkungen von DeepFakes sorgen und an der Erstellung von Gegenmaßnahmen interessiert sind.

Kürzlich startete Facebook (META ) eine gemeinsame Partnerschaft mit MIT, Microsoft (MSFT ) und der University of Oxford, um die DeepFake-Erkennungsherausforderung zu schaffen, die darauf abzielt, Tools zu erstellen, die verwendet werden können, um zu erkennen, wenn Bilder oder Videos verändert wurden. Diese Tools werden Open-Source und von Unternehmen, Medienorganisationen und Regierungen nutzbar sein. Währenddessen erstellten Forscher von der University of Southern California’s Information Sciences Institute kürzlich eine Reihe von Algorithmen, die Fakes-Videos mit einer Genauigkeit von etwa 96% unterscheiden können.

Li erklärte jedoch auch, dass das Problem mit DeepFakes die Art und Weise ist, wie sie missbraucht werden können, und nicht die Technologie selbst. Li nannte mehrere legitime mögliche Anwendungen für DeepFake-Technologie, einschließlich der Unterhaltungs- und Modeindustrie.

DeepFake-Techniken wurden auch verwendet, um die Gesichtsausdrücke von Menschen mit verdeckten Gesichtern in Bildern zu replizieren. Forscher verwendeten Generative Adversarial Networks, um ein völlig neues Gesicht zu erstellen, das den gleichen Ausdruck wie das Originalbild hatte. Die von der Norwegian University of Science and Technology entwickelten Techniken könnten helfen, Gesichtsausdrücke während Interviews mit sensiblen Personen, wie Whistleblowern, zu rendern. Jemand anderes könnte sein Gesicht als Ersatz für die Person verwenden, die Anonymität benötigt, aber die Gesichtsausdrücke könnten immer noch gelesen werden.

Wenn die Sophistikation der Deepfake-Technologie zunimmt, werden die legitimen Anwendungsfälle für Deepfakes auch zunehmen. Die Gefahr wird jedoch auch zunehmen, und aus diesem Grund wird die Arbeit an der Erkennung von DeepFakes, die von Li und anderen durchgeführt wird, immer wichtiger.