AI-Experten bewerten Deepfakes und 19 andere AI-basierte Verbrechen nach Gefährdungsgrad

Eine neue Studie, die von der University College London veröffentlicht wurde, zielt darauf ab, die verschiedenen Möglichkeiten zu identifizieren, wie AI möglicherweise in den nächsten 15 Jahren kriminelle Aktivitäten unterstützen könnte. Die Studie ließ 31 AI-Experten 20 verschiedene Methoden auswählen, um AI für kriminelle Zwecke einzusetzen, und diese Methoden nach verschiedenen Faktoren bewerten. Die AI-Experten bewerteten die Verbrechen nach Variablen wie der Leichtigkeit, mit der das Verbrechen begangen werden könnte, dem potenziellen gesellschaftlichen Schaden, den das Verbrechen verursachen könnte, dem Geldbetrag, den ein Krimineller verdienen könnte, und der Schwierigkeit, das Verbrechen zu stoppen. Laut den Ergebnissen der Studie stellen Deepfakes die größte Bedrohung für die Gesetzestreue und die Gesellschaft im Allgemeinen dar, da ihr Potenzial für Ausbeutung durch Kriminelle und Terroristen hoch ist.

Die AI-Experten bewerteten Deepfakes an der Spitze der Liste der potenziellen AI-Bedrohungen, da Deepfakes schwer zu identifizieren und zu bekämpfen sind. Deepfakes verbessern sich ständig darin, sogar die Augen von Deepfake-Experten und andere AI-basierte Methoden zur Erkennung von Deepfakes zu täuschen. In Bezug auf ihre Schadensfähigkeit können Deepfakes leicht von böswilligen Akteuren verwendet werden, um vertrauenswürdige, expertische Figuren zu diskreditieren oder zu versuchen, Menschen durch das Vorgeben als vertrauenswürdige Personen zu täuschen. Wenn Deepfakes häufig vorkommen, könnten Menschen beginnen, jedem Audio- oder Video-Medium zu misstrauen, was dazu führen könnte, dass sie den Glauben an die Gültigkeit von realen Ereignissen und Fakten verlieren.

Dr. Matthew Caldwell, von der UCL Computer Science, war der erste Autor des Papiers. Caldwell unterstreicht die wachsende Gefahr von Deepfakes, da immer mehr unserer Aktivitäten online stattfinden. Wie Caldwell von UCL News zitiert wurde:

„Im Gegensatz zu vielen traditionellen Verbrechen können Verbrechen im digitalen Bereich leicht geteilt, wiederholt und sogar verkauft werden, was es Kriminellen ermöglicht, ihre kriminellen Techniken zu vermarkten und Verbrechen als Dienstleistung anzubieten. Dies bedeutet, dass Kriminelle in der Lage sein könnten, die schwierigeren Aspekte ihrer AI-basierten Verbrechen auszulagern.“

Das Team der Experten bewertete fünf andere aufkommende AI-Technologien als hoch besorgniserregende potenzielle Katalysatoren für neue Arten von Verbrechen: die Verwendung von fahrerlosen Fahrzeugen als Waffen, Hack-Angriffe auf AI-gesteuerte Systeme und Geräte, die Online-Datensammlung für Erpressungszwecke, AI-basiertes Phishing mit personalisierten Nachrichten und Falschinformationen im Allgemeinen.

Laut Shane Johnson, dem Direktor des Dawes Centre for Future Crimes an der UCL, war das Ziel der Studie, mögliche Bedrohungen im Zusammenhang mit neu aufkommenden Technologien zu identifizieren und Wege zu finden, um diesen Bedrohungen vorzubeugen. Johnson sagt, dass es angesichts der zunehmenden Geschwindigkeit der technologischen Veränderungen wichtig ist, „zukünftige Verbrechensbedrohungen vorherzusagen, damit Entscheidungsträger und andere Interessenten mit der Kompetenz, zu handeln, dies tun können, bevor neue ‚Verbrechensernten‘ auftreten“.

Was die anderen 14 möglichen Verbrechen auf der Liste betrifft, wurden sie in zwei Kategorien eingeteilt: mäßige Besorgnis und geringe Besorgnis.

AI-Verbrechen mit mäßiger Besorgnis umfassen den Missbrauch von Militär-Robotern, Daten-Vergiftung, automatisierte Angriffs-Drohnen, lernbasierte Cyber-Angriffe, Denial-of-Service-Angriffe für Online-Aktivitäten, die Manipulation von Finanz- und Aktienmärkten, Schlangenöl (Verkauf von betrügerischen Dienstleistungen unter dem Deckmantel von AI/ML-Terminologie) und das Täuschen von Gesichtserkennung.

AI-basierte Verbrechen mit geringer Besorgnis umfassen die Fälschung von Kunst oder Musik, AI-gestütztes Stalking, gefälschte Rezensionen, die von AI erstellt wurden, das Vermeiden von AI-Erkennungsmethoden und „Einbruch-Bots“ (Bots, die in Menschen Häuser einbrechen, um Dinge zu stehlen).

Natürlich können AI-Modelle selbst verwendet werden, um einige dieser Verbrechen zu bekämpfen. Kürzlich wurden AI-Modelle eingesetzt, um bei der Erkennung von Geldwäsche-Schemata zu helfen, verdächtige Finanztransaktionen zu erkennen. Die Ergebnisse werden von menschlichen Operatoren analysiert, die dann den Alarm bestätigen oder ablehnen, und das Feedback wird verwendet, um das Modell besser zu trainieren. Es ist wahrscheinlich, dass die Zukunft davon geprägt sein wird, dass AI-Systeme gegeneinander antreten, wobei Kriminelle versuchen, ihre besten AI-gestützten Werkzeuge zu entwerfen und Sicherheits-, Strafverfolgungs- und andere ethische AI-Entwickler ihre eigenen besten AI-Systeme entwerfen.