Wie künstliche Intelligenz-basierte Deepfakes die Integrität von Wahlen bedrohen — und was dagegen unternommen werden kann

Wahlkampfwerbung kann bereits ziemlich chaotisch und umstritten sein.

Stellen Sie sich nun vor, Sie werden mit einer Wahlkampfwerbung konfrontiert, in der ein Kandidat starke Positionen vertritt, die Ihre Stimme beeinflussen — und die Werbung ist nicht einmal echt. Es ist ein Deepfake.

Dies ist kein hypothetisches Szenario aus der Zukunft; Deepfakes sind ein reales, weit verbreitetes Problem. Wir haben bereits von künstlich erzeugten “Empfehlungen” gehört, die Schlagzeilen gemacht haben, und was wir gehört haben, ist nur die Spitze des Eisbergs.

Wenn wir uns der Präsidentschaftswahl 2024 in den USA nähern, betreten wir unbekanntes Terrain in Sachen Cybersicherheit und Informationsintegrität. Ich habe an der Schnittstelle zwischen Cybersicherheit und künstlicher Intelligenz gearbeitet, seit beide Konzepte noch in den Kinderschuhen steckten, und ich habe noch nie etwas gesehen, das dem, was gerade passiert, ähnelt.

Die schnelle Evolution der künstlichen Intelligenz — insbesondere der generativen künstlichen Intelligenz und natürlich der daraus resultierenden leichten Erstellung realistischer Deepfakes — hat die Landschaft der Wahlbedrohungen verändert. Diese neue Realität erfordert eine Änderung der grundlegenden Annahmen über die Wahlsicherheit und die Bildung der Wähler.

Waffenierte künstliche Intelligenz

Sie müssen meine persönliche Erfahrung nicht als Beweis nehmen; es gibt genügend Beweise dafür, dass die Cybersicherheitsherausforderungen, denen wir heute gegenüberstehen, sich mit unvergleichlicher Geschwindigkeit entwickeln. Innerhalb weniger Jahre haben wir eine dramatische Veränderung in den Fähigkeiten und Methoden potenzieller Bedrohungsakteure erlebt. Diese Evolution spiegelt die beschleunigte Entwicklung wider, die wir bei den künstlichen Intelligenz-Technologien gesehen haben, aber mit einer besorgniserregenden Wendung.

Ein Beispiel:

• Schnelle Waffenisierung von Schwachstellen. Heutige Angreifer können neu entdeckte Schwachstellen schnell ausnutzen, oft schneller, als Patches entwickelt und bereitgestellt werden können. Künstliche Intelligenz-Tools beschleunigen diesen Prozess weiter, indem sie das Zeitfenster zwischen der Entdeckung einer Schwachstelle und ihrer Ausnutzung verkürzen.
• Erweiterter Angriffsraum. Die weit verbreitete Einführung von Cloud-Technologien hat die potenzielle Angriffsfläche erheblich erweitert. Verteilte Infrastrukturen und das gemeinsame Verantwortungsmodell zwischen Cloud-Anbietern und Benutzern schaffen neue Vektoren für die Ausnutzung, wenn sie nicht ordnungsgemäß verwaltet werden.
• Veraltete traditionelle Sicherheitsmaßnahmen. Legacy-Sicherheitstools wie Firewalls und Antiviren-Software haben Schwierigkeiten, mit diesen sich entwickelnden Bedrohungen Schritt zu halten, insbesondere wenn es darum geht, künstlich erzeugte Inhalte zu erkennen und zu mildern.

Sieh an, wer spricht

In diesem neuen Bedrohungslandschaft stellen Deepfakes eine besonders heimtückische Herausforderung für die Integrität von Wahlen dar. Aktuelle Forschung von Ivanti liefert einige Zahlen zu dieser Bedrohung: mehr als die Hälfte der Büroangestellten (54%) sind sich nicht bewusst, dass fortschrittliche künstliche Intelligenz die Stimme von jedem nachahmen kann. Dieses mangelnde Bewusstsein unter potenziellen Wählern ist besorgniserregend, da wir uns einer kritischen Wahlrunde nähern.

Es steht so viel auf dem Spiel.

Die Sophistikation der heutigen Deepfake-Technologie ermöglicht es Bedrohungsakteuren, sowohl ausländischen als auch inländischen, überzeugende gefälschte Audio-, Video- und Textinhalte mit minimalem Aufwand zu erstellen. Ein einfacher Textprompt kann jetzt einen Deepfake erzeugen, der immer schwieriger von echten Inhalten zu unterscheiden ist. Diese Fähigkeit hat schwerwiegende Auswirkungen auf die Verbreitung von Fehlinformationen und die Manipulation der öffentlichen Meinung.

Herausforderungen bei der Zuweisung und Milderung

Die Zuweisung ist eine der größten Herausforderungen, denen wir bei der künstlichen Intelligenz-gesteuerten Wahlbeeinflussung gegenüberstehen. Während wir historisch gesehen Wahlbeeinflussung mit staatlichen Akteuren in Verbindung gebracht haben, bedeutet die Demokratisierung von künstlichen Intelligenz-Tools, dass inländische Gruppen, die von verschiedenen ideologischen Motivationen getrieben werden, diese Technologien nutzen können, um Wahlen zu beeinflussen.

Diese Verbreitung potenzieller Bedrohungsakteure erschwert unsere Fähigkeit, Quellen von Fehlinformationen zu identifizieren und zu mildern. Sie unterstreicht auch die Notwendigkeit eines vielschichtigen Ansatzes für die Wahlsicherheit, der über traditionelle Cybersicherheitsmaßnahmen hinausgeht.

Koordinierte Anstrengungen zur Wahrung der Integrität von Wahlen

Um die Herausforderung von künstlichen Intelligenz-gesteuerten Deepfakes bei Wahlen anzugehen, sind koordinierte Anstrengungen in mehreren Sektoren erforderlich. Hier sind einige Schlüsselbereiche, in denen wir unsere Bemühungen konzentrieren müssen:

• Sicherheit für künstliche Intelligenz-Systeme. Wir müssen die Prinzipien der “Sicherheit von links” auf die Entwicklung von künstlichen Intelligenz-Systemen selbst anwenden. Dies bedeutet, Sicherheitsaspekte von den frühesten Stadien der Entwicklung von künstlichen Intelligenz-Modellen aus zu berücksichtigen, einschließlich Aspekte, die für eine mögliche missbräuchliche Verwendung bei der Wahlbeeinflussung relevant sind.
• Durchsetzung sicherer Konfigurationen. Künstliche Intelligenz-Systeme und -Plattformen, die potenziell zur Erstellung von Deepfakes verwendet werden könnten, sollten standardmäßig robuste und sichere Konfigurationen aufweisen. Dazu gehören starke Authentifizierungsmaßnahmen und Einschränkungen der Arten von Inhalten, die erzeugt werden können.
• Sicherung der künstlichen Intelligenz-Lieferkette. So wie wir die Software-Lieferkette sichern, müssen wir auch die künstliche Intelligenz-Lieferkette überwachen. Dazu gehören die Überprüfung der Daten, die zur Ausbildung von künstlichen Intelligenz-Modellen verwendet werden, und der Algorithmen, die in generativen künstlichen Intelligenz-Systemen eingesetzt werden.
• Erweiterte Erkennungsfähigkeiten. Wir müssen in fortschrittliche Erkennungstools investieren und entwickeln, die in der Lage sind, künstlich erzeugte Inhalte, insbesondere im Kontext von wahlbezogenen Informationen, zu erkennen. Dies wird wahrscheinlich die Nutzung von künstlicher Intelligenz selbst zur Bekämpfung von künstlich erzeugter Fehlinformation erfordern.
• Bildung und Bewusstseinsbildung der Wähler. Ein entscheidender Bestandteil unserer Verteidigung gegen Deepfakes ist ein informiertes Wahlvolk. Wir benötigen umfassende Bildungsprogramme, um Wähler über die Existenz und mögliche Auswirkungen von künstlich erzeugten Inhalten aufzuklären und ihnen Werkzeuge an die Hand zu geben, um die Informationen, die sie erhalten, kritisch zu bewerten.
• Zusammenarbeit zwischen Sektoren. Der Technologie-Sektor, insbesondere IT- und Cybersicherheitsunternehmen, muss eng mit Regierungsbehörden, Wahlbeamten und Medienorganisationen zusammenarbeiten, um eine einheitliche Front gegen künstlich intelligente Wahlbeeinflussung zu bilden.

Was jetzt und was als Nächstes

Wenn wir diese Strategien umsetzen, ist es entscheidend, dass wir ihre Wirksamkeit kontinuierlich messen. Dies erfordert neue Metriken und Überwachungstools, die speziell dafür entwickelt werden, den Einfluss von künstlich erzeugten Inhalten auf die Wahlkommunikation und das Wählerverhalten zu verfolgen.

Wir sollten auch darauf vorbereitet sein, unsere Strategien schnell anzupassen. Das Feld der künstlichen Intelligenz entwickelt sich mit atemberaubender Geschwindigkeit, und unsere Abwehrmaßnahmen müssen genauso schnell evolvieren. Dies kann die Nutzung von künstlicher Intelligenz selbst zur Schaffung robusterer und anpassungsfähigerer Sicherheitsmaßnahmen beinhalten.

Die Herausforderung von künstlichen Intelligenz-gesteuerten Deepfakes bei Wahlen stellt ein neues Kapitel in der Cybersicherheit und Informationsintegrität dar. Um sie zu meistern, müssen wir über traditionelle Sicherheitsparadigmen hinausdenken und die Zusammenarbeit zwischen Sektoren und Disziplinen fördern. Das Ziel: die Macht der künstlichen Intelligenz für den Nutzen demokratischer Prozesse nutzen und gleichzeitig ihre potenzielle Schadwirkung mildern. Dies ist nicht nur eine technische Herausforderung, sondern auch eine gesellschaftliche, die kontinuierliche Wachsamkeit, Anpassung und Zusammenarbeit erfordert.

Die Integrität unserer Wahlen — und damit die Gesundheit unserer Demokratie — hängt von unserer Fähigkeit ab, diese Herausforderung direkt anzugehen. Es ist eine Verantwortung, die uns allen obliegt: Technologen, politischen Entscheidungsträgern und Bürgern gleichermaßen.