Wie Hacker Künstliche Intelligenz einsetzen

KI hat sich als wertsteigernde Technologie in der globalen Wirtschaft bewährt.

Als Unternehmen in den letzten Jahren versuchten, sich an aktuelle Ereignisse anzupassen, fanden einige von ihnen Wege, um fünf Jahre wert an digitalen Transformationen in einen viel kürzeren Zeitraum zu quetschen – im Fall von Frito-Lay – . Harris Poll und Appen fanden heraus, dass die KI-Budgets während der globalen Pandemie um 55% gestiegen sind.

Wie jedes Werkzeug hat Künstliche Intelligenz keinen inhärenten moralischen Wert. Die Nützlichkeit oder das Potenzial für Schaden hängt davon ab, wie das System “lernt” und was Menschen letztendlich damit tun.

Einige Versuche, KI zu nutzen – wie zum Beispiel das “Vorhersagen” von Verbrechen, bevor sie passieren – zeigen, dass Modelle, die auf voreingenommenen Daten trainiert werden, menschliche Mängel replizieren. Bisher hat das Training von KI mit Daten aus dem US-Justizsystem zu tragisch voreingenommenen KI-Argumenten geführt.

In anderen Beispielen wählen Menschen absichtliche Wege, um das destruktive Potenzial von KI zu nutzen. Hacker zeigen ihre innovative Art und Weise, KI zu verwenden, um ihre Angriffe zu verbessern, ihre Reichweite zu erweitern und ihre Profitabilität zu steigern. Und da Cyberkriegsführung immer häufiger wird auf der ganzen Welt, werden wir sicherlich sehen, dass die Anwendungen von KI im Hacken weiterentwickelt werden.

KI ist eine Chance und ein Risiko

Künstliche Intelligenz bietet eine Welt der Möglichkeiten für Unternehmen, die ihre Prognosen, Geschäftsoptimierung und Kundenbindungstrategien verbessern möchten. Es ist auch ein Glücksfall für diejenigen, die die digitale Souveränität anderer kompromittieren möchten.

Hier sind einige Wege, auf denen Künstliche Intelligenz möglicherweise anfällig für diskrete Manipulationen und offensichtlichere Bemühungen sein könnte, sie für aggressive Aktionen zu nutzen.

1. Kompromittierung der Maschinenlogik

Der größte Vorteil von KI für Verbraucher und kommerzielle Unternehmen ist, dass sie vorhersehbare und wiederholbare logische Handlungen ohne menschliche Einmischung ausführt. Dies ist auch ihre größte Schwäche.

Wie jedes andere digitale Konstrukt kann KI möglicherweise von externen Kräften durchdrungen werden. Hacker, die auf die Maschinenlogik zugreifen und sie kompromittieren, die KI antreibt, könnten sie dazu bringen, unvorhersehbare oder schädliche Handlungen auszuführen. Zum Beispiel könnte eine KI, die für die industrielle Zustandsüberwachung eingesetzt wird, falsche Messwerte liefern oder Wartungssignale unbeachtet lassen.

Da der gesamte Zweck von KI-Investitionen darin besteht, menschliche Eingriffe zu eliminieren und Ergebnisse zu überprüfen, kann der durch einen Angriff dieser Art verursachte Schaden an der Infrastruktur oder der Produktqualität möglicherweise nicht bemerkt werden, bis zu einem katastrophalen Versagen.

2. Nutzung von Reverse-Engineering-Algorithmen

Ein weiterer möglicher Weg für Schaden – insbesondere im Zusammenhang mit geistigem Eigentum (IP) und Verbraucher- oder Unternehmensdaten – ist die Vorstellung von Reverse-Engineering. Hacker können sogar den KI-Code selbst stehlen. Mit genügend Zeit, um zu studieren, wie er funktioniert, könnten sie schließlich die Datenmengen entdecken, die zur Ausbildung der KI verwendet wurden.

Dies könnte mehrere Ergebnisse haben, von denen das erste KI-Vergiftung ist. Andere Beispiele könnten Hacker dazu bringen, die KI-Trainingsdaten selbst zu nutzen, um kompromittierende Informationen über Märkte, Konkurrenten, Regierungen, Lieferanten oder allgemeine Verbraucher zu sammeln.

3. Erforschung der beabsichtigten Ziele

Die Überwachung von Zielen ist wahrscheinlich eine der beunruhigenderen Auswirkungen von KI, die in die Hände von Hackern fallen. Die Fähigkeit von KI, Schlussfolgerungen über eine Person zu ziehen, ihre Fähigkeiten, Wissensgebiete, Temperament und die Wahrscheinlichkeit, Opfer von Zielsetzungen, Betrug oder Missbrauch zu werden, ist für einige Cybersicherheitsexperten besonders besorgniserregend.

Künstliche Intelligenz kann Daten und überraschend detaillierte Schlussfolgerungen über Personen, Teams und Gruppen auf der Grundlage einiger der unwahrscheinlichsten Datenpunkte ziehen. Eine “engagierte” oder “abgelenkte” Person könnte schnell tippen, mit der Maus herumspielen oder zwischen Browser-Registerkarten schnell wechseln. Ein Benutzer, der “verwirrt” oder “zögerlich” ist, kann vor dem Klicken auf Seitenelemente zögern oder mehrere Seiten erneut besuchen.

In den richtigen Händen helfen solche Hinweise HR-Abteilungen, die Mitarbeiterbindung zu verbessern, oder Marketing-Teams, ihre Websites und Verkaufstrichter zu polieren.

Für Hacker könnten solche Signale jedoch zu einer überraschend nuancierten psychologischen Profilierung des beabsichtigten Ziels führen. Cyberkriminelle könnten basierend auf unsichtbaren Hinweisen für Menschen bestimmen, welche Personen anfällig für Phishing, Smishing, Ransomware, Finanzbetrug und andere Arten von Schaden sein könnten. Es könnte ihnen auch helfen, zu lernen, wie sie ihre Ziele am besten davon überzeugen können, dass ihre Betrugsversuche von legitimen Quellen stammen.

4. Aufspüren von Netzwerkverwundbarkeiten

Cybersicherheitsfachleute haben Daten über 20.175 bekannte Sicherheitsverwundbarkeiten im Jahr 2021 veröffentlicht. Das war eine Steigerung gegenüber 2020, als es 17.049 solcher Verwundbarkeiten gab.

Die Welt wird immer mehr digital vernetzt – einige würden sagen, interdependent – von Stunde zu Stunde. Die Welt beheimatet jetzt eine atemberaubende Anzahl von kleinen und industriellen Netzwerken, mit Milliarden von verbundenen Geräten online und mehr auf dem Weg. Alles ist online, von Zustandsüberwachungssensoren bis hin zu Unternehmensplanungssoftware.

Künstliche Intelligenz zeigt Versprechen, wenn es darum geht, Cybersicherheitsteams dabei zu helfen, Netzwerk-, Software- und Hardware-Verwundbarkeiten schneller als Menschen allein zu erkennen. Die Geschwindigkeit und der Umfang des Wachstums der digitalen Infrastruktur der Erde bedeuten, dass es fast unmöglich ist, Billionen von Codezeilen nach Sicherheitslücken zu durchsuchen, um sie zu patchen. All dies muss passieren, während diese Systeme online sind, aufgrund der Kosten für Ausfallzeiten.

Wenn KI hier ein Cybersicherheitswerkzeug ist, ist es auch ein zweischneidiges Schwert. Hacker können die gleichen Mechanismen wie die “weißen Hut”-IT-Crowd nutzen, um die gleiche Arbeit auszuführen: das Aufspüren von Netzwerk-, Software- und Firmware-Verwundbarkeiten effizienter als menschliche IT-Spezialisten.

Ein digitaler Waffenlauf

Es gibt zu viele KI-Anwendungen im Cyberkrieg, um sie alle zu nennen, aber hier sind einige weitere:

• Hacker könnten KI-Code innerhalb einer ansonsten harmlosen Anwendung verstecken, die ein schädliches Verhalten ausführt, wenn sie einen vorherbestimmten Auslöser oder Schwellenwert erkennt.
• Böswillige KI-Modelle können verwendet werden, um Anmeldedaten oder IT-Verwaltungsmerkmale durch die Überwachung biometrischer Eingaben wie Fingerabdrücke und Spracherkennung zu bestimmen.
• Selbst wenn ein versuchter Cyberangriff letztendlich fehlschlägt, können Hacker mit KI möglicherweise machine learning verwenden, um zu bestimmen, was schiefgelaufen ist und was sie anders machen könnten, wenn sie es das nächste Mal versuchen.

Es schien, als ob es nur eine gut platzierte Geschichte über das Hacken eines Jeeps, während er fährt, brauchte, um die Entwicklung autonomer Fahrzeuge zum Stillstand zu bringen. Ein hochkarätiger Hack, bei dem KI als Schlüsselelement fungiert, könnte zu einer ähnlichen Erosion der öffentlichen Meinung führen. Einige Umfragen zeigen, dass der durchschnittliche Amerikaner sehr skeptisch gegenüber den Vorteilen von KI ist.

Allgegenwärtiges Computing geht mit Cybersicherheitsrisiken einher – und sowohl weiße als auch schwarze Hut-Hacker wissen das. KI kann helfen, unser Online-Leben sicher zu halten, aber sie ist auch das Epizentrum eines neuen digitalen Waffenlaufs.