Die Zukunft der Cybersicherheit: KI, Automation und der menschliche Faktor

In den letzten zehn Jahren hat sich, zusammen mit dem explosiven Wachstum der Informationstechnologie, die dunkle Realität der Cybersicherheitsbedrohungen dramatisch entwickelt. Cyberangriffe, die ursprünglich hauptsächlich von schädlichen Hackern getrieben wurden, die nach Ruhm oder finanziellen Gewinn strebten, sind nun wesentlich komplexer und zielgerichteter geworden. Von staatlich geförderter Spionage bis hin zu Unternehmens- und Identitätsdiebstahl sind die Motive hinter Cyberkriminalität zunehmend finsterer und gefährlicher. Obwohl finanzieller Gewinn immer noch ein wichtiger Grund für Cyberkriminalität ist, wurde er von noch schädlicheren Zielen wie dem Diebstahl kritischer Daten und Vermögenswerten überlagert. Cyberangreifer nutzen umfassend modernste Technologien, einschließlich künstlicher Intelligenz, um Systeme zu infiltrieren und schädliche Aktivitäten durchzuführen. In den USA hat das Federal Bureau of Investigation (FBI) mehr als 800.000 über Cybersicherheitsbedrohungen relevante Beschwerden im Jahr 2022 gemeldet, mit Gesamtschäden von über 10 Milliarden Dollar, was den Gesamtschaden von 6,9 Milliarden Dollar im Jahr 2021 übertrifft, wie das Internet Crime Complaint Center des FBI berichtet.

Da sich die Bedrohungslandschaft schnell entwickelt, ist es Zeit für Organisationen, einen mehrschichtigen Ansatz zur Cybersicherheit zu adoptieren. Der Ansatz sollte darauf abzielen, wie Angreifer Zugang erhalten; die anfängliche Kompromittierung verhindern; Eindringlinge schnell erkennen; und eine schnelle Reaktion und Sanierung ermöglichen. Der Schutz digitaler Vermögenswerte erfordert die Nutzung der Kraft von KI und Automation, während gleichzeitig sichergestellt wird, dass qualifizierte menschliche Analysten integraler Bestandteil der Sicherheitsstrategie bleiben.

Der Schutz einer Organisation erfordert eine mehrschichtige Strategie, die die vielfältigen Einstiegspunkte und Angriffsvektoren berücksichtigt, die von Angreifern eingesetzt werden. Im Großen und Ganzen können diese in vier Hauptkategorien unterteilt werden: 1) Web- und Netzwerkangriffe; 2) Angriffe auf das Benutzerverhalten und die Identität; 3) Angriffe auf Entitäten, die auf Cloud- und Hybridumgebungen abzielen; und 4) Malware, einschließlich Ransomware, Advanced Persistent Threats und anderer schädlicher Code.

Nutzung von KI und Automation

Die Einrichtung von KI- und Machine-Learning-Modellen, die auf jede dieser Angriffsklassen zugeschnitten sind, ist entscheidend für die proaktive Bedrohungserkennung und -prävention. Für Web- und Netzwerkangriffe müssen Modelle Bedrohungen wie Phishing, Browser-Exploitation und Distributed Denial-of-Service-Angriffe (DDoS) in Echtzeit erkennen. Benutzerverhaltens- und Entitätsanalysen, die KI nutzen, können anomale Aktivitäten erkennen, die auf Konto-Kompromittierung oder Missbrauch von Systemressourcen und -daten hinweisen. Schließlich kann die KI-gesteuerte Malware-Analyse neue Stämme schnell triagieren, schädliches Verhalten identifizieren und die Auswirkungen von dateibasierten Bedrohungen mindern. Durch die Implementierung von KI- und Machine-Learning-Modellen über das gesamte Spektrum von Angriffsflächen können Organisationen ihre Fähigkeit erheblich verbessern, Angriffe autonom in den frühesten Stadien zu erkennen, bevor sie zu vollständigen Vorfällen eskalieren.

Sobald KI/ML-Modelle potenzielle Bedrohungsaktivitäten über verschiedene Angriffsvektoren identifiziert haben, stehen Organisationen vor einer weiteren Herausforderung – dem Verständnis der häufigen Warnungen und der Trennung kritischer Vorfälle vom Rauschen. Da so viele Datenpunkte und Erkennungen generiert werden, wird es entscheidend, eine weitere Ebene von KI/ML zu verwenden, um die wichtigsten Warnungen zu korrelieren und zu priorisieren, die einer weiteren Untersuchung und Reaktion bedürfen. Warnmüdigkeit ist ein zunehmend kritischer Punkt, der gelöst werden muss.

KI kann eine entscheidende Rolle in diesem Warn-Triage-Prozess spielen, indem sie große Mengen an Sicherheits-Telemetrie verarbeitet, Erkenntnisse aus mehreren Erkennungsquellen einschließlich Bedrohungsintelligenz fusioniert und nur die hochwertigsten Vorfälle für die Reaktion an die Oberfläche bringt. Dies verringert die Belastung für menschliche Analysten, die ansonsten von weit verbreiteten Falschpositiven und niedrigwertigen Warnungen überflutet würden, die nicht genügend Kontext bieten, um die Schwere und die nächsten Schritte zu bestimmen.

Obwohl Angreifer aktiv KI einsetzen, um Angriffe wie DDoS, gezieltes Phishing und Ransomware zu betreiben, hat die Verteidigungsseite bei der KI-Adoption zurückgesteckt. Dies ändert sich jedoch schnell, da Sicherheitsanbieter um die Entwicklung fortschrittlicher KI/ML-Modelle konkurrieren, die in der Lage sind, diese KI-gesteuerten Bedrohungen zu erkennen und zu blockieren.

Die Zukunft der Verteidigungs-KI liegt in der Einrichtung spezialisierter kleiner Sprachmodelle, die auf bestimmte Angriffstypen und Einsatzfälle zugeschnitten sind, anstatt sich auf große, generative KI-Modelle allein zu verlassen. Große Sprachmodelle zeigen mehrversprechende Ergebnisse für Cybersicherheitsoperationen wie die Automatisierung von Help-Desk-Funktionen, das Abrufen von Standardbetriebsverfahren und die Unterstützung menschlicher Analysten. Die präzise Bedrohungserkennung und -prävention werden am besten von den hochspezialisierten kleinen KI/ML-Modellen gehandhabt.

Die Rolle des menschlichen Fachwissens

Es ist entscheidend, KI/ML neben Prozessautomatisierung zu nutzen, um eine schnelle Sanierung und Eindämmung bestätigter Bedrohungen zu ermöglichen. Auf diesem Stadium, mit hochvertrauenswürdigen Vorfällen ausgestattet, können KI-Systeme automatisierte Reaktionsplaybacks starten, die auf jeden spezifischen Angriffstyp zugeschnitten sind – schädliche IPs blockieren, kompromittierte Hosts isolieren, adaptive Richtlinien durchsetzen und mehr. Dennoch bleibt menschliches Fachwissen integral, indem es KI-Ausgaben validiert, kritisches Denken anwendet und autonome Reaktionsmaßnahmen überwacht, um den Schutz ohne Geschäftsunterbrechung zu gewährleisten.

Ein differenziertes Verständnis ist das, was Menschen beisteuern. Auch die Analyse neuer und komplexer Malware-Bedrohungen erfordert Kreativität und Problemlösungsfähigkeiten, die möglicherweise über die Fähigkeiten von Maschinen hinausgehen.

Menschliches Fachwissen ist in mehreren Schlüsselbereichen unerlässlich:

• Validierung und Kontextualisierung: KI-Systeme, trotz ihrer Komplexität, können manchmal Falschpositivmeldungen generieren oder Daten falsch interpretieren. Menschliche Analysten sind erforderlich, um KI-Ausgaben zu validieren und den notwendigen Kontext zu liefern, den KI möglicherweise übersehen könnte. Dies stellt sicher, dass Reaktionen angemessen und proportional zur tatsächlichen Bedrohung sind.
• Komplexe Bedrohungsuntersuchung: Einige Bedrohungen sind zu komplex für KI, um sie allein zu bewältigen. Menschliche Experten können tiefer in diese Vorfälle eindringen, indem sie ihre Erfahrung und Intuition nutzen, um verborgene Aspekte der Bedrohung zu entdecken, die KI möglicherweise übersehen könnte. Diese menschliche Einsicht ist entscheidend für das Verständnis des vollen Umfangs komplexer Angriffe und die Entwicklung wirksamer Gegenmaßnahmen.
• Strategische Entscheidungsfindung: Während KI Routineaufgaben und Datenverarbeitung übernehmen kann, erfordern strategische Entscheidungen über die Gesamtsicherheitsstrategie und langfristige Verteidigungsstrategien menschliches Urteilsvermögen. Experten können KI-generierte Erkenntnisse interpretieren, um informierte Entscheidungen über Ressourcenzuweisung, Richtlinienänderungen und strategische Initiativen zu treffen.
• Ständige Verbesserung: Menschliche Analysten tragen zur ständigen Verbesserung von KI-Systemen bei, indem sie Feedback und Trainingsdaten liefern. Ihre Erkenntnisse helfen dabei, KI-Algorithmen zu verfeinern, was sie genauer und effektiver macht.

Optimiertes Mensch-Maschine-Teaming

Zu Grunde liegt die Notwendigkeit von KI-Systemen, die aus historischen Daten lernen können (überwachtes Lernen) und kontinuierlich anpassen, um neuartige Angriffe durch unüberwachtes/Verstärkungslernen zu erkennen. Die Kombination dieser Methoden wird entscheidend sein, um die sich entwickelnden Fähigkeiten der Angreifer zu überbieten.

Insgesamt wird KI entscheidend sein, um die Erkennungs- und Reaktionsfähigkeiten der Verteidiger zu skalieren. Menschliches Fachwissen muss eng integriert bleiben, um komplexe Bedrohungen zu untersuchen, KI-Systemausgaben zu überprüfen und strategische Verteidigungsstrategien zu leiten. Ein optimiertes Mensch-Maschine-Teaming-Modell ist ideal für die Zukunft.

Da massive Mengen an Sicherheitsdaten über die Zeit hinweg anfallen, können Organisationen KI-Analytics auf diese Datenmenge anwenden, um Erkenntnisse für proaktives Bedrohungsjagen und die Verstärkung der Verteidigung zu gewinnen. Das kontinuierliche Lernen aus vorherigen Vorfällen ermöglicht die Vorhersage von neuen Angriffsmustern. Wenn KI-Fähigkeiten voranschreiten, wird die Rolle kleiner und spezialisierter Sprachmodelle, die auf bestimmte Sicherheitsanwendungsfälle zugeschnitten sind, wachsen. Diese Modelle können helfen, “Warnmüdigkeit” weiter zu reduzieren, indem sie genau die wichtigsten Warnungen für menschliche Analyse triagieren. Autonome Reaktionen, gesteuert durch KI, können auch expandieren, um mehr Tier-1-Sicherheitsaufgaben zu übernehmen.

Dennoch werden menschliches Urteilsvermögen und kritisches Denken unverzichtbar bleiben, insbesondere bei hochschweren Vorfällen. Zweifellos ist die Zukunft eine der optimierten Mensch-Maschine-Teaming, in der KI das Volumen der Datenverarbeitung und Routineaufgaben übernimmt, menschliche Experten ermöglicht, sich auf die Untersuchung komplexer Bedrohungen und hochrangige Sicherheitsstrategie zu konzentrieren.