Vernetzen Sie sich mit uns

Vordenker

Die Zukunft der Cybersicherheit: KI, Automatisierung und der menschliche Faktor

mm
Aktualisiert on

Im letzten Jahrzehnt, zusammen mit dem explosiven Wachstum der Informationstechnologie, die dunkle Realität der Cybersicherheitsbedrohungen hat sich ebenfalls dramatisch weiterentwickelt. Cyberangriffe, die einst hauptsächlich von böswilligen Hackern auf der Suche nach Bekanntheit oder finanziellem Gewinn betrieben wurden, sind heute weitaus raffinierter und gezielter geworden. Von staatlich geförderter Spionage bis hin zu Unternehmens- und Identitätsdiebstahl werden die Motive hinter Cyberkriminalität immer finsterer und gefährlicher. Auch wenn finanzieller Gewinn nach wie vor ein wichtiger Grund für Cyberkriminalität ist, wird er von schändlicheren Zielen wie dem Diebstahl kritischer Daten und Vermögenswerte überschattet. Cyberangreifer nutzen in großem Umfang modernste Technologien, einschließlich künstlicher Intelligenz, um Systeme zu infiltrieren und bösartige Aktivitäten durchzuführen. In den USA hat das Federal Bureau of Investigation (FBI) berichtet Nach Angaben des Internet Crime Complaint Center des FBI wurden im Jahr 800,000 mehr als 2022 Beschwerden im Zusammenhang mit Cyberkriminalität eingereicht, wobei der Gesamtschaden 10 Milliarden US-Dollar übersteigt und damit den Gesamtschaden von 2021 (6.9 Milliarden US-Dollar) bei weitem übertrifft.

Angesichts der rasanten Entwicklung der Bedrohungslandschaft ist es für Unternehmen an der Zeit, einen mehrgleisigen Ansatz für die Cybersicherheit zu verfolgen. Der Ansatz sollte sich damit befassen, wie Angreifer sich Zugang verschaffen, anfängliche Kompromittierungen verhindern, Eindringlinge schnell erkennen und eine schnelle Reaktion und Behebung ermöglichen. Um digitale Assets zu schützen, müssen die Möglichkeiten der KI und Automatisierung genutzt werden, während gleichzeitig sichergestellt wird, dass qualifizierte menschliche Analysten ein integraler Bestandteil der Sicherheitslage bleiben.

Der Schutz einer Organisation erfordert eine mehrschichtige Strategie, die die verschiedenen Einstiegspunkte und Angriffsmethoden der Angreifer berücksichtigt. Im Großen und Ganzen lassen sich diese in vier Hauptkategorien einteilen: 1) Web- und Netzwerkangriffe; 2) Angriffe auf Benutzerverhalten und Identitätsbasis; 3) Entitätsangriffe auf Cloud- und Hybridumgebungen; und 4) Malware, einschließlich Ransomware, Advanced Persistent Threats und anderer Schadcode.

Nutzung von KI und Automatisierung

Der Einsatz von KI- und Machine-Learning-Modellen (ML), die auf jede dieser Angriffsklassen zugeschnitten sind, ist für die proaktive Erkennung und Prävention von Bedrohungen von entscheidender Bedeutung. Bei Web- und Netzwerkangriffen müssen Modelle Bedrohungen wie Phishing, Browser-Ausnutzung und Distributed-Denial-of-Service-Angriffe (DDoS) in Echtzeit identifizieren. Mithilfe von KI-gestützten Benutzer- und Entitätsverhaltensanalysen können anomale Aktivitäten erkannt werden, die auf eine Beeinträchtigung von Konten oder den Missbrauch von Systemressourcen und Daten hinweisen. Schließlich können KI-gesteuerte Malware-Analysen neue Varianten schnell auswerten, bösartiges Verhalten aufdecken und die Auswirkungen dateibasierter Bedrohungen abschwächen. Durch die Implementierung von KI- und ML-Modellen über dieses Spektrum von Angriffsflächen hinweg können Unternehmen ihre Fähigkeit, Angriffe im frühesten Stadium autonom zu identifizieren, bevor sie zu ausgewachsenen Vorfällen eskalieren, erheblich verbessern.

Sobald KI/ML-Modelle potenzielle Bedrohungsaktivitäten über verschiedene Angriffsvektoren hinweg identifiziert haben, stehen Organisationen vor einer weiteren wichtigen Herausforderung: Sie müssen die häufigen Warnmeldungen verstehen und kritische Vorfälle vom Rauschen unterscheiden. Bei so vielen generierten Datenpunkten und Erkennungen ist es von entscheidender Bedeutung, eine weitere Ebene von KI/ML anzuwenden, um die schwerwiegendsten Warnmeldungen, die weitere Untersuchungen und Reaktionen erfordern, zu korrelieren und zu priorisieren. Warnmeldungsmüdigkeit ist ein zunehmend kritisches Problem, das gelöst werden muss.

KI kann bei diesem Warnmeldungs-Triage-Prozess eine entscheidende Rolle spielen, indem sie große Mengen an Sicherheitstelemetriedaten aufnimmt und analysiert, Erkenntnisse aus mehreren Erkennungsquellen, einschließlich Bedrohungsinformationen, zusammenführt und nur die Vorfälle mit der höchsten Zuverlässigkeit zur Reaktion anzeigt. Dies reduziert die Belastung menschlicher Analysten, die sonst mit weit verbreiteten Fehlalarmen und Warnungen mit geringer Zuverlässigkeit überschwemmt würden, denen der entsprechende Kontext fehlt, um den Schweregrad und die nächsten Schritte zu bestimmen.

Obwohl Bedrohungsakteure KI aktiv einsetzen, um Angriffe wie DDoS, gezieltes Phishing und Ransomware durchzuführen, hinkt die defensive Seite bei der Einführung von KI hinterher. Dies ändert sich jedoch schnell, da Sicherheitsanbieter um die Entwicklung fortschrittlicher KI/ML-Modelle wetteifern, die diese KI-gestützten Bedrohungen erkennen und blockieren können.

Die Zukunft der defensiven KI liegt in der Bereitstellung spezialisierter kleiner Sprachmodelle, die auf bestimmte Angriffsarten und Anwendungsfälle zugeschnitten sind, anstatt sich allein auf große, generative KI-Modelle zu verlassen. Große Sprachmodelle sind dagegen vielversprechender für Cybersicherheitsoperationen, beispielsweise für die Automatisierung von Helpdesk-Funktionen, das Abrufen von Standardbetriebsverfahren und die Unterstützung menschlicher Analysten. Die schwere Arbeit der präzisen Bedrohungserkennung und -prävention wird am besten von den hochspezialisierten kleinen KI/ML-Modellen bewältigt.

Die Rolle menschlicher Expertise

Es ist entscheidend, KI/ML neben der Prozessautomatisierung einzusetzen, um eine schnelle Behebung und Eindämmung verifizierter Bedrohungen zu ermöglichen. In dieser Phase können KI-Systeme, die mit Vorfällen mit hoher Zuverlässigkeit ausgestattet sind, automatisierte Playbook-Reaktionen auslösen, die auf jeden spezifischen Angriffstyp zugeschnitten sind – sie blockieren bösartige IPs [Internetprotokoll], isolieren kompromittierte Hosts, setzen adaptive Richtlinien durch und vieles mehr. Menschliches Fachwissen bleibt jedoch unverzichtbar, um die KI-Ergebnisse zu validieren, kritisches Denken anzuwenden und die autonomen Reaktionsmaßnahmen zu überwachen, um Schutz ohne Geschäftsunterbrechung zu gewährleisten.

Der Mensch bringt differenziertes Verständnis mit. Zudem erfordert die Analyse neuer und komplexer Malware-Bedrohungen Kreativität und Problemlösungsfähigkeiten, die Maschinen möglicherweise nicht erreichen können.

Menschliches Fachwissen ist in mehreren Schlüsselbereichen von entscheidender Bedeutung:

  • Validierung und Kontextualisierung: Trotz ihrer Komplexität können KI-Systeme manchmal falsche Ergebnisse generieren oder Daten falsch interpretieren. Menschliche Analysten sind erforderlich, um KI-Ergebnisse zu validieren und den notwendigen Kontext bereitzustellen, den die KI möglicherweise übersieht. Dadurch wird sichergestellt, dass die Reaktionen angemessen und der tatsächlichen Bedrohung angemessen sind.
  • Untersuchung komplexer Bedrohungen: Manche Bedrohungen sind zu komplex, als dass KI sie allein bewältigen könnte. Menschliche Experten können tiefer in diese Vorfälle eintauchen und ihre Erfahrung und Intuition nutzen, um verborgene Aspekte der Bedrohung aufzudecken, die KI möglicherweise übersieht. Diese menschliche Einsicht ist entscheidend, um das gesamte Ausmaß komplexer Angriffe zu verstehen und wirksame Gegenmaßnahmen zu entwickeln.
  • Strategische Entscheidungsfindung: Während KI Routineaufgaben und Datenverarbeitung übernehmen kann, erfordern strategische Entscheidungen über die allgemeine Sicherheitslage und langfristige Verteidigungsstrategien menschliches Urteilsvermögen. Experten können KI-generierte Erkenntnisse interpretieren, um fundierte Entscheidungen über die Ressourcenzuweisung, Richtlinienänderungen und strategische Initiativen zu treffen.
  • Kontinuierliche Verbesserung: Menschliche Analysten tragen zur kontinuierlichen Verbesserung von KI-Systemen bei, indem sie Feedback und Trainingsdaten liefern. Ihre Erkenntnisse helfen dabei, KI-Algorithmen zu verfeinern und sie mit der Zeit präziser und effektiver zu machen. Diese symbiotische Beziehung zwischen menschlicher Expertise und KI stellt sicher, dass sich beide gemeinsam weiterentwickeln, um aufkommende Bedrohungen zu bewältigen.

Optimierte Mensch-Maschine-Teamarbeit

Dieser Übergang erfordert die Entwicklung von KI-Systemen, die aus historischen Daten lernen können (überwachtes Lernen) und passen sich kontinuierlich an, um neue Angriffe durch unüberwachte/bestärkende Lernansätze zu erkennen. Die Kombination dieser Methoden wird der Schlüssel sein, um den sich entwickelnden KI-Fähigkeiten der Angreifer immer einen Schritt voraus zu sein.

Insgesamt wird KI für Verteidiger von entscheidender Bedeutung sein, um ihre Erkennungs- und Reaktionsfähigkeiten zu skalieren. Menschliches Fachwissen muss eng integriert bleiben, um komplexe Bedrohungen zu untersuchen, KI-Systemergebnisse zu prüfen und strategische Verteidigungsstrategien zu leiten. Ein optimiertes Mensch-Maschine-Teammodell ist ideal für die Zukunft.

Da sich im Laufe der Zeit riesige Mengen an Sicherheitsdaten ansammeln, können Unternehmen KI-Analysen auf diese Telemetriedaten anwenden, um Erkenntnisse für die proaktive Suche nach Bedrohungen und die Stärkung der Abwehrmaßnahmen abzuleiten. Kontinuierliches Lernen aus früheren Vorfällen ermöglicht die prädiktive Modellierung neuer Angriffsmuster. Mit der Weiterentwicklung der KI-Fähigkeiten wird die Rolle kleiner und spezialisierter Sprachmodelle, die auf bestimmte Sicherheitsanwendungsfälle zugeschnitten sind, zunehmen. Diese Modelle können dazu beitragen, die „Alarmmüdigkeit“ weiter zu reduzieren, indem sie die wichtigsten Alarme für die menschliche Analyse präzise sortieren. Die autonome Reaktion auf Basis von KI kann auch erweitert werden, um mehr Sicherheitsaufgaben der Stufe 1 zu bewältigen.

Menschliches Urteilsvermögen und kritisches Denken werden jedoch weiterhin unverzichtbar sein, insbesondere bei schwerwiegenden Vorfällen. Zweifellos gehört die Zukunft einer optimierten Zusammenarbeit zwischen Mensch und Maschine, bei der die KI umfangreiche Datenverarbeitung und Routineaufgaben übernimmt, sodass sich menschliche Experten auf die Untersuchung komplexer Bedrohungen und hochrangiger Sicherheitsstrategien konzentrieren können.

Anand Naik, Mitgründer und CEO, Sequretek, hat über 25 Jahre in der Unternehmenswelt gearbeitet, unter anderem bei Symantec, wo er als Geschäftsführer für Südasien tätig war, und davor in technischen Funktionen bei IBM und Sun Microsystems.

Anand ist ein Fachexperte für Cybersicherheit. Er hat mit mehreren globalen Giganten zusammengearbeitet und ihnen geholfen, ihre IT-Sicherheitsstrategie, -architektur und -ausführungsmodelle zu definieren. Er gehört zu den führenden Vordenkern im Bereich Cybersicherheit und hat an verschiedenen politischen Programmen mit der indischen Regierung und anderen Branchenverbänden teilgenommen. Er ist für die Produktvision und den Betrieb bei Sequretek verantwortlich.