KI gegen KI: Die neue Cybersicherheitsrealität

KI-gestützte Cyberangriffe sind angekommen und bestätigen, was einst nur ein theoretisches, aber erwartetes Risiko war. Sie kündigen eine neue Ära in der Bedrohungslandschaft an. Mit KI-Agents, die komplexe, end-to-end-Kampagnen in Minuten starten können, können Cyberkriminelle Unternehmensschwachstellen mit Maschinengeschwindigkeit ausnutzen. Die Regeln des Engagements haben sich geändert: Die gestrige Cybersicherheit kann nicht mehr mit dem heutigen KI-getriebenen Angriff Schritt halten.

Da KI Cyberbedrohungen auflädt, müssen Unternehmen ihre eigenen KI-gestützten Abwehrfähigkeiten einsetzen, um in puncto Geschwindigkeit, Umfang und Präzision Schritt zu halten. Derzeit folgen Cyber-Gegner noch vertrauten Taktiken, Techniken und Verfahren (TTPs), aber KI beschleunigt und verbessert ihr Spielbuch. Darüber hinaus sind Unternehmens-KI-Modelle selbst ein neues Ziel durch Modellvergiftung und sprachgesteuerte soziale Manipulation, was Cyber-Teams dazu zwingt, ihre KI-Fähigkeiten ordnungsgemäß zu sichern. Daher sollte Sicherheit ein Kernbestandteil der größeren KI-Strategie eines Unternehmens sein.

Was unterscheidet KI-gestützte Cyberangriffe?

In einer digitalen Welt, die bereits von nahezu ununterbrochenen Cyberangriffen gesättigt ist, wurde die Einstiegshürde für einen bösartigen Akteur gesenkt, was nicht nur die Menge, sondern auch die Komplexität der Angriffe erhöht. KI-gestützte Angriffe können jetzt KI oder maschinelles Lernen (ML) nutzen, um jede Phase des Angriffslebenszyklus zu automatisieren, zu beschleunigen oder zu verbessern, von der Aufklärung und Informationsbeschaffung bis zur Ausnutzung und Exfiltration sensibler Daten.

Wenn man sich ausschließlich auf bestehende Sicherheitsprozesse und -technologien verlässt, ohne die gleiche fortschrittliche Technologie einzusetzen, die die Gegner nutzen, gewährt man dem Gegner einen Vorteil, der ohne defensive KI kaum zu überwinden ist. Unternehmen sind bereits mit der Überwachung ihrer Unternehmen von herkömmlichen Bedrohungsakteuren überfordert. KI-gestützte Angriffe werden die Alarmmüdigkeit verschärfen. Dies erfordert eine Evolution von menschlich gesteuerten Prozessen zu einer hybriden Cyber-Mensch/Maschine-Arbeitskraft.

Erstellen Sie eine Karte aller digitalen Vermögenswerte

In der heutigen Welt ist das Verständnis der potenziellen Einstiegspunkte in einer Unternehmensumgebung ein Muss, liegt aber noch außer Reichweite vieler großer Unternehmen. Neben digitalen Systemen und Vermögenswerten ist eine umfassende Kartierung aller Identitäten und Zugriffsrechte innerhalb eines Unternehmens erforderlich. Die digitale Identität, die die physischen und verhaltensbedingten Merkmale mit einer Person verbindet, ist mit den bestehenden Kontrollen, die zum Management des digitalen Zugriffs erforderlich sind, gut verstanden.

Das Verständnis der unternehmensweiten Landschaft nicht-menschlicher Identitäten (NHIs) ist jedoch für die Sicherung digitaler Vermögenswerte von entscheidender Bedeutung. Die potenziellen Vorteile von KI innerhalb eines Unternehmens nutzen, bedeutet, KI-Agents Zugriff und Genehmigung zu geben, um autonom einen Geschäftsprozess abzuschließen. Ähnlich wie Cloud-Umgebungen der vorherigen Sicherheitsära starten und beenden heutige agente-gesteuerte Workflows NHIs im großen Maßstab, was eine erweiterte Fähigkeit erfordert, um zu verfolgen und zu überwachen, wo in der Umgebung sie operieren und wie sie ihre beabsichtigten Missionen oder Rollen erfüllen.

Unternehmen sollten die Identitätsverwaltung über den gesamten Lebenszyklus der Agenten-Identität erweitern und die Aktionen der Agenten überwachen, genau wie sie heute den Zugriff der menschlichen Benutzer auf Insider-Risiken oder Konto-Kompromisse durch Bedrohungsakteure überwachen. Wenn agentische Fähigkeiten mehr Autonomie und geschäftskritische Arbeiten übernehmen, ist es entscheidend, ihre Identitäts-Spur und Zugriffsmuster zu verstehen, um die erforderlichen Zugriffs- und Überwachungskontrollen zu implementieren, um sie und das Unternehmen vor Missbrauch zu schützen.

Schließen Sie KI-Modelle ab

KI-Fähigkeiten haben das Versprechen, Effizienz und Produktivität zu entfesseln, aber auch das Potenzial, gegen Unternehmen eingesetzt zu werden. Die Einführung von KI in jeden Aspekt der Geschäftsoperationen ist kein “nice to have” mehr, sondern eine Voraussetzung für den Erfolg in der heutigen Wettbewerbslandschaft. Daher ist die sichere Einrichtung von KI ein notwendiger Bestandteil, um das volle Geschäftspotenzial und die Ergebnisse sicher zu realisieren.

Der Übergang zu KI-gestützter Cybersicherheit ist im Gange, während KI-Modelle selbst zu Zielen geworden sind. Gegner können versuchen, die Daten zu vergiften, die diese Modelle speisen, und sie dazu bringen, unerwünschte Aktionen auszuführen oder sogar sensible Informationen preiszugeben.

Feindliche Angriffe auf KI können in verschiedenen Formen auftreten, wie z.B. Vergiftungsangriffen, Prompt-Injektionsangriffen und anderen. Um KI vor möglicher Manipulation zu schützen, sollten Unternehmen die Philosophie der Cyber Infrastructure and Security Agency (CISA) von Secure by Design nutzen. Dies beginnt mit den Daten, die zum Trainieren der Modelle verwendet werden. Die Sperre der Eingaben früh im Entwicklungsprozess legt die Grundlage für zuverlässige Ausgaben bei der Bereitstellung.

Das Verständnis der Eingaben, die zur Entwicklung der Modelle und Fähigkeiten verwendet werden, ist durch intentionale Datenverwaltung sowie Kontrolle des Zugriffs auf die Modelle selbst möglich. Kritische Kontrollen, die die Überprüfung der gewünschten Ausgaben ermöglichen, kommen in Form von Datenverlustverhinderung (DLP); Richtlinien- und Sicherheitsdurchsetzung; Verankerung durch verifizierbare Quellen; und strenge Genehmigungskontrollen für hochwertige Aktionen, Prüfbarkeit und kontinuierliche Tests, einschließlich Penetrationstests von Modellen, um sie zu härten.

Integrieren Sie KI in die Sicherheitsoperationen

Bisher wurde die Anwendung von KI auf die Cybersicherheit taktisch eingesetzt, wobei viele Unternehmen KI auf legacy-menschliche Prozesse aufsetzten, anstatt strategisch neu zu überdenken, wie man KI-zentrierte Prozesse aufbaut. Dies ist wie das Anbringen eines V8-Motors auf einem Fahrrad. Die nächste Evolution der KI-Ermächtigung wird darin bestehen, Prozesse von Grund auf zu entwerfen, mit agentischer KI und Automatisierung, die in der Konstruktion verwurzelt sind. Bewährte Sicherheitsoperationenmethoden und -prozesse, wie Bedrohungserkennung, Bedrohungsjagd und Erkennungsingenieurwesen, sind immer noch die kritischen Elemente, die für die organisatorische Sicherheit in der KI-Ära von entscheidender Bedeutung sind. Die Umwandlung der aktuellen Sicherheitsprozesse, um KI-Verstärkung zu ermöglichen, kann eine starke Grundlage für die zukünftige KI-ermächtigte Sicherheitsoperationszentrale (SOC) schaffen.

Darüber hinaus ist Automatisierung kein neues Konzept, das speziell mit dem Aufkommen von KI einhergeht; Sicherheitsworkflows und -prozesse wurden bereits seit Jahren automatisiert, wobei reife Unternehmen sehr fortschrittliche Orchestrierungs- und Automatisierungsfähigkeiten besitzen. KI verbessert jedoch die bestehende regelbasierte Automatisierung und entwickelt sie weiter, indem sie dynamische, anpassbare, kontextreiche automatisierte Workflows ermöglicht, die helfen können, die erforderliche Geschwindigkeit und Agilität für diese neuen KI-Risiken zu erreichen.

Was kommt als Nächstes?

Sicherheit muss für Unternehmen und IT weiterhin im Vordergrund stehen, um ihre kritischen Vermögenswerte und Benutzer vor böswilliger Ausnutzung zu schützen. KI-sichere Konstruktion ist angesichts der Geschwindigkeit, mit der KI-Modelle bereitgestellt und zum Ausführen kritischer Aktivitäten aufgefordert werden, unerlässlich. Cyber-Teams sollten strategisch über die Umgestaltung von Prozessen von Grund auf nachdenken, um neue KI-Fähigkeiten ordnungsgemäß zu implementieren und im Cyberspiel von Katze und Maus Schritt zu halten.

Sicherheitsführer können in naher Zukunft mehrere konkrete Schritte unternehmen: Führen Sie eine umfassende Überprüfung der aktuellen Sicherheitsprozesse durch, um Lücken, Modernisierungsmöglichkeiten und Bereiche zu identifizieren, die für eine Umgestaltung bereit sind. Bleiben Sie auf dem Laufenden über aufkommende KI-Bedrohungen, Trends und Technologien. Vor allem bleiben Sie an dem grundlegenden Sicherheitsprinzip der Verteidigung in der Tiefe verankert, das sich über die Zeit bewährt hat – schichtweise Schutz und Validierung von Identität, Endgerät, Netzwerk, Daten mit robusten Überwachungs- und Reaktionsfähigkeiten, die ständig getestet werden.

Das transformativische Potenzial von KI verspricht einen zu großen Vorteil, um dessen Adoption zu vermeiden, und der Dämon ist für die Bedrohungsakteure aus der Flasche. Daher bleibt die Rolle der Sicherheitsführer in dieser nächsten Ära dieselbe wie immer: Unterstützung ihrer Organisationen bei der Erreichung ihrer Geschäftsziele mit bedachter Risikominderung – nur jetzt mit Maschinengeschwindigkeit durch den Einsatz von KI.