Vordenker

KI gegen KI: Die neue Cybersicherheitsrealität

Kevin Urbanowicz Mark Nicholson
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteKI-gesteuerte Angriffe automatisieren gesamte Angriffslebenszyklen in…
Mehr anzeigen
  • KI-gesteuerte Angriffe automatisieren gesamte Angriffslebenszyklen in Maschinengeschwindigkeit und überwältigen herkömmliche, von Menschen verwaltete Abwehrmaßnahmen.
  • Unternehmen müssen Identitäten nicht-menschlicher KI-Agenten erfassen und absichern, da diese autonomen Systeme zunehmend kritischen Geschäftszugang erhalten.
  • Organisationen müssen KI-Modelle durch Secure-by-Design-Prinzipien absichern, um Datenvergiftung und adversariale Manipulation zu verhindern.

KI-gestützte Cyberangriffe sind angekommen und bestätigen, was einst nur ein theoretisches, aber erwartetes Risiko war. Sie kündigen eine neue Ära in der Bedrohungslandschaft an. Mit KI-Agents, die komplexe, end-to-end-Kampagnen in Minuten starten können, können Cyberkriminelle Unternehmensschwachstellen mit Maschinengeschwindigkeit gezielt erkennen und ausnutzen. Die Spielregeln haben sich geändert: Die gestrige Cybersicherheit kann nicht mehr mit dem heutigen KI-getriebenen Angriff Schritt halten.

Da KI Cyberbedrohungen auflädt, müssen Unternehmen ihre eigenen KI-gestützten Abwehrfähigkeiten einsetzen, um in puncto Geschwindigkeit, Umfang und Präzision Schritt zu halten. Derzeit folgen Cyber-Gegner noch vertrauten Taktiken, Techniken und Verfahren (TTPs), aber KI beschleunigt und verbessert ihr Spielbuch. Darüber hinaus sind Unternehmens-KI-Modelle selbst ein neues Ziel durch Modellvergiftung und sprachgesteuerte soziale Manipulation, was Cyber-Teams dazu zwingt, ihre KI-Fähigkeiten ordnungsgemäß zu sichern. Daher sollte Sicherheit ein Kernbestandteil der größeren KI-Strategie eines Unternehmens sein.

Was unterscheidet KI-gestützte Cyberangriffe?

In einer digitalen Welt, die bereits von nahezu ununterbrochenen Cyberangriffen gesättigt ist, wurde die Einstiegshürde für einen bösartigen Akteur gesenkt, was nicht nur die Menge, sondern auch die Komplexität der Angriffe erhöht. KI-gestützte Angriffe können jetzt KI oder maschinelles Lernen (ML) nutzen, um jede Phase des Angriffslebenszyklus zu automatisieren, zu beschleunigen oder zu verbessern, von der Aufklärung und Informationsbeschaffung bis zur Ausnutzung und Exfiltration sensibler Daten.

Wenn man sich ausschließlich auf bestehende Sicherheitsprozesse und -technologien verlässt, ohne die gleiche fortschrittliche Technologie einzusetzen, die die Gegner nutzen, gewährt man dem Gegner einen Vorteil, der ohne defensive KI kaum zu überwinden ist. Unternehmen sind bereits mit der Überwachung ihrer Unternehmen zum Schutz vor herkömmlichen Bedrohungsakteuren überfordert. KI-gestützte Angriffe werden die Alarmmüdigkeit verschärfen. Dies erfordert eine Evolution von menschlich gesteuerten Prozessen zu einer hybriden Cybersecurity-Belegschaft aus Menschen und digitalen Kräften.

Erstellen Sie eine Karte aller digitalen Vermögenswerte

In der heutigen Welt ist das Verständnis der potenziellen Einstiegspunkte in einer Unternehmensumgebung ein Muss, liegt aber noch außer Reichweite vieler großer Unternehmen. Neben digitalen Systemen und Vermögenswerten ist eine umfassende Kartierung aller Identitäten und Zugriffsrechte innerhalb eines Unternehmens erforderlich. Die digitale Identität, die die physischen und verhaltensbedingten Merkmale mit einer Person verbindet, ist mit den bestehenden Kontrollen, die zum Management des digitalen Zugriffs erforderlich sind, gut verstanden.

Das Verständnis der unternehmensweiten Landschaft nicht-menschlicher Identitäten (NHIs) ist jedoch für die Sicherung digitaler Vermögenswerte von entscheidender Bedeutung. Die potenziellen Vorteile von KI innerhalb eines Unternehmens zu nutzen bedeutet, KI-Agents Zugriff und Genehmigung zu geben, um autonom einen Geschäftsprozess abzuschließen. Ähnlich wie Cloud-Umgebungen der vorherigen Sicherheitsära erstellen und deaktivieren heutige agentengesteuerte Workflows NHIs in großem Umfang, was eine erweiterte Fähigkeit erfordert, um zu verfolgen und zu überwachen, wo in der Umgebung sie operieren und wie sie ihre beabsichtigten Missionen oder Rollen erfüllen.

Unternehmen sollten die Identitätsverwaltung über den gesamten Lebenszyklus der Agenten-Identität erweitern und die Aktionen der Agenten überwachen, genau wie sie heute den Zugriff der menschlichen Benutzer auf Insider-Risiken oder Konto-Kompromisse durch Bedrohungsakteure überwachen. Wenn agentische Fähigkeiten mehr Autonomie und geschäftskritische Arbeiten übernehmen, ist es entscheidend, ihre Identitäts-Spur und Zugriffsmuster zu verstehen, um die erforderlichen Zugriffs- und Überwachungskontrollen zu implementieren, um sie und das Unternehmen vor Missbrauch zu schützen.

Sichern Sie KI-Modelle konsequent ab

KI-Fähigkeiten haben das Versprechen, Effizienz und Produktivität zu entfesseln, aber auch das Potenzial, gegen Unternehmen eingesetzt zu werden. Die Einführung von KI in jeden Aspekt der Geschäftsoperationen ist kein “nice to have” mehr, sondern eine Voraussetzung für den Erfolg in der heutigen Wettbewerbslandschaft. Daher ist die sichere Einrichtung von KI ein notwendiger Bestandteil, um das volle Geschäftspotenzial und die Ergebnisse sicher zu realisieren.

Der Übergang zu KI-gestützter Cybersicherheit ist im Gange, während KI-Modelle selbst zu Zielen geworden sind. Gegner können versuchen, die Daten zu vergiften, die diese Modelle speisen, und sie dazu bringen, unerwünschte Aktionen auszuführen oder sogar sensible Informationen preiszugeben.

Feindliche Angriffe auf KI können in verschiedenen Formen auftreten, wie z.B. Vergiftungsangriffen, Prompt-Injektionsangriffen und anderen. Um KI vor möglicher Manipulation zu schützen, sollten Unternehmen die Philosophie der Cyber Infrastructure and Security Agency (CISA) von Secure by Design nutzen. Dies beginnt mit den Daten, die zum Trainieren der Modelle verwendet werden. Die Absicherung der Eingaben früh im Entwicklungsprozess legt die Grundlage für zuverlässige Ausgaben bei der Bereitstellung.

Das Verständnis der Eingaben, die zur Entwicklung der Modelle und Fähigkeiten verwendet werden, ist durch intentionale Datenverwaltung sowie Kontrolle des Zugriffs auf die Modelle selbst möglich. Kritische Kontrollen, die die Überprüfung der gewünschten Ausgaben ermöglichen, kommen in Form von Datenverlustverhinderung (DLP); Richtlinien- und Sicherheitsdurchsetzung; Verankerung durch verifizierbare Quellen; und strenge Genehmigungskontrollen für folgenreiche Aktionen, Prüfbarkeit und kontinuierliche Tests, einschließlich Penetrationstests von Modellen, um sie zu härten.

Integrieren Sie KI in die Sicherheitsoperationen

Bisher wurde die Anwendung von KI auf die Cybersicherheit taktisch eingesetzt, wobei viele Unternehmen KI auf bestehende, auf Menschen ausgerichtete Prozesse aufsetzten, anstatt strategisch neu zu überdenken, wie man KI-zentrierte Prozesse aufbaut. Dies ist wie das Anbringen eines V8-Motors auf einem Fahrrad. Die nächste Evolution der KI-Unterstützung wird darin bestehen, Prozesse von Grund auf zu entwerfen, mit agentischer KI und Automatisierung, die in der Konstruktion verwurzelt sind. Bewährte Sicherheitsoperationenmethoden und -prozesse, wie Bedrohungserkennung, Bedrohungsjagd und Detection Engineering, sind immer noch die kritischen Elemente, die für die organisatorische Sicherheit in der KI-Ära von entscheidender Bedeutung sind. Die Umwandlung der aktuellen Sicherheitsprozesse, um KI-Verstärkung zu ermöglichen, kann eine starke Grundlage für die zukünftige KI-gestützte Sicherheitsoperationszentrale (SOC) schaffen.

Darüber hinaus ist Automatisierung kein neues Konzept, das speziell mit dem Aufkommen von KI einhergeht; Sicherheitsworkflows und -prozesse wurden bereits seit Jahren automatisiert, wobei reife Unternehmen sehr fortschrittliche Orchestrierungs- und Automatisierungsfähigkeiten besitzen. KI verbessert jedoch die bestehende regelbasierte Automatisierung und entwickelt sie weiter, indem sie dynamische, anpassbare, kontextreiche automatisierte Workflows ermöglicht, die helfen können, die erforderliche Geschwindigkeit und Agilität für diese neuen KI-Risiken zu erreichen.

Was kommt als Nächstes?

Sicherheit muss für Unternehmen und IT weiterhin im Vordergrund stehen, um ihre kritischen Vermögenswerte und Benutzer vor böswilliger Ausnutzung zu schützen. Nach Secure-by-Design-Prinzipien entwickelte KI ist angesichts der Geschwindigkeit, mit der KI-Modelle bereitgestellt und zum Ausführen kritischer Aktivitäten aufgefordert werden, unerlässlich. Cyber-Teams sollten strategisch über die Umgestaltung von Prozessen von Grund auf nachdenken, um neue KI-Fähigkeiten ordnungsgemäß zu implementieren und im Cyberspiel von Katze und Maus Schritt zu halten.

Sicherheitsverantwortliche können in naher Zukunft mehrere konkrete Schritte unternehmen: Führen Sie eine umfassende Überprüfung der aktuellen Sicherheitsprozesse durch, um Lücken, Modernisierungsmöglichkeiten und Bereiche zu identifizieren, die für eine Umgestaltung bereit sind. Bleiben Sie auf dem Laufenden über aufkommende KI-Bedrohungen, Trends und Technologien. Vor allem bleiben Sie an dem grundlegenden Sicherheitsprinzip der Verteidigung in der Tiefe verankert, das sich über die Zeit bewährt hat – mehrschichtiger Schutz und Validierung von Identität, Endgerät, Netzwerk, Daten mit robusten Überwachungs- und Reaktionsfähigkeiten, die ständig getestet werden.

Das transformative Potenzial von KI verspricht einen zu großen Vorteil, um dessen Adoption zu vermeiden, und für die Bedrohungsakteure ist der Geist bereits aus der Flasche. Daher bleibt die Rolle der Sicherheitsverantwortlichen in dieser nächsten Ära dieselbe wie immer: Unterstützung ihrer Organisationen bei der Erreichung ihrer Geschäftsziele mit bedachter Risikominderung – nur jetzt mit Maschinengeschwindigkeit durch den Einsatz von KI.

Kevin Urbanowicz ist ein Principal bei Deloitte & Touche LLP und leitet Deloittes US-Cyber-Sicherheits-Operationen.

Mark Nicholson ist ein Principal bei Deloitte & Touche LLP und fungiert als Deloittes US-Cyber-AI-Leiter.