KI als Apex-Rauber in der Dev-Welt

Evolutionärer Druck: Eine kurze Einführung

Bevor wir zum Kern dieses Themas kommen, gibt es ein paar Konzepte, die wir festhalten sollten. Das erste ist der evolutionäre Druck.

Evolution ist keine Wahl. Tiere wählen nicht, wie sie evolvieren sollen – ihre Umgebung zwingt sie dazu, oder ihre Umgebung eliminiert sie. Wenn wir also über die Art und Weise sprechen, wie ein Tier evolviert oder warum es so existiert, wie es heute tut, sprechen wir nicht über eine Reihe von bewussten Entscheidungen. Wir sprechen über zufällige Mutationen und Umweltbedingungen, die eine Art in eine bestimmte Richtung oder in eine andere Richtung drängen.

Aktuell betreten Software-Unternehmen ein ähnliches evolutionäres Moment. KI-Systeme, die in der Lage sind, autonom Schwachstellen zu identifizieren, Exploits zu generieren und Cyberangriffe zu beschleunigen, verändern den Druck, unter dem Entwickler und Sicherheitsteams arbeiten.

KI erzeugt jetzt denselben Art von Umweltbedingungen für Software-Unternehmen. Modelle, die in der Lage sind, autonom Schwachstellen zu entdecken, Exploits zu generieren und große Angriffe zu automatisieren, verändern die Sicherheitslandschaft viel schneller, als die meisten Organisationen darauf vorbereitet sind.

Der spezifische evolutionäre Druck, über den ich sprechen möchte, ist der Apex-Rauber auf der Erde im Moment: der Mensch. Und die Art und Weise, wie drei sehr unterschiedliche Tiere auf diesen Druck reagierten.

Wer hat es schlechter gemacht: Der Riesenwombat oder das Huhn?

Der Riesenwombat

Der Riesenwombat – ich erinnere mich nicht an den genauen Namen, aber er lebte in Australien – wog etwa 6.000 Pfund. Bevor der Mensch ankam, war Australien ein grüner, fast paradiesischer Ort. Wenn wir es nie berührt hätten. Diese riesigen Wombats lebten größtenteils ungestört. Einige Raubtiere töteten gelegentlich eines, aber aufgrund ihrer enormen Größe, der Nahrungsüberfluss und ihrer Fähigkeit, sich fortzupflanzen, konnten sie sich gegen alles, was der Kontinent ihnen entgegenzusetzen hatte, behaupten.

Dann kam der Mensch.

Ein paar Dinge passierten sofort. Erstens sah der Mensch diese enorme Proteinquelle, die eine Gruppe für Wochen – oder länger, wenn sie das Fleisch konservieren konnten – ernähren konnte. Zweitens begannen sie, die Wälder, auf die der Wombat angewiesen war, zu roden, entweder, indem sie Bäume für Feuerholz fällten oder ganze Landstriche abbrannten, um Tiere in die offene Landschaft zu treiben, wo sie getötet werden konnten. Der Mensch ist außerordentlich gut in dieser Art von koordinierter, effizienter Zerstörung.

In einem sehr kurzen Zeitraum – geologisch gesprochen, praktisch über Nacht – rodeten der Mensch große Teile des Kontinents und jagte jeden letzten Riesenwombat aus der Existenz.

Es ist erwähnenswert, dass nicht jedes australische Tier ausgestorben ist. Der Känguru, kleine Wombats, Koalas und andere überlebten – weil sie klein genug, schnell genug oder anpassungsfähig genug waren, um außer Reichweite zu bleiben. Als die Europäer ankamen, war der Kontinent in etwas Hartes und Unnachgiebiges umgewandelt worden. Eine kleinere menschliche Bevölkerung, robust und an extreme Bedingungen angepasst. Tiere, die entweder sehr klein, sehr tödlich oder beides waren. Wie man sagt: Alles in Australien versucht, dich zu töten.

Das ist Version eins.

Das Huhn

Nun ist das Huhn auf seine Weise wahrscheinlich das erfolgreichste Landtier auf der Erde. Etwa 70% der gesamten Vogelbiomasse auf dem Planeten sind domestizierte Hühner. Es gibt sogar Taschen, in denen Hühner wild geworden sind – auf Inseln, auf denen sie keine natürlichen Feinde haben, wie den Kaimaninseln – und sie haben gediehen.

Hühner evolvierten in etwas, das der Mensch außerordentlich nützlich findet: Sie reproduzieren sich schnell, wachsen schnell, produzieren Eier. Der Mensch füttert sie, schützt sie und ermutigt sie aktiv, sich zu vermehren. Nach fast jedem Maßstab des biologischen Erfolgs – Populationsgröße, geografische Verbreitung, Ressourcenzugang – gewinnt das Huhn.

Außer natürlich dem Teil, in dem wir sie essen.

Das Huhn ist also erfolgreich, indem es das perfekte Nahrungsmittel wird. Das ist nicht nichts. Aber es gibt eine Decke für diesen Art von Erfolg.

Die Katze: Die richtige Antwort

Es gibt ein Tier, das, würde ich argumentieren, dies fast genau richtig gemacht hat.

Die Katze.

Katzen sind keine Apex-Rauber. Sie dominieren den Menschen nicht oder machen Jagd auf ihn. Stattdessen, anstatt von der menschlichen Expansion zermalmt zu werden oder sich dem menschlichen Appetit zu unterwerfen, taten sie etwas anderes: Sie evolvierten neben uns. Sie machten sich nützlich, indem sie Ratten und kleine Vögel jagten, die von menschlichen Siedlungen angezogen wurden, und irgendwann machten sie sich gewollt. Sie wurden zu Begleitern.

Das Ergebnis? Katzen reproduzieren sich schnell. Sie haben reichliche Nahrungsquellen, entweder als Haustiere oder als opportunistische Jäger in der Nähe menschlicher Siedlungen. Sie haben wenige ernsthafte Feinde. Sie sind überall, wo der Mensch ist.

Und wiederum war dies keine Entscheidung, die sie getroffen haben. Es war keine Strategie. Es war einfach, wie der evolutionäre Druck sich ausgespielt hat. Aber das Ergebnis ist bemerkenswert: Anstatt gegen den Apex-Rauber zu kämpfen oder den Apex-Rauber zu füttern, freundeten sie sich mit dem Apex-Rauber an.

Was dies mit KI zu tun hat

Warum ist das wichtig?

Die Ankunft von Modellen wie Anthropic’s Mythos und Project Glass Wing ist, würde ich argumentieren, das Äquivalent zum Tag, an dem der Mensch in Australien landete. Außer dass die Zeitskala dramatisch komprimiert ist. Was Generationen dauerte, um auf diesem Kontinent auszuspielen, wird in Jahren – vielleicht weniger – passieren.

Es gibt viel Schreibarbeit darüber, wie Sicherheitsteams auf die Bedrohung durch KI-gestützte Hacker reagieren sollten. Ich denke, dass diese Argumentation ein Fehler ist. Dies ist nicht in erster Linie ein Sicherheitsproblem. Es ist ein Ingenieurproblem.

Was sich ändert: Vor dieser neuen Welle von KI operierten sowohl Verteidiger als auch Angreifer in einer Welt mit relativ begrenzten Einsätzen. Angriffe passierten. Datenlecks passierten. Aber der Tempo und die Sophistikation waren durch die menschliche Kapazität begrenzt. Das hat sich grundlegend geändert. Jetzt gibt es KI-Modelle, die speziell dafür entwickelt wurden, Schwachstellen autonom zu finden und auszunutzen, im großen Maßstab, ohne Ermüdung.

Die meisten Entwicklerteams sind der Riesenwombat in dieser Geschichte. Sie haben in einer Umgebung gelebt, in der es zwar Bedrohungen gab, aber nichts, was auch nur annähernd so gefährlich war wie das, was kommt. Sie bauten Systeme, die gegen die Drucke, mit denen sie konfrontiert waren, vernünftig gesichert waren. Sie hatten noch nichts wie das gesehen, was kommt.

Das wird sich ändern.

Die drei Optionen – und warum nur eine funktioniert

Wenn diese neue Bedrohung eintritt, werden Organisationen effektiv drei Auswahlmöglichkeiten haben:

1. Sei der Wombat. Passe dich nicht an. Wird ausgelöscht. Das wird vielen Unternehmen passieren. Einige werden nie wieder aufstehen.
2. Sei das Huhn. Wird reaktiv, um jede neue Schwachstelle zu patchen, sobald sie auftritt. Dies ist der “zieh den Speer heraus und behandle die Wunde”-Ansatz. Es ist besser als nichts, aber wenn es 45 Speere aus allen Richtungen gibt, rettet dich diese eine Fähigkeit nicht. Du bist immer noch Nahrung; du bist nur langsamer, um zum Tisch zu gelangen.
3. Sei die Katze. Ändere grundlegend deine Beziehung zur Bedrohung. Verwende KI, um gegen KI zu verteidigen. Integriere Sicherheit in die Ingenieurarbeit von Anfang an. Entwerfe Systeme, die davon ausgehen, dass ein Angriff passieren wird – nicht, dass er verhindert werden kann.

Das Ziel ist nicht, mehr Sicherheitsanalysten zu beschäftigen, um den Perimeter zu bewachen. Das ist, als ob man die Elefanten auf der Savanne schützen würde. Es skaliert nicht gegen diese Art von Bedrohung. Das Ziel ist, die Savanne neu zu entwerfen.

Was “die Katze werden” wirklich bedeutet

Dies ist keine oberflächliche Arbeit. Es ist nicht, ein KI-Sicherheitsscanner auf deinen Code einmal im Quartal auszuführen. Es erfordert eine Neubewertung der Art und Weise, wie Entwicklung durchgeführt wird.

Praktisch bedeutet das Dinge wie:

• Einfachere Codebasen, die einfacher zu verstehen und zu überprüfen sind
• Aus Bibliotheken mit bekannten, geprüften Sicherheitsposturen ziehen
• Infrastruktur aufbauen, die davon ausgeht, dass ein Angriff passieren wird – nicht, ob er passieren wird – und es so schwierig wie möglich macht, sich lateral zu bewegen, sobald ein Angreifer im Inneren ist
• Den Raubtier zu befreunden, indem man es genau wie der Angreifer nutzt. KI-Modelle können Ingenieur- und Sicherheitsteams verstärken, um ihre Verteidigungen zu entwickeln und voranzukommen.

Unternehmen, die morgen gegründet werden, haben eine saubere Slate. Sie können auf diese Weise von Anfang an bauen. Unternehmen, die bereits existieren, mit Kunden, mit sensiblen Daten, mit Live-Systemen, haben diese Luxus nicht. Sie müssen jetzt mit dem Übergang beginnen.

Aufruf zum Handeln

Anthropic hat selbst gesagt: Es wird eine Abrechnung geben. Es wird eine wirtschaftliche und gesellschaftliche Störung durch KI-gestützte Angriffe geben. Einige Unternehmen werden nicht überleben. Sie werden durch Menschen, die diese Werkzeuge verwenden, kompromittiert und werden nie vollständig wiederhergestellt. Das wird passieren.

Also ist die Botschaft: Fang jetzt an.

Ingenieur- und Sicherheitsteams müssen im selben Raum sitzen. Gehen Sie durch die Bedrohungslandschaft zusammen. Bauen Sie einen gemeinsamen Fahrplan. Einen, bei dem die Hauptarbeit von Ingenieur- und Design-Teams durchgeführt wird, validiert durch Sicherheit, nicht umgekehrt. Sicherheit kann dies nicht leiten. Sicherheit kann die Arbeit überprüfen. Aber die grundlegende Änderung muss von den Menschen kommen, die die Systeme bauen.

Die Unternehmen, die diesen Prozess heute beginnen, werden nicht alle überleben. Aber sie werden die Bedingungen für das Überleben schaffen. Und in der Umgebung, die kommt, ist das das Beste, was wir tun können.

Sei die Katze.