KI-generierter Code ist hier, um zu bleiben. Sind wir dadurch weniger sicher?

Das Coden im Jahr 2025 besteht nicht darin, über Fragmente zu brüten oder lange Stunden mit Debugging zu verbringen. Es ist ein ganz anderes Gefühl. KI-generierter Code wird in Zukunft den größten Teil des Codes in Produkten ausmachen und ist bereits jetzt ein unverzichtbares Werkzeug für den modernen Entwickler. Als “Vibe-Coding” bezeichnet, wird die Verwendung von Code, der von Tools wie Github Copilot, Amazon CodeWhisperer und Chat GPT generiert wird, die Norm und nicht die Ausnahme sein, um die Build-Zeit zu reduzieren und die Effizienz zu steigern. Aber birgt der Komfort von KI-generiertem Code auch ein dunkleres Risiko? Erhöht generative KI die Verwundbarkeiten in der Sicherheitsarchitektur oder gibt es Möglichkeiten für Entwickler, “Vibe-Code” sicher zu erstellen?

“Sicherheitsvorfälle als Ergebnis von Verwundbarkeiten in KI-generiertem Code sind eines der am wenigsten diskutierten Themen heute”, sagte Sanket Saurav, Gründer von DeepSource. “Es gibt noch immer viel Code, der von Plattformen wie Copilot oder Chat GPT generiert wird, der nicht von Menschen überprüft wird, und Sicherheitsverletzungen können für betroffene Unternehmen katastrophal sein.”

Der Entwickler einer Open-Source-Plattform, die statische Analyse für Code-Qualität und Sicherheit einsetzt, zitierte den SolarWinds-Hack von 2020 als Beispiel für ein “Aussterbe-Ereignis”, dem Unternehmen ausgesetzt sein könnten, wenn sie nicht die richtigen Sicherheitsmaßnahmen bei der Verwendung von KI-generiertem Code ergreifen. “Statische Analyse ermöglicht die Identifizierung unsicherer Code-Muster und schlechter Programmierpraktiken”, sagte Saurav.

Angegriffen durch die Bibliothek

Sicherheitsbedrohungen für KI-generierten Code können kreative Formen annehmen und sich auf Bibliotheken richten. Bibliotheken in der Programmierung sind nützlicher, wiederverwendbarer Code, den Entwickler verwenden, um Zeit zu sparen, wenn sie Code schreiben.

Sie lösen oft regelmäßige Programmieraufgaben wie die Verwaltung von Datenbankinteraktionen und helfen Programmierern, Code nicht von Grund auf neu schreiben zu müssen.

Eine solche Bedrohung gegen Bibliotheken ist als “Halluzinationen” bekannt, bei denen KI-generierter Code eine Verwundbarkeit durch die Verwendung fiktiver Bibliotheken zeigt. Ein weiterer, neuerer Angriff auf KI-generierten Code ist als “Slopsquatting” bekannt, bei dem Angreifer direkt auf Bibliotheken zielen, um in eine Datenbank einzudringen.

Um diese Bedrohungen direkt anzugehen, kann mehr Achtsamkeit erforderlich sein, als der Begriff “Vibe-Coding” vermuten lässt. Professor Rafael Khoury, der an der Université du Québec en Outaouais tätig ist, hat die Entwicklungen in der Sicherheit von KI-generiertem Code genau verfolgt und ist zuversichtlich, dass neue Techniken die Sicherheit verbessern werden.

In einer Studie von 2023 untersuchte Professor Khoury die Ergebnisse, die durch die Aufforderung an ChatGPT, Code ohne weitere Kontext oder Informationen zu erstellen, entstanden. Dies führte zu unsicherem Code. Das waren die frühen Tage von Chat GPT, und Khoury ist nun optimistisch über die Zukunft. “Seitdem gibt es viele Forschungsergebnisse, die derzeit überprüft werden, und die Zukunft sieht eine Strategie für die Verwendung von LLM vor, die zu besseren Ergebnissen führen könnte”, sagte Khoury und fügte hinzu, dass “die Sicherheit besser wird, aber wir sind noch nicht an einem Punkt, an dem wir einen direkten Prompt geben und sicheren Code erhalten können”.

Khoury beschrieb eine vielversprechende Studie, in der Code generiert und dann an ein Tool gesendet wurde, das den Code auf Verwundbarkeiten analysierte. Die Methode, die von dem Tool verwendet wird, wird als Finding Line Anomalies with Generative AI (oder FLAG für kurz) bezeichnet.

“Diese Tools senden FLAGs, die möglicherweise eine Verwundbarkeit in Zeile 24 identifizieren, zum Beispiel, die ein Entwickler dann an das LLM mit den Informationen senden kann und es auffordern kann, das Problem zu untersuchen und zu beheben”, sagte er.

Khoury schlug vor, dass dieses Hin-und-Her-Sein möglicherweise entscheidend sein könnte, um Code zu beheben, der anfällig für Angriffe ist. “Diese Studie legt nahe, dass mit fünf Iterationen die Verwundbarkeiten auf null reduziert werden können.”

Dies ist jedoch nicht ohne Probleme, insbesondere da es zu falschen Positiven und falschen Negativen kommen kann. Darüber hinaus gibt es auch Grenzen bei der Länge des Codes, den LLMs erstellen können, und die Handlung, Fragmente zusammenzufügen, kann ein weiteres Risiko hinzufügen.

Den Menschen im Prozess halten

Einige Akteure im “Vibe-Coding” empfehlen, Code zu fragmentieren und sicherzustellen, dass Menschen bei den wichtigsten Edits eines Codebases im Vordergrund stehen. “Wenn Sie Code schreiben, denken Sie in Beiträgen”, sagte Kevin Hou, Leiter der Produktentwicklung bei Windsurf, und pries die Weisheit von kleinen, überschaubaren Teilen.

“Teilen Sie ein großes Projekt in kleinere Teile auf, die normalerweise Beiträge oder Pull-Requests wären. Lassen Sie den Agenten den kleineren Umfang aufbauen, eine isolierte Funktion nach der anderen. Dies kann sicherstellen, dass die Code-Ausgabe gut getestet und gut verstanden wird”, fügte er hinzu.

Zum Zeitpunkt des Schreibens hatte Windsurf über 5 Milliarden Zeilen KI-generierten Codes (unter seinem früheren Namen Codeium) bearbeitet. Hou sagte, die dringlichste Frage, die sie beantworteten, sei, ob der Entwickler sich des Prozesses bewusst sei.

“Der KI-Code ist in der Lage, viele Änderungen in vielen Dateien gleichzeitig vorzunehmen, also wie können wir sicherstellen, dass der Entwickler tatsächlich versteht und überprüft, was passiert, anstatt einfach alles blind zu akzeptieren?” fragte Hou und fügte hinzu, dass sie viel in die Benutzeroberfläche von Windsurf investiert hätten, “mit einer Menge intuitiver Möglichkeiten, um vollständig im Einklang mit dem zu stehen, was der KI-Code tut, und um den Menschen vollständig im Prozess zu halten”.

Was auch der Grund ist, warum, wenn “Vibe-Coding” immer mainstream wird, die Menschen im Prozess vorsichtiger gegenüber seinen Verwundbarkeiten sein müssen. Von “Halluzinationen” bis hin zu “Slopsquatting”-Bedrohungen sind die Herausforderungen real, aber es gibt auch Lösungen.

Aufkommende Tools wie statische Analyse, iterative Verfeinerungsmethoden wie FLAG und sorgfältiges UX-Design zeigen, dass Sicherheit und Geschwindigkeit nicht gegensätzlich sein müssen.

Der Schlüssel liegt darin, Entwickler zu engagieren, zu informieren und in der Kontrolle zu halten. Mit den richtigen Sicherheitsmaßnahmen und einer “Vertrauen, aber überprüfen”-Einstellung kann KI-gestütztes Coden sowohl revolutionär als auch verantwortungsvoll sein.