AI-gegenereerde code is hier om te blijven. Zijn we minder veilig als gevolg?

Coderen in 2025 gaat niet over urenlang werken aan fragmenten of lange uren besteden aan debuggen. Het is een heel andere vibe. AI-gegenereerde code zal de meeste code in toekomstige producten zijn en het is een essentieel hulpmiddel geworden voor de moderne ontwikkelaar. Bekend als “vibe coding”, zal het gebruik van code gegenereerd door tools zoals Github Copilot, Amazon CodeWhisperer en Chat GPT de norm zijn en niet de uitzondering bij het verminderen van de bouwtijd en het verhogen van de efficiëntie. Maar brengt de gemakkelijkheid van AI-gegenereerde code een donkerdere bedreiging met zich mee? Verhoogt generatieve AI de kwetsbaarheden in de beveiligingsarchitectuur of zijn er manieren voor ontwikkelaars om “vibe code” veilig te gebruiken?

“Beveiligingsincidenten als gevolg van kwetsbaarheden in AI-gegenereerde code is een van de minst besproken onderwerpen vandaag,” zei Sanket Saurav, oprichter van DeepSource. “Er is nog steeds veel code gegenereerd door platforms zoals Copilot of Chat GPT die geen menselijke beoordeling krijgen, en beveiligingsinbreuken kunnen catastrofaal zijn voor bedrijven die worden getroffen.”

De ontwikkelaar van een open source-platform dat statische analyse gebruikt voor codekwaliteit en beveiliging, Saurav citeerde de SolarWinds-hack in 2020 als het soort “extinctie-evenement” dat bedrijven kunnen tegenkomen als ze de juiste beveiligingsbarrières niet hebben geïnstalleerd bij het gebruik van AI-gegenereerde code. “Statische analyse stelt ons in staat om onveilige codepatronen en slechte programmeertechnieken te identificeren,” zei Saurav.

Aanvallen via de bibliotheek

Beveiligingsbedreigingen voor AI-gegenereerde code kunnen inventieve vormen aannemen en kunnen gericht zijn op bibliotheken. Bibliotheken in programmeren zijn nuttige herbruikbare code die ontwikkelaars gebruiken om tijd te besparen bij het schrijven.

Ze lossen vaak reguliere programmeertaken op zoals het beheren van database-interacties en helpen programmeurs om code niet van scratch te hoeven schrijven.

Een dergelijke bedreiging voor bibliotheken is bekend als “hallucinaties”, waarbij AI-gegenereerde code een kwetsbaarheid vertoont door het gebruik van fictieve bibliotheken. Een andere, meer recente aanval op AI-gegenereerde code is “slopsquatting” genoemd, waarbij aanvallers bibliotheken rechtstreeks kunnen aanvallen om een database te infiltreren.

Het aanpakken van deze bedreigingen kan meer bewustzijn vereisen dan wordt gesuggereerd door de term “vibe coding”. Professor Rafael Khoury, die vanuit zijn kantoor aan de Université du Québec en Outaouais spreekt, heeft de ontwikkelingen in de beveiliging van AI-gegenereerde code nauwlettend gevolgd en is ervan overtuigd dat nieuwe technieken de veiligheid zullen verbeteren.

In een artikel uit 2023 onderzocht professor Khoury de resultaten van het vragen van ChatGPT om code te produceren zonder verdere context of informatie, een praktijk die leidde tot onveilige code. Dit waren de vroege dagen van Chat GPT en Khoury is nu optimistisch over de toekomst. “Sindsdien is er veel onderzoek in voorbereiding en de toekomst ziet er naar uit dat we een strategie kunnen ontwikkelen voor het gebruik van de LLM die tot betere resultaten kan leiden,” zei Khoury, en voegde eraan toe dat “de beveiliging beter wordt, maar we zijn nog niet op een punt waarop we een directe prompt kunnen geven en veilige code kunnen krijgen.”

Khoury beschreef een veelbelovende studie waarin ze code gegenereerden en vervolgens naar een tool stuurden die de code analyseerde op kwetsbaarheden. De methode die door de tool wordt gebruikt, wordt Finding Line Anomalies with Generative AI (of FLAG voor kort) genoemd.

“Deze tools sturen FLAGs die mogelijk een kwetsbaarheid in regel 24 kunnen identificeren, bijvoorbeeld, die een ontwikkelaar vervolgens terug kan sturen naar de LLM met de informatie en vragen om het probleem te onderzoeken en op te lossen,” zei hij.

Khoury suggereerde dat deze heen-en-weer-beweging cruciaal kan zijn voor het oplossen van kwetsbare code. “Deze studie suggereert dat met vijf iteraties, de kwetsbaarheden tot nul kunnen worden teruggebracht.”

Dit gezegd hebbende, is de FLAG-methode niet zonder problemen, met name omdat het zowel valse positieven als valse negatieven kan opleveren. Bovendien zijn er ook beperkingen in de lengte van de code die LLM’s kunnen creëren en het samenvoegen van fragmenten kan een extra laag risico toevoegen.

De mens in de lus houden

Sommige spelers binnen “vibe coding” raden aan om code te fragmenteren en ervoor te zorgen dat mensen centraal staan in de meest importante edities van een codebase. “Wanneer je code schrijft, denk in termen van commits,” zei Kevin Hou, hoofd productengineering bij Windsurf, die de wijsheid van kleine stukjes benadrukte.

“Verdeel een groot project in kleinere stukjes die normaal gesproken commits of pull requests zouden zijn. Laat de agent het kleinere schaalniveau bouwen, één geïsoleerd kenmerk tegelijk. Dit kan ervoor zorgen dat de gegenereerde code goed getest en begrepen is,” voegde hij eraan toe.

Op het moment van schrijven had Windsurf meer dan 5 miljard regels AI-gegenereerde code (onder de vorige naam Codeium) gegenereerd. Hou zei dat de meest dringende vraag die ze beantwoordden was of de ontwikkelaar zich bewust was van het proces.

“De AI kan veel edities maken in veel bestanden tegelijk, dus hoe kunnen we ervoor zorgen dat de ontwikkelaar werkelijk begrijpt en beoordeelt wat er gebeurt, in plaats van alles blindelings te accepteren?” vroeg Hou, en voegde eraan toe dat ze zwaar hadden geïnvesteerd in de UX van Windsurf “met een ton intuïtieve manieren om volledig in sync te blijven met wat de AI doet, en om de mens volledig in de lus te houden.”

Wat de reden is dat, naarmate “vibe coding” mainstream wordt, de mensen in de lus meer voorzichtig moeten zijn met de kwetsbaarheden ervan. Van “hallucinaties” tot “slopsquatting”-bedreigingen, de uitdagingen zijn echt, maar er zijn ook oplossingen.

Nieuwe tools zoals statische analyse, iteratieve verfijningmethoden zoals FLAG, en zorgvuldige UX-ontwerp laten zien dat beveiliging en snelheid niet noodzakelijkerwijs elkaars tegenpolen zijn.

De sleutel ligt in het houden van ontwikkelaars betrokken, geïnformeerd en in controle. Met de juiste beveiligingsbarrières en een “vertrouw maar verifieer”-mentaliteit kan AI-geassisteerde coding zowel revolutionair als verantwoord zijn.