AI-genererad kod är här för att stanna. Är vi mindre säkra som ett resultat av detta?

Kodning år 2025 handlar inte om att slita med fragment eller lägga ner långa timmar på felsökning. Det är en helt annan känsla. AI-genererad kod kommer att utgöra majoriteten av koden i framtida produkter och det har blivit en viktig verktygslåda för den moderna utvecklaren. Känd som "vibe coding", kommer användningen av kod genererad av verktyg som Github Copilot, Amazon CodeWhisperer och Chat GPT att vara normen och inte undantaget för att minska byggtiden och öka effektiviteten. Men riskerar bekvämligheten med AI-genererad kod ett mörkare hot? Ökar generativ AI sårbarheter i säkerhetsarkitektur eller finns det sätt för utvecklare att "vibe-koda" på ett säkert sätt?

”Säkerhetsincidenter till följd av sårbarheter i AI-genererad kod är ett av de minst diskuterade ämnena idag”, säger Sanket Saurav, grundare av DeepSource. ”Det finns fortfarande mycket kod som genereras av plattformar som Copilot eller Chat GPT som inte granskas av människor, och säkerhetsintrång kan vara katastrofala för de företag som drabbas.”

Utvecklaren av en öppen källkodsplattform som använder statisk analys för kodkvalitet och säkerhet, citerade Saurav SolarWinds-hacket år 2020 som den typ av ”utdöendehändelse” som företag kan drabbas av om de inte har installerat rätt säkerhetsräcken när de använder AI-genererad kod. ”Statisk analys möjliggör identifiering av osäkra kodmönster och dåliga kodningsrutiner”, sa Saurav.

Attackerad genom biblioteket

Säkerhetshot mot AI-genererad kod kan ta uppfinningsrika former och kan riktas mot bibliotek. Bibliotek inom programmering är användbar återanvändbar kod som utvecklare använder för att spara tid vid skrivning. 

De löser ofta vanliga programmeringsuppgifter som att hantera databasinteraktioner och hjälper programmerare att slippa skriva om kod från grunden. 

Ett sådant hot mot bibliotek är känt som ”hallucinationer”, där AI-generativ kod uppvisar en sårbarhet genom att använda fiktiva bibliotek. En annan nyare attacklinje mot AI-genererad kod kallas ”slopsquatting”, där angripare kan rikta in sig direkt på bibliotek för att infiltrera en databas. 

Att ta itu med dessa hot direkt kan kräva mer uppmärksamhet än vad som antyds av termen ”vibe coding”. Professor Rafael Khoury, som talar från sitt kontor vid Université du Québec en Outaouais, har noga följt utvecklingen inom säkerheten för AI-genererad kod och är övertygad om att nya tekniker kommer att förbättra dess säkerhet. 

In ett 2023-papperProfessor Khoury undersökte resultaten av att be ChatGPT att producera kod utan ytterligare kontext eller information, en metod som ledde till osäker kod. Det var i början av Chat GPT och Khoury är nu optimistisk inför framtiden. ”Sedan dess har det granskats mycket forskning just nu och framtiden tittar på en strategi för att använda LLM som kan leda till bättre resultat”, sa Khoury och tillade att ”säkerheten blir bättre, men vi är inte i en situation där vi kan ge en direkt uppmaning och få säker kod.” 

Khoury fortsatte med att beskriva en lovande studie där de genererade kod och sedan skickade denna kod till ett verktyg som analyserar den för sårbarheter. Metoden som används av verktyget kallas för att hitta linjeavvikelser med generativ AI (eller FLAG förkortat).

"Dessa verktyg skickar FLAG:er som kan identifiera en sårbarhet på rad 24, till exempel, som en utvecklare sedan kan skicka tillbaka till LLM med informationen och be dem att undersöka det och åtgärda problemet", sa han. 

Khoury föreslog att detta fram och tillbaka kan vara avgörande för att åtgärda kod som är sårbar för attacker. ”Denna studie tyder på att man med fem iterationer kan minska sårbarheterna till noll.” 

Med detta sagt är FLAG-metoden inte utan problem, särskilt eftersom den kan ge upphov till både falska positiva och falska negativa resultat. Utöver detta finns det också begränsningar i längden på den kod som LLM:er kan skapa och själva åtgärden att sammanfoga fragment kan lägga till ytterligare en risknivå.

Håller människan uppdaterad

Vissa aktörer inom "vibe coding" rekommenderar att fragmentera kod och se till att människor står i centrum för de viktigaste redigeringarna av en kodbas. "När du skriver kod, tänk i termer av commits", säger Kevin Hou, chef för produktutveckling på Windsurf, och lovordar visdomen i små bitar.

”Dela upp ett stort projekt i mindre delar som normalt skulle vara commits eller pull requests. Låt agenten bygga den mindre skalan, en isolerad funktion i taget. Detta kan säkerställa att kodutdata är väl testad och väl förstådd”, tillade han. 

I skrivande stund har Windsurf närmat sig över 5 miljarder rader AI-genererad kod (genom sitt tidigare namn Codeium). Hou sa att den mest angelägna frågan de besvarade var om utvecklaren var medveten om processen. 

”AI:n kan göra många redigeringar i många filer samtidigt, så hur kan vi se till att utvecklaren faktiskt förstår och granskar vad som händer snarare än att bara blint acceptera allt?” frågade Hou och tillade att de hade investerat kraftigt i Windsurfs UX ”med massor av intuitiva sätt att hålla sig helt uppdaterad om vad AI:n gör och för att hålla människan helt uppdaterad.”

Vilket är anledningen till att "vibe kodning” blir mer mainstream, måste människorna i loopen vara mer försiktiga med dess sårbarheter. Från ”hallucinationer” till ”slopsquatting”-hot är utmaningarna verkliga, men det är även lösningarna. 

Framväxande verktyg som statisk analys, iterativa förfiningsmetoder som FLAG och genomtänkt UX-design visar att säkerhet och hastighet inte behöver utesluta varandra. 

Nyckeln ligger i att hålla utvecklarna engagerade, informerade och ha kontroll. Med rätt skyddsräcken och en "lita på men verifiera"-inställning kan AI-assisterad kodning vara både revolutionerande och ansvarsfull.