Från generativ till agentic AI: Övergången från innehållsrisk till exekveringsexponering

Företags AI utvecklas snabbt. Det som började som generativ AI-kopiloter som skrev e-post och sammanfattade dokument blir nu något mycket mer autonomt: system som planerar, beslutar och utför uppgifter över verktyg och miljöer.

Detta är övergången från generativ till agentic AI. Det är att se risken förvandlas.

GenAI introducerade innehållsrisker, inklusive hallucinationer, dataläckage via prompter och biased utdata. Agentic AI-exponering sker genom dess autonoma system, som har behörighet, minne och möjlighet att komma åt alla tillgängliga verktyg i maskinens hastighet.

Detta är en möjlighet för dig som säkerhets-, styrnings- eller AI-proffs att omvärdera din position på dessa nya risker.

Vad är agentic AI-risk?

Agentic AI-risk avser de säkerhets-, operativa och styrningsrisker som AI-system som opererar autonomt medför, inte bara genererar text utan också utför multi-stegs arbetsflöden på företagssystem.

Till skillnad från traditionella stora språkmodeller (LLM) kan agentic system bryta ner uppgifter i dynamiska arbetsflöden, göra externa API-förfrågningar och anropa in-house-applikationer, och lagra och återkalla minnen. De kan också operera under delegerad identitet och kommunicera med andra agenter.

I andra ord är de mindre som chatbots och mer som juniora digitala anställda. Detta representerar en massiv ökning av AI-agentens angreppsyta.

Generativ vs agentic AI: Vad förändras?

Generativ AI-risk fokuserar på utdata. Säkerhetsteam ställer frågor som om modellen läcker data, om den kan hallucinera eller om skadlig eller icke-kompatibel innehåll genereras.

Människor är fast i loopen. AI föreslår, människor godkänner.

Agentic AI-risk är handlingorienterad. Nu måste säkerhetsteam fråga sig vilka system agenten kan interagera med, vilka behörigheter den kommer att ärva, hur långt dess plan kan nå och vad som skulle hända om den blev lurad medan den kördes.

Skillnaden kan vara mycket liten, men den är betydande: Generativ AI skapar innehåll. Agentic AI skapar konsekvenser. Detta är övergången från innehållsrisk till exekveringsexponering.

Hur utökar agentic AI företagets angreppsyta?

Agentic AI lägger inte bara till en ny applikation. Det skapar ett nytt operativt lager. Här är hur angreppsytan växer:

1. Privilegierade AI-agenter

Det finns många agenter som agerar på uppdrag av användare eller tjänstekonton. När omfattningen av behörigheter inte är tight blir de värdefulla mål.

Detta kan leda till förvirrade ställföreträdarproblem, behörighetsuppgradering och lateralt rörelse. Detta är ett problem när moln, SaaS och interna system tillhandahåller dynamisk eller ärvt tillgång till agenter.

2. Dynamiska exekveringsvägar

Kontrollflöden i traditionella appar är deterministiska. Kontrollflöden i agentic AI-system är inte deterministiska.

De resonera om mål, handlingar, reflektera, förfinar och anropar verktyg på ett icke-deterministiskt sätt. Detta leder till svåra att analysera fel, komplexa beroendegrafiker och kaskadiska fel i multi-agent system. Säkerhetskontroller som utvecklats för deterministiska kontrollflöden är inte tillämpliga här.

3. Bestående minne

Angreppsytan som orsakas av agentminne är bestående.

När kort- eller långsiktigt minne är komprometterat kan en skadlig tillstånd påverka beslut över flera sessioner. Detta skiljer sig från en enskild injicering av en prompt, eftersom minneskorruption ger bestånd.

4. Maskinhastighetsbeslutsrisker

Autonoma agenter fattar beslut i en hastighet som är omöjlig att matcha. Detta medför maskinhastighetsbeslutsutmaningar, såsom snabb felpropagation, missbrukscykler mycket snabbare än mänsklig reaktion och eskalering innan upptäckt är möjlig.

I multi-agent system är inflytandets omfattning snabb. En skadlig agent kan utlösa en felkaskad i samordningskedjor.

Varför traditionella kontroller misslyckas med agentic AI

De flesta traditionella företagssäkerhetsmodeller förlitar sig på statiska applikationer, förutsägbara anropsgrafiker, mänsklig godkännande och en tydlig separation mellan datahantering och exekvering. Agentic AI gör dessa antaganden ogiltiga.

Ta till exempel en traditionell kontroll som indatavalidering. Detta skyddar systemets gräns. Men agentic risk uppstår vanligtvis i mitten av en loop, i planerings-, reflektions- eller verktygsfasen.

Traditionell sårbarhetssökning fokuserar också på infrastruktur och programvara. Men AI-exekveringsrisken bor i agentens resonemangs- och handlingslager.

Frågan är: Hur skyddar du något som kan välja sin egen nästa åtgärd? Du kan inte bara lägga kontroller runt ett enda modellanrop. Du måste säkra arbetsflödet.

Säkra agentic AI: Vad fungerar verkligen?

När det gäller att säkra agentic AI måste man gå från perimeter-tänkande till livscykel-tänkande. Agenter bör inte tillåtas tolka mål oändligt, och det finns flera sätt att uppnå detta.

Etablera tillåtna sekvenser av mål, reglera djupet av planutvidgningsträd, övervaka resonemangsdrift och förhindra självskapade mål utanför området är alla viktiga kontroller. Oväntade variationer i resonemang är ofta föregångare till manipulation.

Hårdvara verktygsutförande. Verktyg är där planen möter verkligheten, och säkerhet behöver täcka behörighetskontroller före verktygsutförande, sandlådanverktygsmiljöer, strikt parametervalidering och just-in-time-överföring av autentiseringsuppgifter. Varje verktygsutförande måste loggas som en första klassens säkerhetsincident.

Isolera minne och behörighetsomfattning. Minne måste behandlas som känslig infrastruktur. Detta innebär att validera skrivoperationer, partitionera minnesdomäner, begränsa omfattningen för läsoperationer per uppgift, använda kortlivade autentiseringsuppgifter och förhindra ärvt behörighet. Ovaliderad behörighetsackumulering är en stor agentic AI-risk.

Säkra multi-agent-samordning. I distribuerade agentsystem blir kommunikationen i sig en attackvektor. Detta bör innebära agentautentisering, meddelandeschemavalidering, begränsade kommunikationskanaler och övervakning av avvikande påverkansmönster. När samordningen avviker från förväntade flöden bör isolering ske automatiskt.

Från exponeringshantering till exponeringsbedömning för AI-system

Detta är där en bredare säkerhetsfilosofi blir nyckeln. Traditionell sårbarhetsidentifiering identifierar kända svagheter. Men autonoma AI-system introducerar emergent exponering: risker som uppstår från konfiguration, behörighetsdesign, integrationsvägar och dynamiskt beteende.

Detta överensstämmer med vad branschen har kallat exponeringshantering och, mer nyligen, exponeringsbedömning.

Exponeringshantering handlar om att ha kontinuerlig insyn i hur system (inklusive molntillgångar, identiteter, applikationer och nu AI-agenter) skapar vägar som skadliga aktörer kan utnyttja.

För autonoma AI-systems säkerhet betyder det att fråga: Vad kan denna agent nå? Vilka behörigheter ackumulerar den? Vilka system samordnar den? Och var möter exekvering känsliga data?

Lag som redan använder exponeringsbaserade strategier för att minska cyberrisk är i en solid position att utöka dessa principer till sina AI-miljöer. Till exempel kan plattformar som förenar identitet, moln och sårbarhetsinsyn tillhandahålla ett sätt att förstå hur privilegierade AI-agenter möter befintliga angreppsvägar.

Nyckeln är inte leverantörverktyg per se. Det är tankesättet:

Du säkrar inte agentic AI genom att skydda modellen. Du säkrar det genom att kontinuerligt mäta och minska dess exponering.

Hantera exekveringslagersrisker i agentic AI

Kännetecknet för agentic AI-säkerhet är detta: Angreppsytan är inte svaret, utan arbetsflödet.

Exekveringslagersriskerna är många, inklusive oautentiserad verktygsanvändning, identitetsbedrägeri, behörighetskräp, minnesförgiftning, cross-agent-manipulation och mänskliga-i-loopen-system under tvång.

Att mildra dessa risker innebär att ha insyn i identitetsrelationer, behörighetsarv, API-beroenden, körningsaktivitet och exekveringstelemetri.

Detta är inte längre bara GenAI-säkerhet; det är AI-operativ säkerhet också.

Agentic AI-risk är arkitektonisk, inte hypotetisk

Agentic AI är nästa steg i utvecklingen av företags AI-antagande. Det har löftet om effektivitet, automatisering och skalbarhet. Men det introducerar också risk från vad AI säger till vad AI gör.

Övergången från generativ till agentic system påverkar följande:

• Innehållsrisk till exekveringsrisk
• Statiska prompter till dynamiska exekveringsflöden
• Mänsklig granskning till autonom exekvering
• Applikationssäkerhet till exponeringshantering

Säkerhetsledare som förstår denna övergång kan arkitektera skydd som skalar med autonomi. Andra kommer att hamna med digitala insiders utan insiderkontroller.

Framtiden för AI i företaget är agentic. Framtiden för AI-säkerhet måste vara exponeringsdriven, arbetsflödesmedveten och utformad för maskinhastighetsoperationer.

Eftersom AI-agenter har möjlighet att exekvera, är den enda livskraftiga metoden att kontinuerligt förstå (och mildra) vad de är utsatta för.