Opinion
AI flyttar in i våra datorer – men vem bestämmer vad den får se?

Viktiga punkterLokal AI-bearbetning garanterar inte automatiskt integritet eller säkerhet för agenter…
Visa mer
- Lokal AI-bearbetning garanterar inte automatiskt integritet eller säkerhet för agenter på enheten.
- Agenter måste arbeta med minsta möjliga behörighet, begränsad till vad varje specifikt arbetsflöde kräver.
- Användare behöver transparent och återkallelig kontroll över vad agenter kan se och göra.
AI-agenter börjar ta steget ut ur chattfönstren och in i operativsystemen, apparna och filerna som människor använder varje dag.
Nya Windows-datorer och program som släppts under de senaste månaderna banar väg för en ny era av autonoma AI-arbetsflöden i flera steg, både för vanliga användare och i företagsmiljöer. Den här omställningen är inte längre bara en teknisk framtidsvision.
NVIDIA:s Windows-datorer med RTX stöder AI-agenter som körs lokalt, medan Perplexity har utökat sina agentfunktioner till kompatibla Windows-datorer, vilket möjliggör arbetsflöden som omfattar lokala filer och anslutna appar. Samtidigt utvecklar Microsoft skyddsåtgärder för att styra hur agenter får åtkomst till resurser och agerar.
Men större självständighet medför större säkerhetsrisker. Den 19 oktober varnade Hayete Gallot, Microsofts vice vd för säkerhet, för att organisationer måste göra mer för att skydda ”insiders i form av agenter”. Hon påpekade att AI-agenter ofta har alltför omfattande behörigheter och kan komma åt känsliga uppgifter, verktyg och system samtidigt som de fattar beslut i kritiska processer.
Microsofts säkerhetsstrategi för Windows bygger på begränsning, begränsade behörigheter och begränsad tillsyn, samtidigt som oron växer för att ett misstag från en agent kan få större konsekvenser än ett enkelt felaktigt svar. Agenten kan röja känslig information, ändra viktiga filer eller utföra oönskade åtgärder i företagsapplikationer.
Lokal AI innebär inte automatiskt privat AI
Att använda AI-agenter på en dator kan bidra till att minska mängden känsliga uppgifter som överförs till molntjänster, men lokal bearbetning är inget heltäckande säkerhetsskydd.
Även en modell som körs på enheten kan få åtkomst till alltför många filer, ha bristande säkerhet eller vara osäkert kopplad till andra appar.
Problemet ligger inte alltid i AI-modellen, utan ofta i organisationens styrning, säger Bayron Quintero, vd och medgrundare av iData Global, ett företag som specialiserar sig på AI-lösningar i hela Amerika.
Företag kan ge för stor eller för liten åtkomst till data, applikationer och affärsprocesser, säger han till Unite AI. Agenter kan få behörigheter som inte stämmer överens med vad de förväntas göra.
”Utmaningen är att säkerställa att en agent följer principen om minsta möjliga behörighet och endast får åtkomst till de data, system och åtgärder som krävs för ett visst arbetsflöde”, säger Quintero. Det innebär att bara ge åtkomst till de data, system och åtgärder som krävs för ett specifikt arbetsflöde.
Han pekade ut tydligt ägarskap för data, rollbaserade åtkomstkontroller och kontinuerlig övervakning av interaktioner med interna system och tredjepartssystem som nödvändiga skyddsåtgärder.
Det finns inget sådant som säker lokal AI, betonar Quintero.
Alltför omfattande behörigheter, svag kryptering, otillräcklig övervakning och osäkra integrationer kan göra en agent på enheten lika riskabel som en molnbaserad agent – eller till och med ännu mer riskabel.
Säkerhet handlar inte bara om var en systems modell körs, utan också om hur systemet konfigureras och hanteras.
Den nya gränsen går vid behörigheterna
För vanliga användare är frågan om en AI-agents åtkomst är lämplig för den uppgift den ska utföra.
En agent ska inte behöva genomsöka en hel enhet om den bara ombeds sammanfatta ett dokument. Ett verktyg för att organisera foton ska inte automatiskt läsa ekonomiska uppgifter eller kunna skicka meddelanden. Behörigheterna måste vara snävt avgränsade, transparenta och möjliga att återkalla.
Modellen med agentkonton och arbetsytor i Microsoft är ett steg mot att skilja agentens aktivitet från en persons session. Skyddet måste dock fungera även utanför demonstrationsmiljön.
Microsofts vägledning om agentsäkerhet i Windows förespråkar användargodkännande, aktivitetsloggar och en mekanism som säkerställer att agenter begränsas till den åtkomst de behöver. Arbetsgivare och utvecklare behöver övervaka hur agenter reagerar på vilseledande instruktioner i dokument, på webbplatser eller i meddelanden.
Under en godkänd uppgift kan agenter stöta på innehåll som inte är tillförlitligt. Om en agent uppfattar fientlig text som en instruktion kan det innebära en allvarlig säkerhetsrisk, eftersom informationen är lätt att komma åt.
Mänskligt godkännande och åtkomst enligt principen om minsta möjliga behörighet måste kombineras med begränsningar för känsliga åtgärder.
Bekvämlighet kräver tydliga gränser
AI-datorn kommer inte bara att bedömas utifrån hur mycket arbete agenter kan automatisera, utan också utifrån användarens förtroende för att dela personliga uppgifter och arbetsrelaterade data.
Lokal bearbetning kan göra agentbaserad AI snabbare och minska viss exponering av data, men den undanröjer inte behovet av behörigheter och tillsyn.
Principen bör vara enkel: agenter ska bara ha åtkomst till det som behövs för uppgiften, och användarna ska kunna förstå, följa och blockera det en agent gör.
När datorer blir allt bättre på att agera åt oss får kontrollen inte bli en eftertanke. Den måste byggas in från början.












