Holdning

AI flytter ind på vores pc’er – men hvem bestemmer, hvad den kan se?

Adlin Pertishya
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterLokal AI-behandling garanterer ikke automatisk privatliv eller sikkerhed for agenter på…
Vis mere
  • Lokal AI-behandling garanterer ikke automatisk privatliv eller sikkerhed for agenter på enheden.
  • Agenter skal operere under mindst-privilegium-adgang begrænset til det, hver specifik arbejdsgang kræver.
  • Brugere har brug for gennemsigtig og tilbagekaldelig kontrol over, hvad agenter kan se og gøre.

AI-agenter bevæger sig gradvist ud over chatvinduerne og ind i de operativsystemer, programmer og filer, som folk bruger hver dag.

Nye pc’er med Windows og software, der er udgivet i de seneste måneder, indvarsler en ny æra med selvstændige AI-arbejdsgange i flere trin for almindelige brugere og i erhvervslivet. Overgangen er ikke længere blot en teknologisk forudsigelse.

NVIDIAs Windows-pc’er med RTX understøtter lokal kørsel af AI-agenter, mens Perplexity har udvidet agenternes funktioner til kompatible Windows-computere, så de kan håndtere arbejdsgange, der involverer lokale filer og tilsluttede programmer. Samtidig udvikler Microsoft sikkerhedsforanstaltninger, der skal kontrollere, hvordan agenter får adgang til ressourcer og handler.

Større selvstændighed medfører dog større sikkerhedsrisici. Den 19. oktober advarede Hayete Gallot, Microsofts koncerndirektør for sikkerhed, om, at organisationer skal gøre mere for at beskytte »agenter internt i organisationen«. Hun bemærkede, at AI-agenter ofte har for vidtgående adgangsrettigheder og kan få adgang til følsomme data, værktøjer og systemer, mens de træffer beslutninger i kritiske processer.

Microsofts sikkerhedsstrategi for Windows bygger på afgrænsning, begrænsede tilladelser og begrænset tilsyn samt en stigende bekymring for, at en agents fejl kan få konsekvenser ud over et simpelt forkert svar. Den kan afsløre følsomme oplysninger, ændre kritiske filer eller udføre uønskede handlinger i virksomhedsprogrammer.

Lokal AI er ikke automatisk privat AI

Brug af AI-agenter på en pc kan være med til at begrænse mængden af følsomme data, der overføres til cloudtjenester, men lokal databehandling er ikke nogen fuldstændig sikkerhedsgaranti.

Selv en model, der kører på enheden, kan stadig få adgang til for mange filer, have dårlig sikkerhed eller være usikkert forbundet med andre apps.

Problemet skyldes ikke altid AI-modellen; ofte handler det om organisationens styring, sagde Bayron Quintero, administrerende direktør og medstifter af iData Global, en virksomhed, der har specialiseret sig i AI-løsninger i hele Amerika.

Virksomheder kan give for omfattende eller for begrænset adgang til data, programmer og forretningsprocesser, fortalte han Unite AI. Agenter kan få rettigheder, der ikke stemmer overens med de opgaver, de forventes at udføre.

»Udfordringen er at sikre, at en agent arbejder efter princippet om mindst mulige privilegier og kun har adgang til de data, systemer og handlinger, der er nødvendige for en bestemt arbejdsgang,« sagde Quintero. Det betyder, at adgangen kun gives til de data, systemer og handlinger, der er nødvendige for en bestemt arbejdsgang.

Han fremhævede tydeligt dataejerskab, rollebaseret adgangskontrol og løbende overvågning af interaktioner med interne systemer og tredjepartssystemer som afgørende sikkerhedsforanstaltninger.

Der findes ikke noget, der hedder sikker lokal AI, understregede Quintero.

For vidtgående tilladelser, svag kryptering, utilstrækkelig overvågning og usikre integrationer kan gøre en agent, der kører på enheden, lige så risikabel som en cloudbaseret agent – eller endda mere risikabel.

Sikkerhed handler ikke kun om, hvor en modelsystem kører, men også om, hvordan det er konfigureret og administreret.

Den nye grænse går ved tilladelserne

For almindelige brugere er spørgsmålet, om en AI-agents adgang passer til dens opgave.

En agent bør ikke skulle gennemgå et helt drev, hvis den kun bliver bedt om at opsummere ét dokument. Et værktøj til organisering af fotos bør ikke automatisk læse finansielle data eller kunne sende beskeder. Tilladelser skal være stramme, gennemsigtige og kunne tilbagekaldes.

Modellen med agentkonto og arbejdsområde i Microsoft er et skridt i retning af at adskille agentens aktiviteter fra en persons session. Beskyttelsen skal dog fungere effektivt ud over demonstrationsversionen.

Microsofts vejledning om agentsikkerhed i Windows kræver brugergodkendelse, aktivitetslogning og en tilgang, der begrænser agenter til den adgang, de har brug for. Arbejdsgivere og udviklere skal overvåge, hvordan agenter reagerer på vildledende instruktioner i dokumenter, på websteder eller i beskeder.

Under en godkendt opgave kan agenter støde på indhold, der ikke er til at stole på. Hvis en agent opfatter fjendtlig tekst som en kommando, kan det udgøre et alvorligt sikkerhedsproblem, fordi oplysningerne er let tilgængelige.

Menneskelig godkendelse og adgang efter princippet om mindst mulige privilegier skal gå hånd i hånd med afgrænsning af følsomme handlinger.

Bekvemmelighed kræver klare grænser

AI-pc’er vil ikke kun blive vurderet på, hvor meget arbejde agenter kan automatisere, men også på brugerens tillid til at dele personlige og faglige data.

Lokal databehandling kan gøre agentisk AI hurtigere og begrænse visse former for dataeksponering, men fjerner ikke behovet for tilladelser og tilsyn.

Princippet bør være enkelt: Agenter bør kun have adgang til det, der er nødvendigt for opgaven, og brugerne bør kunne forstå, følge og blokere det, en agent gør.

Kontrol må ikke være en eftertanke, efterhånden som computere bliver bedre til at handle på vores vegne. Den skal være indbygget i designet.

Adlin Pertishya er en teknologi- og forretningsreporter, der har arbejdet for Finance Outlook India, Silicon India, StartupBeat og andre.