Mening
KI flytter inn på PC-ene våre – men hvem bestemmer hva den får se?

Viktige punkterLokal AI-behandling garanterer ikke automatisk personvern eller sikkerhet for agenter…
Vis mer
- Lokal AI-behandling garanterer ikke automatisk personvern eller sikkerhet for agenter på enheten.
- Agenter må operere med minst mulig privilegium begrenset til det hver spesifikke arbeidsflyt krever.
- Brukere trenger transparent og tilbakekallbar kontroll over hva agenter kan se og gjøre.
KI-agenter er i ferd med å bevege seg ut av chattevinduene og inn i operativsystemene, programmene og filene folk bruker hver dag.
Nye Windows-PC-er og programvare som er lansert de siste månedene, baner vei for en ny æra med autonome KI-arbeidsflyter i flere trinn for vanlige brukere og i bedriftsmiljøer. Denne overgangen er ikke lenger bare en teknologisk framtidsvisjon.
NVIDIAs Windows-PC-er med RTX støtter KI-agenter som kjører lokalt, mens Perplexity har utvidet agentfunksjonene sine til kompatible Windows-datamaskiner. Dette gjør det mulig å bruke arbeidsflyter som involverer lokale filer og tilkoblede programmer. Samtidig utvikler Microsoft sikkerhetstiltak for å kontrollere hvordan agenter får tilgang til ressurser og utfører handlinger.
Men større grad av autonomi innebærer større sikkerhetsrisiko. 19. oktober advarte Hayete Gallot, Microsofts konserndirektør for sikkerhet, om at organisasjoner må gjøre mer for å beskytte «agenter blant de ansatte». Hun påpekte at KI-agenter ofte har for vidtrekkende tilgang og kan få tilgang til sensitive data, verktøy og systemer samtidig som de tar beslutninger i kritiske prosesser.
Microsofts sikkerhetsstrategi for Windows bygger på inneslutning, begrensede tillatelser og begrenset tilsyn, samtidig som bekymringen øker for at en feil fra en agent kan få konsekvenser utover et enkelt feilaktig svar. Den kan avsløre sensitiv informasjon, endre kritiske filer eller utføre uønskede handlinger i bedriftsprogrammer.
Lokal KI betyr ikke automatisk privat KI
Bruk av KI-agenter på en PC kan bidra til å redusere mengden sensitive data som overføres til skybaserte tjenester, men lokal behandling er ingen fullgod sikkerhetsgaranti.
Selv en modell som kjører på enheten, kan få tilgang til for mange filer, ha dårlig sikkerhet eller være koblet til andre apper på en utrygg måte.
«Problemet ligger ikke alltid i KI-modellen, men ofte i hvordan organisasjonen styrer bruken av den», sa Bayron Quintero, administrerende direktør og medgrunnlegger av iData Global, et selskap som spesialiserer seg på KI-løsninger i hele Amerika.
Selskaper kan gi for mye eller for lite tilgang til data, programmer og forretningsprosesser, sa han til Unite AI. Agenter kan få rettigheter som ikke samsvarer med oppgavene de forventes å utføre.
«Utfordringen er å sikre at en agent følger prinsippet om minste privilegium, med tilgang bare til dataene, systemene og handlingene som kreves for en bestemt arbeidsflyt», sa Quintero. Det betyr at agenten bare får tilgang til dataene, systemene og handlingene som er nødvendige for en bestemt arbeidsflyt.
Han pekte på tydelig eierskap til data, rollebasert tilgangskontroll og kontinuerlig overvåking av samhandling med interne systemer og tredjepartssystemer som viktige sikkerhetstiltak.
Det finnes ikke noe slikt som sikker lokal KI, understreket Quintero.
For omfattende tillatelser, svak kryptering, utilstrekkelig overvåking og usikre integrasjoner kan gjøre en agent på enheten like risikabel som en skybasert agent – eller enda mer risikabel.
Sikkerhet handler ikke bare om hvor modellen i et system kjører, men også om hvordan systemet er konfigurert og administrert.
Den nye grensen går ved tillatelser
For vanlige brukere er spørsmålet om KI-agenten har tilgang som står i forhold til oppgaven den skal utføre.
En agent bør ikke trenge å skanne en hel disk hvis den bare blir bedt om å oppsummere ett dokument. Et verktøy for å organisere bilder bør ikke automatisk lese økonomiske data eller kunne sende meldinger. Tillatelsene må være strengt avgrenset, tydelige og mulige å trekke tilbake.
Modellen med agentkonto og arbeidsområde i Microsoft er et skritt mot å skille agentens aktivitet fra en persons økt. Sikkerhetstiltakene må imidlertid fungere også utenfor demonstrasjoner.
Microsofts veiledning om agentsikkerhet i Windows krever brukergodkjenning, aktivitetslogger og en mekanisme som begrenser agentene til tilgangen de trenger. Arbeidsgivere og utviklere må følge med på hvordan agentene reagerer på villedende instruksjoner i dokumenter, på nettsteder eller i meldinger.
Under en autorisert oppgave kan agenter støte på innhold man ikke kan stole på. Hvis en agent oppfatter fiendtlig tekst som en kommando, kan det utgjøre et alvorlig sikkerhetsproblem fordi informasjonen er lett tilgjengelig.
Menneskelig godkjenning og tilgang etter prinsippet om minste privilegium må kombineres med inneslutning når det gjelder sensitive handlinger.
Bekvemmelighet krever tydelige grenser
KI-PC-en vil ikke bare bli vurdert ut fra hvor mye arbeid agentene kan automatisere, men også ut fra hvor trygge brukerne føler seg når de deler personlige og profesjonelle data.
Lokal behandling kan gjøre den agentbaserte KI-en raskere og begrense eksponeringen av enkelte data, men den fjerner ikke behovet for tillatelser og tilsyn.
Prinsippet bør være enkelt: Agenter skal bare ha tilgang til det som er nødvendig for oppgaven, og brukerne skal kunne forstå, følge med på og blokkere det en agent gjør.
Etter hvert som datamaskiner blir bedre i stand til å handle på våre vegne, må kontroll ikke være noe man tenker på i etterkant. Den må være innebygd i utformingen.












