Opinie

AI verhuist naar onze pc’s — maar wie bepaalt wat AI kan zien?

Adlin Pertishya
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenLokale AI-verwerking garandeert niet automatisch privacy of veiligheid voor agents op…
Meer weergeven
  • Lokale AI-verwerking garandeert niet automatisch privacy of veiligheid voor agents op het apparaat.
  • Agents moeten werken met minimale rechten, beperkt tot wat elke specifieke workflow vereist.
  • Gebruikers hebben transparante en intrekbare controle nodig over wat agents kunnen zien en doen.

AI-agenten beginnen hun intrede te doen buiten chatvensters, in de besturingssystemen, toepassingen en bestanden die mensen dagelijks gebruiken.

Nieuwe Windows-pc’s en software die de afgelopen maanden zijn uitgebracht, luiden een nieuw tijdperk in van autonome AI-workflows met meerdere stappen voor gewone gebruikers en binnen bedrijfsomgevingen. Deze overgang is niet langer slechts een technologische voorspelling.

NVIDIA’s Windows-pc’s met RTX-technologie ondersteunen AI-agenten die lokaal draaien. Perplexity heeft de mogelijkheden van zijn agents bovendien uitgebreid naar compatibele Windows-computers, waardoor workflows met lokale bestanden en gekoppelde toepassingen mogelijk worden. Microsoft ontwikkelt ondertussen beveiligingsmaatregelen om te bepalen hoe agents toegang krijgen tot bronnen en acties uitvoeren.

Meer autonomie brengt echter grotere veiligheidsrisico’s met zich mee. Op 19 oktober waarschuwde Hayete Gallot, Executive Vice President of Security bij Microsoft, dat organisaties meer moeten doen om ‘agentische insiders’ te beveiligen. Ze merkte daarbij op dat AI-agenten vaak te ruime bevoegdheden hebben en toegang kunnen krijgen tot gevoelige gegevens, tools en systemen terwijl ze beslissingen nemen in kritieke processen.

Microsofts beveiligingsstrategie voor Windows is gebaseerd op afscherming, beperkte machtigingen en beperkt toezicht, en op de groeiende bezorgdheid dat een fout van een agent gevolgen kan hebben die verder reiken dan een simpel verkeerd antwoord. Een agent kan gevoelige informatie blootleggen, kritieke bestanden wijzigen of ongewenste handelingen uitvoeren binnen zakelijke toepassingen.

Lokale AI is niet automatisch privé-AI

AI-agenten op een pc gebruiken kan helpen de hoeveelheid gevoelige gegevens die naar clouddiensten wordt verstuurd te beperken, maar lokale verwerking biedt geen volledige garantie op veiligheid.

Zelfs een model dat op het apparaat draait, kan nog steeds toegang krijgen tot te veel bestanden, slecht beveiligd zijn of onveilige verbindingen met andere apps hebben.

Het probleem ligt niet altijd bij het AI-model; vaak gaat het om het organisatorische beheer, aldus Bayron Quintero, CEO en medeoprichter van iData Global, een bedrijf dat gespecialiseerd is in AI-oplossingen in heel Noord- en Zuid-Amerika.

Bedrijven kunnen te ruime of juist te beperkte toegang geven tot gegevens, toepassingen en bedrijfsprocessen, vertelde hij aan Unite AI. Agents kunnen rechten krijgen die niet overeenkomen met wat er van hen wordt verwacht.

‘De uitdaging is ervoor te zorgen dat een agent werkt volgens het principe van minimale bevoegdheden, met alleen toegang tot de gegevens, systemen en handelingen die nodig zijn voor een bepaalde workflow’, zei Quintero. Dat betekent dat alleen toegang wordt verleend tot de gegevens, systemen en handelingen die voor een specifieke workflow nodig zijn.

Hij noemde duidelijk eigenaarschap van gegevens, rolgebaseerde toegangscontroles en voortdurende bewaking van interacties met interne systemen en systemen van derden als essentiële beveiligingsmaatregelen.

Veilige lokale AI bestaat niet, benadrukte Quintero.

Overmatige machtigingen, zwakke versleuteling, onvoldoende toezicht en onveilige integraties kunnen een agent die op het apparaat draait even riskant maken als een cloudagent — of zelfs riskanter.

Beveiliging gaat niet alleen over waar het model van een systeem draait, maar ook over hoe het is geconfigureerd en wordt beheerd.

De nieuwe grens is toestemming

Voor gewone gebruikers is de vraag of de toegang van een AI-agent past bij de taak die deze moet uitvoeren.

Een agent hoeft niet een hele schijf te doorzoeken als hem alleen wordt gevraagd één document samen te vatten. Een tool om foto’s te ordenen hoort niet automatisch financiële gegevens te lezen of berichten te kunnen versturen. Machtigingen moeten strikt, transparant en intrekbaar zijn.

Het model met agentaccounts en werkruimten van Microsoft is een stap in de richting van het scheiden van de activiteiten van een agent van de sessie van een gebruiker. De beveiligingsmaatregelen moeten echter ook buiten demonstraties effectief zijn.

Microsofts richtlijnen voor de beveiliging van Windows-agents schrijven gebruikersautorisatie, activiteitenlogboeken en een mechanisme voor dat agents beperkt tot de toegang die ze nodig hebben. Werkgevers en ontwikkelaars moeten in de gaten houden hoe agents reageren op misleidende instructies in documenten, websites of berichten.

Tijdens een geautoriseerde taak kunnen agents onbetrouwbare inhoud tegenkomen. Als een agent vijandige tekst als een opdracht ziet, kan dat een groot beveiligingsprobleem opleveren, omdat de informatie gemakkelijk toegankelijk is.

Menselijke goedkeuring en toegang op basis van minimale bevoegdheden moeten bij gevoelige handelingen samengaan met afscherming.

Gemak vraagt om duidelijke grenzen

De kwaliteit van de AI-pc wordt niet alleen beoordeeld op de hoeveelheid werk die agents kunnen automatiseren, maar ook op het vertrouwen dat gebruikers hebben om persoonlijke en professionele gegevens te delen.

Hoewel lokale verwerking de agentische AI sneller kan maken en bepaalde blootstelling van gegevens kan beperken, neemt dit de behoefte aan machtigingen en toezicht niet weg.

Het principe moet eenvoudig zijn: agents krijgen alleen toegang tot wat nodig is voor hun taak, en gebruikers moeten kunnen begrijpen, volgen en blokkeren wat een agent doet.

Naarmate computers steeds beter in staat zijn om namens ons te handelen, mag controle geen bijzaak zijn. Die moet in het ontwerp zijn ingebouwd.

Adlin Pertishya is een technologie- en bedrijfsjournalist die heeft gewerkt voor Finance Outlook India, Silicon India, StartupBeat en anderen.