At gøre AI-agenter troværdige ved design, ikke ved tilfælde

Agentic AI ankommer ikke med fanfare, men sniger sig ind i daglige operationer. Systemer, der tidligere lå inaktive og ventede på menneskelige kommandoer, tager nu initiativet. Denne udvikling sker allerede inden for organisationer, men diskussionen om AI-styring er fastlåst i en tidligere æra. Vores love og organisationsstrukturer var aldrig bygget med autonome, ikke-menneskelige aktører i mente. For virksomheder, der er underlagt GDPR, er dette ikke en teoretisk bekymring, men en live operationel udfordring – og det sker hurtigere, end de fleste overholdelseshold kan håndtere.

Når AI-værktøjer begynder at tale tilbage

Når vi diskuterer styring, er fokus normalt på overholdelse, risikostyring og forebyggelse af skade. Disse er meget vigtige, men de var bygget for en verden, hvor AI var stort set statisk: trænet, testet, udgivet og overvåget på forudsigelige cyklusser.

Med AI-agenter, der indgår i beslutningsprocesser, bliver den centrale udfordring nu mere om adfærd og tillid. Chefer må spørge sig selv, “hvordan sikrer vi, at systemer, der kan handle, også kan tillides?” Tillid er et designvalg, der må tages bevidst, ikke konstrueret gennem overbevisning. Organisationer, der følger GDPR-retningslinjer, forstår, at overholdelse er kritisk og har juridiske konsekvenser.

Three måder agentic AI bryder med i dagens GDPR-antagelser

Da GDPR blev designet, var det ikke skrevet for autonome agenter. Imidlertid er tre af de grundlæggende principper i GDPR – formålsbegrænsning, dataminimering, gennemsigtighed og ansvarlighed – kritiske. Agentic AI påvirker hver på nye måder, og der er tre nøgleområder, der skal behandles.

Den første risiko er, hvordan en AI-agent “tænker igennem” en opgave. I stedet for at køre en fast proces, bryder den arbejdet ned i mange små skridt, ofte kalder den eksterne værktøjer, trækker fra databaser, gætter og håndterer personlige data undervejs. Meget af dette sker uden for synsvidde. At finde ud af, hvilke data der blev brugt, på hvilket trin og af hvilken grund, er svært at gøre i praksis – men det er netop den slags gennemsigtighed og ansvarlighed, GDPR forventer.

Den anden risiko er, hvordan agenter bruger hukommelse. De kan holde personlige data i korttidshukommelse, mens de udfører en opgave, og i langtidshukommelse over mange sessioner. Hvis denne hukommelse ikke adskilles tydeligt, kan information fra en persons interaktion lække ind i en andens. Hvis du ikke pålægger tydelige retentionsbegrænsninger, kan personlige data blive hængende længe efter, de burde være slettet. Under GDPR’s ret til sletning bliver det meget svært at håndtere, når dataene er begravet inde i en agents hukommelse, snarere end at sidde i en database, som dit privatlivshold kan let finde og forespørge.

Den tredje risiko er prompt-injektion – essentielt, tricking agenten. Når en agent læser dokumenter, browser websteder eller behandler indgående meddelelser, kan ondsindet indhold i disse kilder kapre dens adfærd, pushe det til at lække personlige data eller fremkalde handlinger, organisationen aldrig har godkendt. Dette er en kendt angrebsmønster, der er specifik for agentic systemer. Det betyder, at du kan opleve en dataudladning, ikke fordi dine kerne-systemer blev hakket, men fordi din AI-agent stødte på fjendtligt indhold, mens den udførte sin opgave – og under GDPR er du stadig ansvarlig.

At opbygge ægte tillid, ikke kun en venlig interface

Det er vigtigt at forstå, at der er en forskel mellem konstrueret tillid og ægte tillid. Konstrueret tillid kan hjælpe med at overbevise brugere om et nøglepunkt, typisk gennem emotionel spejling, antropomorfiske signaler eller overbevisende design.

Men varig tillid handler om systemer, der opfører sig på måder, som mennesker kan forstå, forudse og vurdere. Agentens begrundelse, begrænsninger og intentioner er legitime. Dette er en forudsætning for GDPR-overholdelsesdesign, hvor gennemsigtighed skal være meningsfuld.

Hvad betyder Trust Stack virkelig?

En strategi for organisationer er at anvende et lagdelt tillidsstack. Dette betyder, at hvert lag gør det klart, hvem der er ansvarlig mellem mennesker og maskiner.

• Klare begrundelsesveje: Agenten skal kunne forklare, hvordan og hvorfor den producerede et resultat – ikke med dyb teknisk detalje, men på en måde, du kan følge og kontrollere. Dette stemmer overens med GDPR’s gennemsigtighedsregler og retten til en forklaring for automatiserede beslutninger under artikel 22.
• Klare begrænsninger på magt: Der skal være faste grænser for, hvad agenten er tilladt at gøre, beslutte eller anbefale. Ingen stille udvidelse af dens frihed over tid. For GDPR-formål betyder dette, at mennesker stadig træffer beslutninger; agenten er et værktøj, ikke kontrolleren.
• Åbne mål: Agentens mål skal være åbent erklæret. Mennesker skal vide, om den optimerer for nøjagtighed, sikkerhed, hastighed eller kommerciel gevinst – og det mål skal være skrevet ned og forstået.
• Lett udfordring og stopknap: Mennesker skal kunne udfordre, korrigere eller slukke for agentens beslutninger uden friktion. En enkel måde at afmelde er essentiel for tillid – og under artikel 22 er det også en juridisk krav.
• Indbygget styring: Logging, kontroller, hukommelseskontrol og tilsyn skal være indbygget i systemet fra dag én, ikke tilføjet senere. Privatliv ved design er ikke valgfrit; det er den underliggende struktur, der gør alt andet arbejde.

At anvende Trust Stack gør autonomi sikker at skala.

Når styring møder virkelighed

Styring handler ikke kun om regler og processer. Det handler også om, hvordan systemer føles for de mennesker, der bruger dem. Mennesker skal føle, at de stadig har kontrol. De skal se, når AI handler, forstå hvorfor det gør det, og vide, hvordan de kan træde ind, når det skal stoppe.

Systemer, der afkrydser overholdelsesboksen, men føles som en sort boks, mister tillid hurtigt. Det kræver meget bevidste designvalg: ingen menneskelignende signaler, der antyder empati eller moralsk dømmekraft, som systemet ikke har; klare signaler, når AI er usikker eller begrænset; og ingen tilpasning af oplevelsen for at skabe emotionel afhængighed.

Lederne skal gå ud over at spørge, “Er vores AI ansvarlig?” En bedre sæt spørgsmål er: “Hvilke adfærder vil dette system gøre normale? Hvilke vil det stille stille mennesker væk fra? Hvordan vil det forme dømmekraft over tid – og er vi parat til at svare for det?”