AI die zich herinnert zonder te veel te delen: privacyarchitectuur voor de volgende generatie persoonlijke diensten

De meeste bedrijven hebben nog niet door dat persoonlijke AI-assistenten een heel nieuw niveau hebben bereikt. Nu geven ze niet alleen antwoord op vragen, maar voeren ze acties uit namens echte medewerkers: ze maken en bewaken reserveringen, corresponderen en nemen beslissingen over financiën, schema’s, reizen en vergaderingen.

De gegevens waarop AI werkt, zijn ook veranderd: van “wat voor soort muziek vind je leuk” naar “waar ben je, met wie ben je, wat heb je overeengekomen en hoeveel betaal je ervoor.” Dit is een kwalitatief ander niveau van kwetsbaarheid, en we hebben absoluut een nieuwe architectuur nodig. Ik noem het “privacybewijzen” – digitale bewijzen die gebruikers toelaten om te zien wat de assistent precies over hen weet, waar het vandaan komt en waarom het wordt gebruikt. Dit is dezelfde verwachting die we vandaag hebben van bankafschriften: transparant, verifieerbaar, beschikbaar op verzoek.

Waarom veilige AI nu kritiek belangrijk is

Tot voor kort waren AI-assistenten voornamelijk informatief: zoekopdrachten, documenten, codehint. Ze konden zelden zonder de betrokkenheid van een persoon handelen.

Vandaag zien we een ander beeld. Assistenten zijn geïntegreerd in e-mail, kalenders, messengers, banken en reisdiensten; ze kunnen onafhankelijk een brief sturen naar een partner, een reservering betalen of een vlucht wijzigen, afhankelijk van de context die de persoon in kwestie misschien niet kent.

Tegelijkertijd zijn de vroegste en meest actieve gebruikers van dergelijke assistenten mensen voor wie de kosten van fouten extreem hoog zijn: topmanagers en CEO’s, HNW-clients, financiële sector- en kapitaalbeheerders. Voor hen is het verlies van privacy een ernstig reputatie-, juridisch en direct financieel risico.

Wanneer het om AI gaat, kunnen privacyproblemen niet langer als een louter formaliteit worden behandeld.

Minimale gegevens, meer waarde

De meeste AI-producten verzamelen veel meer gegevens dan nodig is om echt nuttig te zijn. In onze praktijk vinden we dat het merendeel van de gegevens die door typische AI-assistenten worden verzameld, nooit daadwerkelijk wordt gebruikt om diensten te verlenen. Als we naar de conciërgebranche kijken, zijn drie dingen genoeg voor een assistent om hoogwaardige persoonlijke diensten te verlenen. Ten eerste, taakgerelateerde voorkeuren: hoe je reist, hoe je communiceert, welke beperkingen je hebt in termen van visa, budget en familieverplichtingen.

Ten tweede, de context van de huidige aanvraag: waar, wanneer, met wie, voor welke doeleinden, deadlines en risico’s.

Ten slotte onthoudt het eerdere interacties binnen taken: zodat het niet dezelfde vragen stelt, gekozen oplossingen onthoudt en geen fouten herhaalt.

Dit is genoeg voor het product om te werken op het niveau van een goede persoonlijke assistent. Het heeft geen complete archief van correspondentie, continue locatiebewaking of financiële transacties nodig.

AI-assistenten en aanvaardbare grenzen

Er zijn soorten gegevens die gewoon geen plaats hebben in een persoonlijke assistent. Bijvoorbeeld passieve gedragsgegevens: constant luisteren, continue geolocatie zonder aanvraag, scherm- of invoerbewaking. Als het systeem informatie verzamelt over wat je doet in het algemeen, in plaats van over wat je hebt gevraagd, houdt het op een assistent te zijn en wordt het surveillance.

Ook zijn gegevens over derden die nooit met het systeem hebben geïnteracteerd, niet nodig. Bijvoorbeeld, een aanvraag zoals “help een vergadering organiseren” zou niet moeten leiden tot het recht om profielen van gasten, hun routes en gewoonten te maken.

Ten derde, zou de volledige inhoud van uw communicatie niet standaard in het langetermijngeheugen moeten worden opgeslagen. De assistent kan een specifiek e-mailbericht verwerken als u hem expliciet vraagt, maar dat betekent niet dat hij nu het recht heeft om uw e-mail te lezen.

Nuttig betekent indringend: de valkuil van AI-producten

Extra context maakt het product inderdaad handiger, omdat het systeem meer weet, de aanbevelingen nauwkeuriger zijn, de antwoorden sneller en de wow-factor van het gebruik groter is.

Dit is waar de natuurlijke behoefte ontstaat om kalenders, e-mail, chats, CRM en geodata te verbinden zodat de dienst gebruikersbehoeften kan anticiperen. Elke gebruikersverbinding lijkt redelijk en gerechtvaardigd.

In de conciërgebranche verbetert het verbinden van de klantkalender en reisgeschiedenis de aanbevelingen aanzienlijk – het systeem kan behoeften anticiperen voordat de klant ze uitspreekt. Tegelijkertijd doen sommige diensten er bewust niet aan om communicatie-inhoud buiten actieve taken op te slaan en maken ze geen gedragsprofielen op basis van passieve gegevens.

Het probleem is dat de logica van UX-optimalisatie de architectuur langzaam naar meer gegevensverzameling, langere opslag en bredere toegang verschuift. En op een gegeven moment verdwijnt de grens gewoon.

Het tweede probleem heeft betrekking op toegang voor klantenservice. Je kunt sterke cryptografie bouwen en vervolgens een klantenservice-operator volledige toegang geven tot een klantgeschiedenis voor het kopen van één ticket. In werkelijkheid gebeuren incidenten vaak vanwege ongecontroleerde interne toegang en menselijke fouten, in plaats van externe aanvallen.

Het derde risico betreft multi-agentarchitecturen. Wanneer agenten context doorgeven aan elkaar, beginnen gegevens tussen componenten te stromen op manieren die niet expliciet zijn ontworpen. Als één agent te brede machtigingen heeft, wordt deze context opgepikt door de keten verderop.

Privacybewijzen: de volgende standaard voor AI

Het is een fout om naar privacy te kijken als een compliance-functie. Echte privacy hangt af van wat we opslaan en hoe we het delen voor het beoogde doel, hoe lang en onder welke voorwaarden we het uitbreiden, wie toegang krijgt en onder welke omstandigheden, inclusief mensen en AI-agenten, en hoe gebruikers het controleren.

Helaas hebben de meeste diensten geen eenvoudig antwoord op gebruikersvragen: wat weet het systeem precies over hen, kan het worden gecorrigeerd of verwijderd, kan het gebruik van een specifiek stuk gegevens worden verboden?

Daarom is het belangrijk om privacybewijzen in te voeren wanneer een gebruiker kan vragen aan zijn AI-assistent wat het precies over hen weet, waarom het dat weet en waar deze informatie vandaan komt, en onmiddellijk een duidelijk, verifieerbaar antwoord krijgt. Net zoals we vandaag verwachten van bankafschriften, zullen we binnenkort transparantie verwachten van de systemen die onze tijd, connecties en kapitaal beheren.

De technische basis van veilig geheugen

Privacybewijzen zijn onmogelijk zonder een solide technische basis. Ten minste drie lagen zijn kritiek: ten eerste, gegevensbescherming op infrastructuurniveau. Versleuteling moet een kernprincipe zijn, niet een formaliteit. Gegevens moeten worden opgeslagen met klantspecifieke sleutels, niet met één master-sleutel voor alle, transmissie moet via moderne protocollen gaan en gevoelige kenmerken moeten logisch worden gescheiden van servicemetadata.

Bovendien moet elke dienst, agent en operator alleen toegang hebben tot de gegevens die nodig zijn om een specifieke taak uit te voeren.

Ten slotte zijn onveranderbare toegangslogboeken, auditing van elke toegang en technische controle van opslag- en verwerkinggeografie belangrijk. Reguliere testing van multi-agent scenario’s moet worden beschouwd als een aparte klasse van risico.

Alleen met deze architectuur worden privacybewijzen mogelijk: op deze manier weet het systeem echt wat het weet en kan het dat bewijzen.

Wie zal verliezen en wie zal de standaard worden?

Diensten en producten die geheugen zien als een eenrichtingsaccumulatie, zullen verliezen: minder transparantie voor de gebruiker, maar meer bronnen, meer context en langere opslag.

Dit model lijkt voordelig op korte termijn, maar zonder beperkingen en duidelijke regels, verandert deze logica in ongecontroleerde expansie, omdat gegevens sneller worden verbonden dan mechanismen voor verklaring en controle kunnen worden ingesteld.

Schandalen met betrekking tot gegekslechtschendingen, misbruik van AI-assistenten of onjuiste openbaarmaking van gevoelige informatie zullen alle producten in deze categorie treffen. Gebruikers zullen meer informatie eisen over transparantie, en alleen bedrijven die verklaring, traceerbaarheid en gebruikerscontrole in hun architectuur hebben ingebouwd, zullen in staat zijn om vertrouwen te behouden.

Producten die het systeem ontwerpen rondom een onmiddellijk en verifieerbaar beeld van wat de AI weet en waarom, zullen de standaard worden. Privacy moet vanaf het begin deel uitmaken van het systeem – vooral wanneer het de levens van mensen beïnvloedt.