Intelligenza Artificiale che Ricorda senza Condividere Eccessivamente: Architettura della Privacy per la Prossima Generazione di Servizi Personalizzati

La maggior parte delle aziende non ha ancora capito che gli assistenti personali di intelligenza artificiale hanno raggiunto un nuovo livello. Ora non rispondono solo alle domande, ma eseguono azioni per conto di dipendenti reali: effettuano e monitorano prenotazioni, corrispondono e prendono decisioni riguardanti finanze, orari, viaggi e riunioni.

I dati su cui opera l’intelligenza artificiale sono cambiati: da “che tipo di musica ti piace” a “dove sei, con chi sei, cosa hai concordato e quanto stai pagando per esso”. Questo è un livello qualitativamente diverso di vulnerabilità e abbiamo assolutamente bisogno di una nuova architettura. La chiamo “ricevute di privacy” – ricevute digitali che consentono agli utenti di vedere in qualsiasi momento esattamente cosa sa l’assistente su di loro, da dove proviene e perché viene utilizzato. Questa è la stessa aspettativa che abbiamo oggi per gli estratti conto bancari: trasparenti, verificabili, disponibili su richiesta.

Perché l’intelligenza artificiale sicura è diventata criticamente importante adesso

Fino a tempi recenti, gli assistenti di intelligenza artificiale erano principalmente informativi: ricerca, riassunti di documenti, suggerimenti di codice. Raramente potevano agire senza il coinvolgimento di una persona che controllava il processo.

Oggi, vediamo un quadro diverso. Gli assistenti sono integrati in email, calendari, messaggerie, servizi bancari e di viaggio; possono inviare indipendentemente una lettera a un partner, pagare per una prenotazione o cambiare un volo, basandosi su un contesto che la persona responsabile potrebbe non essere a conoscenza.

Allo stesso tempo, i primi e più attivi utenti di tali assistenti sono persone per cui il costo degli errori è estremamente alto: dirigenti e amministratori delegati, clienti ad alto valore, professionisti del settore finanziario e della gestione del capitale. Per loro, la perdita di privacy è un rischio serio per la reputazione, legale e diretto finanziario.

Quando si tratta di intelligenza artificiale, le questioni di privacy non possono più essere trattate come una mera formalità.

Dati minimi, più valore

La maggior parte dei prodotti di intelligenza artificiale raccoglie molti più dati di quanto necessario per essere veramente utili. Nella nostra pratica, scopriamo che la stragrande maggioranza dei dati raccolti dagli assistenti di intelligenza artificiale tipici non viene effettivamente utilizzata per fornire servizi. Se prendiamo il settore del concierge, tre cose sono sufficienti per un assistente per fornire un servizio personalizzato di alta qualità. In primo luogo, preferenze relative al compito: come viaggi, come preferisci comunicare, quali sono le tue restrizioni in termini di visti, budget e obblighi familiari.

In secondo luogo, il contesto della richiesta corrente: dove, quando, con chi, per quali scopi, scadenze e rischi.

Infine, ricorda le interazioni passate all’interno dei compiti: quindi non chiede le stesse domande, ricorda le soluzioni scelte e non ripete errori.

Questo è sufficiente per il prodotto per funzionare al livello di un buon assistente personale. Non ha bisogno di un archivio completo di corrispondenza, di un monitoraggio costante della posizione o di transazioni finanziarie.

Assistenti di intelligenza artificiale e limiti accettabili

Ci sono tipi di dati che semplicemente non hanno posto in un assistente personale. Ad esempio, dati comportamentali passivi: ascolto costante, geolocalizzazione continua senza richiesta, monitoraggio dello schermo o dell’input. Se il sistema raccoglie informazioni non su ciò che hai chiesto, ma su ciò che stai facendo in generale, cessa di essere un assistente e diventa sorveglianza.

Inoltre, i dati su terze parti che non hanno mai interagito con il sistema non sono necessari. Ad esempio, una richiesta come “aiuta a organizzare una riunione” non dovrebbe trasformarsi nel diritto di creare profili dei partecipanti, delle loro rotte e abitudini.

Infine, il contenuto completo delle tue comunicazioni non dovrebbe essere memorizzato nella memoria a lungo termine per impostazione predefinita. L’assistente può elaborare un’email specifica se glielo chiedi esplicitamente, ma ciò non significa che ora ha il diritto di leggere la tua email.

Utile significa invasivo: la trappola dei prodotti di intelligenza artificiale

Il contesto aggiuntivo rende effettivamente il prodotto più conveniente, perché più il sistema sa, più precisi sono i suggerimenti, più veloci sono le risposte e più grande è l’effetto wow nell’usarlo.

Questo è dove sorge la necessità naturale di collegare calendari, email, chat, CRM e geodati in modo che il servizio possa anticipare le esigenze dell’utente. Ogni connessione dell’utente sembra ragionevole e giustificata.

Nel settore del concierge, collegare il calendario e la storia di viaggio del cliente migliora significativamente i suggerimenti – il sistema può anticipare le esigenze anche prima che il cliente le esprima. Allo stesso tempo, alcuni servizi non memorizzano il contenuto della comunicazione al di fuori dei compiti attivi e non creano profili comportamentali basati su dati passivi.

Il problema è che la logica dell’ottimizzazione dell’esperienza utente sta gradualmente spostando l’architettura verso una maggiore raccolta di dati, una memorizzazione più lunga e un accesso più ampio. E a un certo punto, la linea semplicemente scompare.

Il secondo problema riguarda l’accesso per il supporto clienti. Puoi costruire una crittografia robusta e poi dare a un operatore di supporto clienti l’accesso completo alla storia di un cliente per il solo scopo di, ad esempio, acquistare un biglietto. Nella realtà, gli incidenti spesso si verificano a causa di accessi interni non controllati e errori umani, piuttosto che attacchi esterni.

Il terzo rischio riguarda le architetture multi-agente. Quando gli agenti passano il contesto gli uni agli altri, i dati iniziano a fluire tra componenti in modi che non sono stati esplicitamente progettati. Se un agente ha autorizzazioni troppo ampie, questo contesto viene raccolto dalla catena successiva.

Ricevute di privacy: il nuovo standard per l’intelligenza artificiale

È un errore considerare la privacy come una funzione di conformità. La vera privacy dipende da cosa memorizziamo e come la condividiamo per il suo scopo previsto, come la estendiamo, a chi diamo accesso e in quali circostanze, inclusi persone e agenti di intelligenza artificiale, e come gli utenti la controllano.

Purtroppo, la maggior parte dei servizi non ha una risposta semplice alle domande degli utenti: cosa esattamente sa il sistema su di loro, può essere corretto o cancellato, può essere proibito l’uso di un pezzo specifico di dati?

Pertanto, è importante introdurre le ricevute di privacy quando un utente può chiedere al suo assistente di intelligenza artificiale cosa esattamente sa su di lui, perché lo sa e da dove proviene questa informazione, e ricevere immediatamente una risposta chiara e verificabile. Come ci aspettiamo dagli estratti conto bancari, ci aspettiamo presto la trasparenza dai sistemi che gestiscono il nostro tempo, le nostre connessioni e il nostro capitale.

La base tecnica della memoria sicura

Le ricevute di privacy sono impossibili senza una solida base ingegneristica. Almeno tre livelli sono critici: in primo luogo, la protezione dei dati a livello di infrastruttura. La crittografia dovrebbe essere un principio fondamentale, non una formalità. I dati dovrebbero essere memorizzati con chiavi specifiche del cliente, non con una chiave master unica per tutti, la trasmissione dovrebbe avvenire tramite protocolli moderni e gli attributi sensibili dovrebbero essere logicamente separati dai metadati del servizio.

Inoltre, ogni servizio, agente e operatore dovrebbe avere accesso solo ai dati necessari per eseguire un compito specifico.

Infine, i registri di accesso a prova di manomissione, la verifica di ogni accesso e il controllo tecnico della geografia di memorizzazione e elaborazione sono importanti. La prova regolare di scenari multi-agente dovrebbe essere considerata una classe di rischio separata.

Solo con questa architettura le ricevute di privacy diventano possibili: in questo modo, il sistema sa veramente cosa sa e può provarlo.

Chi perderà e chi diventerà lo standard?

I servizi e i prodotti che percepiscono la memoria come un’accumulazione a senso unico perderanno: meno trasparenza per l’utente, ma più fonti, più contesto e memorizzazione più lunga.

Questo modello sembra vantaggioso nel breve termine, ma senza restrizioni e regole chiare, questa logica si trasforma in un’espansione incontrollata, poiché i dati vengono collegati più velocemente di quanto i meccanismi di spiegazione e controllo possano essere messi in atto.

Gli scandali che coinvolgono fughe di dati, uso improprio degli assistenti di intelligenza artificiale o divulgazione errata di informazioni sensibili colpiranno tutti i prodotti di questa categoria. Gli utenti chiederanno più informazioni sulla trasparenza e solo le aziende che hanno costruito spiegabilità, tracciabilità e controllo dell’utente nella loro architettura in anticipo saranno in grado di mantenere la fiducia.

I prodotti che progettano il sistema intorno a un’immagine istantanea e verificabile di cosa sa l’intelligenza artificiale e perché diventeranno lo standard. La privacy deve fare parte del sistema fin dall’inizio – soprattutto quando impatta la vita delle persone.