Cosa l’Atto sull’IA dell’UE non dice ai fondatori sui dati di formazione

L’articolo 50 dell’Atto sull’IA dell’UE richiede che un sistema di intelligenza artificiale divulghi che una persona sta parlando con una macchina. Non dice nulla su cosa succede a quella conversazione una volta che la divulgazione è stata fatta.

I fondatori che costruiscono prodotti su un modello di base si concentrano sull’accuratezza e sul prezzo. La questione di cosa succede ai dati degli utenti una volta che lasciano il loro prodotto e vengono elaborati da un modello di terze parti raramente viene sollevata durante la selezione del fornitore.

La regola è diventata applicabile il 2 agosto 2026, e le multe per la non conformità possono arrivare fino a 15 milioni di euro o il 3% del fatturato annuo globale, a seconda di quale sia più alto. La conservazione e la formazione sono completamente al di fuori del suo ambito. Se la tua applicazione invia le conversazioni degli utenti a un modello di terze parti, le pratiche di dati di quel fornitore diventano parte del tuo prodotto, anche se non lo hai inteso.

Il default dell’industria è la formazione, non la richiesta

I ricercatori dell’Istituto per l’intelligenza artificiale umano-centrica di Stanford hanno esaminato le politiche di privacy di sei importanti sviluppatori di intelligenza artificiale statunitensi, tra cui Amazon, Anthropic, Google, Meta, Microsoft e OpenAI, e hanno scoperto che ognuno di loro utilizzava i dati delle conversazioni dei clienti per default per formare i loro modelli, con alcuni che conservavano quei dati indefinitamente. La ricercatrice principale Jennifer King è stata diretta quando le è stato chiesto se gli utenti dei sistemi di chat di intelligenza artificiale dovrebbero preoccuparsi della loro privacy, rispondendo “assolutamente sì”. La formazione dovrebbe quindi essere trattata come l’ipotesi di default a meno che la documentazione del fornitore non dica diversamente. I dettagli, tuttavia, variano da un fornitore all’altro e meritano un’attenzione ravvicinata prima di impegnarsi con una piattaforma.

Un tempo elogiato per il suo approccio consapevole della privacy, Anthropic ha modificato i suoi termini per i consumatori in modo che le conversazioni con Claude siano ora utilizzate per la formazione per default, con gli utenti in grado di rinunciare. Ciò illustra come rapidamente una politica di formazione di un fornitore possa cambiare, anche quando la privacy faceva parte della sua presentazione originale.

In altri modelli, la rinuncia non funziona completamente. Google conserva le conversazioni di Gemini esaminate da annotatori umani per fino a tre anni, e la disattivazione dell’impostazione dell’attività di Gemini non annulla ciò. Una volta che una conversazione è stata segnalata per la revisione umana, rimane nei sistemi di Google su una traccia di conservazione separata, indipendentemente da cosa faccia l’utente in seguito.

Character.AI si è formata sui dati delle conversazioni degli utenti per default e ha offerto una rinuncia solo agli utenti dell’EEA e del Regno Unito, il che la colloca all’estremità permissiva delle pratiche di dati trattate qui. A parte ciò, l’azienda ha affrontato sfide legali e di reputazione. A gennaio 2026, Character.AI e Google hanno raggiunto un accordo di principio per risolvere un gruppo di cause legali che affermavano danni derivanti dalle interazioni del chatbot della piattaforma con minori, non legati alla sua politica di formazione dei dati. Google è stato nominato come coimputato a causa dei suoi legami con i fondatori di Character.AI, e sebbene non sia stata ammessa alcuna responsabilità e i termini non siano stati resi noti, il caso mostra che l’esposizione legale legata a un fornitore di intelligenza artificiale può raggiungere le aziende che lo sostengono.

Le finestre di conservazione, i trigger di revisione umana e l’accesso dei subcontractor raramente appaiono al di fuori del fine stampato di una politica di privacy. Le aziende che integrano questi API devono spesso indagare a fondo per scoprire quanto a lungo i dati degli utenti rimangono in revisione o chi altro può vederli. Quasi nessuno di quei dettagli raggiunge mai gli utenti finali, il che significa che un’azienda può ereditare le pratiche di dati di un fornitore e passare la stessa esposizione senza che nessuna delle due parti si renda conto che è successo.

Perché questo è un problema per i fondatori e non solo una discussione sulle politiche

Se il tuo prodotto invia le conversazioni degli utenti a un modello di base con la formazione abilitata per default, hai accettato una politica di dati per conto degli utenti senza dirglielo, anche se non lo hai inteso. L’accesso di terze parti amplia ulteriormente quell’esposizione. I fornitori di modelli regolarmente esternalizzano l’annotazione dei dati e la revisione della sicurezza a subcontractor. A maggio 2026, il procuratore generale del Texas Ken Paxton ha avviato un’indagine su Meta’s AI glasses dopo che gli annotatori di dati di un subcontractor con sede in Kenya chiamato Sama hanno riferito di poter accedere a footage di momenti privati degli utenti, comprese le visite al bagno. Meta ha contestato che ciò riflettesse l’intero quadro delle sue pratiche, e l’indagine è in corso. Sebbene l’esempio coinvolga fotocamere indossabili, lo stesso problema può applicarsi all’intelligenza artificiale conversazionale. Una promessa che un’azienda non vende i tuoi dati non dice nulla su chi altro possa leggerli internamente prima che raggiungano una pipeline di formazione.

Cosa controllare prima di scegliere un fornitore

Prima di collegare un modello di base a dati degli utenti reali, ci sono diverse domande che ogni fondatore dovrebbe rispondere.

L’accordo di elaborazione dei dati è un posto dove iniziare. Quell’accordo è il documento che regola come vengono gestiti i dati degli utenti, e vale la pena leggerlo per intero.

Il contratto stesso merita altrettanta attenzione. I fornitori spesso offrono termini di formazione più severi sui contratti aziendali o API rispetto ai prodotti di chat per i consumatori, quindi conferma per iscritto quali termini si applicano alla tua integrazione specifica. Molte aziende spesso fanno l’errata supposizione che il linguaggio di privacy di livello aziendale le copra automaticamente.

Le disposizioni di rinuncia sono anche degne di essere esaminate. Le impostazioni di Gemini di Google illustrano il perché, poiché in quel modello la disattivazione della tracciabilità dell’attività non ferma la revisione umana. Un fornitore dovrebbe essere in grado di dire chiaramente se una rinuncia ferma la formazione, la revisione umana o entrambe.

Infine, mappa dove vanno i dati a valle del fornitore. L’annotazione e la revisione della sicurezza vengono spesso esternalizzate, e le promesse di privacy di un fornitore non si estendono automaticamente a ogni subcontractor in quella catena.

Nessuna di queste domande dovrebbe essere trattata come un esercizio una tantum. I termini del fornitore possono cambiare, a volte rapidamente, e il fornitore con cui hai firmato l’anno scorso potrebbe non operare secondo le stesse regole oggi.

Il mercato può stabilire uno standard che la regolamentazione non ha ancora raggiunto

L’articolo 50 è improbabile essere l’ultima parola sull’intelligenza artificiale della governance dei dati dell’UE, e i fondatori non dovrebbero aspettare il prossimo round di regolamentazione per colmare il divario che ha lasciato. Le aziende possono anticipare quel divario ora costruendo un opt-in esplicito e visibile per la formazione sui dati degli utenti. C’è una linea reale tra il miglioramento di un modello e il silenzioso sfruttamento della fiducia degli utenti. Molti servizi di intelligenza artificiale continuano a superare quella linea utilizzando le conversazioni per la formazione senza mai chiedere il consenso esplicito e informato. I fondatori che tracciano quella linea per se stessi ora non dovranno adattare la conformità in seguito.

È una mossa con precedenti. Le app di messaggistica crittografate e i gestori di password non hanno aspettato i regolatori per rendere gli standard predefiniti forti. Hanno fatto quelle scelte da soli e le hanno trasformate in una posizione di mercato. I prodotti di intelligenza artificiale hanno la stessa opportunità. I fondatori che tracciano quella linea prima che diventi obbligatoria saranno quelli di cui ci si potrà fidare per la prossima conversazione sensibile che gli utenti avranno.