Il Dilemma dei Dati dell’AI: Privacy, Regolamentazione e il Futuro dell’AI Etica

Le soluzioni basate sull’AI vengono adottate rapidamente in diversi settori, servizi e prodotti ogni giorno. Tuttavia, la loro efficacia dipende interamente dalla qualità dei dati su cui vengono addestrati – un aspetto spesso frainteso o trascurato nel processo di creazione del dataset.

Poiché le autorità di protezione dei dati aumentano la sorveglianza su come le tecnologie AI si allineano con le norme sulla privacy e la protezione dei dati, le aziende affrontano una crescente pressione per reperire, annotare e raffinare i dataset in modi conformi e etici.

Esiste veramente un approccio etico alla costruzione di dataset AI? Quali sono le più grandi sfide etiche delle aziende e come le stanno affrontando? E come i quadri normativi in evoluzione influenzano la disponibilità e l’utilizzo dei dati di addestramento? Esploriamo queste domande.

Privacy dei Dati e AI

Per sua natura, l’AI richiede molti dati personali per eseguire compiti. Ciò ha sollevato preoccupazioni sulla raccolta, conservazione e utilizzo di queste informazioni. Molte leggi in tutto il mondo regolano e limitano l’utilizzo dei dati personali, dalla GDPR e dal nuovo AI Act in Europa al HIPAA negli Stati Uniti, che regola l’accesso ai dati dei pazienti nel settore sanitario.

Riferimento per quanto riguarda la severità delle leggi sulla protezione dei dati in tutto il mondo / DLA Piper

Ad esempio, quattordici stati degli Stati Uniti hanno attualmente leggi sulla privacy dei dati complete, con sei altri che entreranno in vigore nel 2025 e all’inizio del 2026. La nuova amministrazione ha segnalato un cambio di approccio nella sua politica di applicazione della privacy dei dati a livello federale. Un focus chiave è la regolamentazione dell’AI, enfatizzando la promozione dell’innovazione piuttosto che l’imposizione di restrizioni. Questo cambio include l’abrogazione di precedenti ordini esecutivi sull’AI e l’introduzione di nuove direttive per guidare il suo sviluppo e applicazione.

La legislazione sulla protezione dei dati sta evolvendo in vari paesi: in Europa, le leggi sono più severe, mentre in Asia o in Africa tendono a essere meno stringenti.

Tuttavia, le informazioni personali identificative (PII) – come immagini del viso, documenti ufficiali come passaporti o qualsiasi altro dato personale sensibile – sono generalmente limitate nella maggior parte dei paesi in qualche misura. Secondo l’UN Trade & Development, la raccolta, l’utilizzo e la condivisione di informazioni personali con terzi senza notifica o consenso dei consumatori è una preoccupazione maggiore per la maggior parte del mondo. 137 su 194 paesi hanno regolamenti che garantiscono la protezione dei dati e la privacy. Di conseguenza, la maggior parte delle aziende globali prende estreme precauzioni per evitare di utilizzare PII per l’addestramento dei modelli, poiché regolamenti come quelli dell’UE proibiscono severamente tali pratiche, con rare eccezioni trovate in nicchie fortemente regolamentate come l’applicazione della legge.

Nel tempo, le leggi sulla protezione dei dati diventano più complete e applicate a livello globale. Le aziende adattano le loro pratiche per evitare sfide legali e soddisfare le esigenze emergenti di natura legale ed etica.

Quali Metodi Utilizzano le Aziende per Ottenere Dati?

Quindi, quando si studiano le questioni di protezione dei dati per l’addestramento dei modelli, è essenziale capire prima da dove le aziende ottengono questi dati. Ci sono tre fonti principali di dati.

• Raccolta dei dati

Questo metodo consente di raccogliere dati da piattaforme di crowdsourcing, stock di media e dataset open-source.

È importante notare che gli stock di media pubblici sono soggetti a diversi accordi di licenza. Anche una licenza per uso commerciale spesso afferma esplicitamente che il contenuto non può essere utilizzato per l’addestramento dei modelli. Queste aspettative differiscono piattaforma per piattaforma e richiedono alle aziende di confermare la loro capacità di utilizzare il contenuto nei modi in cui hanno bisogno di farlo.

Anche quando le aziende di AI ottengono contenuti in modo legale, possono ancora affrontare alcune questioni. Il rapido avanzamento dell’addestramento dei modelli AI ha superato di gran lunga i quadri normativi, significando che le regole e i regolamenti che circondano i dati di addestramento AI sono ancora in evoluzione. Di conseguenza, le aziende devono rimanere informate sugli sviluppi legali e rivedere attentamente gli accordi di licenza prima di utilizzare contenuti di stock per l’addestramento AI.

• Creazione dei dati

Uno dei metodi più sicuri di preparazione dei dataset consiste nel creare contenuti unici, come filmare persone in ambienti controllati come studi o località all’aperto. Prima di partecipare, gli individui firmano un modulo di consenso per l’utilizzo dei loro PII, specificando quali dati vengono raccolti, come e dove verranno utilizzati e chi avrà accesso ad essi. Ciò garantisce una piena protezione legale e dà alle aziende la fiducia che non affronteranno reclami per utilizzo illegale di dati.

Il principale svantaggio di questo metodo è il suo costo, specialmente quando i dati vengono creati per casi limite o progetti su larga scala. Tuttavia, le grandi aziende e le imprese stanno sempre più utilizzando questo approccio per almeno due motivi. In primo luogo, garantisce la piena conformità con tutti gli standard e le norme legali. In secondo luogo, fornisce alle aziende dati completamente personalizzati per le loro scenari specifici e necessità, garantendo la massima accuratezza nell’addestramento dei modelli.

• Generazione di dati sintetici

Utilizzare strumenti software per creare immagini, testo o video in base a uno scenario dato. Tuttavia, i dati sintetici hanno limitazioni: vengono generati in base a parametri predefiniti e mancano della naturale variabilità dei dati reali.

Questa mancanza può avere un impatto negativo sui modelli AI. Sebbene non sia rilevante per tutti i casi e non accada sempre, è ancora importante ricordare il “collasso del modello” – un punto in cui la dipendenza eccessiva dai dati sintetici causa il degrado del modello, portando a output di bassa qualità.

I dati sintetici possono comunque essere molto efficaci per compiti di base, come il riconoscimento di modelli generali, l’identificazione di oggetti o la distinzione di elementi visivi fondamentali come i volti.

Tuttavia, non è la migliore opzione quando un’azienda ha bisogno di addestrare un modello interamente da zero o di affrontare scenari rari o altamente specifici.

Le situazioni più rivelatrici si verificano in ambienti in cabina, come un guidatore distratto da un bambino, qualcuno che appare stanco al volante o anche istanze di guida spericolata. Questi punti di dati non sono comunemente disponibili in dataset pubblici – né dovrebbero esserlo – poiché coinvolgono individui reali in ambienti privati. Poiché i modelli AI si basano sui dati di addestramento per generare output sintetici, lottano per rappresentare scenari che non hanno mai incontrato in modo accurato.

Quando i dati sintetici falliscono, i dati creati – raccolti attraverso ambienti controllati con attori reali – diventano la soluzione.

I fornitori di soluzioni di dati come Keymakr posizionano le telecamere nelle auto, assumono attori e registrano azioni come prendersi cura di un bambino, bere da una bottiglia o mostrare segni di stanchezza. Gli attori firmano contratti che consentono esplicitamente l’utilizzo dei loro dati per l’addestramento AI, garantendo la conformità con le leggi sulla privacy.

Responsabilità nel Processo di Creazione del Dataset

Ogni partecipante al processo, dal cliente all’azienda di annotazione, ha responsabilità specifiche definite nel loro accordo. Il primo passo è stabilire un contratto, che dettaglia la natura della relazione, inclusi clausole sulla non divulgazione e la proprietà intellettuale.

Consideriamo la prima opzione per lavorare con i dati, ovvero quando vengono creati da zero. I diritti di proprietà intellettuale affermano che tutti i dati creati dal fornitore appartengono all’azienda che assume, significando che vengono creati per suo conto. Ciò significa anche che il fornitore deve assicurarsi che i dati vengano ottenuti in modo legale e appropriato.

Come azienda di soluzioni di dati, Keymakr garantisce la conformità dei dati verificando prima la giurisdizione in cui i dati vengono creati, ottenendo il consenso appropriato da tutti gli individui coinvolti e garantendo che i dati possano essere utilizzati legalmente per l’addestramento AI.

È anche importante notare che una volta che i dati vengono utilizzati per l’addestramento del modello AI, diventa quasi impossibile determinare quali dati specifici hanno contribuito al modello perché l’AI li combina tutti insieme. Quindi, il output specifico non tende a essere il suo output, specialmente quando si discutono milioni di immagini.

A causa del suo rapido sviluppo, questa area stabilisce ancora linee guida chiare per la distribuzione delle responsabilità. Ciò è simile alle complessità che circondano le auto a guida autonoma, dove le domande sulla responsabilità – se sia il guidatore, il produttore o l’azienda di software – richiedono ancora una chiara distribuzione.

In altri casi, quando un fornitore di annotazione riceve un dataset per l’annotazione, si assume che il cliente abbia ottenuto i dati in modo legale. Se ci sono chiari segni che i dati siano stati ottenuti illegalmente, il fornitore deve segnalarlo. Tuttavia, tali casi evidenti sono estremamente rari.

È anche importante notare che le grandi aziende, le corporation e i marchi che valorizzano la loro reputazione sono molto cauti su dove reperiscono i loro dati, anche se non sono stati creati da zero ma presi da altre fonti legali.

In sintesi, la responsabilità di ogni partecipante nel processo di lavoro con i dati dipende dall’accordo. Potresti considerare questo processo come parte di una più ampia “catena di sostenibilità”, in cui ogni partecipante ha un ruolo cruciale nel mantenimento degli standard legali ed etici.

Quali Malintesi Esistono Sulla Parte Posteriore dello Sviluppo dell’AI?

Un grande malinteso sullo sviluppo dell’AI è che i modelli AI funzionano in modo simile ai motori di ricerca, raccogliendo e aggregando informazioni per presentarle agli utenti in base alle conoscenze apprese. Tuttavia, i modelli AI, specialmente i modelli linguistici, funzionano spesso in base a probabilità piuttosto che a una vera comprensione. Prevedono parole o termini in base alla probabilità statistica, utilizzando modelli visti in dati precedenti. L’AI non “sa” nulla; si basa su estrapolazioni, ipotesi e aggiustamenti di probabilità.

Inoltre, molti suppongono che l’addestramento dell’AI richieda enormi dataset, ma gran parte di ciò che l’AI deve riconoscere – come cani, gatti o esseri umani – è già ben stabilito. L’attenzione si concentra ora sull’miglioramento dell’accuratezza e sulla raffinazione dei modelli piuttosto che sulla reinvenzione delle capacità di riconoscimento. Gran parte dello sviluppo dell’AI oggi ruota attorno alla chiusura delle ultime piccole lacune nell’accuratezza piuttosto che partire da zero.

Sfide Etiche e Come l’Atto AI dell’Unione Europea e la Mitigazione delle Regolamentazioni degli Stati Uniti Impatteranno sul Mercato Globale dell’AI

Quando si discute dell’etica e della legalità del lavoro con i dati, è anche importante capire chiaramente cosa definisce “etico” AI.

La più grande sfida etica che le aziende affrontano oggi nell’AI è determinare cosa è considerato inaccettabile per l’AI fare o essere insegnato. C’è un ampio consenso che l’AI etico dovrebbe aiutare piuttosto che nuocere agli esseri umani e evitare l’inganno. Tuttavia, i sistemi AI possono fare errori o “allucinare”, il che sfida la determinazione se questi errori si qualificano come disinformazione o danno.

L’etica dell’AI è un grande dibattito con organizzazioni come l’UNESCO che si stanno coinvolgendo – con principi chiave che circondano verificabilità e tracciabilità degli output.

I quadri normativi che circondano l’accesso ai dati e l’addestramento AI svolgono un ruolo significativo nella definizione del paesaggio etico dell’AI. I paesi con meno restrizioni sull’utilizzo dei dati consentono un accesso più facile ai dati di addestramento, mentre le nazioni con leggi più severe sui dati limitano la disponibilità dei dati per l’addestramento AI.

Ad esempio, l’Europa, che ha adottato l’Atto AI, e gli Stati Uniti, che hanno revocato molte regolamentazioni AI, offrono approcci contrastanti che indicano il paesaggio globale attuale.

L’Atto AI dell’Unione Europea sta avendo un impatto significativo sulle aziende che operano in Europa. Impone un rigoroso quadro normativo, rendendo difficile per le aziende utilizzare o sviluppare determinati modelli AI. Le aziende devono ottenere licenze specifiche per lavorare con determinate tecnologie e, in molti casi, le regolamentazioni rendono effettivamente troppo difficile per le piccole aziende rispettare queste regole.

Di conseguenza, alcune startup potrebbero scegliere di lasciare l’Europa o evitare di operarvi del tutto, simile all’impatto visto con le regolamentazioni delle criptovalute. Le grandi aziende che possono permettersi gli investimenti necessari per soddisfare i requisiti di conformità potrebbero adattarsi. Tuttavia, l’Atto potrebbe spingere l’innovazione AI fuori dall’Europa a favore di mercati come gli Stati Uniti o Israele, dove le regolamentazioni sono meno stringenti.

La decisione degli Stati Uniti di investire grandi risorse nello sviluppo dell’AI con meno restrizioni potrebbe anche avere svantaggi, ma invitare più diversità nel mercato. Mentre l’Unione Europea si concentra sulla sicurezza e sulla conformità normativa, gli Stati Uniti probabilmente favoriranno più rischi e sperimentazioni all’avanguardia.