Come il Bias Ucciderà la Tua Strategia di Intelligenza Artificiale/Macchina e Cosa Fare Al Riguardo

‘Bias’ nei modelli di qualsiasi tipo descrive una situazione in cui il modello risponde in modo inaccurato a prompt o dati di input perché non è stato addestrato con abbastanza dati di alta qualità e diversificati per fornire una risposta accurata. Un esempio sarebbe la funzione di sblocco del telefono con riconoscimento facciale di Apple, che ha fallito a un tasso significativamente più alto per le persone con carnagione più scura rispetto a quelle con toni più chiari. Il modello non era stato addestrato su abbastanza immagini di persone con carnagione più scura. Questo è stato un esempio relativamente a basso rischio di bias, ma è esattamente il motivo per cui l’Atto sull’IA dell’UE ha stabilito requisiti per dimostrare l’efficacia del modello (e i controlli) prima di essere messo sul mercato. I modelli con output che impattano su affari, finanziari, salute o situazioni personali devono essere affidabili, altrimenti non verranno utilizzati.

Affrontare il Bias con i Dati

Grandi Volumi di Dati di Alta Qualità

Tra molte importanti pratiche di gestione dei dati, un componente chiave per superare e minimizzare il bias nei modelli di intelligenza artificiale/macchina è acquisire grandi volumi di dati di alta qualità e diversificati. Ciò richiede la collaborazione con molte organizzazioni che hanno tali dati. Tradizionalmente, l’acquisizione dei dati e le collaborazioni sono sfidate da preoccupazioni relative alla privacy e/o alla protezione della proprietà intellettuale – i dati sensibili non possono essere inviati al proprietario del modello, e il proprietario del modello non può rischiare di far trapelare la sua proprietà intellettuale a un proprietario di dati. Un workaround comune è lavorare con dati mock o sintetici, che possono essere utili ma hanno anche limitazioni rispetto all’uso di dati reali e completi. È qui che le tecnologie di miglioramento della privacy (PET) forniscono risposte molto necessarie.

Dati Sintetici: Vicini, ma non Quasi

I dati sintetici sono generati artificialmente per imitare i dati reali. Ciò è difficile da fare, ma sta diventando leggermente più facile con gli strumenti di intelligenza artificiale. I dati sintetici di buona qualità dovrebbero avere le stesse distanze di caratteristiche dei dati reali, altrimenti non saranno utili. I dati sintetici di alta qualità possono essere utilizzati per aumentare efficacemente la diversità dei dati di addestramento riempiendo lacune per popolazioni più piccole e marginalizzate, o per popolazioni per cui il fornitore di intelligenza artificiale semplicemente non ha abbastanza dati. I dati sintetici possono anche essere utilizzati per affrontare casi limite che potrebbero essere difficili da trovare in volumi adeguati nel mondo reale. Inoltre, le organizzazioni possono generare un set di dati sintetici per soddisfare i requisiti di residenza e privacy dei dati che bloccano l’accesso ai dati reali. Ciò sembra grande; tuttavia, i dati sintetici sono solo un pezzo del puzzle, non la soluzione.

Una delle limitazioni ovvie dei dati sintetici è la disconnessione dal mondo reale. Ad esempio, i veicoli autonomi addestrati solo con dati sintetici lottano con condizioni stradali reali e impreviste. Inoltre, i dati sintetici ereditano il bias dai dati del mondo reale utilizzati per generarli – praticamente sconfiggendo lo scopo della nostra discussione. In conclusione, i dati sintetici sono un’opzione utile per il fine-tuning e l’affrontare casi limite, ma miglioramenti significativi nell’efficacia del modello e nella minimizzazione del bias dipendono ancora dall’accesso ai dati del mondo reale.

Un Modo Migliore: Dati Reali tramite Flussi di Lavoro Abilitati da PET

Le PET proteggono i dati mentre sono in uso. Quando si tratta di modelli di intelligenza artificiale/macchina, possono anche proteggere la proprietà intellettuale del modello in esecuzione – “due uccelli con una pietra”. Le soluzioni che utilizzano le PET forniscono l’opzione di addestrare modelli su set di dati reali e sensibili che non erano precedentemente accessibili a causa di preoccupazioni relative alla privacy e alla sicurezza dei dati. Questo sblocco dei flussi di dati ai dati reali è la migliore opzione per ridurre il bias. Ma come funzionerebbe esattamente?

Per ora, le opzioni principali iniziano con un ambiente di calcolo confidenziale. Quindi, un’integrazione con una soluzione software basata su PET che la rende pronta all’uso e risolve i requisiti di governance e sicurezza dei dati che non sono inclusi in un ambiente di esecuzione attendibile standard (TEE). Con questa soluzione, i modelli e i dati sono tutti crittografati prima di essere inviati a un ambiente di calcolo sicuro. L’ambiente può essere ospitato ovunque, il che è importante quando si affrontano determinati requisiti di localizzazione dei dati. Ciò significa che sia la proprietà intellettuale del modello che la sicurezza dei dati di input vengono mantenute durante il calcolo – nemmeno il fornitore dell’ambiente di esecuzione attendibile ha accesso ai modelli o ai dati all’interno di esso. I risultati crittografati vengono quindi inviati indietro per la revisione e i log sono disponibili per la revisione.

Questo flusso di lavoro sblocca i migliori dati di alta qualità, indipendentemente da dove si trovino o chi li possieda, creando un percorso per la minimizzazione del bias e la creazione di modelli ad alta efficacia che possiamo fidare. Questo flusso di lavoro è anche ciò che l’Atto sull’IA dell’UE descriveva nei suoi requisiti per un sandbox normativo sull’IA.

Facilitare la Conformità Etica e Legale

Acquisire dati di alta qualità e reali è difficile. I requisiti di privacy e localizzazione dei dati limitano immediatamente i set di dati a cui le organizzazioni possono accedere. Perché l’innovazione e la crescita possano verificarsi, i dati devono fluire verso coloro che possono estrarre valore da essi.

L’articolo 54 dell’Atto sull’IA dell’UE fornisce requisiti per i tipi di modelli “ad alto rischio” in termini di cosa deve essere dimostrato prima che possano essere messi sul mercato. In breve, le squadre dovranno utilizzare dati del mondo reale all’interno di un sandbox normativo sull’IA per dimostrare un’efficacia del modello sufficiente e la conformità con tutti i controlli dettagliati nel Titolo III Capitolo 2. I controlli includono monitoraggio, trasparenza, spiegabilità, sicurezza dei dati, protezione dei dati, minimizzazione dei dati e protezione del modello – pensa a DevSecOps + Data Ops.

La prima sfida sarà trovare un set di dati del mondo reale da utilizzare – poiché si tratta di dati sensibili per tali tipi di modelli. Senza garanzie tecniche, molte organizzazioni potrebbero esitare a fidarsi del fornitore del modello con i loro dati o non saranno in grado di farlo. Inoltre, il modo in cui l’atto definisce un “sandbox normativo sull’IA” è una sfida in sé. Alcuni dei requisiti includono la garanzia che i dati vengano rimossi dal sistema dopo che il modello è stato eseguito, nonché i controlli di governance, l’applicazione e la segnalazione per dimostrarlo.

Molte organizzazioni hanno provato a utilizzare camere di pulizia dei dati (DCR) e ambienti di esecuzione attendibili (TEE) già pronti all’uso. Ma, da soli, queste tecnologie richiedono un’esperienza e un lavoro significativi per essere operative e soddisfare i requisiti normativi e di intelligenza artificiale.
Le DCR sono più semplici da utilizzare, ma non sono ancora utili per esigenze di intelligenza artificiale/macchina più robuste. I TEE sono server sicuri e richiedono ancora una piattaforma di collaborazione integrata per essere utili, in fretta. Ciò, tuttavia, identifica un’opportunità per le piattaforme di tecnologia di miglioramento della privacy per integrarsi con i TEE per rimuovere quel lavoro, banalizzando l’installazione e l’uso di un sandbox normativo sull’IA, e quindi l’acquisizione e l’uso di dati sensibili.

Abilitando l’uso di set di dati più diversificati e completi in modo da preservare la privacy, queste tecnologie aiutano a garantire che le pratiche di intelligenza artificiale e macchina siano conformi agli standard etici e ai requisiti legali relativi alla privacy dei dati (ad esempio, GDPR e Atto sull’IA in Europa). In sintesi, mentre i requisiti sono spesso accolti con grugniti e sospiri udibili, questi requisiti ci stanno semplicemente guidando nella costruzione di modelli migliori che possiamo fidare e su cui possiamo fare affidamento per importanti decisioni basate sui dati, proteggendo al contempo la privacy dei soggetti dei dati utilizzati per lo sviluppo e la personalizzazione del modello.