Startup Unbiased Miri a Incrementare la Trasparenza dei Dati Attraverso la Blockchain, Combattere il Bias dei Dati

Gli effetti del bias dei dati nell’intelligenza artificiale sono ben documentati e, poiché gli algoritmi di apprendimento automatico e intelligenza artificiale penetrano sempre più in ogni angolo della società, le aziende di intelligenza artificiale stanno cercando nuovi modi per garantire che gli algoritmi che sviluppano non ereditino i pregiudizi umani. Uno dei nuovi giocatori nello spazio dell’intelligenza artificiale e dell’apprendimento automatico, che mira a ridurre il bias dei dati, è la startup trasparentemente chiamata Unbiased. Unbiased ha lanciato un nuovo mercato dei dati sulla piattaforma blockchain attiva Telos, sperando di fornire ai clienti strumenti e applicazioni decentrati e con priorità alla privacy per la scienza dei dati e l’intelligenza artificiale.

Il mercato globale dell’intelligenza artificiale si prevede continuerà a crescere rapidamente nel corso del prossimo decennio, raggiungendo circa 266 miliardi di dollari entro il 2027. Nei prossimi quattro anni, la spesa mondiale sui sistemi e componenti di intelligenza artificiale dovrebbe raddoppiare, raggiungendo circa 110 miliardi di dollari entro il 2024 secondo l’IDC. L’adozione rapida degli algoritmi di intelligenza artificiale in sempre più industrie ha portato a crescenti preoccupazioni sulla trasparenza, la privacy, l’equità e la rappresentatività dei sistemi di intelligenza artificiale.

Ridurre il Bias Attraverso la Trasparenza

Secondo un rapporto recente pubblicato dal CapGemini Research Institute, intitolato “L’intelligenza artificiale e il dilemma etico: come le organizzazioni possono costruire sistemi di intelligenza artificiale eticamente robusti e guadagnare fiducia”, l’uso etico dell’intelligenza artificiale è diventata una preoccupazione principale per i leader IT, con la maggior parte dei leader IT che ora esprimono preoccupazione sul possibile uso improprio dei sistemi di intelligenza artificiale. Circa 9 leader IT su 10 hanno dichiarato di essere a conoscenza di almeno un incidente in cui sono stati creati problemi etici dall’applicazione di un sistema di intelligenza artificiale. Circa due terzi dei dirigenti IT hanno dichiarato di essere a conoscenza di possibili pregiudizi discriminatori nei sistemi di intelligenza artificiale e circa la metà di tutte le organizzazioni IT hanno una carta etica destinata a dare sviluppo all’intelligenza artificiale, rispetto al 5% delle aziende IT nel 2019.

Mentre la ricerca su come gli algoritmi di intelligenza artificiale possano essere resi più equi continua, molti esperti di etica e specialisti di intelligenza artificiale stanno concentrando l’attenzione sui dati utilizzati per addestrare l’intelligenza artificiale. Poiché gli algoritmi di intelligenza artificiale diventano più ubiqui e standardizzati, l’attenzione si sta spostando sull’acquisizione dei dati necessari per addestrare i modelli.

Esistono molti modi per ridurre il bias dei dati negli algoritmi di intelligenza artificiale. Alcune tecniche coinvolgono l’apportare modifiche al modello o ai dati di addestramento mentre il modello si addestra. Queste tecniche sono “in-processing” di correzione del bias. Ciò include l’uso di tecniche di addestramento avversarie, dove una caratteristica/variabile sensibile (come il sesso o la razza) è controllata penalizzando la capacità del modello di effettuare previsioni che coinvolgono la caratteristica in questione. Ciò viene fatto mentre si tenta di minimizzare l’errore del modello. In contrasto, concentrarsi sull’eliminazione del bias dal set di dati è una tecnica di pre-elaborazione. I dati di addestramento per i modelli di apprendimento automatico sono spesso etichettati manualmente e l’applicazione della blockchain potrebbe aiutare le aziende a tracciare il processo di etichettatura dei loro dati per garantire che i loro set di dati siano rappresentativi.

Unbiased sta guardando alla blockchain per creare una cultura di trasparenza all’interno dei set di dati e dei mercati dei dati. La maggior parte degli strumenti utilizzati per generare set di dati per i sistemi di intelligenza artificiale e gli algoritmi di apprendimento automatico sono centralizzati e, a causa di ciò, spesso mancano di trasparenza. Unbiased mira a sfruttare la natura della blockchain per registrare le azioni che si verificano all’interno del loro mercato dei dati, che include lo scambio di dati, l’equazione di attività e progetti e contributi dei lavoratori. L’obiettivo è che la natura decentralizzata della blockchain di Telos faciliti la trasparenza, consentendo agli utenti di ottenere informazioni critiche sulla natura della loro scienza dei dati. Gli utenti saranno in grado di convalidare i loro set di dati e determinare se le annotazioni sono state eseguite in conformità con certi principi etici, come l’equità e la privacy.

Secondo l’Architetto Capo della Blockchain di Telos, l’intersezione dell’intelligenza artificiale/apprendimento automatico con la blockchain può portare a metodi di lavoro trasformativi con i dati. Come Horn è stato citato da AIthority:

“Unbiased mostrerà a queste industrie come la registrazione dei dati su una blockchain ad alte prestazioni e senza commissioni come Telos possa aggiungere trasparenza, immutabilità, micropagamenti e governance ai loro prodotti per il beneficio di tutti gli stakeholder.”

Oltre la trasparenza dei dati di addestramento, alcuni scienziati e ricercatori hanno spinto per una maggiore trasparenza negli algoritmi, modelli e codici. Un team internazionale di scienziati ha chiesto alle riviste scientifiche di tenere i ricercatori di scienze informatiche a standard di trasparenza più alti. I ricercatori hanno sostenuto che una maggiore trasparenza riguardo ai modelli e ai codici di intelligenza artificiale non solo aiuterebbe nella riproducibilità degli studi, ma aiuterebbe anche la collaborazione tra i gruppi di ricerca. Molti studi scientifici non possono essere riprodotti e questo è un problema ancora più grande per gli studi focalizzati sull’intelligenza artificiale che lasciano fuori materiali critici. In futuro, la blockchain potrebbe essere utilizzata per migliorare la tracciabilità e la valutazione della ricerca nel campo dell’intelligenza artificiale.