Startup Unbiased Aims To Increase Transparency In Data Through Blockchain, Fight Data Bias

Gli effetti del bias dei dati nell’intelligenza artificiale sono ben documentati e, poiché l’AI e gli algoritmi di machine learning penetrano sempre più in ogni angolo della società, le aziende di AI stanno cercando nuovi modi per assicurarsi che gli algoritmi che sviluppano non ereditino i pregiudizi umani. Uno dei nuovi player nel settore AI e machine learning, che mira a ridurre il bias dei dati, è la startup trasparentemente chiamata Unbiased. Unbiased ha lanciato un nuovo data marketplace sulla piattaforma blockchain attiva Telos, sperando di fornire ai clienti strumenti e applicazioni decentralizzati e privacy-first per la scienza dei dati e l’AI.

Il mercato globale dell’AI è previsto continuare la sua rapida crescita nel corso del prossimo decennio, raggiungendo circa 266 miliardi di dollari entro il 2027. Nel corso dei prossimi quattro anni, la spesa mondiale sui sistemi e componenti associati all’AI dovrebbe raddoppiare, raggiungendo circa 110 miliardi di dollari entro il 2024 secondo l’IDC. L’adozione rapida degli algoritmi di AI in sempre più industrie ha portato a crescenti preoccupazioni sulla trasparenza, la privacy, la correttezza e la rappresentatività dei sistemi di AI.

Ridurre il bias attraverso la trasparenza

Secondo un recente rapporto pubblicato dal CapGemini Research Institute, intitolato “AI e il dilemma etico: come le organizzazioni possono costruire sistemi di AI eticamente robusti e guadagnare fiducia”, l’uso etico dell’AI è diventato una preoccupazione maggiore per i leader IT in tutto il mondo, con la maggior parte dei leader IT che ora esprimono preoccupazione sul potenziale uso improprio dei sistemi di AI. Circa 9 su 10 organizzazioni IT hanno dichiarato di essere a conoscenza di almeno un incidente in cui sono stati creati problemi etici dall’applicazione di un sistema di AI. Circa due terzi dei dirigenti IT hanno dichiarato di essere a conoscenza di potenziali pregiudizi discriminatori nei sistemi di AI e circa la metà di tutte le organizzazioni IT ha una carta etica destinata a dare lo sviluppo dell’AI, rispetto al 5% delle aziende IT nel 2019.

Mentre la ricerca su come gli algoritmi di AI possano essere resi più equi continua, molti eticisti e specialisti di AI stanno concentrando l’attenzione sui dati utilizzati per addestrare l’AI. Poiché gli algoritmi di AI diventano più ubiqui e standardizzati, l’attenzione si sta spostando sull’acquisizione dei dati necessari per addestrare i modelli.

Esistono molte tecniche per ridurre il bias dei dati negli algoritmi di AI. Alcune tecniche coinvolgono l’apportare modifiche al modello o ai dati di addestramento mentre il modello viene addestrato. Queste tecniche sono “in-processing” tecniche di correzione del bias. Ciò include l’uso di tecniche di addestramento avversarie, dove alcune caratteristiche/sensibili (come il sesso o la razza) vengono controllate penalizzando la capacità del modello di effettuare previsioni che coinvolgono la caratteristica in questione. Ciò viene fatto mentre si tenta di minimizzare l’errore del modello. Al contrario, concentrarsi sull’eliminazione del bias dal set di dati è una tecnica di pre-elaborazione. I dati di addestramento per i modelli di machine learning vengono spesso etichettati manualmente e l’applicazione della blockchain potrebbe aiutare le aziende a tracciare il processo di etichettatura dei loro dati per assicurarsi che i loro set di dati siano rappresentativi.

Unbiased sta cercando di utilizzare la blockchain per creare una cultura di trasparenza all’interno dei set di dati e dei data marketplace. La maggior parte degli strumenti utilizzati per generare set di dati per i sistemi di AI e gli algoritmi di machine learning sono centralizzati e, a causa di ciò, spesso mancano di trasparenza. Unbiased mira a sfruttare la natura della blockchain per registrare le azioni che si verificano nel loro data marketplace, che include lo scambio di dati, l’equazione di attività e progetti e i contributi dei lavoratori. L’obiettivo è che la natura decentralizzata della blockchain di Telos faciliti la trasparenza, consentendo agli utenti di ottenere informazioni critiche sulla natura della loro scienza dei dati. Gli utenti saranno in grado di convalidare i loro set di dati e determinare se le annotazioni sono state eseguite con riguardo a certi principi etici, come la correttezza e la privacy.

Secondo l’Architetto Capo di Telos Blockchain, l’intersezione di AI/machine learning con la blockchain può portare a nuovi metodi trasformativi per lavorare con i dati. Come Horn è stato citato da AIthority:

“Unbiased mostrerà a queste industrie come la registrazione dei dati su una blockchain ad alte prestazioni e senza commissioni come Telos possa aggiungere trasparenza, immutabilità, micropagamenti e governance ai loro prodotti per il beneficio di tutti gli stakeholder.”

Oltre la trasparenza dei dati di addestramento, alcuni scienziati e ricercatori hanno sostenuto la necessità di maggiore trasparenza negli algoritmi, modelli e codici. Un team internazionale di scienziati ha chiesto alle riviste scientifiche di tenere gli ricercatori di computer science a standard di trasparenza più alti. I ricercatori hanno sostenuto che una maggiore trasparenza riguardo ai modelli e al codice di AI non solo aiuterebbe la riproducibilità degli studi, ma anche la collaborazione tra i gruppi di ricerca. Molti studi scientifici non possono essere riprodotti e questo è un problema ancora più grande per gli studi di AI che lasciano fuori materiali critici. In futuro, la blockchain potrebbe anche essere utilizzata per migliorare la tracciabilità e la valutazione della ricerca nel campo dell’AI.