Ricercatori di AI propongono di mettere una taglia sugli pregiudizi di AI per rendere l’AI più etica

Un team di ricercatori di AI provenienti da aziende e laboratori di sviluppo di AI come Intel, Google Brain e OpenAI ha raccomandato l’uso di taglie per garantire l’uso etico dell’AI. Il team di ricercatori ha recentemente pubblicato una serie di proposte riguardanti l’uso etico dell’AI, e hanno incluso una suggerimento che premiare le persone per la scoperta di pregiudizi nell’AI potrebbe essere un modo efficace per rendere l’AI più equa.

Come riporta VentureBeat, ricercatori da diverse aziende in tutto il mondo hanno unito le forze per creare un set di linee guida etiche per lo sviluppo di AI, nonché suggerimenti su come soddisfare queste linee guida. Una delle suggerimenti che i ricercatori hanno fatto è stata quella di offrire taglie agli sviluppatori che trovano pregiudizi all’interno dei programmi di AI. La suggerimento è stata fatta in un documento intitolato “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”.

Come esempi dei pregiudizi che il team di ricercatori spera di affrontare, dati e algoritmi distorti sono stati trovati in tutto, dalle applicazioni sanitarie ai sistemi di riconoscimento facciale utilizzati dalle forze dell’ordine. Un esempio di tale pregiudizio è lo strumento di valutazione del rischio PATTERN che è stato recentemente utilizzato dal Dipartimento di Giustizia degli Stati Uniti per valutare i prigionieri e decidere quali potevano essere inviati a casa quando si riducevano le dimensioni della popolazione carceraria in risposta alla pandemia di coronavirus.

La pratica di premiare gli sviluppatori per la scoperta di comportamenti indesiderabili nei programmi informatici è un’antica tradizione, ma questo potrebbe essere il primo caso in cui un consiglio etico di AI ha avanzato seriamente l’idea come opzione per combattere i pregiudizi di AI. Sebbene sia improbabile che ci siano abbastanza sviluppatori di AI per trovare abbastanza pregiudizi da garantire che l’AI sia etica, ciò aiuterebbe comunque le aziende a ridurre i pregiudizi complessivi e a capire quali tipi di pregiudizi stanno penetrando nei loro sistemi di AI.

Gli autori del documento hanno spiegato che il concetto di bug-bounty può essere esteso all’AI con l’uso di taglie per i pregiudizi e la sicurezza e che l’uso appropriato di questa tecnica potrebbe portare a set di dati e modelli meglio documentati. La documentazione rifletterebbe meglio i limiti sia del modello che dei dati. I ricercatori notano anche che la stessa idea potrebbe essere applicata ad altre proprietà di AI come l’interpretazione, la sicurezza e la protezione della privacy.

Man mano che si discute di più dei principi etici dell’AI, molti hanno notato che i principi da soli non sono sufficienti e che azioni devono essere intraprese per mantenere l’AI etica. Gli autori del documento notano che “le norme e le regolamentazioni esistenti nell’industria e nell’accademia sono insufficienti per garantire uno sviluppo di AI responsabile”. Il co-fondatore di Google Brain e leader dell’industria AI Andrew Ng ha anche opinato che i principi guida da soli mancano della capacità di garantire che l’AI sia utilizzata in modo responsabile e giusto, affermando che molti di essi devono essere più espliciti e avere idee azionabili.

La raccomandazione di caccia ai pregiudizi di AI del team di ricerca combinata è un tentativo di andare oltre i principi etici in un’area di azione etica. Il team di ricerca ha anche fatto una serie di altre raccomandazioni che potrebbero stimolare l’azione etica nel campo dell’AI.

Il team di ricerca ha fatto una serie di altre raccomandazioni che le aziende possono seguire per rendere il loro uso di AI più etico. Suggeriscono che debba essere creato un database centralizzato di incidenti di AI e condiviso con la comunità di AI più ampia. Allo stesso modo, i ricercatori propongono che debba essere stabilita una traccia di audit e che queste tracce debbano preservare le informazioni relative alla creazione e alla distribuzione di applicazioni critiche per la sicurezza nelle piattaforme di AI.

Al fine di preservare la privacy delle persone, il team di ricerca ha suggerito che debbano essere utilizzate tecniche centrate sulla privacy come le comunicazioni crittografate, l’apprendimento federato e la privacy differenziale. Oltre a ciò, il team di ricerca ha suggerito che debbano essere rese disponibili alternative open source e che i modelli di AI commerciali debbano essere sottoposti a un’attenta valutazione. Infine, il team di ricerca suggerisce che il finanziamento governativo debba essere aumentato in modo che i ricercatori accademici possano verificare le affermazioni sulle prestazioni hardware.