I ricercatori di intelligenza artificiale propongono di offrire ricompense per i pregiudizi nell’IA per renderla più etica

Un team di ricercatori di intelligenza artificiale di aziende e laboratori di sviluppo di intelligenza artificiale come Intel (INTC ), Google (GOOGL ) Brain e OpenAI ha raccomandato l’uso di ricompense per aiutare a garantire l’uso etico dell’intelligenza artificiale. Il team di ricercatori ha recentemente pubblicato una serie di proposte riguardanti l’uso etico dell’intelligenza artificiale, e hanno incluso una suggerimento che premiare le persone per la scoperta di pregiudizi nell’intelligenza artificiale potrebbe essere un modo efficace per rendere l’intelligenza artificiale più equa.

Come riporta VentureBeat, i ricercatori di diverse aziende negli Stati Uniti e in Europa si sono uniti per creare un set di linee guida etiche per lo sviluppo dell’intelligenza artificiale, nonché suggerimenti su come seguire tali linee guida. Una delle suggerimenti che i ricercatori hanno fatto è stata quella di offrire ricompense ai sviluppatori che trovano pregiudizi all’interno dei programmi di intelligenza artificiale. La suggerimento è stata fatta in un documento intitolato “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

Come esempi dei pregiudizi che il team di ricercatori spera di affrontare, dati e algoritmi pregiudiziali sono stati trovati in tutto, dalle applicazioni sanitarie ai sistemi di riconoscimento facciale utilizzati dalle forze dell’ordine. Un esempio di tale pregiudizio è lo strumento di valutazione del rischio PATTERN che è stato recentemente utilizzato dal Dipartimento di Giustizia degli Stati Uniti per triare i prigionieri e decidere quali potevano essere inviati a casa quando si riduceva la popolazione carceraria in risposta alla pandemia di coronavirus.

La pratica di premiare gli sviluppatori per la scoperta di comportamenti indesiderabili nei programmi del computer è un’antica tradizione, ma questo potrebbe essere il primo caso in cui un consiglio etico dell’intelligenza artificiale ha seriamente avanzato l’idea come opzione per combattere i pregiudizi dell’intelligenza artificiale. Sebbene sia improbabile che ci siano abbastanza sviluppatori di intelligenza artificiale per trovare abbastanza pregiudizi da garantire che l’intelligenza artificiale sia etica, ciò aiuterebbe comunque le aziende a ridurre i pregiudizi complessivi e a capire quali tipi di pregiudizi stanno penetrando nei loro sistemi di intelligenza artificiale.

Gli autori del documento hanno spiegato che il concetto di bounty per bug può essere esteso all’intelligenza artificiale con l’uso di ricompense per i pregiudizi e la sicurezza e che l’uso appropriato di questa tecnica potrebbe portare a set di dati e modelli meglio documentati. La documentazione rifletterebbe meglio i limiti sia del modello che dei dati. I ricercatori notano anche che la stessa idea potrebbe essere applicata ad altre proprietà dell’intelligenza artificiale come l’interpretazione, la sicurezza e la protezione della privacy.

Man mano che si discute di più dei principi etici dell’intelligenza artificiale, molti hanno notato che i principi soli non sono sufficienti e che devono essere intraprese azioni per mantenere l’intelligenza artificiale etica. Gli autori del documento notano che “le norme e le regolamentazioni esistenti nell’industria e nell’accademia sono insufficienti per garantire uno sviluppo responsabile dell’intelligenza artificiale”. Il co-fondatore di Google Brain e leader dell’industria dell’intelligenza artificiale Andrew Ng ha anche opinato che i principi guida soli mancano della capacità di garantire che l’intelligenza artificiale sia utilizzata in modo responsabile e giusto, affermando che molti di essi devono essere più espliciti e avere idee azionabili.

La raccomandazione della caccia ai pregiudizi del team di ricerca è un tentativo di andare oltre i principi etici e di entrare in un’area di azione etica. Il team di ricerca ha anche fatto una serie di altre raccomandazioni che potrebbero incoraggiare l’azione etica nel campo dell’intelligenza artificiale.

Il team di ricerca ha fatto una serie di altre raccomandazioni che le aziende possono seguire per rendere il loro uso dell’intelligenza artificiale più etico. Suggeriscono che debba essere creato un database centrale di incidenti di intelligenza artificiale e condiviso all’interno della comunità dell’intelligenza artificiale. Allo stesso modo, i ricercatori propongono che debba essere stabilita una traccia di audit e che queste tracce debbano preservare le informazioni relative alla creazione e alla distribuzione di applicazioni critiche per la sicurezza nelle piattaforme di intelligenza artificiale.

Al fine di preservare la privacy delle persone, il team di ricerca ha suggerito che debbano essere utilizzate tecniche centrate sulla privacy come le comunicazioni crittografate, l’apprendimento federato e la privacy differenziale. Oltre a ciò, il team di ricerca ha suggerito che le alternative open source debbano essere rese ampiamente disponibili e che i modelli di intelligenza artificiale commerciali debbano essere soggetti a un’attenta scrutinio. Infine, il team di ricerca suggerisce che il finanziamento governativo debba essere aumentato in modo che i ricercatori accademici possano verificare le affermazioni sulle prestazioni hardware.