I ricercatori sviluppano algoritmi volti a prevenire comportamenti indesiderabili nell’IA

Insieme a tutti i progressi e i vantaggi esibiti finora dall’intelligenza artificiale, ci sono stati anche rapporti di effetti collaterali indesiderabili come la discriminazione razziale e di genere nell’IA. Quindi, come sciencealert.com pone la domanda “come possono gli scienziati assicurarsi che i sistemi di pensiero avanzati possano essere equi, o addirittura sicuri?”

La risposta potrebbe essere nel rapporto dei ricercatori di Stanford e dell’ Università del Massachusetts Amherst, intitolato Prevenire il comportamento indesiderabile delle macchine intelligenti. Come eurekaalert.org nota nella sua storia su questo rapporto, l’IA sta iniziando a gestire compiti sensibili, quindi “i responsabili delle politiche stanno insistendo affinché gli scienziati informatici offrano garanzie che i sistemi automatizzati siano stati progettati per minimizzare, se non evitare completamente, risultati indesiderabili come rischi eccessivi o discriminazione razziale e di genere.”

Il rapporto presentato da questo team di ricercatori “delinea una nuova tecnica che traduce un obiettivo vago, come l’evitare la discriminazione di genere, in criteri matematici precisi che consentirebbero a un algoritmo di apprendimento automatico di addestrare un’applicazione IA per evitare quel comportamento.”

Lo scopo era, come Emma Brunskill, professoressa assistente di scienze informatiche a Stanford e autrice principale del documento, sottolinea “vogliamo avanzare l’IA che rispetta i valori dei suoi utenti umani e giustifica la fiducia che riponiamo nei sistemi autonomi.”

L’idea era quella di definire “pericolosi” o “ingiusti” risultati o comportamenti in termini matematici. Ciò, secondo i ricercatori, renderebbe possibile “creare algoritmi che possano imparare dai dati su come evitare questi risultati indesiderabili con alta fiducia.”

Il secondo obiettivo era quello di “sviluppare un set di tecniche che renderebbero facile per gli utenti specificare quali tipi di comportamento indesiderabile vogliono limitare e consentire ai progettisti di apprendimento automatico di prevedere con fiducia che un sistema addestrato con dati passati possa essere affidabile quando viene applicato in circostanze del mondo reale.”

ScienceAlert afferma che il team ha chiamato questo nuovo sistema  ‘algoritmi Seldoniani’, dal personaggio centrale della famosa serie di romanzi di fantascienza Foundation di Isaac Asimov. Philip Thomas, professore assistente di scienze informatiche all’Università del Massachusetts Amherst e autore principale del documento, nota, “Se utilizzo un algoritmo Seldoniano per il trattamento del diabete, posso specificare che il comportamento indesiderabile significa ipoglicemia pericolosamente bassa o ipoglicemia.”

“Posso dire alla macchina, ‘Mentre cerchi di migliorare il controllore nella pompa di insulina, non apportare modifiche che aumenterebbero la frequenza dell’ipoglicemia.’ La maggior parte degli algoritmi non ti consente di impostare questo tipo di vincolo sul comportamento; non era incluso nei progetti iniziali.”

Thomas aggiunge che “questo framework Seldoniano renderà più facile per i progettisti di apprendimento automatico costruire istruzioni per evitare il comportamento in tutti gli algoritmi, in un modo che consenta loro di valutare la probabilità che i sistemi addestrati funzionino correttamente nel mondo reale.”

Per quanto riguarda Emma Brunskill, nota anche che “pensare a come possiamo creare algoritmi che rispettino al meglio valori come la sicurezza e l’equità è essenziale poiché la società si affida sempre più all’IA.”