L’IA può evitare comportamenti indesiderati specifici con nuovi algoritmi

Man mano che gli algoritmi e i sistemi di intelligenza artificiale diventano più sofisticati e assumono responsabilità più grandi, diventa sempre più importante assicurarsi che i sistemi di IA evitino comportamenti pericolosi e indesiderati. Recentemente, un team di ricercatori dell’Università del Massachusetts Amherst e di Stanford ha pubblicato un documento che dimostra come sia possibile evitare comportamenti specifici di IA attraverso l’utilizzo di una tecnica che fornisce istruzioni matematiche precise che possono essere utilizzate per regolare il comportamento di un’IA.

Secondo TechXplore, la ricerca si basava sull’ipotesi che i comportamenti ingiusti o pericolosi possano essere definiti con funzioni e variabili matematiche. Se ciò è vero, allora dovrebbe essere possibile per i ricercatori addestrare sistemi per evitare questi comportamenti specifici. Il team di ricerca ha mirato a sviluppare un toolkit che potesse essere utilizzato dagli utenti dell’IA per specificare quali comportamenti volevano che l’IA evitasse e abilitare gli ingegneri dell’IA a addestrare in modo affidabile un sistema che evitasse azioni indesiderate quando utilizzato in scenari del mondo reale.

Phillip Thomas, il primo autore del documento e professore assistente di scienze informatiche all’Università del Michigan Amherst, ha spiegato che il team di ricerca mira a dimostrare che i progettisti di algoritmi di apprendimento automatico possono rendere più facile per gli utenti dell’IA descrivere comportamenti indesiderati e che sia altamente probabile che il sistema di IA eviti tali comportamenti.

Il team di ricerca ha testato la loro tecnica applicandola a un problema comune nella scienza dei dati, la discriminazione di genere. Il team di ricerca ha mirato a rendere gli algoritmi utilizzati per prevedere il GPA degli studenti universitari più equi riducendo la discriminazione di genere. Il team di ricerca ha utilizzato un set di dati sperimentali e ha istruito il loro sistema di IA a evitare la creazione di modelli che sistematicamente sottostimassero o sovrastimassero i GPA per un genere. Come risultato delle istruzioni del ricercatore, l’algoritmo ha creato un modello che prevedeva meglio i GPA degli studenti e aveva una discriminazione di genere sistematica sostanzialmente inferiore rispetto ai modelli esistenti. I modelli di previsione del GPA esistenti soffrivano di pregiudizi perché i modelli di riduzione dei pregiudizi erano spesso troppo limitati per essere utili o non veniva utilizzato alcun modello di riduzione dei pregiudizi.

Il team di ricerca ha anche sviluppato un altro algoritmo. Questo algoritmo è stato implementato in una pompa di insulina automatica e l’algoritmo era destinato a bilanciare sia le prestazioni che la sicurezza. Le pompe di insulina automatiche devono decidere quale dose di insulina debba essere somministrata a un paziente. Dopo aver mangiato, la pompa dovrebbe idealmente somministrare una dose di insulina sufficiente a mantenere i livelli di zucchero nel sangue sotto controllo. Le dosi di insulina somministrate devono essere né troppo grandi né troppo piccole.

Gli algoritmi di apprendimento automatico sono già proficienti nell’identificare modelli nelle risposte individuali alle dosi di insulina, ma questi metodi di analisi esistenti non consentono ai medici di specificare risultati che dovrebbero essere evitati, come le ipoglicemie. Al contrario, il team di ricerca è stato in grado di sviluppare un metodo che potesse essere addestrato a somministrare dosi di insulina che rimangano entro i due estremi, prevenendo sia la sottodosaggio che la sovradosaggio. Sebbene il sistema non sia ancora pronto per essere testato su pazienti reali, un’IA più sofisticata basata su questo approccio potrebbe migliorare la qualità della vita per coloro che soffrono di diabete.

Nel documento di ricerca, i ricercatori si riferiscono all’algoritmo come un algoritmo “Seledonian”. Ciò si riferisce alle tre leggi della robotica descritte dall’autore di fantascienza Isaac Asimov. L’implicazione è che il sistema di IA “non può fare del male a un essere umano o, attraverso l’inazione, permettere a un essere umano di subire un danno”. Il team di ricerca spera che la loro struttura possa consentire ai ricercatori e agli ingegneri di IA di creare una varietà di algoritmi e sistemi che evitino comportamenti pericolosi. Emma Brunskill, autore senior del documento e professore assistente di scienze informatiche a Stanford, ha spiegato a TechXplore:

“Vogliamo avanzare l’IA che rispetta i valori dei suoi utenti umani e giustifica la fiducia che riponiamo nei sistemi autonomi.”