I robot umanoidi stanno arrivando nelle fabbriche. Chi è responsabile quando si guastano?

Un robot può superare con successo un test delle prestazioni e tuttavia diventare un pericolo per la sicurezza se incontra un ostacolo imprevisto, se il suo comportamento cambia a causa di un aggiornamento software o se si trova davanti un lavoratore in carne e ossa. La domanda non è più se i robot umanoidi siano in grado di svolgere un compito, ma come possano farlo. E se possano farlo in sicurezza o meno, e chi sia responsabile se qualcosa va storto.

Agility Robotics e FORT Robotics hanno annunciato a ottobre una partnership per migliorare l’architettura di sicurezza del robot umanoide Digit 5 di Agility. Hanno pianificato il loro approccio integrando sistemi di sicurezza a bordo, interfacce esterne, sistemi di comunicazione e un comando manuale di override. Questo sviluppo segna un cambiamento significativo: i robot devono essere sicuri negli ambienti di lavoro frequentati da persone, e ciò richiede più della sola sicurezza del robot.

Tuttavia, la tecnologia non basta a risolvere la questione della responsabilità. Se un robot commette un errore a causa di un componente difettoso identificato erroneamente da un sistema di IA, potrebbero essere ritenuti responsabili il produttore, lo sviluppatore del software, l’integratore del sistema e il datore di lavoro che utilizza il sistema.

Quando le decisioni dell’IA diventano rischi fisici

I robot industriali tradizionali si trovano solitamente in celle di lavoro chiuse, dove sono isolati dai lavoratori tramite barriere e dispositivi di sicurezza. I robot umanoidi pongono una sfida diversa: dovrebbero muoversi in ambienti progettati per le persone, svolgere compiti diversi e adattarsi a contesti differenti.

Questa flessibilità crea nuovi rischi. Una rilevazione errata può provocare un movimento non necessario. Un aggiornamento software potrebbe modificare il comportamento di un robot. I cambiamenti nella configurazione della fabbrica possono creare pericoli che non erano presenti durante i test precedenti.

Dana R. Wolfe, vicepresidente e responsabile del settore industriale di GFT Americas, ha dichiarato a Unite.AI che, per prevenire interventi non sicuri, sono necessari più livelli di protezione, tra cui garanzie software deterministiche, soglie di confidenza specifiche per ogni fabbrica, fusione dei dati dei sensori e convalida graduale prima della messa in servizio.

È impossibile evitare completamente i falsi positivi, ha affermato Wolfe. I produttori devono invece assicurarsi che gli errori non si traducano in movimenti fisici pericolosi.

Le soglie di confidenza e l’autorità umana dovrebbero far parte dell’architettura di sicurezza del sistema, così come gli interblocchi hardware, ha affermato Wolfe.

Gli standard di sicurezza devono stare al passo

Gli attuali standard per la robotica industriale offrono una base preziosa, ma non rappresentano necessariamente la soluzione a tutti i problemi posti dai robot umanoidi mobili.

L’Organizzazione internazionale per la normazione (ISO) ha pubblicato requisiti di sicurezza per i robot industriali, e la norma ISO 10218-2 riguarda l’integrazione dei robot in sistemi completi.

Questi standard, tuttavia, non contemplano tutte le applicazioni né tutti i pericoli legati ai robot mobili che lavorano insieme alle persone.

Con l’evolversi delle pratiche del settore, sono particolarmente importanti i test indipendenti, la convalida basata su scenari e i progetti pilota graduali nei luoghi di lavoro, ha affermato Wolfe.

È inoltre necessario ripetere le valutazioni di sicurezza se cambiamenti al modello di IA, al software, ai limiti di movimento, ai compiti o all’ambiente di fabbrica possono invalidare le valutazioni precedenti.

Dopo una modifica sostanziale, un robot sicuro in determinate condizioni potrebbe non esserlo più nelle nuove condizioni.

La supervisione umana deve andare oltre la semplice approvazione

È impraticabile monitorare ogni decisione presa da un sistema di IA, ma quando le persone non partecipano alle decisioni critiche emerge un’altra difficoltà: diventa più difficile dimostrare chi ne sia responsabile.

Adrian Figueroa Ramos, cofondatore e amministratore delegato di Flexio e Routina, ha affermato che la supervisione dovrebbe concentrarsi sulle decisioni che comportano il maggior grado di incertezza o di rischio.

«Nel mondo dell’IA di oggi, il volume dei risultati supera la capacità di elaborazione di una persona. Esaminare ogni cosa trasforma l’essere umano in un collo di bottiglia, ma il giudizio umano resta necessario per le decisioni ad alto rischio o con un basso livello di confidenza», ha dichiarato a Unite.AI.

Questo vale in particolare per l’IA applicata al mondo fisico. La supervisione umana dovrebbe prevedere persone identificate, dotate del potere di intervenire su un sistema, e garantire che le decisioni siano documentate e verificate, anziché limitarsi a fare clic su un pulsante di approvazione.

Chi è responsabile quando un robot si guasta?

La responsabilità dovrebbe essere ripartita in base al controllo che ciascuna parte esercita sul sistema.

Per esempio, i produttori sono responsabili dell’elaborazione e della documentazione delle misure di sicurezza. Gli sviluppatori software dovrebbero testare le modifiche che possono influire sulla percezione o sul movimento.

L’integratore deve convalidare l’intero sistema nell’ambiente in cui è destinato a essere utilizzato. I datori di lavoro sono responsabili della formazione dei lavoratori, di garantire che siano in atto misure di protezione e di definire procedure per interrompere le operazioni non sicure.

Anche la sicurezza informatica è importante. La tecnologia operativa può essere vulnerabile a problemi dei sensori, del software e dei sistemi esterni collegati ai robot. Una violazione della sicurezza che incide sul comportamento fisico costituisce un problema di sicurezza sul lavoro, oltre che un problema informatico.

In futuro ci si aspetta che i robot umanoidi diventino più flessibili e produttivi nelle fabbriche. Tuttavia, l’adozione non dipenderà soltanto dalle prestazioni. È necessario definire chiaramente le responsabilità, effettuare una convalida indipendente e mantenere le misure di sicurezza per tutta la vita operativa di un robot.

La domanda è: un robot può commettere errori? La risposta è sì, se le persone che lo utilizzano hanno creato un sistema che le ritiene responsabili di quegli errori.