Roboții umanoizi ajung în fabrici. Cine răspunde când se defectează?

Un robot poate trece cu succes un test de performanță și totuși poate deveni un pericol pentru siguranță dacă întâlnește un obstacol neașteptat, dacă își schimbă comportamentul în urma unei actualizări software sau dacă întâlnește un lucrător. Întrebarea nu mai este dacă roboții umanoizi pot îndeplini o sarcină, ci cum o pot face. O pot face în siguranță sau nu — și cine răspunde dacă ceva nu merge bine?

Agility Robotics și FORT Robotics au anunțat un parteneriat în octombrie pentru a îmbunătăți arhitectura de siguranță a robotului umanoid Digit 5 de la Agility. Abordarea lor planificată include sisteme de siguranță integrate la bord, interfețe și comunicații externe, precum și posibilitatea de preluare manuală a controlului. Această inițiativă marchează o schimbare importantă: roboții trebuie să fie siguri în spațiile de lucru în care activează oamenii, iar asta presupune mai mult decât siguranța robotului în sine.

Totuși, tehnologia nu este suficientă pentru a răspunde la întrebarea cine poartă răspunderea. Dacă un robot greșește din cauza unei componente defecte, identificată eronat de un sistem de inteligență artificială, producătorul, dezvoltatorul software, integratorul de sistem și angajatorul care folosește sistemul ar putea fi trași la răspundere.

Când deciziile IA devin riscuri fizice

Roboții industriali tradiționali se găsesc de regulă în celule de lucru închise, unde sunt separați de lucrători prin bariere și dispozitive de siguranță. Roboții umanoizi ridică o altă problemă: se presupune că se vor deplasa prin medii concepute pentru oameni, vor îndeplini sarcini diferite și se vor adapta la medii variate.

Această flexibilitate creează riscuri noi. O detecție falsă poate duce la o mișcare inutilă. O actualizare software ar putea schimba comportamentul unui robot. Modificările configurației fabricii pot crea pericole care nu existau în timpul testelor anterioare.

Dana R. Wolfe, vicepreședinte și șef al diviziei de industrie la GFT Americas, a declarat pentru Unite.AI că, pentru a preveni intervențiile nesigure, sunt necesare mai multe niveluri de protecție, precum măsuri de siguranță software deterministe, praguri de încredere specifice fabricii, fuziunea datelor de la senzori și validarea etapizată înainte de implementare.

Nu există nicio modalitate de a evita complet rezultatele fals pozitive, a spus Wolfe. În schimb, producătorii trebuie să se asigure că erorile nu se traduc în mișcări fizice nesigure.

Pragurile de încredere și autoritatea oamenilor ar trebui să facă parte din arhitectura de siguranță a sistemului, la fel ca interblocările hardware, a spus Wolfe.

Standardele de siguranță trebuie să țină pasul

Standardele actuale pentru roboții industriali oferă o bază valoroasă, dar nu reprezintă neapărat soluția pentru toate problemele pe care le ridică roboții umanoizi mobili.

Organizația Internațională de Standardizare (ISO) a publicat cerințe de siguranță pentru roboții industriali, iar standardul ISO 10218-2 reglementează integrarea roboților în sisteme complete.

Totuși, aceste standarde nu acoperă toate aplicațiile și pericolele asociate roboților mobili care lucrează alături de oameni.

Testarea independentă, validarea bazată pe scenarii și proiectele-pilot etapizate la locul de muncă sunt deosebit de importante pe măsură ce evoluează practicile din industrie, a spus Wolfe.

Evaluările de siguranță trebuie repetate și dacă modificările modelului de IA, ale software-ului, ale restricțiilor de mișcare, ale sarcinilor sau ale mediului din fabrică ar putea invalida evaluările de siguranță anterioare.

După o schimbare majoră, un robot care era sigur într-un anumit set de condiții s-ar putea să nu mai fie sigur în noile condiții.

Supravegherea umană trebuie să însemne mai mult decât aprobarea

Este nepractic să se monitorizeze fiecare decizie luată de un sistem de IA, dar, dacă oamenii nu sunt implicați în deciziile critice, apare o altă problemă: devine mai dificil să se demonstreze cine poartă răspunderea.

Adrian Figueroa Ramos, cofondator și director general al Flexio și Routina, a spus că supravegherea ar trebui să se concentreze asupra deciziilor care implică cel mai mare grad de incertitudine sau risc.

„În lumea IA de astăzi, volumul rezultatelor depășește capacitatea unui om de a le procesa. Dacă verifică totul, omul devine un blocaj, dar judecata umană rămâne necesară pentru deciziile cu risc ridicat sau cu un nivel scăzut de încredere”, a declarat el pentru Unite.AI.

Acest lucru este valabil mai ales în cazul IA fizice. Supravegherea umană ar trebui să implice persoane desemnate, cu autoritatea de a prelua controlul asupra unui sistem, și să asigure documentarea și verificarea deciziilor, nu doar apăsarea unui buton de aprobare.

Cine răspunde când un robot se defectează?

Răspunderea ar trebui împărțită în funcție de măsura în care fiecare parte controlează sistemul.

De exemplu, producătorii răspund de crearea și documentarea măsurilor de siguranță. Dezvoltatorii software ar trebui să testeze modificările care pot afecta percepția sau mișcarea.

Integratorul trebuie să valideze întregul sistem în mediul în care urmează să fie folosit. Angajatorii răspund de instruirea lucrătorilor, de asigurarea măsurilor de protecție și de stabilirea procedurilor pentru oprirea operațiunilor nesigure.

Securitatea cibernetică este, de asemenea, importantă. Tehnologia operațională poate fi vulnerabilă la probleme legate de senzori, software și sisteme externe conectate la roboți. O breșă de securitate care afectează comportamentul fizic reprezintă o problemă de siguranță la locul de muncă, precum și o problemă IT.

Se preconizează că, în viitor, roboții umanoizi vor deveni mai flexibili și mai productivi în fabrici. Totuși, adoptarea lor nu se va baza exclusiv pe indicatorii de performanță. Este nevoie de o responsabilitate clară, de validare independentă și de măsuri de protecție menținute pe întreaga durată de funcționare a unui robot.

Întrebarea este: poate un robot să facă greșeli? Poate, dacă persoanele care îl folosesc au creat un sistem care le trage la răspundere pentru aceste greșeli.