Cercetarea nouă aruncă lumină asupra încrederii umane-robot

O nouă cercetare, condusă de Laboratorul de Cercetare al Armatei Statelor Unite, împreună cu Institutul pentru Simulări și Antrenament al Universității Centrale din Florida, aruncă lumină asupra nivelului de încredere pe care oamenii îl au în roboți. Proiectul nou s-a concentrat pe relația dintre oameni și roboți și pe faptul dacă oamenii acordă mai multă valoare raționamentului unui robot sau greșelilor sale.

Noua cercetare a examinat echiparea umană-agent, sau HAT, și modul în care încrederea umană, încărcătura de muncă și percepțiile asupra unui agent sunt influențate de transparența acestor agenți, cum ar fi roboții, vehiculele fără pilot și agenții software. Transparența agentului este atunci când un om poate identifica intenția, procesul de raționament și planurile viitoare ale agenților.

Cercetarea nouă sugerează că încrederea oamenilor în roboți scade ori de câte ori robotul face o greșeală. Acest lucru este valabil indiferent dacă robotul a fost transparent cu procesul său de raționament sau nu.

Cercetarea nouă a fost publicată în ediția din august a IEEE-Transactions on Human-Machine Systems. Articolul a fost intitulat „Transparența și fiabilitatea agentului în interacțiunea uman-robot: Influenta asupra încrederii utilizatorului și a fiabilității percepute.”

Cercetările tradiționale care se ocupă de echiparea umană-agent folosesc agenți inteligenți complet de încredere care nu fac greșeli. Cu toate acestea, această nouă studiu a fost unul dintre puținele care au explorat modul în care transparența agentului interacționează cu fiabilitatea agentului. Studiul a implicat un robot care a făcut greșeli în timp ce oamenii îl urmăreau, iar oamenilor li s-a cerut să spună dacă îl consideră pe robot mai puțin fiabil. Pe tot parcursul procesului, oamenilor li s-a oferit o perspectivă asupra procesului de raționament al robotului.

Dr. Julia Wright este investigatorul principal al proiectului și este cercetător la Laboratorul de Cercetare al Armatei Statelor Unite, sau ARL.

“Înțelegerea modului în care comportamentul robotului influențează coechipierii săi umani este crucială pentru dezvoltarea unor echipe uman-robot eficiente, precum și pentru proiectarea interfețelor și metodelor de comunicare între membrii echipei”, a spus ea. “Această cercetare contribuie la eforturile Armatei de a asigura superioritatea în capacitățile bazate pe inteligență artificială. Dar este și interdisciplinară, deoarece rezultatele sale vor informa munca psihologilor, roboticilor, inginerilor și designerilor de sisteme care lucrează pentru a facilita o mai bună înțelegere între oameni și agenții autonomi în efortul de a crea parteneri autonomi și nu doar unelte.”

Acest proiect nou a făcut parte dintr-un proiect mai mare cunoscut sub numele de Proiectul Membrului Autonom al Escadronului (ASM), care este sponsorizat de Inițiativa de Cercetare a Autonomiei a Biroului Secretarului Apărării. ASM este un robot mic de sol care este utilizat într-o escadron de infanterie. Acesta poate comunica și interacționa cu escadronul.

Studiul a implicat participanți care au observat echipe de soldați și agenți umani într-un mediu simulat. ASM a făcut parte din echipă și a navigat printr-un curs de antrenament. sarcina pentru observatori a fost să monitorizeze echipa și să evalueze robotul. Pe tot parcursul cursului de antrenament, echipa a fost prezentată cu diverse evenimente și obstacole. Soldații au putut să navigheze corect prin fiecare obstacol, dar au existat momente în care robotul nu a putut înțelege obstacolul și a făcut greșeli. Robotul a împărtășit uneori raționamentul său din spatele anumitor acțiuni, precum și rezultatul așteptat.

Studiul a constatat că participanții s-au preocupat mai mult de greșelile robotului în comparație cu logica și raționamentul subiacent. Fiabilitatea robotului a jucat un rol important în încrederea și percepțiile participanților. Ori de câte ori robotul a făcut o greșeală, observatorii i-au evaluat fiabilitatea mai mică.

Fiabilitatea și încrederea au crescut ori de câte ori transparența agentului a fost crescută, sau atunci când robotul a împărtășit detalii și raționamentul din spatele deciziei sale. Cu toate acestea, fiabilitatea și încrederea au fost încă mai mici decât în cazul roboților care nu au suferit niciodată o eroare. Acest lucru a sugerat că împărtășirea raționamentului și logicii subiacente ar putea ajuta la unele dintre problemele de încredere și fiabilitate care înconjoară roboții.

“Studiile anterioare sugerează că contextul contează în determinarea utilității informațiilor de transparență”, a spus Wright. “Trebuie să înțelegem mai bine care sarcini necesită o înțelegere mai profundă a raționamentului agentului și cum să determinăm ce înseamnă acea adâncime. Cercetările viitoare ar trebui să exploreze modalități de a furniza informații de transparență pe baza cerințelor de sarcină.”

Această nouă cercetare va juca un rol critic în domeniu, datorită interacțiunii crescânde care are loc între oameni și roboți. Unul dintre domeniile care vor fi cel mai importante va fi cel militar. Așa cum se poate vedea în aceste exerciții, roboții și soldații vor fi în cele din urmă unul lângă altul. La fel cum un soldat trebuie să aibă încredere într-un alt soldat, același lucru se va aplica și roboților. Dacă acest lucru poate fi realizat și roboții devin obișnuiți în escadroanele de infanterie, va fi o altă instanță în care inteligența artificială pătrunde în industria apărării.