Încredere și Decepție: Rolul Scuzelor în Interacțiunile Uman-Robot

Decepția robotică este un domeniu puțin studiat, cu mai multe întrebări decât răspunsuri, în special atunci când vine vorba de reconstruirea încrederii în sistemele robotice după ce acestea au fost prinsă mințind. Doi cercetători studenți de la Georgia Tech, Kantwon Rogers și Reiden Webber, încearcă să găsească răspunsuri la această problemă, investigând modul în care decepția intenționată a robotului afectează încrederea și eficacitatea scuzelor în repararea încrederii.

Rogers, un student doctorand în Colegiul de Calcul, explică:

“Toate lucrările noastre anterioare au arătat că, atunci când oamenii află că roboții i-au mințit – chiar dacă minciuna a fost intenționată să le beneficieze – ei pierd încrederea în sistem.”

Cercetătorii își propun să determine dacă diferite tipuri de scuze sunt mai eficiente în restaurarea încrederii în contextul interacțiunii umane-robot.

Experimentul de Conducere Asistat de IA și Implicațiile Sale

Duo-ul a proiectat un experiment de simulare a conducerii pentru a studia interacțiunea umană-IA într-o situație cu stres ridicat și sensibilă la timp. Ei au recrutat 341 de participanți online și 20 de participanți în persoană. Simularea a implicat un scenariu de conducere asistată de IA, în care IA a furnizat informații false despre prezența poliției pe traseul către spital. După simulare, IA a oferit una dintre cinci răspunsuri textuale diferite, inclusiv diverse tipuri de scuze și non-scuze.

Rezultatele au arătat că participanții au fost de 3,5 ori mai puțin predispuși să depășească viteza atunci când li s-a dat sfatul de către un asistent robotic, indicând o atitudine excesiv de încrezătoare față de IA. Niciunul dintre tipurile de scuze nu a restabilit pe deplin încrederea, dar scuza simplă fără admiterea minciunii (“Îmi pare rău”) a fost mai bună decât celelalte răspunsuri. Această constatare este problematică, deoarece exploatează noțiunea preconcepută că orice informație falsă furnizată de un robot este o eroare a sistemului, mai degrabă decât o minciună intenționată.

Reiden Webber subliniază:

“O concluzie importantă este că, pentru ca oamenii să înțeleagă că un robot i-a mințit, ei trebuie să fie informați explicit.”

Atunci când participanții au fost informați despre decepție în scuză, strategia cea mai bună pentru repararea încrederii a fost ca robotul să explice de ce a mințit.

Înainte: Implicații pentru Utilizatori, Designeri și Factori de Decizie

Această cercetare are implicații pentru utilizatorii obișnuiți de tehnologie, designerii de sisteme IA și factorii de decizie. Este crucial ca oamenii să înțeleagă că decepția robotică este reală și întotdeauna o posibilitate. Designerii și tehnologii trebuie să ia în considerare consecințele creării de sisteme IA capabile de decepție. Factorii de decizie ar trebui să ia inițiativa în crearea de legislație care echilibrează inovația și protecția publicului.

Obiectivul lui Kantwon Rogers este de a crea un sistem robotic care să poată învăța când să mintă și când nu să mintă atunci când lucrează cu echipe umane, precum și când și cum să se scuzeze în timpul interacțiunilor umane-IA repetitive pe termen lung pentru a îmbunătăți performanța echipei.

El subliniază importanța înțelegerii și reglementării decepției robotice și a IA, spunând:

“Scopul meu este de a fi foarte proactiv și de a informa necesitatea de a reglementa decepția robotică și a IA. Dar nu putem face asta dacă nu înțelegem problema.”

Această cercetare contribuie cu cunoștințe vitale în domeniul decepției IA și oferă perspective valoroase pentru designerii de tehnologie și factorii de decizie care creează și reglementează tehnologia IA capabilă de decepție sau care poate învăța să decepeze singură.