Ny innsikt i mangelen på tillit til kunstig intelligens

Nylig forskning gir ny innsikt i hva som bestemmer enkeltindividuers nivå av tillit til kunstig intelligens (AI). Et team fra University of Kansas, ledet av relasjonspsykolog Omri Gillath, detaljerte hvordan denne relasjonen påvirkes av enkeltindividuers faktiske livsrelasjoner eller attachmentstil.

Teamet bestod av en rekke eksperter fra ulike fagfelt, som psykologi, ingeniørvitenskap, forretning og medisin.

Artikkelen ble publisert i tidsskriftet Computers in Human Behavior.

Ifølge forskningen er mennesker mer sannsynlig å være mindre tillitsfulle til AI-systemer hvis de er engstelige for sine faktiske livsrelasjoner med mennesker. Artikkelen detaljerer også hvordan det er mulig å øke tillit til kunstig intelligens ved å minne individer på deres stabile menneskelige relasjoner.

Det er fortsatt et høyt nivå av mistillit til nye kunstig intelligens-teknologier, til tross for at det estimerte globale markedet for kunstig intelligens forventes å nå 39,9 milliarder dollar i 2019.

Økende tillit

Forsknings-teamet identifiserte ikke bare problemet med mangelen på tillit til AI-systemer, men de kom også med måter å øke tillit på. Studier av menneskelige relasjoner antydet noen forskjellige ting.

Først, mennesker som har attachment-angst er mer sannsynlig å ha mindre tillit til kunstig intelligens. For det andre, ved å forbedre attachment-angst, ble tillit til kunstig intelligens redusert. Til slutt, tillit til kunstig intelligens øker når attachment-sikkerhet forbedres.

Gillath er professor i psykologi ved KU.

“De fleste studier om tillit til kunstig intelligens fokuserer på kognitive måter å øke tillit på. Her tok vi en annen tilnærming ved å fokusere på en ‘relasjons-emosjonell’ vei til å øke tillit, og se AI som en partner eller teammedlemmer i stedet for en enhet,” sa Gillath.

“Å finne assosiasjoner mellom en persons attachment-stil — en individuell forskjell som representerer måten mennesker føler, tenker og oppfører seg i nære relasjoner — og deres tillit til AI, åpner vei for nye forståelser og potensielt nye intervensjoner for å inducere tillit.”

Med sin forskning, bringer teamet frem en ny måte å se på kunstig intelligens og tillit omkring det, spesielt hva som går inn i å påvirke denne tilliten. Det kan spille en rolle i å lette innføringen av AI på arbeidsplassen og i nye miljøer.

“Funnene viser at du kan forutsi og øke menneskers tillitsnivå i ikke-menneskelige enheter basert på deres tidlige relasjoner med mennesker,” sa Gillath. “Dette har potensialet til å forbedre adopsjonen av nye teknologier og integreringen av AI på arbeidsplassen.”

Mistillit til AI

Mistillit til AI blant befolkningen er ingen nyhet. I de siste årene har det vært mye skepsis omkring teknologien og dens implementering. Dette er på ingen måte ufortjent, da ulike problemer har utviklet seg over årene og forårsaket denne mistilliten.

Nettopp nylig kritiserte internasjonale forskere fra noen av verdens beste institusjoner manglende transparens i AI-forskning. Tilbake i juni 2019 så USA sin første sak av urettmessig arrestasjon på grunn av en dårlig algoritme. Det er mange flere eksempler, som forvrengning i datavisjon og bruk av AI av regjeringer til kamp og overvåking.

Selv om disse eksemplene kan synes langt borte fra en enkeltindividuers personlige erfaring med AI, spiller de uansett en rolle i å danne den overordnede oppfatningen av teknologien. Ny forskning, som den som kommer fra University of Kansas, gir mye nødvendig innsikt i å håndtere noen av disse problemene.