Nye indsigt i manglen på tillid til kunstig intelligens

Seneste forskning giver nye indsigt i, hvad der bestemmer enkeltpersoners niveau af tillid til kunstig intelligens (AI). Et hold fra University of Kansas, ledet af relationspsykolog Omri Gillath, har detaljeret, hvordan denne relation påvirkes af enkeltpersoners virkelige livsrelation eller tilknytningsstil.

Holdet bestod af en række eksperter fra forskellige discipliner, såsom psykologi, ingeniørvidenskab, erhverv og medicin.

Artiklen blev offentliggjort i tidsskriftet Computers in Human Behavior.

Ifølge forskningen er mennesker mere tilbøjelige til at være mindre tillidsfulde over for AI-systemer, hvis de er bekymrede for deres virkelige livsrelationer med mennesker. Artiklen detaljerer også, hvordan det er muligt at øge tilliden til kunstig intelligens ved at mindske menneskers bekymring over deres relationer med andre mennesker.

Der er stadig et højt niveau af mistillid til nye kunstig intelligens-teknologier, på trods af det estimerede globale marked for kunstig intelligens, der forventes at nå 39,9 milliarder dollars i 2019.

Øgende Tillid

Forskningsholdet identificerede ikke kun problemet med manglen på tillid til AI-systemer, men de fandt også måder at øge tilliden på. Studierne af menneskelige relationer viste flere forskellige ting.

Først og fremmest kan mennesker, der har en tilknytningsangst, forudses at have mindre tillid til kunstig intelligens. For det andet kan tilliden til kunstig intelligens reduceres ved at forbedre tilknytningsangsten. For det tredje kan tilliden til kunstig intelligens øges, når tilknytnings sikkerheden forbedres.

Gillath er professor i psykologi ved KU.

“De fleste studier om tillid til kunstig intelligens fokuserer på kognitive måder at øge tilliden på. Her tog vi en anden tilgang ved at fokusere på en ’relationel affektiv’ vej til at øge tilliden, hvor vi ser AI som en partner eller teammedlem snarere end en enhed,” sagde Gillath.

“At finde associationer mellem en persons tilknytningsstil — en individuel forskel, der repræsenterer, hvordan mennesker føler, tænker og opfører sig i nære relationer — og deres tillid til AI baner vejen for nye forståelser og potentielt nye interventioner til at inducere tillid.”

Med deres forskning bringer holdet en ny måde at se på kunstig intelligens og tilliden omkring det på, specifikt hvad der går ind i at påvirke denne tillid. Det kan spille en rolle i at lette introduktionen af AI på arbejdspladsen og i nye miljøer.

“Forskningens resultater viser, at man kan forudse og øge menneskers tillidsniveau i ikke-menneskelige enheder baseret på deres tidlige relationer med mennesker,” sagde Gillath. “Dette har potentialet til at forbedre adoptionen af nye teknologier og integrationen af AI på arbejdspladsen.”

Mistillid til AI

Mistilliden til AI blandt befolkningen er ikke noget nyt. I de seneste år har der været en del skepsis omkring teknologien og dets implementering. Dette er på ingen måde ufortjent, da der er opstået flere problemer gennem årene, der har ført til denne mistillid.

For nylig kritiserede internationale videnskabsmænd fra nogle af verdens førende institutioner manglende gennemsigtighed i AI-forskning. Tilbage i juni 2019 så USA sin første tilfælde af en uretmæssig anholdelse på grund af en dårlig algoritme. Der er mange flere eksempler, såsom forudindtagethed i computer vision og brugen af AI af regeringer til kamp og overvågning.

Selvom disse eksempler kan synes langt væk fra en enkelt persons personlige oplevelse med AI, spiller de uden tvivl en rolle i at danne den overordnede opfattelse af teknologien. Ny forskning som den, der kommer fra University of Kansas, giver meget nødvendig indsigt i at tackle nogle af disse problemer.