Ny insikt i bristande förtroende för artificiell intelligens

Nya studier ger ny insikt i vad som bestämmer människors förtroende för artificiell intelligens (AI). Ett team från University of Kansas, lett av relationspsykologen Omri Gillath, har beskrivit hur relationen påverkas av människors verkliga relationer eller anknytningsstil.

Teamet bestod av experter från olika discipliner, såsom psykologi, teknik, ekonomi och medicin.

Artikeln publicerades i tidskriften Computers in Human Behavior.

Enligt studien är människor mer benägna att ha mindre förtroende för AI-system om de är oroliga för sina verkliga relationer med människor. Artikeln beskriver också hur förtroendet för artificiell intelligens kan ökas genom att påminna människor om sina stabila mänskliga relationer.

Det finns fortfarande en hög nivå av misstro mot nya artificiella intelligens-teknologier, trots att den globala marknaden för artificiell intelligens förväntas nå 39,9 miljarder dollar 2019.

Ökad tillit

Forskningsgruppen identifierade inte bara problemet med bristande förtroende för AI-system, utan kom också med lösningar för att öka förtroendet. Studier om mänskliga relationer visade flera saker.

Först är människor som har anknytningsångest mer benägna att ha mindre förtroende för artificiell intelligens. För det andra minskar förtroendet för artificiell intelligens när anknytningsångest ökar. För det tredje ökar förtroendet för artificiell intelligens när anknytnings-säkerhet ökar.

Gillath är professor i psykologi vid KU.

“De flesta studier om förtroende för artificiell intelligens fokuserar på kognitiva sätt att öka förtroendet. Här tog vi en annan approach genom att fokusera på en ‘relationell affektiv’ väg för att öka förtroendet, och se AI som en partner eller medlem i ett team snarare än en enhet”, sa Gillath.

“Att hitta samband mellan en persons anknytningsstil – en individuell skillnad som representerar hur människor känner, tänker och beter sig i nära relationer – och deras förtroende för AI öppnar vägen för nya förståelser och potentiellt nya interventioner för att inducera förtroende.”

Med sin forskning bidrar teamet med en ny synvinkel på artificiell intelligens och förtroendet kring den, särskilt vad som påverkar det. Det kan spela en roll i att underlätta införandet av AI på arbetsplatser och i nya miljöer.

“Resultaten visar att man kan förutsäga och öka människors förtroendenivåer för icke-mänskliga enheter baserat på deras tidiga relationer med människor”, sa Gillath. “Detta har potentialen att förbättra antagandet av nya teknologier och integrationen av AI på arbetsplatsen.”

Misstro mot AI

Misstron mot AI hos befolkningen är ingenting nytt. Under de senaste åren har det funnits mycket skepsis kring tekniken och dess implementering. Detta är inte helt obefogat, eftersom olika problem har uppstått genom åren som orsakat denna misstro.

Alldeles nyligen kritiserade internationella forskare från några av världens främsta institutioner bristen på transparens inom AI-forskning. I juni 2019 såg USA sitt första fall av felaktig arrestering på grund av en dålig algoritm. Det finns många fler exempel, såsom fördomar i datorseende och användningen av AI av regeringar för strid och övervakning.

Medan alla dessa exempel kan tyckas ligga långt ifrån en persons personliga upplevelse av AI, spelar de utan tvekan en roll i att forma den allmänna uppfattningen om tekniken. Ny forskning, som den som kommer från University of Kansas, ger värdefull insikt i att hantera några av dessa frågor.