Forskare Upptäcker Att AI-Modeller Kan Påverka Människor Att Fatta Oetiska Beslut

Ett team av forskare har nyligen undersökt AI:s potential att korrumpera människor och påverka dem att fatta oetiska beslut. Forskarna undersökte hur interaktioner med system baserade på OpenAI:s GPT-2-modell kunde potentiellt påverka människor att fatta oetiska beslut, även när de var medvetna om att rådgivningen kom från ett AI-system.

AI-system blir alltmer vanliga och deras inflytande växer alltmer. AI-system påverkar människors beslut, används för allt från att rekommendera filmer till att rekommendera romantiska partners. Med tanke på hur mycket inflytande AI har på människors liv, är det viktigt att överväga hur AI kan påverka människor att fatta oetiska beslut och bryta mot moraliska riktlinjer. Detta är särskilt sant med tanke på att AI-modeller ständigt blir mer avancerade.

Sociala forskare och dataforskare har blivit alltmer oroade över att AI-modeller kan användas för att sprida skadlig desinformation och missinformation. En ny rapport publicerad av forskare från Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism (CTEC) fann att OpenAI:s GPT-3-modell kunde användas för att generera inflytelserik text som kunde radikalisera människor och driva dem mot “våldsamma högerextrema extremistiska ideologier och beteenden”.

En studie genomförd av ett team av forskare från Max Planck-institutet, Universitetet i Amsterdam, Universitetet i Köln och Otto Beisheim School of Management syftade till att fastställa hur mycket inflytande en AI kan ha på människors beslut när det gäller oetiska val. För att undersöka hur en AI kan “korrumpera” en person, använde forskarna ett system baserat på OpenAI:s GPT-2-modell. Enligt VentureBeat tränade författarna till rapporten en GPT2-baserad modell för att generera både “ohederlighetsfrämjande” och “hederlighetsfrämjande” råd. Data tränades på bidrag från 400 olika deltagare, och därefter rekryterade forskarteamet över 1500 personer för att interagera med rådgivnings-AI-modellerna.

Studiedeltagarna fick i uppgift att ta emot råd från modellen och sedan utföra en uppgift som var utformad för att fånga antingen ohederligt eller hederligt beteende. Studiedeltagarna delades in i par, och i dessa par om två spelade de ett tärningsspel. Den första deltagaren kastade en tärning och rapporterade utfallet av tärningskastet. Den andra deltagaren fick reda på utfallet av den första deltagarens tärningskast och kastade sedan en tärning själv. Den andra deltagaren kastade tärningen i hemlighet och var ensam ansvarig för att rapportera sitt eget utfall, vilket gav dem möjlighet att ljuga om utfallet av tärningskastet. Om tärningarna som kastades av båda deltagarna matchade, fick de båda deltagarna betalt. Deltagarna fick också mer betalt om deras matchande kast var högre. Om de rapporterade värdena inte matchade fick deltagarna inte betalt.

Deltagarna i studien delades slumpmässigt in i en av två olika grupper. En grupp fick möjlighet att läsa hederlighetsfrämjande råd, medan den andra gruppen läste ohederlighetsfrämjande råd. Råden var skrivna av både människor och AI. Deltagarna delades också in efter sin kunskapsnivå om rådets ursprung. Det fanns en 50-50-procentig chans att en given deltagare skulle informeras om rådets ursprung, så hälften av deltagarna i varje grupp visste att rådets ursprung var antingen ett AI-system eller en människa, medan den andra hälften hölls i okunskap. Den andra gruppen av människor hade möjlighet att tjäna bonus för att korrekt gissa rådets ursprung.

Forskningen visade att när AI-genererade råd stämmer överens med en persons preferenser, kommer de att följa rådet, även när de vet att rådet genererades av ett AI-system. Enligt forskarna fanns det ofta diskrepanser mellan uttalade preferenser och faktiskt beteende, vilket gör det viktigt att överväga hur algoritmer kan påverka mänskligt beteende.

Forskarteamet förklarade att deras studie visar på behovet av att testa hur en AI kan påverka en persons handlingar när man överväger hur man ska etiskt distribuera en AI-modell. Dessutom varnar de för att AI-etiker och forskare bör förbereda sig på möjligheten att AI kan användas av illvilliga aktörer för att korrumpera andra. Som forskarteamet skrev:

“AI kan vara en kraft för gott om den lyckas övertyga människor att handla mer etiskt. Men våra resultat visar att AI-råd inte lyckas öka hederligheten. AI-rådgivare kan fungera som syndabockar som man kan avleda (en del av) den moraliska skulden för ohederlighet. Dessutom … i sammanhanget med rådgivning, räcker det inte med transparens om algoritmisk närvaro för att lindra dess potentiella skada.”