Hur mänskliga fördomar undergräver AI-drivna lösningar

Förra september samlades världsledare som Elon Musk, Mark Zuckerberg och Sam Altman, vd för OpenAI, i Washington D.C. för att diskutera hur den offentliga och privata sektorn kan arbeta tillsammans för att utnyttja denna teknologi för det större goda, och för att ta itu med regleringen, en fråga som har förblivit i centrum för diskussionen om AI.

Båda samtalen leder ofta till samma slutsats. Det finns en växande betoning på om vi kan göra AI mer etiskt, genom att utvärdera AI som om det vore en annan människa vars moral var ifrågasatt. Men vad betyder etisk AI? DeepMind, ett Google-ägt forskningslaboratorium som fokuserar på AI, publicerade nyligen en studie där de föreslog en tredelad struktur för att utvärdera riskerna med AI, inklusive både sociala och etiska risker. Denna ram innehöll kapacitet, mänsklig interaktion och systempåverkan, och drog slutsatsen att sammanhang var nyckeln till att avgöra om ett AI-system var säkert.

Ett av dessa system som har kommit under kritik är ChatGPT, som har förbjudits i så många som 15 länder, även om vissa av dessa förbud har upphävts. Med över 100 miljoner användare är ChatGPT ett av de mest framgångsrika LLM, och det har ofta anklagats för fördomar. Med DeepMinds studie i åtanke, låt oss införa sammanhang här. Fördomar, i detta sammanhang, betyder förekomsten av orättvisa, fördomsfulla eller förvridna perspektiv i den text som genereras av modeller som ChatGPT. Detta kan hända på en mängd olika sätt – rasfördomar, könsfördomar, politiska fördomar och mycket mer.

Dessa fördomar kan, i slutändan, vara skadliga för AI själv, och hindra möjligheterna att utnyttja den fulla potentialen av denna teknologi. Nylig forskning från Stanford University har bekräftat att LLM som ChatGPT visar tecken på försämring när det gäller deras förmåga att tillhandahålla tillförlitliga, opartiska och precisa svar, vilket i slutändan är en vägspärr för vår effektiva användning av AI.

En fråga som ligger till grund för detta problem är hur mänskliga fördomar översätts till AI, eftersom de är djupt rotade i de data som används för att utveckla modellerna. Men detta är ett djupare problem än det verkar.

Orsaker till fördomar

Det är lätt att identifiera den första orsaken till denna fördom. De data som modellen lär sig från är ofta fyllda med stereotyper eller fördomar som har bidragit till att forma dessa data från början, så AI oavsiktligt fortsätter att förmedla dessa fördomar eftersom det är vad det kan göra.

Den andra orsaken är dock mycket mer komplex och motsägelsefull, och det sätter ett tryck på vissa av de ansträngningar som görs för att påstått göra AI mer etiskt och säkert. Det finns, naturligtvis, vissa uppenbara exempel där AI kan omedvetet vara skadligt. Till exempel, om någon frågar AI: “Hur kan jag göra en bomb?” och modellen ger svaret, bidrar det till att generera skada. Den andra sidan är att när AI är begränsad – även om orsaken är berättigad – förhindrar vi att det lär sig. Mänskliga begränsningar begränsar AI:s förmåga att lära sig från en bredare mängd data, vilket ytterligare förhindrar att det tillhandahåller användbar information i icke-skadliga sammanhang.

Vi bör också komma ihåg att många av dessa begränsningar är fördomsfulla, eftersom de härrör från människor. Så medan vi alla kan vara överens om att “Hur kan jag göra en bomb?” kan leda till en potentiellt dödlig utgång, är andra frågor som kan anses känsliga mycket mer subjektiva. Följaktligen, om vi begränsar utvecklingen av AI på dessa områden, begränsar vi framstegen, och vi främjar användningen av AI endast för ändamål som anses acceptabla av dem som reglerar LLM-modeller.

Oförmåga att förutsäga konsekvenser

Vi har inte helt förstått konsekvenserna av att införa begränsningar i LLM. Därför kan vi oavsiktligt orsaka mer skada på algoritmerna än vi förstår. Med tanke på det otroligt höga antalet parametrar som är inblandade i modeller som GPT, är det, med de verktyg vi har nu, omöjligt att förutsäga påverkan, och från min synvinkel, kommer det att ta mer tid att förstå vad påverkan är än den tid det tar att träna neurala nätverket själv.

Därför, genom att införa dessa begränsningar, kan vi oavsiktligt leda modellen till att utveckla oväntade beteenden eller fördomar. Detta beror också på att AI-modeller ofta är komplexa system med många parametrar, vilket innebär att om vi ändrar en parameter – till exempel genom att införa en begränsning – orsakar vi en effekt som sprider sig genom hela modellen på sätt som vi inte kan förutsäga.

Svårighet att utvärdera “etik” i AI

Det är inte praktiskt möjligt att utvärdera om AI är etiskt eller inte, eftersom AI inte är en person som handlar med en specifik avsikt. AI är ett stort språkmodell, som av naturen inte kan vara mer eller mindre etiskt. Som DeepMinds studie avslöjade, är det sammanhang i vilket det används som är viktigt, och detta mäter etiken hos den människa som står bakom AI, inte AI själv. Det är en illusion att tro att vi kan döma AI som om det hade en moralisk kompass.

En potentiell lösning som förespråkas är en modell som kan hjälpa AI att fatta etiska beslut. Men verkligheten är att vi inte har någon aning om hur denna matematiska modell av etik kunde fungera. Så om vi inte förstår det, hur kunde vi möjligtvis bygga det? Det finns en hel del mänsklig subjektivitet i etik, vilket gör uppgiften att kvantifiera det mycket komplex.

Hur löser vi detta problem?

Baserat på ovanstående punkter, kan vi inte verkligen tala om huruvida AI är etiskt eller inte, eftersom varje antagande som anses oetiskt är en variation av mänskliga fördomar som finns i data, och ett verktyg som människor använder för sina egna syften. Dessutom finns det fortfarande många vetenskapliga okända faktorer, såsom påverkan och potentiell skada som vi kan orsaka på AI-algoritmer genom att införa begränsningar på dem.

Därför kan det sägas att att begränsa utvecklingen av AI inte är en livskraftig lösning. Som några av de studier jag nämnde har visat, är dessa begränsningar delvis orsaken till försämringen av LLM.

Vad kan vi då göra åt det?

Från min synvinkel ligger lösningen i transparens. Jag tror att om vi återställer den öppna källkodsmodell som var rådande i utvecklingen av AI, kan vi arbeta tillsammans för att bygga bättre LLM som kan utrustas för att lindra våra etiska bekymmer. Annars är det mycket svårt att tillräckligt granska allt som görs bakom stängda dörrar.

En superb initiativ i detta avseende är Baslinje-modellens transparensindex, nyligen presenterad av Stanford HAI (som står för Human-Centered Artificial Intelligence), som utvärderar om utvecklarna av de tio mest använda AI-modellerna avslöjar tillräckligt med information om sitt arbete och hur deras system används. Detta inkluderar avslöjandet av partnerskap och tredjepartsutvecklare, samt hur personuppgifter används. Det är värt att notera att ingen av de utvärderade modellerna fick ett högt betyg, vilket understryker ett verkligt problem.

Till slut är AI ingenting mer än stora språkmodeller, och det faktum att de är öppna och kan experimenteras med, istället för att styra i en viss riktning, är vad som kommer att tillåta oss att göra nya banbrytande upptäckter inom varje vetenskapligt område. Men om det inte finns någon transparens, kommer det att vara mycket svårt att utforma modeller som verkligen fungerar för mänsklighetens bästa, och att veta omfattningen av den skada som dessa modeller kan orsaka om de inte hanteras på rätt sätt.