Avslöja fördomar i artificiell intelligens: Utmaningar och lösningar

Den senaste utvecklingen av generativ AI har lett till en explosionsartad tillväxt av företagsapplikationer inom olika branscher, inklusive finans, hälsovård och transport. Utvecklingen av denna teknik kommer också att leda till andra framväxande tekniker som cybersäkerhetsförsvarstekniker, kvantberäkningsframsteg och banbrytande trådlösa kommunikationstekniker. Men denna explosion av nästa generations tekniker kommer med sina egna utmaningar.

Till exempel kan antagandet av AI leda till mer sofistikerade cyberattacker, minnes- och lagringsbottleneckar på grund av den ökade beräkningskraften och etiska problem med fördomar som presenteras av AI-modeller. Den goda nyheten är att NTT Research har föreslagit ett sätt att övervinna fördomar i djupa neurala nätverk (DNN), en typ av artificiell intelligens.

Denna forskning är ett betydande genombrott med tanke på att icke-fördomsfulla AI-modeller kommer att bidra till rekrytering, rättssystemet och hälsovården när de inte påverkas av egenskaper som ras, kön. I framtiden har diskriminering potential att elimineras genom att använda dessa typer av automatiserade system, vilket förbättrar branschövergripande DE&I-företagsinitiativ. Slutligen kommer AI-modeller med icke-fördomsfulla resultat att förbättra produktiviteten och minska den tid det tar att slutföra dessa uppgifter. Men få företag har tvingats att stoppa sina AI-genererade program på grund av teknologins fördomsfulla lösningar.

Till exempel avbröt Amazon användningen av ett rekryteringsalgoritm när de upptäckte att algoritmen visade en preferens för sökande som använde ord som “utfört” eller “fångat” mer frekvent, vilka var mer vanliga i mäns CV:n. Ett annat anmärkningsvärt exempel på fördom kommer från Joy Buolamwini, en av de mest inflytelserika personerna inom AI 2023 enligt TIME, i samarbete med Timnit Gebru vid MIT, som visade att ansiktsanalystekniker visade högre felrater när de bedömde minoriteter, särskilt minoritetskvinnor, potentiellt på grund av otillräckligt representativ träningsdata.

Nyligen har DNN blivit allmänt förekommande inom vetenskap, teknik och företag, och även inom populära applikationer, men de förlitar sig ibland på yttre attribut som kan förmedla fördomar. Enligt en MIT-studie under de senaste åren har forskare utvecklat djupa neurala nätverk som kan analysera stora mängder indata, inklusive ljud och bilder. Dessa nätverk kan identifiera gemensamma egenskaper, vilket möjliggör klassificering av målord eller föremål. För närvarande står dessa modeller i framkanten av fältet som de primära modellerna för att replikera biologiska sensoriska system.

NTT Research Senior Scientist och Associate vid Harvard University Center for Brain Science Hidenori Tanaka och tre andra forskare föreslog att man övervinner begränsningarna i naiv finjustering, den gängse metoden för att minska en DNN:s fel eller “förlust”, med en ny algoritm som minskar en modells beroende av fördomsbenägna attribut.

De studerade neurala nätverks förlustlandskap genom linsen av modusanslutning, observationen att minimierare av neurala nätverk som hämtats via träningsdata är anslutna via enkla vägar av låg förlust. Specifikt frågade de sig följande: är minimierare som förlitar sig på olika mekanismer för att göra sina förutsägelser anslutna via enkla vägar av låg förlust?

De upptäckte att naiv finjustering inte kan grundläggande ändra en modells beslutsprocess eftersom det kräver att man flyttar till en annan dal i förlustlandskapet. Istället måste man driva modellen över barriärerna som skiljer “sänkorna” eller “dalarna” av låg förlust. Författarna kallar denna korrektur algoritm Anslutningsbaserad finjustering (CBFT).

Före denna utveckling klassificerade en DNN, som klassificerar bilder som till exempel en fisk (en illustration som används i denna studie), både objektformen och bakgrunden som ingångsparametrar för förutsägelse. Dess förlustminimerande vägar skulle därför fungera i mekaniskt olika lägen: ett som förlitar sig på den legitima attributen form, och det andra på det yttre attributet bakgrundsfärg. Således skulle dessa lägen sakna linjär anslutning, eller en enkel väg av låg förlust.

Forskningsgruppen förstår den mekanistiska linsen på modusanslutning genom att överväga två uppsättningar parametrar som minimerar förlust med hjälp av bakgrunder och objektformer som ingångsattribut för förutsägelse, respektive. Och sedan frågade de sig själva: är sådana mekaniskt olika minimierare anslutna via vägar av låg förlust i landskapet? Påverkar olikheten i dessa mekanismer enkelheten i deras anslutningsvägar? Kan vi utnyttja denna anslutning för att växla mellan minimierare som använder våra önskade mekanismer?

I andra ord kan djupa neurala nätverk, beroende på vad de har lärt sig under träningen på en viss datamängd, bete sig mycket annorlunda när du testar dem på en annan datamängd. Forskningsgruppens förslag kokades ner till konceptet om delade likheter. Det bygger på den tidigare idén om modusanslutning men med en twist – det överväger hur liknande mekanismer fungerar. Deras forskning ledde till följande ögonöppnande upptäckter:

• minimierare som har olika mekanismer kan vara anslutna på ett ganska komplext, icke-linjärt sätt
• när två minimierare är linjärt anslutna, är det nära kopplat till hur lika deras modeller är i termer av mekanismer
• enkel finjustering kanske inte räcker för att bli av med oönskade funktioner som hämtats under tidigare träning
• om du hittar områden som är linjärt frånkopplade i landskapet, kan du göra effektiva förändringar i en modells inre funktioner.

Medan denna forskning är ett stort steg i att utnyttja den fulla potentialen av AI, kan de etiska problemen kring AI fortfarande vara en uppförsbacke. Teknologer och forskare arbetar för att bekämpa andra etiska svagheter i AI och andra stora språkmodeller som sekretess, autonomi, ansvarighet.

AI kan användas för att samla in och bearbeta stora mängder personuppgifter. Den obehöriga eller oetiska användningen av dessa data kan kompromettera enskildas sekretess, vilket leder till problem med övervakning, dataintrång och identitetsstöld. AI kan också utgöra en hot när det gäller ansvarighet för sina autonoma applikationer som självkörande bilar. Att etablera rättsliga ramverk och etiska standarder för ansvarighet och ansvar kommer att vara avgörande under de kommande åren.

Sammanfattningsvis har den snabba tillväxten av generativ AI-teknik löften för olika branscher, från finans och hälsovård till transport. Trots dessa lovande utvecklingar kvarstår de etiska problemen kring AI. När vi navigerar i denna transformerande era av AI är det viktigt för teknologer, forskare och beslutsfattare att arbeta tillsammans för att etablera rättsliga ramverk och etiska standarder som kommer att säkerställa det ansvarsfulla och fördelaktiga användandet av AI-teknik i framtiden. Forskare vid NTT Research och University of Michigan är ett steg före med sitt förslag för en algoritm som potentiellt kan eliminera fördomar i AI.