Avslöja fördomar i artificiell intelligens: utmaningar och lösningar

Den senaste tidens framsteg av generativ AI har sett en åtföljande boom i företagsapplikationer över branscher, inklusive finans, hälsovård, transport. Utvecklingen av denna teknik kommer också att leda till annan framväxande teknik som försvarsteknik för cybersäkerhet, framsteg inom kvantberäkning och banbrytande trådlös kommunikationsteknik. Men denna explosion av nästa generations teknik kommer med sina egna utmaningar.

Till exempel kan antagandet av AI möjliggöra mer sofistikerade cyberattacker, minnes- och lagringsflaskhalsar på grund av den ökade beräkningskraften och etiska problem med fördomar som presenteras av AI-modeller. Den goda nyheten är att NTT Research har föreslagit ett sätt att övervinna fördomar i djupa neurala nätverk (DNN), en typ av artificiell intelligens.

Denna forskning är ett betydande genombrott med tanke på att icke-partiska AI-modeller kommer att bidra till anställningar, rättsväsendet och hälso- och sjukvården när de inte påverkas av egenskaper som ras och kön. I framtiden har diskriminering potential att elimineras genom att använda den här typen av automatiserade system, vilket förbättrar branschövergripande affärsinitiativ inom DE&I. Slutligen kommer AI-modeller med icke-partiska resultat att förbättra produktiviteten och minska den tid det tar att slutföra dessa uppgifter. Emellertid har få företag tvingats stoppa sina AI-genererade program på grund av teknikens partiska lösningar.

Till exempel, Amazon avbröt användningen av en anställningsalgoritm när den upptäckte att algoritmen visade en preferens för sökande som använde ord som ”executed” eller ”captured” oftare, vilka var mer förekommande i mäns CV. Ett annat uppenbart exempel på partiskhet kommer från Joy Buolamwini, en av de mest inflytelserika personerna inom AI år 2023 enligt TID, i samarbete med Timnit Gebru vid MIT, avslöjade att ansiktsanalystekniker visade högre felfrekvens vid bedömning av minoriteter, särskilt minoritetskvinnor, potentiellt på grund av otillräckligt representativa träningsdata.

Nyligen har DNN:er blivit genomgående inom vetenskap, teknik och affärer, och till och med i populära tillämpningar, men de förlitar sig ibland på falska attribut som kan förmedla partiskhet. Enligt en MIT-studie Under de senaste åren har forskare utvecklat djupa neurala nätverk som kan analysera stora mängder indata, inklusive ljud och bilder. Dessa nätverk kan identifiera delade egenskaper, vilket gör det möjligt för dem att klassificera målord eller objekt. Från och med nu står dessa modeller i framkant av fältet som de primära modellerna för att replikera biologiska sensoriska system.

NTT Research Senior Scientist och Associate vid Harvard University Center for Brain Science Hidenori Tanaka och tre andra forskare föreslog att man skulle övervinna begränsningarna av naiv finjustering, status quo-metoden för att minska en DNN:s fel eller "förlust", med en ny algoritm som minskar en modells beroende av bias-benägna attribut.

De studerade neurala nätverks förlustlandskap genom linsen för lägesanslutning, observationen att minimerare av neurala nätverk hämtade via träning på en datauppsättning är anslutna via enkla vägar med låg förlust. Specifikt ställde de följande fråga: är minimerare som förlitar sig på olika mekanismer för att göra sina förutsägelser kopplade via enkla vägar med låg förlust?

De upptäckte att naiv finjustering inte i grunden kan förändra beslutsmekanismen för en modell eftersom den kräver att flytta till en annan dal i förlustlandskapet. Istället måste du köra modellen över barriärerna som separerar "sänkorna" eller "dalarna" med låg förlust. Författarna kallar denna korrigerande algoritm för Connectivity-Based Fine-Tuning (CBFT).

Före denna utveckling använde en DNN, som klassificerar bilder som en fisk (en illustration som används i denna studie) både objektets form och bakgrund som indataparametrar för förutsägelse. Dess förlustminimerande vägar skulle därför fungera i mekanistiskt olika lägen: en förlitar sig på den legitima egenskapen form och den andra på den falska egenskapen bakgrundsfärg. Som sådana skulle dessa lägen sakna linjär anslutning, eller en enkel väg med låg förlust.

Forskargruppen förstår mekanistisk lins på lägesanslutning genom att överväga två uppsättningar parametrar som minimerar förlusten med hjälp av bakgrunder och objektformer som inmatningsattribut för förutsägelse, respektive. Och sedan frågade sig själva, är sådana mekanistiskt olika minimerare anslutna via vägar med låg förlust i landskapet? Påverkar olikheten mellan dessa mekanismer enkelheten i deras anslutningsvägar? Kan vi utnyttja denna anslutning för att växla mellan minimerare som använder våra önskade mekanismer?

Med andra ord kan djupa neurala nätverk, beroende på vad de har lärt sig under träning på en viss datamängd, bete sig väldigt olika när man testar dem på en annan datamängd. Teamets förslag kokade ner till konceptet med delade likheter. Det bygger på den tidigare idén om lägeskonnektivitet men med en twist – det undersöker hur liknande mekanismer fungerar. Deras forskning ledde till följande ögonöppnande upptäckter:

• minimerare som har olika mekanismer kan kopplas ihop på ett ganska komplext, icke-linjärt sätt
• När två minimerare är linjärt kopplade är det nära kopplat till hur lika deras modeller är vad gäller mekanismer.
• enkel finjustering kanske inte räcker för att bli av med oönskade funktioner som plockats upp under tidigare träning
• Om du hittar regioner som är linjärt frånkopplade i landskapet kan du göra effektiva ändringar i en modells interna funktioner.

Även om den här forskningen är ett stort steg för att utnyttja AIs fulla potential, kan de etiska farhågorna kring AI fortfarande vara en kamp uppåt. Teknologer och forskare arbetar för att bekämpa andra etiska svagheter i AI och andra stora språkmodeller som integritet, autonomi, ansvar.

AI kan användas för att samla in och behandla stora mängder personuppgifter. Obehörig eller oetisk användning av dessa uppgifter kan äventyra individers integritet, vilket leder till oro för övervakning, dataintrång och identitetsstöld. AI kan också utgöra ett hot när det gäller ansvaret för deras autonoma applikationer, såsom självkörande bilar. Att etablera rättsliga ramar och etiska standarder för ansvarsskyldighet och ansvarsskyldighet kommer att vara avgörande under de kommande åren.

Sammanfattningsvis är den snabba tillväxten av generativ AI-teknik lovande för olika branscher, från finans och hälsovård till transport. Trots denna lovande utveckling är de etiska farhågorna kring AI fortfarande betydande. När vi navigerar i denna omvälvande era av AI är det viktigt för teknologer, forskare och beslutsfattare att arbeta tillsammans för att upprätta rättsliga ramar och etiska standarder som kommer att säkerställa en ansvarsfull och fördelaktig användning av AI-teknik under de kommande åren. Forskare vid NTT Research och University of Michigan ligger ett steg före spelet med sitt förslag till en algoritm som potentiellt skulle kunna eliminera fördomar i AI.