Avsløring av fordommer i kunstig intelligens: Utfordringer og løsninger

Den nylige fremgangen i generativ kunstig intelligens har ført til en tilsvarende økning i bedriftsapplikasjoner over flere bransjer, inkludert finans, helsevesen og transport. Utviklingen av denne teknologien vil også føre til andre nye teknologier som cybersikkerhetsforsvarsteknologier, kvantecomputering og gjennombrudd i trådløs kommunikasjonsteknologi. Men denne eksplosjonen av nye teknologier kommer med sine egne utfordringer.

For eksempel kan innføringen av kunstig intelligens føre til mer sofistikerte cyberangrep, minne- og lagringsbottlenecks på grunn av økningen i beregningskraft og etiske bekymringer om fordommer presentert av kunstig intelligens-modeller. Det gode nyheten er at NTT Research har foreslått en måte å overvinne fordommer i dypt neurale nettverk (DNN), en type kunstig intelligens.

Dette forskningsarbeidet er et betydelig gjennombrudd, ettersom ikke-foredomsfulle kunstig intelligens-modeller vil bidra til rekruttering, rettssystemet og helsevesenet når de ikke påvirkes av karakteristika som rase, kjønn. I fremtiden har diskriminering potensialet til å bli eliminert ved å bruke disse typene automatiserte systemer, og dermed forbedre bransjewide DE&I-bedriftsinitiativer. Til slutt vil kunstig intelligens-modeller med ikke-foredomsfulle resultater forbedre produktiviteten og redusere tiden det tar å fullføre disse oppgavene. Men få bedrifter har vært tvunget til å stoppe sine kunstig intelligens-genererte programmer på grunn av teknologiens foredomsfulle løsninger.

For eksempel avsluttet Amazon bruk av en rekrutteringsalgoritme da de oppdaget at algoritmen viste en preferanse for søkere som brukte ord som “utført” eller “fanget” mer hyppig, som var mer vanlig i menns CV-er. Et annet glitrende eksempel på fordommer kommer fra Joy Buolamwini, en av de mest innflytelsesrike personene i kunstig intelligens i 2023 ifølge TIME, i samarbeid med Timnit Gebru ved MIT, avdekket at ansiktsanalyseteknologier viste høyere feilrater når de vurderte minoriteter, spesielt minoritetskvinner, potensielt på grunn av utilstrekkelig representativ treningdata.

Nylig har DNN blitt allment brukt i vitenskap, teknologi og bedrift, og selv i populære applikasjoner, men de avhenger noen ganger av tvilsomme attributter som kan overføre fordommer. Ifølge en MIT-studie har vitenskapsmenn utviklet dypt neurale nettverk som kan analysere store mengder inndata, inkludert lyd og bilder. Disse nettverkene kan identifisere felles karakteristika, som gjør det mulig for dem å klassifisere målord eller -objekter. For tiden står disse modellene i forkant av feltet som de primære modellene for å gjenskape biologiske sansesystemer.

NTT Research Senior Scientist og medarbeider ved Harvard University Center for Brain Science Hidenori Tanaka og tre andre forskere foreslo å overvinne begrensningene i naiv finjustering, den vanlige metoden for å redusere feil eller “tap” i et DNN, med en ny algoritme som reduserer modellens avhengighet av foredoms-utsatte attributter.

De studerte neurale nettverks tap-landskap gjennom linsen på modus-tilkobling, observasjonen av at minimizerer av neurale nettverk hentet via trening på en datasett er tilkoblet via enkle stier av lavt tap. Spesifikt spurte de følgende spørsmålet: Er minimizerer som avhenger av forskjellige mekanismer for å gjøre sine forutsigelser tilkoblet via enkle stier av lavt tap?

De oppdaget at naiv finjustering ikke kan fundamentalt endre beslutningsmekanismen til en modell, ettersom det krever å flytte til en annen dal i tap-landskapet. I stedet må du drive modellen over barrierene som skiller “sinkene” eller “dalene” av lavt tap. Forfatterne kaller denne korrektive algoritmen Connectivity-Based Fine-Tuning (CBFT).

Før denne utviklingen klassifiserte et DNN, som klassifiserte bilder som en fisk (en illustrasjon brukt i denne studien), både objektformen og bakgrunnen som inndata-parametere for prediksjon. Dets tap-minimerende stier ville derfor operere i mekanisk ulike moduser: en som avhenger av den legitime attributten form, og den andre på den tvilsomme attributten bakgrunnsfarge. Som sådan ville disse modusene mangle lineær tilkobling, eller en enkel sti av lavt tap.

Forskningsgruppen forstår mekanisk lins på modus-tilkobling ved å vurdere to sett med parametre som minimerer tap ved å bruke bakgrunner og objektformer som inndata-attributtene for prediksjon, henholdsvis. Og så spurte de seg selv: Er slike mekanisk ulike minimizerer tilkoblet via stier av lavt tap i landskapet? Påvirker ulikheten av disse mekanismene enkelheten av deres tilkoblingsstier? Kan vi utnytte denne tilkoblingen til å skifte mellom minimizerer som bruker våre ønskede mekanismer?

I andre ord kan dypt neurale nettverk, avhengig av hva de har plukket opp under trening på en bestemt datasett, oppføre seg svært ulikt når du tester dem på en annen datasett. Teamets forslag ble forkortet til konseptet om felles likheter. Det bygger på den tidligere ideen om modus-tilkobling, men med en vending – det vurderer hvordan lignende mekanismer fungerer. Deres forskning ledet til følgende øyneåpnende oppdagelser:

• minimizerer som har forskjellige mekanismer kan være tilkoblet på en ganske kompleks, ikke-lineær måte
• når to minimizerer er lineært tilkoblet, er det tett knyttet til hvor lignende deres modeller er i mekanismer
• enkel finjustering kan ikke være nok til å fjerne uønskede egenskaper plukket opp under tidligere trening
• hvis du finner regioner som er lineært frakoblet i landskapet, kan du gjøre effektive endringer i en modells indre funksjoner.

Mens dette forskningsarbeidet er et stort skritt i å utnytte det fulle potensialet i kunstig intelligens, kan de etiske bekymringene rundt kunstig intelligens fortsatt være en oppover kamp. Teknologer og forskere arbeider for å bekjempe andre etiske svakheter i kunstig intelligens og andre store språkmodeller, som personvern, autonomi og ansvar.

Kunstig intelligens kan brukes til å samle inn og prosessere store mengder personlige data. Den uautoriserte eller uetiske bruken av disse dataene kan kompromittere enkeltpersoners personvern, og føre til bekymringer om overvåking, datalekkasjer og identitetstyveri. Kunstig intelligens kan også utgjøre en trussel når det gjelder ansvar for selvstyrte applikasjoner, som selvkjørende biler. Å etablere juridiske rammer og etiske standarder for ansvar og ansvarlighet vil være essensielt i årene som kommer.

I konklusjon holder den raske veksten i generativ kunstig intelligens-teknologi løfter for flere bransjer, fra finans og helsevesen til transport. Til tross for disse lovende utviklingene, forblir de etiske bekymringene rundt kunstig intelligens betydelige. Mens vi navigerer denne transformative æraen i kunstig intelligens, er det viktig for teknologer, forskere og politikere å arbeide sammen for å etablere juridiske rammer og etiske standarder som vil sikre en ansvarlig og nyttig bruk av kunstig intelligens-teknologi i årene som kommer. Forskere ved NTT Research og University of Michigan er ett skritt foran med deres forslag for en algoritme som potensielt kan eliminere fordommer i kunstig intelligens.