Avsløring av fordommer i kunstig intelligens: Utfordringer og løsninger

Den nylige fremgangen i generative AI har ført til en tilsvarende økning i bedriftsapplikasjoner på tvers av industrier, inkludert finans, helse, transport. Utviklingen av denne teknologien vil også føre til andre nye teknologier som cybersecurity-forsvarsteknologier, kvantecomputering-fremgang og gjennombrudd i trådløse kommunikasjonsteknikker. Men denne eksplosjonen av neste generasjons teknologier kommer med sine egne utfordringer.

For eksempel kan innføringen av AI muligens tillate mer sofistikerte cyberangrep, minne- og lagringsbottlenecks på grunn av økt beregningskraft og etiske bekymringer om fordommer presentert av AI-modeller. Det gode nyheten er at NTT Research har foreslått en måte å overvinne fordommer i dype neurale nettverk (DNNs), en type kunstig intelligens.

Dette forskningsarbeidet er et betydelig gjennombrudd, ettersom ikke-foredmede AI-modeller vil bidra til rekruttering, strafferettssystemet og helsevesen når de ikke påvirkes av karakteristika som rase, kjønn. I fremtiden har diskriminering potensialet til å bli eliminert ved å bruke disse typene automatiserte systemer, og dermed forbedre bransjehøye DE&I-bedriftsinitiativer. Til slutt vil AI-modeller med ikke-foredmede resultater forbedre produktiviteten og redusere tiden det tar å fullføre disse oppgavene. Men få bedrifter har blitt tvunget til å stoppe sine AI-genererte programmer på grunn av teknologiens fordomsfulle løsninger.

For eksempel Amazon avbrøt bruk av en rekrutteringsalgoritme da de oppdaget at algoritmen viste en preferanse for søkerne som brukte ord som “utført” eller “fanget” mer hyppig, som var mer vanlig i menns CV-er. Et annet glitrende eksempel på fordom kommer fra Joy Buolamwini, en av de mest innflytelsesrike personene i AI i 2023 ifølge TIME, i samarbeid med Timnit Gebru ved MIT, avslørte at ansiktsanalyseteknologier viste høyere feilrater når de vurderte minoriteter, spesielt minoritetskvinner, potensielt på grunn av utilstrekkelig representativt treningdata.

Nylig har DNNs blitt allment utbredt i vitenskap, teknikk og bedrift, og selv i populære applikasjoner, men de avhenger avvisse attributter som kan overføre fordommer. Ifølge en MIT-studie de siste årene, har forskerne utviklet dype neurale nettverk som kan analysere enorme mengder inndata, inkludert lyd og bilder. Disse nettverkene kan identifisere felles karakteristika, og dermed klassifisere målord eller objekter. For tiden står disse modellene i forkant av feltet som de primære modellene for å gjenskape biologiske sansesystemer.

NTT Research Senior Scientist og medarbeider ved Harvard University Center for Brain Science Hidenori Tanaka og tre andre forskere foreslo å overvinne begrensningene i naiv feinjustering, den vanlige metoden for å redusere en DNNs feil eller “tap”, med en ny algoritme som reduserer en modells avhengighet av fordoms-utsatte attributter.

De studerte neurale nettverks tap-landskap gjennom linser av modus-tilkobling, observasjonen av at minimierere av neurale nettverk hentet via trening på en datasett er tilkoblet via enkle stier av lavt tap. Spesifikt, stilte de følgende spørsmålet: Er minimierere som avhenger av forskjellige mekanismer for å gjøre sine forutsigelser tilkoblet via enkle stier av lavt tap?

De oppdaget at naiv feinjustering ikke kan grunnleggende endre beslutningsmekanismen til en modell, da det krever å flytte til en annen dal i tap-landskapet. I stedet må du drive modellen over barrierene som skiller “sinkene” eller “dalene” av lavt tap. Forfatterne kaller denne korrektive algoritmen Connectivity-Based Fine-Tuning (CBFT).

Før denne utviklingen, klassifiserte en DNN, som klassifiserte bilder som en fisk (en illustrasjon brukt i denne studien), både objektformen og bakgrunnen som inndata-parametre for prediksjon. Dets tap-minimerende stier ville derfor operere i mekanisk forskjellige moduser: en som avhenger av den legitime attributten form, og en annen som avhenger av den spuriøse attributten bakgrunnsfarge. Som sådan, ville disse modusene mangle lineær tilkobling, eller en enkel sti av lavt tap.

Forskningsgruppen forstår mekanisk linse på modus-tilkobling ved å vurdere to sett med parametre som minimerer tap ved å bruke bakgrunner og objektformer som inndata-attributter for prediksjon, henholdsvis. Og deretter spurte de seg selv, er slike mekanisk forskjellige minimierere tilkoblet via stier av lavt tap i landskapet? Påvirker forskjelligheten av disse mekanismene enkelheten av deres tilkoblingstier? Kan vi utnytte denne tilkoblingen til å skifte mellom minimierere som bruker våre ønskede mekanismer?

Med andre ord, kan dype neurale nettverk, avhengig av hva de har plukket opp under trening på en bestemt datasett, oppføre seg svært forskjellig når du tester dem på en annen datasett. Teamets forslag ble forkortet til konseptet om felles likheter. Det bygger på den tidligere ideen om modus-tilkobling, men med en vending – det vurderer hvordan lignende mekanismer fungerer. Deres forskning ledet til følgende øyneåpnende oppdagelser:

• minimierere som har forskjellige mekanismer kan være tilkoblet på en ganske kompleks, ikke-lineær måte
• når to minimierere er lineært tilkoblet, er det tett knyttet til hvor lignende deres modeller er i forhold til mekanismer
• enkel feinjustering kan ikke være nok til å fjerne uønskede egenskaper plukket opp under tidligere trening
• hvis du finner regioner som er lineært frakoblet i landskapet, kan du gjøre effektive endringer i en modells indre funksjoner.

Mens dette forskningsarbeidet er et stort skritt i å utnytte det fulle potensialet i AI, kan de etiske bekymringene rundt AI fortsatt være en oppover kamp. Teknologer og forskere arbeider for å bekjempe andre etiske svakheter i AI og andre store språkmodeller, som personvern, autonomi, ansvar.

AI kan brukes til å samle inn og prosessere store mengder personlige data. Den uautoriserte eller uetiske bruken av disse dataene kan kompromittere enkeltpersoners personvern, og dermed føre til bekymringer om overvåking, datalekkasjer og identitetstyveri. AI kan også utgjøre en trussel når det gjelder ansvar for deres autonome applikasjoner, som selvkjørende biler. Etablering av juridiske rammer og etiske standarder for ansvar og ansvarlighet vil være essensielt i årene som kommer.

I konklusjon, den raske veksten i generativ AI-teknologi holder løfter for ulike industrier, fra finans og helse til transport. Til tross for disse lovende utviklingene, forblir de etiske bekymringene rundt AI betydelige. Mens vi navigerer denne transformative æraen av AI, er det viktig for teknologer, forskere og politikere å arbeide sammen for å etablere juridiske rammer og etiske standarder som vil sikre en ansvarlig og nyttig bruk av AI-teknologi i årene som kommer. Forskere ved NTT Research og University of Michigan er ett skritt foran med deres forslag for en algoritme som potensielt kan eliminere fordommer i AI.