Afsløring af fordomme i kunstig intelligens: Udfordringer og løsninger

Den seneste udvikling af generativ kunstig intelligens har ført til en tilsvarende vækst i virksomhedsapplikationer på tværs af brancher, herunder finans, sundhedsvesen og transport. Udviklingen af denne teknologi vil også føre til andre opkomne teknologier såsom cybersikkerhedsforsvarsteknologier, kvantecomputering og gennembrud i trådløs kommunikation. Men denne eksplosion af næste generations teknologier kommer med sine egne udfordringer.

For eksempel kan anvendelsen af kunstig intelligens muligvis føre til mere sofistikerede cyberangreb, hukommelse- og lagringsbottleneck på grund af den øgede beregningskraft og etiske bekymringer om fordomme præsenteret af kunstig intelligens-modeller. Det gode nyheder er, at NTT Research har foreslået en måde at overvinde fordomme i dybe neurale netværk (DNN’er), en type kunstig intelligens.

Dette forskning er et betydeligt gennembrud, da ikke-fordomsskabende kunstig intelligens-modeller vil bidrage til rekruttering, retssystemet og sundhedsvesenet, når de ikke er påvirket af karakteristika såsom race, køn. I fremtiden har diskrimination potentialet til at blive elimineret ved at bruge disse automatiserede systemer, og dermed forbedre branchens bredde DE&I-forretningsinitiativer. Endelig vil kunstig intelligens-modeller med ikke-fordomsskabende resultater forbedre produktiviteten og reducere den tid, det tager at fuldføre disse opgaver. Men få virksomheder er blevet tvunget til at standse deres kunstig intelligens-genererede programmer på grund af teknologiens fordrevene løsninger.

For eksempel stoppede Amazon brugen af en rekrutteringsalgoritme, da de opdagede, at algoritmen viste en præference for ansøgere, der brugte ord som “executed” eller “captured” mere hyppigt, som var mere udbredt i mænds CV’er. Et andet glærende eksempel på fordomme kommer fra Joy Buolamwini, en af de mest indflydelsesrige personer i kunstig intelligens i 2023 ifølge TIME, i samarbejde med Timnit Gebru på MIT, afslørede, at ansigtsanalyseteknologier viste højere fejlrate, når de vurderede minoriteter, især minoritetskvinder, muligvis på grund af utilstrækkeligt repræsentative træningsdata.

For nylig er DNN’er blevet almindelige i videnskab, teknik og forretning, og endda i populære applikationer, men de afhænger af og til af spurious attributter, der kan overføre fordomme. Ifølge en MIT-studie over de seneste par år har videnskabsmænd udviklet dybe neurale netværk, der kan analysere enorme mængder af input, herunder lyde og billeder. Disse netværk kan identificere fælles karakteristika, der muliggør klassificering af målord eller objekter. For nuværende står disse modeller i spidsen for feltet som de primære modeller for at replikere biologiske sansesystemer.

NTT Research Senior Scientist og medarbejder på Harvard University Center for Brain Science Hidenori Tanaka og tre andre videnskabsmænd foreslog at overvinde begrænsningerne af naive finjustering, den gængse metode til at reducere en DNN’s fejl eller “tab”, med en ny algoritme, der reducerer en models afhængighed af fordrevene attributter.

De studerede neurale netværks tab-landskaber gennem linserne på mode-forbindelse, observationen af, at minimizerne af neurale netværk, der er hentet via træning på en dataset, er forbundet via simple stier af lav tab. Specifikt spurgte de følgende spørgsmål: Er minimizerne, der afhænger af forskellige mekanismer for at lave deres forudsigelser, forbundet via simple stier af lav tab?

De opdagede, at Naiv finjustering ikke kan fundamentalt ændre en models beslutningsmekanisme, da det kræver at flytte til en anden dal på tab-landskabet. I stedet skal du køre modellen over barriererne, der adskiller “sænkninger” eller “dalle” af lav tab. Forfatterne kalder denne korrektive algoritme Forbindelsesbaseret finjustering (CBFT).

Før denne udvikling klassificerede en DNN, der klassificerede billeder såsom en fisk (en illustration brugt i denne studie), både objektformen og baggrunden som inputparametre for forudsigelse. Dets tab-minimerende stier ville derfor fungere i mekanisk forskellige tilstande: en, der afhænger af den legitime attribut form, og en anden, der afhænger af den spurious attribut baggrundsfarve. Som sådan ville disse tilstande mangle lineær forbindelse eller en simpel sti af lav tab.

Forskningsholdet forstår den mekaniske linse på mode-forbindelse ved at overveje to sæt af parametre, der minimizerer tab ved at bruge baggrunde og objektformer som inputattributter for forudsigelse, henholdsvis. Og derefter spurgte de sig selv, er sådanne mekanisk forskellige minimizer forbundet via stier af lav tab i landskabet? Påvirker forskelligheden af disse mekanismer enkelheden af deres forbindelsesstier? Kan vi udnytte denne forbindelse til at skifte mellem minimizer, der bruger vores ønskede mekanismer?

Med andre ord kan dybe neurale netværk, afhængigt af hvad de har samlet under træning på en bestemt dataset, opføre sig meget forskelligt, når du tester dem på en anden dataset. Holdets forslag blev forkortet til begrebet fælles ligheder. Det bygger på den tidligere idé om mode-forbindelse, men med en twist – det overvejer, hvordan lignende mekanismer fungerer. Deres forskning førte til følgende øjenåbnende opdagelser:

• minimizer, der har forskellige mekanismer, kan være forbundet på en ret kompleks, ikke-lineær måde
• når to minimizer er lineært forbundet, er det tæt knyttet til, hvor lignende deres modeller er i forhold til mekanismer
• simpel finjustering kan ikke være nok til at fjerne uønskede funktioner, der er samlet under tidligere træning
• hvis du finder regioner, der er lineært frakoplet i landskabet, kan du foretage effektive ændringer i en models indre mekanismer.

Men denne forskning er et stort skridt i at udnytte den fulde potentiale af kunstig intelligens, kan de etiske bekymringer omkring kunstig intelligens stadig være en opadgående kamp. Teknologer og forskere arbejder på at bekæmpe andre etiske svagheder i kunstig intelligens og andre store sprogmodeller såsom privatliv, selvstændighed, ansvarlighed.

Kunstig intelligens kan bruges til at indsamle og behandle enorme mængder af personlige data. Den uberettigede eller uetiske brug af disse data kan kompromittere enkeltpersoners privatliv, hvilket fører til bekymringer om overvågning, datakrænkelser og identitetsstødt. Kunstig intelligens kan også udgøre en trussel, når det kommer til ansvarligheden for deres selvstændige applikationer såsom selv kørende biler. At etablere lovgivningsrammer og etiske standarder for ansvarlighed og ansvarlighed vil være afgørende i de kommende år.

I konklusion holder den hurtige vækst af generativ kunstig intelligens-teknologi løfter for forskellige brancher, fra finans og sundhedsvesen til transport. Trods disse lovende udviklinger forbliver de etiske bekymringer omkring kunstig intelligens betydelige. Da vi navigerer i denne transformative æra af kunstig intelligens, er det vigtigt for teknologer, forskere og politikere at arbejde sammen for at etablere lovgivningsrammer og etiske standarder, der vil sikre den ansvarlige og nyttige brug af kunstig intelligens-teknologi i de kommende år. Videnskabsmænd på NTT Research og University of Michigan er et skridt foran med deres forslag for en algoritme, der potentielt kan eliminere fordomme i kunstig intelligens.