Gennemsigtighed i kunstig intelligens og behovet for åbne kildemodeller

For at beskytte mennesker mod de potentielle skader fra kunstig intelligens (AI) fremmer nogle regulatører i USA og EU stadig mere kontroller og checks og balances på magten over åbne kildemodeller for AI. Dette er delvist motiveret af ønsket om, at store virksomheder skal kontrollere AI-udviklingen og forme AI-udviklingen på en måde, der gavner dem. Regulatørerne er også bekymrede for AI-udviklingens tempo, da de frygter, at AI udvikler sig for hurtigt, og at der ikke er nok tid til at iværksætte foranstaltninger for at forhindre, at det bruges til skadelige formål.

AI-billen om rettigheder og NIST AI-risikostyringsrammen i USA samt EU’s AI-lov støtter forskellige principper som nøjagtighed, sikkerhed, ikke-diskrimination, sikkerhed, gennemsigtighed, ansvarlighed, forklarbarhed, fortolkbarhed og dataprotektion. Desuden forventer både EU og USA, at standardiseringsorganisationer, enten offentlige eller internationale enheder, vil spille en afgørende rolle i at fastlægge retningslinjer for AI.

Under disse omstændigheder er det afgørende at stræbe efter en fremtid, der omfatter gennemsigtighed og evnen til at inspicere og overvåge AI-systemer. Dette vil give udviklere verden over mulighed for at grundigt undersøge, analysere og forbedre AI, især med fokus på træningsdata og processer.

For at bringe gennemsigtighed til AI, må vi forstå de beslutningsalgoritmer, der ligger til grund for AI, og dermed afklæde AI’s “sorte kasse”-tilgang. Åbne og inspicable modeller spiller en integreret rol i opnåelse af dette mål, da de giver adgang til den underliggende kode, systemarkitektur og træningsdata til gennemgang og revision. Denne åbenhed fremmer samarbejde, driver innovation og sikrer imod monopolisering.

For at se denne vision blive til virkelighed, er det essentiel at facilitere politikændringer, grassroots-initiativer og opmuntre aktiv deltagelse fra alle interessenter, herunder udviklere, virksomheder, regeringer og offentligheden.

Nuværende tilstand for AI: Koncentration og kontrol

I øjeblikket er AI-udviklingen, især med hensyn til store sprogmodeller (LLM), primært centraliseret og kontrolleret af store virksomheder. Denne koncentration af magt vækker bekymring om mulig misbrug og stiller spørgsmål om retfærdig adgang og fair fordeling af fordele fra fremskridt i AI.

I særdeleshed manglede populære modeller som LLM åbne kildemodeller under træningsprocessen på grund af de omfattende beregningsressourcer, der kræves, som normalt kun er tilgængelige for store virksomheder. Alligevel er det, selv hvis denne situation forbliver uændret, afgørende at sikre gennemsigtighed i forhold til træningsdata og processer for at facilitere gennemgang og ansvarlighed.

OpenAI’s nylige introduktion af en licensmodel for visse AI-typer har genereret bekymring og bekymring om regulativt indgreb, da det kunne påvirke ikke kun AI’s udviklingsretning, men også bredere sociale, økonomiske og politiske aspekter.

Behovet for gennemsigtig AI

Forestil dig, at du afhænger af en teknologi, der tager væsentlige beslutninger om menneskers/personlige liv, men efterlader ingen spor, ingen forståelse af rationalet bag disse konklusioner. Dette er, hvor gennemsigtighed bliver uundværlig.

Først og fremmest er gennemsigtighed afgørende og opbygger tillid. Når AI-modeller bliver iagttagelige, indgyder de tillid til deres pålidelighed og nøjagtighed. Desuden giver en sådan gennemsigtighed udviklere og organisationer langt mere ansvar for resultaterne af deres algoritmer.

En anden kritisk aspekt af gennemsigtighed er identifikation og afværning af algoritme-bias. Bias kan indføres i AI-modeller på flere måder.

• Menneskeligt element: Dataforskere er sårbare over for at fastholde deres egne bias i modellerne.
• Maskinlæring: Selv hvis videnskabsmænd skabte rent objektive AI, er modellerne stadig højt modtagelige for bias. Maskinlæring starter med en defineret dataset, men frigøres derefter til at absorbere nye data og skabe nye læringsveje og nye konklusioner. Disse resultater kan være uventede, biased eller upræcise, da modellen forsøger at udvikle sig selv i, hvad der kaldes “data-drift”.

Det er vigtigt at være bekendt med disse potentielle kilder til bias, så de kan identificeres og afværges. En måde at identificere bias på er at gennemgå de data, der bruges til at træne modellen. Dette inkluderer at lede efter mønstre, der kan indikere diskrimination eller uretfærdighed. En anden måde at afværge bias på er at bruge debiasing-teknikker. Disse teknikker kan hjælpe med at fjerne eller reducere bias fra modellen. Ved at være gennemsigtig omkring bias og tage skridt til at afværge det, kan vi hjælpe med at sikre, at AI bruges på en retfærdig og ansvarlig måde.

Gennemsigtige AI-modeller giver forskere og brugere mulighed for at undersøge træningsdataene, identificere bias og tage korrektive foranstaltninger for at afhjælpe dem. Ved at gøre beslutningsprocessen synlig, hjælper gennemsigtighed os med at stræbe efter retfærdighed og forhindre spredning af diskriminerende praksisser. Desuden er gennemsigtighed nødvendig på hele modellens liv for at forhindre data-drift, bias og AI-hallucinationer, der producerer falsk information. Disse hallucinationer er særligt udbredte i store sprogmodeller, men findes også i alle former for AI-produkter. AI-iagttagelighed spiller også vigtige roller i at sikre modellernes præstation og nøjagtighed, hvilket skaber sikrere, mere pålidelig AI, der er mindre tilbøjelig til fejl eller uventede konsekvenser.

Men at opnå gennemsigtighed i AI er ikke uden udfordringer. Det er nødvendigt at finde en balance mellem bekymringer som dataprotektion, sikkerhed og immaterielle rettigheder. Dette indebærer implementering af teknikker, der beskytter privatliv, anonymiserer følsomme data og fastlægger branchestandarder og reguleringer, der fremmer ansvarlig gennemsigtighedspraksis.

At gøre gennemsigtig AI til virkelighed

Udvikling af værktøjer og teknologier, der kan aktivere iagttagelighed i AI, er afgørende for at fremme gennemsigtighed og ansvarlighed i AI-modeller.

Ud over at udvikle værktøjer og teknologier, der giver mulighed for iagttagelighed i AI, kan teknologiudvikling også fremme gennemsigtighed ved at skabe en kultur af det omkring AI. At opmuntre virksomheder og organisationer til at være gennemsigtige omkring deres brug af AI kan også hjælpe med at bygge tillid og tillid. Ved at gøre det lettere at inspicere AI-modeller og skabe en kultur af gennemsigtighed omkring AI, kan teknologiudvikling hjælpe med at sikre, at AI bruges på en retfærdig og ansvarlig måde.

Men teknologiudvikling kan også have den modsatte effekt. For eksempel, hvis teknologivirksomheder udvikler proprietære algoritmer, der ikke er åbne for offentlig gennemgang, kan dette gøre det sværere at forstå, hvordan disse algoritmer fungerer, og at identificere potentielle bias eller risici. At sikre, at AI gavner samfundet som helhed og ikke kun en udvalgt gruppe, kræver et højt niveau af samarbejde.

Forskere, politikere og dataforskere kan fastlægge reguleringer og standarder, der finder den rette balance mellem åbenhed, privatliv og sikkerhed uden at kvæle innovation. Disse reguleringer kan skabe rammer, der opmuntre til deling af viden og samtidig håndtere potentielle risici og definere forventninger til gennemsigtighed og forklarbarhed i kritiske systemer.

Alle parter, der er relateret til AI-udvikling og -implementering, bør prioritere gennemsigtighed ved at dokumentere deres beslutningsprocesser, gøre kildekoden tilgængelig og omfavne gennemsigtighed som en kerneprincippet i AI-systemudvikling. Dette giver alle mulighed for at spille en vital rolle i at udforske metoder til at gøre AI-algoritmer mere fortolkbare og udvikle teknikker, der faciliterer forståelse og forklaring af komplekse modeller.

Til sidst er offentlig engagement afgørende i denne proces. Ved at øge bevidsthed og fremme offentlige diskussioner omkring AI-gennemsigtighed, kan vi sikre, at samfunds-værdierne afspejles i udviklingen og implementeringen af AI-systemer.

Konklusion

Da AI bliver mere og mere integreret i forskellige aspekter af vores liv, bliver gennemsigtighed i AI og brugen af åbne kildemodeller kritiske overvejelser. At omfavne iagttagelig AI sikrer ikke kun retfærdighed og ansvarlighed, men stimulerer også innovation, forhindrer koncentration af magt og fremmer retfærdig adgang til AI-fremskridt.

Ved at prioritere gennemsigtighed, aktivere gennemgang af AI-modeller og fremme samarbejde, kan vi kollektivt forme en AI-fremtid, der gavner alle, samtidig med at vi håndterer de etiske, sociale og tekniske udfordringer, der er forbundet med denne transformative teknologi.