Gjennomsiktighet i kunstig intelligens og behovet for åpne kildekodemodeller

For å beskytte mennesker mot de potensielle skadene av kunstig intelligens, har noen regulatorer i USA og EU økt advokatyr for kontroll og balanse på makten til åpne kildekodemodeller. Dette er delvis motivert av ønsket om å kontrollere utviklingen av kunstig intelligens og å forme utviklingen av kunstig intelligens på en måte som er gunstig for dem. Regulatorer er også bekymret for utviklingstakten av kunstig intelligens, da de frykter at kunstig intelligens utvikles for raskt og at det ikke er nok tid til å sette i verk vern for å forhindre at det brukes til skadelige formål.

Kunstig intelligens-billen og NIST AI-risikostyringsrammen i USA, sammen med EU-kunstig intelligens-loven, støtter forskjellige prinsipper som nøyaktighet, sikkerhet, ikke-diskriminering, sikkerhet, gjennomsiktighet, ansvar, forklarbarhet, tolkbarhet og datavern. Dessuten forventer både EU og USA at standardiseringsorganer, enten det er offentlige eller internasjonale enheter, vil spille en avgjørende rolle i å etablere retningslinjer for kunstig intelligens.

I lys av denne situasjonen er det avgjørende å strebe etter en fremtid som omfatter gjennomsiktighet og evnen til å inspisere og overvåke kunstig intelligens-systemer. Dette vil gjøre det mulig for utviklere over hele verden å grundig undersøke, analysere og forbedre kunstig intelligens, særlig med fokus på treningdata og prosesser.

For å lykkes med å bringe gjennomsiktighet til kunstig intelligens, må vi forstå beslutningsalgoritmene som ligger til grunn for det, og dermed løse kunstig intelligens’ “svarte boks”-tilnærming. Åpne og inspisable modeller spiller en avgjørende rolle i å oppnå dette målet, da de gir tilgang til den underliggende koden, systemarkitekturen og treningdataene for granskning og revisjon. Denne åpenheten fremmer samarbeid, driver innovasjon og sikrer mot monopolisering.

For å se denne visjonen bli virkelighet, er det essensielt å fremme politiske endringer, grasrot-initiativer og oppmuntre aktivt deltagelse fra alle interessenter, inkludert utviklere, selskaper, myndigheter og allmennheten.

Nåværende tilstand for kunstig intelligens: Konsentrasjon og kontroll

For tiden er kunstig intelligens-utvikling, særlig når det gjelder store språkmodeller (LLM), hovedsakelig sentralisert og kontrollert av store selskaper. Denne konsentrasjonen av makt våkner bekymring om mulig misbruk og stiller spørsmål om rettferdig tilgang og rettferdig fordeling av fordeler fra fremgang i kunstig intelligens.

Særlig mangler populære modeller som LLM åpne kildekodemodeller under treningprosessen på grunn av de omfattende datamaskinresursene som kreves, som vanligvis bare er tilgjengelige for store selskaper. Likevel er det viktig å sikre gjennomsiktighet når det gjelder treningdata og prosesser for å fremme granskning og ansvar.

OpenAI’s nylige introduksjon av en lisensieringssystem for visse kunstig intelligens-typer har generert bekymring og frykt om reguleringstvang, da det kan påvirke ikke bare utviklingen av kunstig intelligens, men også bredere sosiale, økonomiske og politiske aspekter.

Behovet for gjennomsiktig kunstig intelligens

Forestall deg å være avhengig av en teknologi som tar avgjørende beslutninger om menneskeliv, men som ikke lar noen spor, ingen forklaring på grunnene bak disse konklusjonene. Dette er hvor gjennomsiktighet blir uunnværlig.

Først og fremst er gjennomsiktighet avgjørende og bygger tillit. Når kunstig intelligens-modeller blir observerbare, skaper de tillit til deres pålitelighet og nøyaktighet. Dessuten gjør en slik gjennomsiktighet utviklere og organisasjoner mye mer ansvarlige for resultater av deres algoritmer.

En annen kritisk aspekt av gjennomsiktighet er identifisering og reduksjon av algoritme-bias. Bias kan bli injisert i kunstig intelligens-modeller på flere måter.

• Menneskelig element: Dataforskere er sårbare for å videreføre sine egne bias i modeller.
• Maskinlæring: Selv om forskerne skulle lage fullstendig objektive kunstig intelligens-modeller, er modellene likevel svært utsatt for bias. Maskinlæring starter med en definert datasett, men blir deretter satt fri til å absorbere nye data og skape nye læringsbaner og nye konklusjoner. Disse resultater kan være uventede, bias eller uriktige, da modellen forsøker å utvikle seg selv i hva som kalles “data-drift”.

Det er viktig å være klar over disse potensielle kildene til bias, slik at de kan identifiseres og reduseres. En måte å identifisere bias på er å granske dataene som brukes til å trene modellen. Dette inkluderer å se etter mønster som kan indikere diskriminering eller urettferdighet. En annen måte å redusere bias på er å bruke debiasing-teknikker. Disse teknikker kan hjelpe til å fjerne eller redusere bias fra modellen. Ved å være gjennomsiktig om muligheten for bias og å ta skritt for å redusere det, kan vi hjelpe til å sikre at kunstig intelligens brukes på en rettferdig og ansvarlig måte.

Gjennomsiktige kunstig intelligens-modeller gjør det mulig for forskere og brukere å undersøke treningdata, identifisere bias og ta korrektive tiltak for å håndtere dem. Ved å gjøre beslutningsprosessen synlig, hjelper gjennomsiktighet oss å strebe etter rettferdighet og forhindre spredning av diskriminerende praksiser. Dessuten er gjennomsiktighet nødvendig gjennom hele livssyklusen til modellen, som forklart ovenfor, for å forhindre data-drift, bias og kunstig intelligens-hallusinasjoner som produserer feil informasjon. Disse hallusinasjonene er særlig vanlige i store språkmodeller, men finnes også i alle former for kunstig intelligens-produkter. Kunstig intelligens-observasjon spiller også viktige roller i å sikre ytelse og nøyaktighet av modellene, og skaper sikrere og mer pålitelige kunstig intelligens som er mindre utsatt for feil eller uventede konsekvenser.

Likevel er det ikke uten utfordringer å oppnå gjennomsiktighet i kunstig intelligens. Det er nødvendig å finne en balanse for å håndtere bekymringer som datavern, sikkerhet og immaterielle rettigheter. Dette innebærer å implementere datavern-vennlige teknikker, anonymisere følsomme data og etablere bransjestandarder og reguleringer som fremmer ansvarlig gjennomsiktighet.

Å gjøre gjennomsiktig kunstig intelligens til virkelighet

Utvikling av verktøy og teknologier som kan aktivere inspeksjon i kunstig intelligens er avgjørende for å fremme gjennomsiktighet og ansvar i kunstig intelligens-modeller.

I tillegg til å utvikle verktøy og teknologier som aktivere inspeksjon i kunstig intelligens, kan teknologiutvikling også fremme gjennomsiktighet ved å skape en kultur av det rundt kunstig intelligens. Å oppmuntre bedrifter og organisasjoner til å være gjennomsiktige om bruken av kunstig intelligens kan også hjelpe til å bygge tillit og tillit. Ved å gjøre det enklere å inspisere kunstig intelligens-modeller og å skape en kultur av gjennomsiktighet rundt kunstig intelligens, kan teknologiutvikling hjelpe til å sikre at kunstig intelligens brukes på en rettferdig og ansvarlig måte.

Likevel kan teknologiutvikling også ha den motsatte effekten. For eksempel, hvis teknologiselskaper utvikler proprietære algoritmer som ikke er åpne for offentlig granskning, kan dette gjøre det vanskeligere å forstå hvordan disse algoritmene fungerer og å identifisere potensielle bias eller risiko. Å sikre at kunstig intelligens gir fordeler til samfunnet som helhet, og ikke bare til noen få, krever et høyt nivå av samarbeid.

Forskere, politiske beslutningstakere og dataforskere kan etablere reguleringer og standarder som finner riktig balanse mellom åpenhet, datavern og sikkerhet uten å hemme innovasjon. Disse reguleringene kan skape rammer som oppmuntre til deling av kunnskap samtidig som de håndterer potensielle risiko og definerer forventninger til gjennomsiktighet og forklarbarhet i kritiske systemer.

Alle parter relatert til kunstig intelligens-utvikling og -implementering bør prioritere gjennomsiktighet ved å dokumentere beslutningsprosesser, gjøre kildekoden tilgjengelig og omfavne gjennomsiktighet som en grunnleggende prinsipp i utviklingen av kunstig intelligens-systemer. Dette gir alle muligheten til å spille en avgjørende rolle i å utforske metoder for å gjøre kunstig intelligens-algoritmer mer tolkbare og å utvikle teknikker som faciliterer forståelse og forklaring av komplekse modeller.

Til slutt er offentlig engasjement avgjørende i denne prosessen. Ved å øke bevisstheten og fremme offentlige diskusjoner om kunstig intelligens-gjennomsiktighet, kan vi sikre at samfunnets verdier reflekteres i utviklingen og implementeringen av kunstig intelligens-systemer.

Konklusjon

Ettersom kunstig intelligens blir stadig mer integrert i forskjellige aspekter av våre liv, blir gjennomsiktighet i kunstig intelligens og bruken av åpne kildekodemodeller kritiske overveielser. Å omfavne inspisable kunstig intelligens sikrer ikke bare rettferdighet og ansvar, men stimulerer også innovasjon, forhindrer konsentrasjon av makt og fremmer rettferdig tilgang til fremgang i kunstig intelligens.

Ved å prioritere gjennomsiktighet, aktivere granskning av kunstig intelligens-modeller og fremme samarbeid, kan vi kollektivt forme en kunstig intelligens-fremtid som gir fordeler til alle, samtidig som vi håndterer de etiske, sosiale og tekniske utfordringene forbundet med denne transformative teknologien.