5 Grunnleggende Pilarer for å Sikre Ansvarlig AI

Vi ser en overveldende vekst i AI/ML-systemer for å prosessere hav av data som genereres i den nye digitale økonomien. Imidlertid, med denne veksten, er det en nødvendighet å seriøst vurdere de etiske og juridiske implikasjonene av AI.

Som vi stadig mer betror mer avanserte og viktige oppgaver til AI-systemer, som for eksempel automatisk lånegodkjenning, må vi være absolutt sikre på at disse systemene er ansvarlige og pålitelige. Redusere bias i AI har blitt et massivt fokusområde for mange forskere og har enorme etiske implikasjoner, likeså hvor mye autonomi vi gir disse systemene.

Begrepet Ansvarlig AI er et viktig rammeverk som kan hjelpe med å bygge tillit til dine AI-utsteder. Det finnes fem kjernegrunnleggende pilarer for Ansvarlig AI. Denne artikkelen vil utforske disse for å hjelpe deg med å bygge bedre systemer.

1. Reproducerbarhet

Det finnes et gammelt uttrykk i software-utviklingsverdenen som går således: “hey, det fungerer på min maskin” I ML og AI, kan uttrykket justeres til å være: “hey, det fungerer på min datasett.” Dette er for å si at maskinlæringsmodeller ofte kan være en svart boks. Mange treningsdatasett kan ha innebygde bias, som sampling-bias eller bekreftelses-bias, som reduserer nøyaktigheten av det endelige produktet.

For å gjøre AI/ML-systemer mer reproducerbare, og dermed mer nøyaktige og pålitelige, er det første skrittet å standardisere MLOps-pipeline. Selv de smarteste data-vitenskapsmennene har sine favoritt-teknologier og biblioteker, noe som betyr at funksjonsutforming og resulterende modeller ikke er enhetlige fra person til person. Ved å bruke verktøy som MLflow, kan du standardisere MLOps-pipeline og redusere disse forskjellene.

En annen måte å gjøre AI/ML-systemer mer reproducerbare er gjennom bruk av såkalte “gull-datasett”. Disse er representative datasett som i hovedsak fungerer som tester og validering av nye modeller før de utgis for produksjon.

2. Gjennomsiktighet

Som tidligere nevnt, er mange ML-modeller, spesielt neurale nettverk, svarte bokser. For å gjøre dem mer ansvarlige, må vi gjøre dem mer tolkbare. For enkle systemer som beslutningstreer, er det ganske enkelt å forstå hvordan og hvorfor systemet tok en bestemt beslutning, men når nøyaktigheten og kompleksiteten av et AI-system øker, går ofte tolkbarheten ned.

Det finnes et nytt forskningsområde kalt “forklarbarhet” som prøver å bringe gjennomsiktighet til selv de komplekse AI-systemene som neurale nettverk og dyp læringsmodeller. Disse bruker proxy-modeller for å kopiere ytelsen av et neuralt nettverk, men de prøver også å gi gyldige forklaringer av hva som er viktige funksjoner.

Dette leder til rettferdighet; du vil vite hvorfor en bestemt beslutning ble tatt og sikre at denne beslutningen er rettferdig. Du vil også sikre at uegnet funksjoner ikke blir vurdert, så bias ikke kryper inn i modellen.

3. Ansvarlighet

Kanskje det viktigste aspektet av Ansvarlig AI er ansvarlighet. Det er mye samtale om dette temaet, selv i regjeringssammenheng, da det handler om hva politikken skal drive AI-utfall. Denne politikkbaserte tilnærmingen bestemmer på hvilket stadium mennesker skal være i løkken.

Ansvarlighet krever robuste monitore og målinger for å hjelpe politikere og kontrollere AI/ML-systemer. Ansvarlighet binder sammen reproducerbarhet og gjennomsiktighet, men det trenger effektiv tilsyn i form av AI-etiske komiteer. Disse komiteene kan håndtere politiske avgjørelser, bestemme hva som er viktig å måle og gjennomføre rettferdighetsgjennomgang.

4. Sikkerhet

AI-sikkerhet fokuserer på konfidensialitet og integritet av data. Når systemer prosesserer data, vil du at de skal være i en sikker miljø. Du vil at dataene skal være både kryptert når de er i ro i din database og også når de kalles over pipeline, men sårbarheter eksisterer fortsatt når de blir matet inn i en maskinlæringsmodell som ren tekst. Teknologier som homomorfe kryptering løser dette problemet ved å tillate maskinlærings-trening i en kryptert miljø.

En annen aspekt er sikkerheten av modellen selv. For eksempel, modell-inversjonsangrep lar hackere lære treningdataene som ble brukt til å bygge modellen. Det finnes også modell-forgiftningangrep, som setter inn dårlig data i modellen mens den er under trening og ødelegger fullstendig dens ytelse. Å teste din modell for motangrep som disse kan holde den trygg og sikker.

5. Personvern

Google og OpenMined er to organisasjoner som nylig har prioritet personvern i AI, og OpenMined har holdt en konferanse om dette temaet. Med nye regler som GDPR og CCPA, og potensielt flere på vei, vil personvern spille en sentral rolle i hvordan vi trener maskinlæringsmodeller.

En måte å sikre at du håndterer kundens data på en personvern-bevisst måte er å bruke distribuert læringsmetode. Denne desentraliserte metoden for maskinlæringsmodeller trener forskjellige modeller lokalt, og deretter samler hver modell i en sentral hubb mens den holder dataene trygge, sikre og private. En annen metode er å introdusere statistisk støy, slik at enkelte verdier av kunder ikke blir lekket. Dette holder deg arbeidende med aggregatet, slik at en enkelt kundes data er intakt og ikke tilgjengelig for algoritmen.

Å holde AI ansvarlig

 Til slutt, å holde AI ansvarlig, er opp til hver organisasjon som designer AI/ML-systemer. Ved å bevisst forfølge teknologier innenfor hver av disse fem fasene av Ansvarlig AI, kan du ikke bare dra nytte av kraften av kunstig intelligens, men også gjøre det på en pålitelig og rettferdig måte som vil berolige din organisasjon, kunder og myndigheter.