5 Grundlæggende Søjler for Ansvarlig AI

Vi oplever en overvældende vækst i AI/ML-systemer til at behandle hav af data, der genereres i den nye digitale økonomi. Men med denne vækst er der også behov for at overveje de etiske og juridiske implikationer af AI.

Da vi tildele mere og mere avancerede og vigtige opgaver til AI-systemer, som f.eks. automatisk godkendelse af lån, må vi være absolut sikre på, at disse systemer er ansvarlige og pålidelige. Reduktion af bias i AI er blevet et massivt fokusområde for mange forskere og har enorme etiske implikationer, ligesom det også gør, hvor meget autonomi vi giver disse systemer.

Begrebet Ansvarlig AI er et vigtigt rammeværk, der kan hjælpe med at opbygge tillid til dine AI-implementationer. Der er fem grundlæggende søjler for Ansvarlig AI. Denne artikel vil udforske disse for at hjælpe dig med at opbygge bedre systemer.

1. Reproducerbarhed

Der er et gammelt ordsprog i softwareudviklingsverdenen, der lyder: “hey, det virker på min maskine” I ML og AI kan sætningen ændres til: “hey, det virker på min dataset.” Dette betyder, at maskinelæringsmodeller ofte kan være sorte kasser. Mange træningsdatasets kan have indbyggede bias, såsom sampling bias eller bekræftelsesbias, der reducerer nøjagtigheden af det endelige produkt.

For at gøre AI/ML-systemer mere reproducerbare og dermed nøjagtige og pålidelige, er det første skridt at standardisere MLOps-pipelines. Selv de smarteste datavidenskabsfolk har deres foretrukne teknologier og biblioteker, hvilket betyder, at funktionstilpasning og resulterende modeller ikke er ensartede fra person til person. Ved at bruge værktøjer som MLflow kan du standardisere MLOps-pipelines og reducere disse forskelle.

En anden måde at gøre AI/ML-systemer mere reproducerbare er gennem brugen af, hvad der kaldes “guld-datasets”. Disse er repræsentative datasets, der i virkeligheden fungerer som tests og validering af nye modeller, før de frigøres til produktion.

2. Gennemsigtighed

Som nævnt tidligere er mange ML-modeller, især neurale netværk, sorte kasser. For at gøre dem mere ansvarlige, må vi gøre dem mere fortolkelige. For simple systemer som beslutningstræer er det ret let at forstå, hvordan og hvorfor systemet tog en bestemt beslutning, men jo mere nøjagtig og kompleks et AI-system er, jo mindre fortolkeligt er det ofte.

Der er et nyt forskningsområde kaldet “forklarbarhed”, der forsøger at bringe gennemsigtighed selv til komplekse AI-systemer som neurale netværk og dyb læring. Disse bruger proxy-modeller til at kopiere ydeevnen af et neuralt netværk, men de forsøger også at give gyldige forklaringer på, hvilke funktioner der er vigtige.

Dette fører til retfærdighed; du vil vide, hvorfor en bestemt beslutning er truffet, og sikre, at denne beslutning er retfærdig. Du vil også sikre, at upassende funktioner ikke er medtaget, så bias ikke sniger sig ind i din model.

3. Ansvarlighed

Måske det vigtigste aspekt af Ansvarlig AI er ansvarlighed. Der er meget snak om dette emne, selv i den offentlige sektor, da det handler om, hvilke politikker der driver AI-resultater. Denne politik-drevne tilgang bestemmer, på hvilket stadium mennesker skal være involveret.

Ansvarlighed kræver robuste monitore og metrikker til at vejlede politikere og kontrollere AI/ML-systemer. Ansvarlighed binder i virkeligheden reproducerbarhed og gennemsigtighed sammen, men det kræver effektiv tilsyn i form af AI-etiske komiteer. Disse komiteer kan håndtere politiske beslutninger, bestemme, hvad der er vigtigt at måle, og gennemføre retfærdighedsrevisioner.

4. Sikkerhed

AI-sikkerhed fokuserer på fortrolighed og integritet af data. Når systemer behandler data, vil du have dem i et sikret miljø. Du vil have, at dataene er både krypteret, mens de er i ro i din database, og også, mens de overføres over pipelines, men sårbarheder findes stadig, mens de overføres som ren tekst til en maskinelæringsmodel. Teknologier som homomorfe kryptering løser dette problem ved at tillade maskinelærings-træning i et krypteret miljø.

En anden aspekt er sikkerheden af modellen selv. For eksempel tillader model-inversion-angreb hackere at lære træningsdata, der blev brugt til at bygge modellen. Der er også model-forgiftning-angreb, der indsætter dårlig data i modellen, mens den trænes, og fuldstændigt ødelægger dens ydeevne. Test af din model for fjendtlige angreb som disse kan holde den sikker og sikker.

5. Privatliv

Google og OpenMined er to organisationer, der nylig har prioriteret AI-privatliv, og OpenMined har afholdt en konference om dette emne. Med nye regler som GDPR og CCPA, og muligvis flere på vej, vil privatliv spille en central rolle i, hvordan vi træner maskinelæringsmodeller.

En måde at sikre, at du behandler dine kunders data på en privatlivsbevidst måde, er at bruge decentral maskinelæring. Denne decentraliserede metode til maskinelæring træner forskellige modeller lokalt og aggregatorer derefter hver model i et centralt hub, mens data holdes sikre, sikre og private. En anden metode er at introducere statistisk støj, så individuelle værdier for kunder ikke lækes. Dette holder dig beskæftiget med den samlede, så en enkelt persons data er intakt og ikke tilgængelig for algoritmen.

At holde AI ansvarlig

 Til sidst er det op til hver enkelt organisation, der designer AI/ML-systemer, at holde AI ansvarlig. Ved at bevidst forfølge teknologier inden for hver af disse fem aspekter af Ansvarlig AI kan du ikke kun drage fordel af kraften i kunstig intelligens, men også gøre det på en tillidsværdig og åben måde, der vil berolige din organisation, kunder og myndigheder.