Forskere Utvikler Algoritmer for å Forhindre Dårlig Atferd i AI

I tillegg til alle fremgangene og fordelen som kunstig intelligens har vist så langt, har det også vært rapporter om uønskede bieffekter som rasistisk og kjønnsbasert bias i AI. Så som sciencealert.com stiller spørsmålet “hvordan kan forskerne sikre at avanserte tenkende systemer kan være rettferdige, eller til og med trygge?”

Svaret kan ligge i rapporten fra forskerne ved Stanford og University of Massachusetts Amherst, med tittelen Forebygging av uønsket atferd hos intelligente maskiner. Som eurekaalert.org bemerker i sin artikkel om denne rapporten, begynner AI nå å håndtere sensitive oppgaver, så “policymakers insisterer på at datavitenskapsmenn tilbyr garantier for at automatiserte systemer er designet for å minimere, hvis ikke helt unngå, uønskede resultater som ekstrem risiko eller rasistisk og kjønnsbasert bias.”

Rapporten denne forskergruppen presenterte “omtaler en ny teknikk som oversetter et uklart mål, som å unngå kjønnsbias, til presise matematiske kriterier som ville tillate en maskinlæringsalgoritme å trene en AI-applikasjon til å unngå denne atferden.”

Formålet var, som Emma Brunskill, en assistentprofessor i datavitenskap ved Stanford og seniorforfatter av artikkelen, påpeker “vi ønsker å fremme AI som respekterer verdiene til sine menneskelige brukere og rettferdiggjør tilliten vi har til autonome systemer.”

Idéen var å definere “usikre” eller “urettferdige” resultater eller atferd i matematiske termer. Dette ville, ifølge forskerne, gjøre det mulig “å skape algoritmer som kan lære fra data på hvordan å unngå disse uønskede resultatene med høy tillit.”

Det andre målet var å “utvikle en rekke teknikker som ville gjøre det enkelt for brukerne å spesifisere hvilke typer uønsket atferd de ønsker å begrense og aktivere maskinlæringsdesignere til å forutsi med tillit at et system som er trent med tidligere data kan pålitte når det brukes i virkelige verdens situasjoner.”

ScienceAlert sier at teamet kalte dette nye systemet  ‘Seldonian’ algoritmer, etter hovedfiguren i Isaac Asimovs berømte Foundation-serie av science fiction-romaner. Philip Thomas, en assistentprofessor i datavitenskap ved University of Massachusetts Amherst og første forfatter av artikkelen, bemerker, “Hvis jeg bruker en Seldonian algoritme for diabetesbehandling, kan jeg spesifisere at uønsket atferd betyr farlig lavt blodsukker eller hypoglykemi.”

“Jeg kan si til maskinen, ‘Mens du prøver å forbedre kontrolleren i insulinpumpen, gjør ikke endringer som ville øke hyppigheten av hypoglykemi.’ De fleste algoritmer gir deg ikke en måte å legge denne typen begrensning på atferd; det var ikke inkludert i tidlige design.”

Thomas legger til at “dette Seldonian-rammeverket vil gjøre det enklere for maskinlæringsdesignere å bygge atferd-unngåelsesinstruksjoner inn i alle typer algoritmer, på en måte som kan aktivere dem til å vurdere sannsynligheten for at trenede systemer vil fungere korrekt i den virkelige verden.”

For hennes del bemerker Emma Brunskill også at “å tenke på hvordan vi kan skape algoritmer som best respekterer verdier som sikkerhet og rettferdighet, er essensielt når samfunnet stadig mer avhenger av AI.”