Kunstig intelligens kan unngå bestemte uønskede atferder med nye algoritmer

Som kunstig intelligens-algoritmer og -systemer blir mer avanserte og tar på seg større ansvar, blir det viktigere å sikre at AI-systemer unngår farlig, uønsket atferd. Nylig publiserte et team av forskere fra University of Massachusetts Amherst og Stanford en artikkel som demonstrerer hvordan bestemt AI-atferd kan unngås, gjennom bruk av en teknikk som fremkaller presise matematiske instruksjoner som kan brukes til å justere atferden til en AI.

Ifølge TechXplore, forskningen var basert på antagelsen at ufornuftig/ufare atferd kan defineres med matematiske funksjoner og variabler. Hvis dette er sant, bør det være mulig for forskere å trene systemer til å unngå disse bestemte atferdene. Forskningsgruppen hadde som mål å utvikle en verktøykasse som kunne brukes av AI-brukerne til å spesifisere hvilke atferd de ønsker at AI-en skal unngå, og muliggjøre at AI-ingeniører kan pålitelig trene et system som vil unngå uønskede handlinger når de brukes i virkelige scenarioer.

Phillip Thomas, den første forfatteren på artikkelen og assistent professor i datavitenskap ved U of Michigan Amherst, forklarte at forskningsgruppen ønsker å demonstrere at designerne av maskinlæringsalgoritmer kan gjøre det lettere for AI-brukerne å beskrive uønskede atferd og gjøre det svært sannsynlig at AI-systemet vil unngå atferden.

Forskningsgruppen testet sin teknikk ved å anvende den på et vanlig problem i datavitenskap, kjønnsbias. Forskningsgruppen hadde som mål å gjøre algoritmene som brukes til å forutsi college-elevenes GPA mer rettferdige ved å redusere kjønnsbias. Forskningsgruppen brukte en eksperimentell datasett og instruerte sin AI til å unngå å lage modeller som systematisk undervurderte eller overvurderte GPA for ett kjønn. Som resultat av forskernes instruksjoner, lagde algoritmen en modell som bedre forutså studentenes GPA og hadde betydelig mindre systematisk kjønnsbias enn tidligere eksisterende modeller. Tidligere GPA-forutsigelsesmodeller led av bias fordi biasreduksjonsmodellene ofte var for begrensede til å være nyttige, eller ingen biasreduksjon ble brukt i det hele tatt.

En annen algoritme ble også utviklet av forskningsgruppen. Denne algoritmen ble implementert i en automatisert insulinpumpe, og algoritmen var ment å balansere både ytelse og sikkerhet. Automatiserte insulinpumper må bestemme hvor stor en insulin-dose en pasient bør få Etter å ha spist, vil pumpen ideal sett levere en dose insulin som er stor nok til å holde blodsukkernivået i sjakk. Insulin-dosene som leveres må ikke være for store eller for små.

Maskinlæringsalgoritmer er allerede dyktige til å identifisere mønster i en persons respons på insulin-doser, men disse eksisterende analysemetodene kan ikke la legene spesifisere resultater som bør unngås, som for eksempel lavt blodsukker-kollaps. I motsetning til dette, var forskningsgruppen i stand til å utvikle en metode som kunne trenes til å levere insulin-doser som forble innenfor de to ytterpunktene, og forebygge både underdosing eller overdosing. Selv om systemet ikke er klart for testing på virkelige pasienter enda, kunne en mer avansert AI basert på denne tilnærmingen forbedre livskvaliteten for de som lider av diabetes.

I forskningsartikkelen refererer forskerne til algoritmen som en “Seledonian”-algoritme. Dette er en referanse til de tre lovene om robotikk beskrevet av science fiction-forfatteren Isaac Asimov. Implikasjonen er at AI-systemet “ikke må skade et menneske eller, gjennom passivitet, tillate at et menneske kommer til skade.” Forskningsgruppen håper at deres rammeverk vil tillate AI-forskere og -ingeniører å utvikle en rekke algoritmer og systemer som unngår farlig atferd. Emma Brunskill, seniorforfatter på artikkelen og Stanford-assistent professor i datavitenskap, forklarte til TechXplore:

“Vi ønsker å fremme AI som respekterer verdier hos sine menneskelige brukere og rettferdiggjør tilliten vi har til autonome systemer.”