AI kan undvika specifika oönskade beteenden med nya algoritmer

Såsom artificiell intelligensalgoritmer och system blir mer avancerade och tar på sig större ansvar, blir det allt viktigare att säkerställa att AI-system undviker farligt, oönskat beteende. Nyligen publicerade en grupp forskare från University of Massachusetts Amherst och Stanford en rapport som visar hur specifikt AI-beteende kan undvikas, genom användning av en teknik som framkallar exakta matematiska instruktioner som kan användas för att justera beteendet hos en AI.

Enligt TechXplore var forskningen baserad på antagandet att orättvist/farligt beteende kan definieras med matematiska funktioner och variabler. Om detta är sant, bör det vara möjligt för forskare att träna system för att undvika dessa specifika beteenden. Forskningsgruppen syftade till att utveckla ett verktyg som kunde användas av AI-användare för att specificera vilka beteenden de vill att AI ska undvika, och möjliggöra för AI-ingenjörer att tillförlitligt träna ett system som undviker oönskade handlingar när de används i verkliga scenarier.

Phillip Thomas, den första författaren av rapporten och biträdande professor i datavetenskap vid U of Michigan Amherst, förklarade att forskningsgruppen syftade till att demonstrera att designer av maskinlärningsalgoritmer kan göra det lättare för AI-användare att beskriva oönskade beteenden och göra det mycket troligt att AI-systemet undviker beteendet.

Forskningsgruppen testade sin teknik genom att tillämpa den på ett vanligt problem inom datavetenskap, könsbias. Forskningsgruppen syftade till att göra algoritmerna som användes för att förutsäga collegestudenters GPA mer rättvist genom att reducera könsbias. Forskningsgruppen använde en experimentell dataset och instruerade sitt AI-system att undvika skapandet av modeller som systematiskt underskattade eller överskattade GPA för ett kön. Som ett resultat av forskarnas instruktioner skapade algoritmen en modell som bättre förutsåg studenternas GPA och hade avsevärt mindre systematisk könsbias än tidigare existerande modeller. Tidigare GPA-förutsägelsemodeller led av bias eftersom biasreduktionsmodeller ofta var för begränsade för att vara användbara, eller så användes ingen biasreduktion alls.

En annan algoritm utvecklades också av forskningsgruppen. Denna algoritm implementerades i en automatisk insulinpump, och algoritmen var avsedd att balansera både prestation och säkerhet. Automatiska insulinpumpar måste besluta hur stor insulinmängd en patient ska få efter att ha ätit. Pumpen ska idealiskt leverera en insulinmängd som är tillräckligt stor för att hålla blodsockernivåerna under kontroll. Insulinmängderna som levereras måste varken vara för stora eller för små.

Maskinlärningsalgoritmer är redan skickliga på att identifiera mönster i en persons reaktion på insulinmängder, men dessa existerande analysmetoder kan inte låta läkare specificera resultat som ska undvikas, såsom låga blodsockerkrascher. I kontrast kunde forskningsgruppen utveckla en metod som kunde tränas för att leverera insulinmängder som håller sig inom de två extremer, och förhindrar antingen underdosering eller överdosering. Även om systemet inte är redo för testning i riktiga patienter ännu, kan en mer avancerad AI baserad på denna approach förbättra livskvaliteten för de som lider av diabetes.

I forskningsrapporten hänvisar forskarna till algoritmen som en “Seledonian”-algoritm. Detta är en hänvisning till de tre robotlagarna som beskrivs av science fiction-författaren Isaac Asimov. Antydningen är att AI-systemet “får inte skada en människa eller, genom passivitet, låta en människa komma till skada.” Forskningsgruppen hoppas att deras ramverk kommer att möjliggöra för AI-forskare och ingenjörer att skapa en mängd olika algoritmer och system som undviker farligt beteende. Emma Brunskill, seniorförfattare av rapporten och biträdande professor i datavetenskap vid Stanford, förklarade till TechXplore:

“Vi vill främja AI som respekterar värderingarna hos dess mänskliga användare och motiverar det förtroende vi har i autonoma system.”