Kunstig intelligens kan undgå bestemte uønskede adfærdsmønstre med nye algoritmer

Som kunstig intelligens-algoritmer og -systemer bliver mere avancerede og tager på sig større ansvar, bliver det mere og mere vigtigt at sikre, at AI-systemer undgår farlig, uønsket adfærd. For nylig offentliggjorde et hold af forskere fra University of Massachusetts Amherst og Stanford en artikel, der demonstrerer, hvordan bestemt AI-adfærd kan undgås ved hjælp af en teknik, der fremkalder præcise matematiske instruktioner, der kan bruges til at justere AI-adfærden.

Ifølge TechXplore var forskningen baseret på antagelsen, at ufærdige/ufornuftige adfærdsmønstre kan defineres med matematiske funktioner og variable. Hvis dette er sandt, skal det være muligt for forskerne at træne systemer til at undgå disse bestemte adfærdsmønstre. Forskningsholdet havde til formål at udvikle en værktøjskasse, der kunne bruges af AI-brugere til at specificere, hvilke adfærdsmønstre de ønsker, at AI skal undgå, og enable AI-ingeniører til pålideligt at træne et system, der vil undgå uønskede handlinger, når det bruges i virkelige scenarier.

Phillip Thomas, den første forfatter på artiklen og assistentprofessor i datalogi ved U of Michigan Amherst, forklarede, at forskningsholdet havde til formål at demonstrere, at designerne af maskinlæringsalgoritmer kan gøre det lettere for AI-brugere at beskrive uønskede adfærdsmønstre og have det meget sandsynligt, at AI-systemet vil undgå adfærden.

Forskningsholdet testede deres teknik ved at anvende den på et almindeligt problem inden for datavidenskab, kønsbias. Forskningsholdet havde til formål at gøre algoritmerne, der blev brugt til at forudsige college-studerendes GPA, mere retfærdige ved at reducere kønsbias. Forskningsholdet anvendte en eksperimental dataset og instruerede deres AI-system til at undgå at oprette modeller, der systematisk undervurderede eller overvurderede GPA’er for ét køn. Som følge af forskernes instruktioner oprettede algoritmen en model, der bedre forudsagde studerendes GPA’er og havde væsentligt mindre systematisk kønsbias end tidligere eksisterende modeller. Tidligere GPA-forudsigelsesmodeller led under bias, fordi biasreduktionsmodellerne ofte var for begrænsede til at være nyttige, eller der ikke blev anvendt nogen biasreduktion overhovedet.

Forskningsholdet udviklede også en anden algoritme. Denne algoritme blev implementeret i en automatiseret insulinsprøjte, og algoritmen var tiltænkt at balancere både ydelse og sikkerhed. Automatiserede insulinsprøjter skal beslutte, hvor stor en insulindosis en patient skal få. Efter måltid vil sprøjten ideelt set levere en dosis insulin, der er stor nok til at holde blodsukkerniveauer i check. Insulindoserne, der leveres, skal hverken være for store eller for små.

Maskinlæringsalgoritmer er allerede dygtige til at identificere mønstre i en persons reaktion på insulindoser, men disse eksisterende analysemetoder kan ikke lade læger specificere resultater, der skal undgås, såsom lavt blodsukkerkrise. I modsætning hertil var forskningsholdet i stand til at udvikle en metode, der kunne trænes til at levere insulindoser, der forblev inden for de to yderpunkter, og forebyggede enten underdosering eller overdosering. Selvom systemet ikke er klar til test i virkelige patienter endnu, kunne en mere avanceret AI baseret på denne tilgang forbedre livskvaliteten for personer, der lider af diabetes.

I forskningsartiklen henviser forskerne til algoritmen som en “Seledonian”-algoritme. Dette er en reference til de tre love for robotter, som blev beskrevet af science fiction-forfatteren Isaac Asimov. Antydningen er, at AI-systemet “må ikke skade et menneske eller, gennem inaktion, lade et menneske komme til skade.” Forskningsholdet håber, at deres ramme vil enable AI-forskere og -ingeniører til at udvikle en række algoritmer og systemer, der undgår farlig adfærd. Emma Brunskill, seniorforfatter på artiklen og Stanford-assistentprofessor i datalogi, forklarede til TechXplore:

“Vi ønsker at fremme AI, der respekterer værdierne hos dens menneskelige brugere og retfærdiggør den tillid, vi har til autonome systemer.”