Forskere udvikler algoritmer til at forhindre dårlig adfærd i kunstig intelligens

Sammen med alle de fremskridt og fordele, som kunstig intelligens har vist hidtil, har der også været rapporter om uønskede bivirkninger som raciale og kønsbias i kunstig intelligens. Så som sciencealert.com stiller spørgsmålet “hvordan kan videnskabsfolk sikre, at avancerede tænkesystemer kan være retfærdige, eller endda sikre?”

Svaret kan ligge i rapporten fra forskere ved Stanford og University of Massachusetts Amherst, med titlen Forebyggelse af uønskede adfærd hos intelligente maskiner. Som eurekaalert.org bemærker i sin artikel om denne rapport, er kunstig intelligens nu begyndt at håndtere følsomme opgaver, så “beslutningstagerne insisterer på, at computerforskere giver garantier for, at automatiserede systemer er designet til at minimere, hvis ikke helt undgå, uønskede resultater som excessiv risiko eller raciale og kønsbias.”

Rapporten, som dette forskerhold præsenterer, “omtaler en ny teknik, der oversætter et vagt mål, såsom undgåelse af kønsbias, til præcise matematiske kriterier, der ville tillade en maskinelæringsalgoritme at træne en kunstig intelligens-applikation til at undgå denne adfærd.”

Formålet var, som Emma Brunskill, en assistentprofessor i datalogi ved Stanford og seniorforfatter af artiklen, påpeger “vi ønsker at fremme kunstig intelligens, der respekterer værdierne hos dens menneskelige brugere og berettiger den tillid, vi placerer i autonome systemer.”

Idéen var at definere “usikre” eller “uretfærdige” resultater eller adfærd i matematiske termer. Dette ville, ifølge forskerne, gøre det muligt “at skabe algoritmer, der kan lære af data om, hvordan man undgår disse uønskede resultater med høj tillid.”

Det andet mål var at “udvikle en samling af teknikker, der ville gøre det let for brugere at specificere, hvilke slags uønskede adfærd de ønsker at begrænse, og enable maskinelæringdesignere til at forudsige med tillid, at et system, der er trænet ved hjælp af tidligere data, kan betrodes, når det anvendes i virkelige situationer.”

ScienceAlert siger, at holdet navngav dette nye system  ‘Seldonian’ algoritmer, efter hovedpersonen i Isaac Asimovs berømte Foundation-serie af science fiction-romaner. Philip Thomas, en assistentprofessor i datalogi ved University of Massachusetts Amherst og første forfatter af artiklen, bemærker, “Hvis jeg bruger en Seldonian algoritme til diabetes behandling, kan jeg specificere, at uønskede adfærd betyder farligt lavt blodsukker eller hypoglykæmi.”

“Jeg kan sige til maskinen, ‘Mens du forsøger at forbedre kontrollen i insulinpumpen, lav ikke ændringer, der ville øge hyppigheden af hypoglykæmi.’ De fleste algoritmer giver dig ikke en måde at placere denne type begrænsning på adfærd; det var ikke inkluderet i tidlige designs.”

Thomas tilføjer, at “dette Seldonian rammeværk vil gøre det lettere for maskinelæringdesignere at bygge adfærd-undgåelsesinstruktioner ind i alle slags algoritmer, på en måde, der kan enable dem til at vurdere sandsynligheden for, at trænede systemer fungerer korrekt i den virkelige verden.”

For sin del bemærker Emma Brunskill også, at “at tænke over, hvordan vi kan skabe algoritmer, der bedst respekterer værdier som sikkerhed og retfærdighed, er afgørende, da samfundet stadig mere afhænger af kunstig intelligens.”