AI-forskere foreslår at sætte belønninger på AI-forvrængning for at gøre AI mere etisk

Et hold af AI-forskere fra virksomheder og AI-udviklingslaboratorier som Intel, Google Brain og OpenAI har anbefalet at bruge belønninger til at sikre en etisk brug af AI. Holdet af forskere har nylig offentliggjort en række forslag om etisk AI-brug, og de inkluderede en forespørgsel om, at det at belønne mennesker for at opdage forvrængninger i AI kunne være en effektiv måde at gøre AI mere retfærdig på.

Som VentureBeat rapporterer, forskere fra en række virksomheder i USA og Europa samarbejdede om at udarbejde en samling af etiske retningslinjer for AI-udvikling, samt forslag til, hvordan disse retningslinjer kan opfyldes. En af de foreslåede løsninger var at tilbyde belønninger til udviklere, der finder forvrængninger i AI-programmer. Forespørgslen blev fremsat i en artikel med titlen “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”.

Som eksempler på de forvrængninger, som holdet af forskere håber at imødegå, er forvrængede data og algoritmer blevet fundet i alt fra sundhedsapplikationer til ansigtsgenkendelsessystemer, der bruges af politiet. Et sådant tilfælde af forvrængning er PATTERN-risikovurderingsværktøjet, der nylig blev brugt af det amerikanske justitsministerium til at prioritere fanger og afgøre, hvilke der kunne sendes hjem, når fængselsbefolkningerne reduceres som svar på coronaviruspandemien.

Praksis med at belønne udviklere for at finde uønsket adfærd i computerprogrammer er en gammel praksis, men dette kan være første gang, at en AI-etisk komité alvorligt har fremført idéen som en mulighed for at bekæmpe AI-forvrængning. Selv om det er usandsynligt, at der er nok AI-udviklere til at finde nok forvrængninger, så AI kan garanteres at være etisk, ville det stadig hjælpe virksomhederne med at reducere den samlede forvrængning og få en fornemmelse af, hvilke typer af forvrængninger, der lægger sig i deres AI-systemer.

Artikelens forfattere forklarede, at bug-bounty-konceptet kan udvides til AI med brug af forvrængnings- og sikkerhedsbelønninger, og at en korrekt brug af denne teknik kunne føre til bedre dokumenterede datasæt og modeller. Dokumentationen ville bedre afspejle begrænsningerne i både modellen og data. Forskerne bemærker endda, at den samme idé kan anvendes på andre AI-egenskaber som fortolkning, sikkerhed og privatlivsbeskyttelse.

Da der finder mere og mere diskussion sted omkring de etiske principper for AI, har mange bemærket, at principperne alene ikke er nok, og at handlinger må tages for at holde AI etisk. Artikelens forfattere bemærker, at “eksisterende regler og normer i industri og akademiske kredse er utilstrækkelige til at sikre ansvarlig AI-udvikling”. Medstifteren af Google Brain og AI-industrilederen Andrew Ng har også udtalt, at retningslinjerne alene mangler evnen til at sikre, at AI bruges ansvarligt og retfærdigt, og siger, at mange af dem skal være mere eksplicitte og have handlebare idéer.

Forslaget om at jagte forvrængninger fra det kombinerede forskerhold er et forsøg på at gå ud over de etiske principper og ind i et område af etisk handling. Forskerholdet har også fremført en række andre anbefalinger, som kan fremme etisk handling i AI-feltet.

Forskerholdet har fremført en række andre anbefalinger, som virksomheder kan følge for at gøre deres AI-brug mere etisk. De foreslår, at en central database over AI-uheld skal oprettes og deles med den bredere AI-fællesskab. Ligeledes foreslår forskerne, at en revisionsstier skal etableres, og at disse stier skal bevare information om oprettelse og udrulning af sikkerheds-kritiske applikationer på AI-platforme.

For at bevare folks privatliv foreslår forskerholdet, at privatlivs-centrerende teknikker som krypterede kommunikationer, fødereret læring og differential privatliv skal anvendes. Ud over dette foreslår forskerholdet, at open source-alternativer skal gøres bredt tilgængelige, og at kommercielle AI-modeller skal undersøges nøje. Endelig foreslår forskerholdet, at offentlig finansiering skal øges, så akademiske forskere kan verificere hardware-præstationskrav.