AI-forskere foreslår at sætte belønninger på AI-forvrængning for at gøre AI mere etisk

Et hold af AI-forskere fra virksomheder og AI-udviklingslaboratorier som Intel (INTC ), Google (GOOGL ) Brain og OpenAI har anbefalet at bruge belønninger til at sikre en etisk brug af AI. Holdet af forskere har nyligt offentliggjort en række forslag omkring etisk AI-brug, og de har inkluderet en forespørgsel om, at det kan være en effektiv måde at gøre AI mere retfærdigt på at belønne mennesker for at opdage forvrængninger i AI.

Ifølge VentureBeat har forskere fra en række virksomheder i USA og Europa samarbejdet om at udarbejde en samling af etiske retningslinjer for AI-udvikling, samt forslag til, hvordan disse retningslinjer kan føres ud i praksis. En af de foreslåede løsninger var at tilbyde belønninger til udviklere, der finder forvrængninger i AI-programmer. Forespørgslen blev fremsat i en artikel med titlen “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

Som eksempler på de forvrængninger, som holdet af forskere håber at adressere, er forvrængede data og algoritmer blevet fundet i alt fra sundhedsapplikationer til ansigtsgenkendelsessystemer brugt af politiet. Et sådant tilfælde af forvrængning er PATTERN-risikovurderingsværktøjet, som nyligt blev brugt af det amerikanske justitsministerium til at prioritere fanger og afgøre, hvilke der kunne sendes hjem, når man reducerede fængselsbefolkningen som svar på coronaviruspandemien.

Praksis med at belønne udviklere for at finde uønsket adfærd i computerprogrammer er en gammel praksis, men dette kan være første gang, at en AI-etisk komité alvorligt har fremført idéen som en mulig løsning til at bekæmpe AI-forvrængning. Selv om det er usandsynligt, at der er nok AI-udviklere til at finde nok forvrængninger til, at AI kan garanteres at være etisk, ville det stadig hjælpe virksomhederne med at reducere den samlede forvrængning og få en bedre forståelse af, hvilke slags forvrængninger der lægger sig i deres AI-systemer.

Artikelens forfattere forklarede, at bug-bounty-konceptet kan udvides til AI med brug af forvrængnings- og sikkerhedsbelønninger, og at en korrekt brug af denne teknik kan føre til bedre dokumenterede datasæt og modeller. Dokumentationen vil bedre afspejle begrænsningerne i både modellen og data. Forskerne nævner endda, at den samme idé kan anvendes på andre AI-egenskaber som fortolkning, sikkerhed og privatlivsbeskyttelse.

Da der sker mere og mere diskussion om de etiske principper for AI, har mange bemærket, at principperne alene ikke er nok, og at handlinger må tages for at holde AI etisk. Artiklens forfattere bemærker, at “eksisterende regler og normer i industri og akademiske kredse er utilstrækkelige til at sikre ansvarlig AI-udvikling”. Medstifteren af Google Brain og AI-brancheleder Andrew Ng har også udtalt, at retningslinjer alene mangler evnen til at sikre, at AI bruges på en ansvarlig og retfærdig måde, og siger, at mange af dem skal være mere eksplicitte og have handlebare idéer.

Forskningsholdets anbefaling om at indføre belønninger for at opdage forvrængninger i AI er et forsøg på at gå fra etiske principper til et område med etisk handling. Forskningsholdet har også fremsat en række andre anbefalinger, der kan fremme etisk handling i AI-branchen.

Forskningsholdet har fremsat en række andre anbefalinger, som virksomheder kan følge for at gøre deres AI-brug mere etisk. De foreslår, at der skal oprettes en central database over AI-tilfælde, som skal deles med den bredere AI-fællesskab. Ligeledes foreslår forskerne, at der skal etableres en revisionsrapport, og at disse rapporter skal bevare information om oprettelse og implementering af sikkerheds-kritiske applikationer i AI-platforme.

For at beskytte folks privatliv foreslår forskningsholdet, at privatlivs-centrerende teknikker som krypterede kommunikationer, distribueret læring og differential privatliv skal anvendes. Ud over dette foreslår forskningsholdet, at åbne kildealternativer skal gøres tilgængelige på bred basis, og at kommercielle AI-modeller skal undergå en grundig gennemgang. Endelig foreslår forskningsholdet, at statsstøtten skal øges, så akademiske forskere kan verificere påstande om hardware-præstation.