AI-forskere foreslår å legge ut belønninger for å gjøre AI mer etisk

Et team av AI-forskere fra selskaper og AI-utviklingslaboratorier som Intel, Google Brain og OpenAI har anbefalt å bruke belønninger for å sikre en etisk bruk av AI. Teamet av forskere har nylig gitt ut en rekke forslag om etisk AI-bruk, og de inkluderte en forespørsel om at det å belønne folk for å oppdage fordommer i AI kunne være en effektiv måte å gjøre AI mer rettferdig på.

Som VentureBeat rapporterer, forskere fra en rekke selskaper i USA og Europa samarbeidet for å utarbeide en rekke etiske retningslinjer for AI-utvikling, samt forslag til hvordan disse retningslinjene kan følges. En av forslagene forskerne kom med var å tilby belønninger til utviklere som finner fordommer i AI-programmer. Forslaget ble fremmet i en artikkel med tittelen “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”.

Som eksempler på fordommer som teamet av forskere håper å adresse, har fordomsfulle data og algoritmer blitt funnet i alt fra helseapplikasjoner til ansiktsgjenkjenningssystemer brukt av politiet. Et slikt tilfelle av fordom er PATTERN-risikovurderingsverktøyet som nylig ble brukt av USAs justisdepartement til å prioritere fanger og bestemme hvilke som kunne sendes hjem når fengselsbefolkningen skulle reduseres på grunn av koronapandemien.

Praksisen med å belønne utviklere for å finne uønsket atferd i dataprogrammer er en gammel praksis, men dette kan være første gangen at en AI-etikkomité har fremmet idéen som en mulighet for å bekjempe AI-fordom. Selv om det er usannsynlig at det finnes nok AI-utviklere til å finne nok fordommer til at AI kan garanteres å være etisk, ville det likevel hjelpe selskaper å redusere den totale fordommen og få en bedre forståelse av hvilke typer fordommer som lekker inn i deres AI-systemer.

Forfatterne av artikkelen forklarte at bug-bounty-konseptet kan utvides til AI med bruk av fordoms- og sikkerhetsbelønninger, og at en korrekt bruk av denne teknikken kunne føre til bedre dokumenterte datasett og modeller. Dokumentasjonen ville bedre reflektere begrensningene i både modellen og dataene. Forskerne noterte også at den samme idéen kunne brukes på andre AI-egenskaper som tolkbarhet, sikkerhet og personvernsbeskyttelse.

Ettersom det skjer mer og mer diskusjon om de etiske prinsippene for AI, har mange notert at prinsipper alene er ikke nok, og at handlinger må tas for å holde AI etisk. Forfatterne av artikkelen noterte at “eksisterende regler og normer i industrien og akademia er utilstrekkelige til å sikre ansvarlig AI-utvikling”. Medgründeren av Google Brain og AI-bransjelederen Andrew Ng uttrykte også at retningslinjer alene mangler evnen til å sikre at AI brukes på en ansvarlig og rettferdig måte, og sa at mange av dem må være mer eksplisitte og ha handlebare ideer.

Forslaget om å legge ut belønninger for å jakte på fordommer fra det kombinerte forskningsteamet er et forsøk på å gå beyond etiske prinsipper og inn i et område for etisk handling. Forskingsteamet kom også med en rekke andre anbefalinger som kunne fremme etisk handling i AI-feltet.

Forskingsteamet kom med en rekke andre anbefalinger som selskaper kan følge for å gjøre deres AI-bruk mer etisk. De foreslår at en sentral database over AI-hendelser skal opprettes og deles blant den brede AI-samfunnet. Liksom foreslår forskerne at en revisjonslogg skal etableres, og at disse loggene skal bevare informasjon om opprettelse og distribusjon av sikkerhetskritiske applikasjoner i AI-plattformer.

For å bevare personers personvern, foreslo forskningsteamet at personvernsbaserte tekniker som krypterte kommunikasjoner, distribuert læring og differensialt personvern skal brukes. Ut over dette foreslo forskningsteamet at åpne kildealternativer skal gjøres tilgjengelige og at kommersielle AI-modeller skal undersøkes nøye. Til slutt foreslo forskningsteamet at statlige midler skal økes så at akademiske forskere kan verifisere krav om maskinvare-ytelse.