AI-forskere foreslår å sette premie på AI-forvrengning for å gjøre AI mer etisk

Et team av AI-forskere fra selskaper og AI-utviklingslaboratorier som Intel (INTC ), Google (GOOGL ) Brain og OpenAI har anbefalt å bruke premie for å sikre en etisk bruk av AI. Teamet av forskere har nylig publisert en rekke forslag om etisk AI-bruk, og de inkluderte en forespørsel om at det å belønne personer for å oppdage forvrengning i AI kunne være en effektiv måte å gjøre AI mer rettferdig på.

Ifølge VentureBeat samarbeidet forskere fra en rekke selskaper i USA og Europa for å utarbeide en rekke etiske retningslinjer for AI-utvikling, samt forslag til hvordan disse retningslinjene kan følges. En av forslagene forskerne kom med var å tilby premie til utviklere som finner forvrengning i AI-programmer. Forslaget ble fremmet i en rapport med tittelen «Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims».

Som eksempler på de forvrengningene teamet av forskere håper å løse, er forvrengede data og algoritmer blitt funnet i alt fra helseapplikasjoner til ansiktsgjenkjenningssystemer brukt av politiet. Et slikt tilfelle av forvrengning er PATTERN-risikovurderingsverktøyet som nylig ble brukt av USAs justisdepartement til å triage fanger og bestemme hvilke som kunne sendes hjem når man reduserte fengselsbefolkningen i forbindelse med koronapandemien.

Praksisen med å belønne utviklere for å finne uønsket atferd i dataprogrammer er en gammel praksis, men dette kan være første gangen en AI-etikkgruppe har foreslått denne idéen som en mulighet for å bekjempe AI-forvrengning. Selv om det er usannsynlig at det finnes nok AI-utviklere til å finne nok forvrengninger til å sikre at AI er etisk, ville det likevel hjelpe selskaper å redusere den totale forvrengningen og få en bedre forståelse av hvilke typer forvrengninger som lekker inn i deres AI-systemer.

Rapportforfatterne forklarte at bug-premie-konseptet kan utvides til AI med bruk av forvrengnings- og sikkerhetspremier, og at en korrekt bruk av denne teknikken kan føre til bedre dokumenterte datasett og modeller. Dokumentasjonen vil bedre reflektere begrensningene i både modellen og dataene. Forskerne merker også at den samme idéen kan bli brukt på andre AI-egenskaper som tolkbarhet, sikkerhet og personvernsbeskyttelse.

Ettersom det skjer mer og mer diskusjon om de etiske prinsippene for AI, har mange bemerket at prinsippene alene ikke er nok, og at handlinger må tas for å holde AI etisk. Rapportforfatterne bemerker at «eksisterende regler og normer i industri og akademia er utilstrekkelige til å sikre ansvarlig AI-utvikling». Medgrunnleggeren av Google Brain og AI-bransjeleder Andrew Ng uttalte også at retningslinjer alene mangler evnen til å sikre at AI brukes på en ansvarlig og rettferdig måte, og sa at mange av dem må være mer eksplisitte og ha håndgripelige ideer.

Forslaget om å jakte på forvrengningspremier fra det kombinerte forskningsteamet er et forsøk på å gå fra etiske prinsipper til et område for etisk handling. Forskingsteamet kom også med en rekke andre forslag som kan fremme etisk handling i AI-bransjen.

Forskingsteamet kom med en rekke andre forslag som selskaper kan følge for å gjøre sin AI-bruk mer etisk. De foreslår at en sentral database over AI-hendelser skal opprettes og deles blant den bredere AI-samfunnet. Liksom foreslår forskerne at en revisjonslogg skal etableres, og at disse loggene skal bevare informasjon om opprettelse og distribusjon av sikkerhetskritiske applikasjoner i AI-plattformer.

For å bevare personers privatliv foreslår forskningsteamet at privatlivssentriske teknikker som krypterte kommunikasjoner, føderert læring og differensialt privatliv skal brukes. Ut over dette foreslår forskningsteamet at åpne kildealternativer skal gjøres tilgjengelige og at kommersielle AI-modeller skal undersøkes nøye. Til slutt foreslår forskningsteamet at statlig finansiering skal økes så akademiske forskere kan verifisere hårdvarेयtelseskrav.