AI-forskare föreslår att man sätter pris på AI-fördomar för att göra AI mer etiskt

Ett team av AI-forskare från företag och AI-utvecklingslaboratorium som Intel (INTC ), Google (GOOGL ) Brain och OpenAI har rekommenderat att man använder priser för att säkerställa en etisk användning av AI. Forskarteamet släppte nyligen ett antal förslag om etisk AI-användning och inkluderade ett förslag om att belöna personer som upptäcker fördomar i AI, vilket kan vara ett effektivt sätt att göra AI mer rättvist.

Enligt VentureBeat har forskare från ett antal företag i USA och Europa gått samman för att ta fram en uppsättning etiska riktlinjer för AI-utveckling, samt förslag på hur man kan följa dessa riktlinjer. Ett av förslagen som forskarna gjorde var att erbjuda priser till utvecklare som hittar fördomar inom AI-program. Förslaget gjordes i en rapport med titeln “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

Exempel på de fördomar som forskarteamet hoppas kan åtgärdas är fördomar i data och algoritmer som har hittats i allt från hälsoapplikationer till ansiktsigenkänningsystem som används av polis. Ett sådant exempel på fördom är PATTERN-riskbedömningsverktyget som nyligen användes av USA:s justitiedepartement för att triera fångar och bestämma vilka som kunde skickas hem när man minskade fängelsebefolkningen på grund av coronaviruspandemin.

Principen att belöna utvecklare för att de hittar oönskat beteende i datorprogram är en gammal princip, men detta kan vara första gången som en AI-etisk kommitté allvarligt har förespråkat idén som ett alternativ för att bekämpa AI-fördomar. Även om det är osannolikt att det finns tillräckligt många AI-utvecklare för att hitta tillräckligt många fördomar så att AI kan garanteras vara etiskt, skulle det fortfarande hjälpa företag att minska den totala fördomen och få en bättre förståelse för vilka typer av fördomar som läcker in i deras AI-system.

Rapportförfattarna förklarade att bug-bounty-konceptet kan utvidgas till AI med hjälp av fördoms- och säkerhetspriser och att en korrekt användning av denna teknik kan leda till bättre dokumenterade datamängder och modeller. Dokumentationen skulle bättre återspegla begränsningarna för både modellen och data. Forskarna noterar till och med att samma idé kan tillämpas på andra AI-egenskaper som tolkningsbarhet, säkerhet och dataskydd.

Allt eftersom diskussionen om AI:s etiska principer ökar, har många noterat att principer ensamma inte räcker och att åtgärder måste vidtas för att hålla AI etiskt. Rapportförfattarna noterar att “befintliga regler och normer inom industri och akademi är otillräckliga för att säkerställa ansvarsfull AI-utveckling”. Google Brain-co-founder och AI-branschledare Andrew Ng uttryckte också att vägledande principer ensamma saknar förmågan att säkerställa att AI används på ett ansvarsfullt och rättvist sätt, och sa att många av dem behöver vara mer explicita och ha handlingsbara idéer.

Forskningsgruppens förslag om att införa fördomsjakt är ett försök att gå från etiska principer till etisk handling. Forskningsgruppen gjorde också ett antal andra förslag som kan stimulera etisk handling inom AI-området.

Forskningsgruppen gjorde ett antal andra förslag som företag kan följa för att göra sin AI-användning mer etisk. De föreslår att en central databas för AI-incidenter bör skapas och delas med den bredare AI-gemenskapen. Likaså föreslår forskarna att en revisionslogg ska inrättas och att dessa loggar ska bevara information om skapandet och distributionen av säkerhetskritiska applikationer i AI-plattformar.

För att skydda människors integritet föreslog forskargruppen att integritetscentrerade tekniker som krypterad kommunikation, federerad inlärning och differentiell integritet ska användas. Utöver detta föreslog forskargruppen att öppen källkodsalternativ ska göras tillgängliga och att kommersiella AI-modeller ska granskas noggrant. Slutligen föreslår forskargruppen att statligt stöd ska ökas så att akademiska forskare kan verifiera hårdvaruprestandaanspråk.