AI-onderzoekers stellen voor om premies uit te loven voor AI-vooringenomenheid om AI meer ethisch te maken

Een team van AI-onderzoekers van bedrijven en AI-ontwikkelingslabs zoals Intel (INTC ), Google (GOOGL ) Brain en OpenAI heeft aanbevolen om premies te gebruiken om de ethische gebruik van AI te waarborgen. Het team van onderzoekers heeft onlangs een aantal voorstellen gepubliceerd met betrekking tot ethisch AI-gebruik en daarin staat een suggestie dat het belonen van mensen voor het ontdekken van vooringenomenheden in AI een effectieve manier kan zijn om AI eerlijker te maken.

Volgens VentureBeat hebben onderzoekers van verschillende bedrijven in de VS en Europa samengewerkt om een set ethische richtlijnen voor AI-ontwikkeling op te stellen, evenals suggesties voor hoe deze richtlijnen kunnen worden nageleefd. Een van de suggesties die de onderzoekers deden, was het aanbieden van premies aan ontwikkelaars die vooringenomenheden in AI-programma’s vinden. Deze suggestie werd gedaan in een paper met de titel “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“.

Als voorbeelden van de vooringenomenheden die het team van onderzoekers hoopt aan te pakken, zijn vooringenomen gegevens en algoritmes aangetroffen in alles, van gezondheidsapplicaties tot gezichtsherkenningssystemen die door de politie worden gebruikt. Een voorbeeld van een dergelijke vooringenomenheid is het PATTERN-risicobeoordelingsinstrument dat onlangs door het Amerikaanse ministerie van Justitie werd gebruikt om gevangenen te triëren en te beslissen welke naar huis konden gaan bij het verkleinen van de gevangenispopulatie als reactie op de coronaviruspandemie.

De praktijk van het belonen van ontwikkelaars voor het vinden van ongewenst gedrag in computerprogramma’s is een oude, maar dit kan de eerste keer zijn dat een AI-ethiekcommissie het idee serieus heeft voorgesteld als een optie voor het bestrijden van AI-vooringenomenheid. Hoewel het onwaarschijnlijk is dat er genoeg AI-ontwikkelaars zijn om genoeg vooringenomenheden te vinden om AI te garanderen ethisch, zou het bedrijven nog steeds helpen om de algehele vooringenomenheid te verminderen en een beter begrip te krijgen van welke soorten vooringenomenheden in hun AI-systemen lekken.

De auteurs van het paper legden uit dat het bug-bounty-concept kan worden uitgebreid naar AI met behulp van vooringenomenheids- en veiligheidspremies en dat een juiste toepassing van deze techniek kan leiden tot beter gedocumenteerde datasets en modellen. De documentatie zou de beperkingen van zowel het model als de gegevens beter weerspiegelen. De onderzoekers merken zelfs op dat hetzelfde idee kan worden toegepast op andere AI-eigenschappen zoals interpretatie, beveiliging en privacysbescherming.

Naarmate er meer discussie plaatsvindt over de ethische principes van AI, hebben velen opgemerkt dat principes alleen niet genoeg zijn en dat actie moet worden ondernomen om AI ethisch te houden. De auteurs van het paper merken op dat “bestaande regelgeving en normen in de industrie en de academische wereld onvoldoende zijn om verantwoorde AI-ontwikkeling te garanderen”. De mede-oprichter van Google Brain en AI-industrieleider Andrew Ng merkte ook op dat leidende principes alleen niet in staat zijn om te garanderen dat AI op een verantwoorde en eerlijke manier wordt gebruikt, en zei dat veel van deze principes explicieter moeten zijn en actiepunten moeten hebben.

De aanbeveling van de onderzoekers om premies uit te loven voor het vinden van vooringenomenheden is een poging om verder te gaan dan ethische principes en naar een gebied van ethische actie te gaan. Het onderzoeksteam deed ook een aantal andere aanbevelingen die ethische actie in het AI-veld kunnen stimuleren.

Het onderzoeksteam deed een aantal andere aanbevelingen die bedrijven kunnen volgen om hun AI-gebruik meer ethisch te maken. Ze suggereren dat een centrale database van AI-incidenten moet worden gemaakt en gedeeld met de bredere AI-gemeenschap. Bovendien stellen de onderzoekers voor dat een audittrail moet worden ingesteld en dat deze trails informatie moeten bewaren over de creatie en implementatie van veiligheidskritische toepassingen in AI-platforms.

Om de privacy van mensen te beschermen, stelde het onderzoeksteam voor dat privacy-georiënteerde technieken zoals versleutelde communicatie, gefedereerd leren en differentiële privacy allemaal moeten worden gebruikt. Verder stelde het onderzoeksteam voor dat open source-alternatieven breed beschikbaar moeten worden gemaakt en dat commerciële AI-modellen zwaar moeten worden gecontroleerd. Ten slotte stelt het onderzoeksteam voor dat de overheidsgelden moeten worden verhoogd zodat academische onderzoekers hardwareprestatieclaims kunnen verifiëren.