Cercetători AI propun plasarea de recompense pentru bias-ul în AI pentru a face AI mai etic

O echipă de cercetători AI de la companii și laboratoare de dezvoltare AI, cum ar fi Intel (INTC ), Google (GOOGL ) Brain și OpenAI, a recomandat utilizarea recompenselor pentru a ajuta la utilizarea etică a AI. Echipa de cercetători a publicat recent o serie de propuneri cu privire la utilizarea etică a AI, și au inclus o sugestie că recompensarea oamenilor pentru descoperirea bias-ului în AI ar putea fi o modalitate eficientă de a face AI mai corect.

Conform raportului VentureBeat, cercetători de la diverse companii din SUA și Europa s-au unit pentru a crea un set de ghiduri etice pentru dezvoltarea AI, precum și sugestii pentru a respecta aceste ghiduri. Una dintre sugestiile cercetătorilor a fost oferirea de recompense dezvoltatorilor care descoperă bias în programele AI. Sugestia a fost făcută într-un document intitulat „Spre o dezvoltare AI de încredere: mecanisme pentru susținerea afirmațiilor verificabile”.

Ca exemple de bias pe care echipa de cercetători speră să le abordeze, date și algoritmi biasați au fost găsiți în totul, de la aplicații de sănătate la sisteme de recunoaștere facială utilizate de poliție. Un astfel de caz de bias este instrumentul de evaluare a riscului PATTERN, care a fost recent utilizat de Departamentul de Justiție al SUA pentru a tria deținuții și a decide care dintre ei pot fi trimiși acasă atunci când se reduc dimensiunile populației din închisori ca răspuns la pandemia de coronavirus.

Practica de a recompensa dezvoltatorii pentru descoperirea unui comportament nedorit în programele de calculator este o practică veche, dar aceasta ar putea fi prima dată când o echipă de etică AI a promovat serios această idee ca o opțiune pentru combaterea bias-ului în AI. Deși este puțin probabil ca să existe suficienți dezvoltatori AI pentru a găsi suficiente bias-uri pentru a se asigura că AI este etic, ar ajuta totuși companiile să reducă în general bias-ul și să înțeleagă ce tipuri de bias se strecoară în sistemele lor AI.

Autorii documentului au explicat că conceptul de recompensă pentru bug-uri poate fi extins la AI prin utilizarea recompenselor pentru bias și siguranță, și că utilizarea corespunzătoare a acestei tehnici ar putea duce la seturi de date și modele mai bine documentate. Documentația ar reflecta mai bine limitările atât ale modelului, cât și ale datelor. Cercetătorii au remarcat, de asemenea, că aceeași idee ar putea fi aplicată și altor proprietăți AI, cum ar fi interpretarea, securitatea și protecția vieții private.

Pe măsură ce se desfășoară mai multe discuții despre principiile etice ale AI, mulți au remarcat că principiile singure nu sunt suficiente și că trebuie luate măsuri pentru a menține AI-ul etic. Autorii documentului au remarcat că „reglementările și normele existente în industrie și în mediul academic sunt insuficiente pentru a asigura o dezvoltare responsabilă a AI”. Co-fondatorul Google Brain și liderul industriei AI, Andrew Ng, a opinat că principiile de ghidare singure nu au capacitatea de a asigura că AI este utilizat în mod responsabil și corect, spunând că multe dintre ele trebuie să fie mai explicite și să aibă idei concrete.

Recomandarea echipei de cercetare de a oferi recompense pentru bias este o încercare de a trece de la principiile etice la o zonă de acțiune etică. Echipa de cercetare a făcut, de asemenea, o serie de alte recomandări care ar putea stimula acțiunea etică în domeniul AI.

Echipa de cercetare a făcut o serie de alte recomandări pe care companiile le pot urma pentru a-și face utilizarea AI mai etică. Ei sugerează că ar trebui creată o bază de date centralizată a incidentelor AI și că aceasta ar trebui să fie împărtășită cu comunitatea AI mai largă. În mod similar, cercetătorii propun că ar trebui să fie stabilit un traseu de audit și că aceste trasee ar trebui să păstreze informații cu privire la crearea și implementarea aplicațiilor critice pentru siguranță în platformele AI.

Pentru a păstra confidențialitatea oamenilor, echipa de cercetare a sugerat că ar trebui să fie utilizate tehnici centrate pe confidențialitate, cum ar fi comunicarea criptată, învățarea federată și confidențialitatea diferențială. Dincolo de aceasta, echipa de cercetare a sugerat că ar trebui să fie oferite alternative deschise și că ar trebui să fie examinate cu atenție modelele comerciale AI. În cele din urmă, echipa de cercetare sugerează că finanțarea guvernamentală ar trebui să fie crescută, astfel încât cercetătorii academici să poată verifica afirmațiile despre performanța hardware-ului.