Startup Unbiased Își Propune Să Crească Transparența În Date Prin Blockchain, Să Lupte Împotriva Prejudecăților În Date

Efectele prejudecăților în date asupra inteligenței artificiale sunt bine documentate, iar pe măsură ce algoritmii de inteligență artificială și de învățare automată pătrund tot mai mult în fiecare colț al societății, companiile de inteligență artificială caută modalități noi de a asigura că algoritmii pe care îi dezvoltă nu moștenesc prejudecăți umane. Unul dintre noii jucători din domeniul inteligenței artificiale și al învățării automate, care își propune să reducă prejudecățile în date, este startup-ul cu numele transparent Unbiased. Unbiased a lansat o nouă piață de date pe platforma blockchain activă Telos, sperând să ofere clienților instrumente și aplicații descentralizate, cu caracter privat, pentru știința datelor și inteligența artificială.

Piața globală de inteligență artificială se preconizează că va continua să crească rapid pe parcursul următorului deceniu, ajungând la aproximativ 266 de miliarde de dolari până în anul 2027. În următorii patru ani, cheltuielile la nivel mondial pentru sisteme și componente asociate de inteligență artificială se preconizează că vor dubla, ajungând la aproximativ 110 miliarde de dolari până în 2024, conform IDC. Adoptarea rapidă a algoritmilor de inteligență artificială în tot mai multe industrii a condus la creșterea îngrijorărilor cu privire la transparența, confidențialitatea, echitatea și reprezentativitatea sistemelor de inteligență artificială.

Reducerea Prejudecăților Prin Transparență

Conform unui raport recent publicat de CapGemini Research Institute, intitulat “Inteligența artificială și dilema etică: Cum pot organizațiile să construiască sisteme de inteligență artificială etic robuste și să câștige încredere”, utilizarea etică a inteligenței artificiale a devenit o preocupare majoră pentru liderii IT de pe întreg mapamondul, majoritatea liderilor IT exprimând îngrijorări cu privire la posibila utilizare abuzivă a sistemelor de inteligență artificială. Aproximativ 9 din 10 organizații IT au declarat că sunt conștiente de cel puțin un incident în care au fost create probleme etice prin aplicarea unui sistem de inteligență artificială. Aproximativ două treimi dintre executivii IT au declarat că sunt conștienți de posibilele prejudecăți discriminatorii în sistemele de inteligență artificială, iar aproximativ jumătate dintre toate organizațiile IT au o cartă etică destinată dezvoltării inteligenței artificiale, și nu doar a cinci procente din organizațiile IT în 2019.

În timp ce cercetarea privind modurile în care algoritmii de inteligență artificială pot fi făcuți mai echitabili continuă, mulți eticieni și specialiști în inteligență artificială se concentrează pe datele utilizate pentru antrenarea inteligenței artificiale. Pe măsură ce algoritmii de inteligență artificială devin mai ubiquiti și standardizați, accentul se mută către obținerea datelor necesare pentru antrenarea modelelor.

Există o multitudine de moduri de a reduce prejudecățile în date în algoritmii de inteligență artificială. Unele tehnici implică ajustări ale modelului sau ale datelor de antrenare pe măsură ce modelul se antrenează. Aceste tehnici sunt “în timpul procesului” de corectare a prejudecăților. Acesta include utilizarea tehnicilor de antrenament advers, care constă în controlul unei caracteristici/sensibile (cum ar fi sexul sau rasa) prin penalizarea capacității modelului de a face previziuni care implică caracteristica în cauză. Acest lucru se face în timp ce se încearcă minimizarea erorii modelului. În contrast, concentrarea asupra eliminării prejudecăților din setul de date este o tehnică de pre-procesare. Datele de antrenare pentru modelele de învățare automată sunt adesea etichetate manual, iar aplicarea blockchain-ului poate ajuta companiile să urmărească procesul de etichetare a datelor lor pentru a se asigura că seturile lor de date sunt reprezentative.

Unbiased se bazează pe blockchain pentru a cultiva o cultură a transparenței în cadrul seturilor de date și piețelor de date. Majoritatea instrumentelor utilizate pentru generarea seturilor de date pentru sistemele de inteligență artificială și algoritmii de învățare automată sunt centralizate și, din cauza acestui fapt, adesea lipsesc transparența. Unbiased își propune să exploateze natura blockchain-ului pentru a înregistra acțiunile care au loc în piața lor de date, care include schimbul de date, echilibrarea sarcinilor și proiectelor, precum și contribuțiile lucrătorilor. Scopul este ca natura descentralizată a blockchain-ului Telos să faciliteze transparența, permițând utilizatorilor să obțină informații critice cu privire la natura științei lor de date. Utilizatorii vor putea să-și valideze seturile de date și să determine dacă anotările au fost efectuate cu privire la anumite principii etice, cum ar fi echitatea și confidențialitatea.

Conform arhitectului șef al blockchain-ului Telos, intersecția inteligenței artificiale și a învățării automate cu blockchain-ul poate duce la metode noi și transformaționale de lucru cu date. După cum a fost citat de AIthority:

„Unbiased va arăta acestor industrii cum înregistrarea datelor pe un blockchain de înaltă performanță, fără taxe, precum Telos, poate adăuga transparență, imutabilitate, plăți mici și guvernanță în produsele lor, în beneficiul tuturor părților interesate.”

Dincolo de transparența datelor de antrenare, unii oameni de știință și cercetători au făcut apel pentru mai multă transparență în algoritmi, modele și cod. O echipă internațională de oameni de știință a solicitat ca revistele științifice să impună cercetătorilor în domeniul informaticii standarde de transparență mai ridicate. Cercetătorii au susținut că o transparență mai mare cu privire la modelele și codul de inteligență artificială nu numai că ar ajuta la reproducerea studiilor, dar ar ajuta și la colaborarea între grupurile de cercetare. Multe studii științifice nu pot fi reproduse, iar acesta este un problemă și mai mare pentru studiile axate pe inteligența artificială care omit materiale critice. În viitor, blockchain-ul ar putea fi utilizat chiar și pentru a îmbunătăți urmărirea și evaluarea cercetărilor în domeniul inteligenței artificiale.