Reid Blackman, Ph.D, Fondator și CEO al Virtue Consultants – Seria de interviuri

Reid Blackman este fondatorul și CEO-ul Virtue Consultants. În această calitate, el a lucrat cu companii pentru a integra etica și mitigarea riscurilor etice în cultura companiei și în dezvoltarea, implementarea și achiziționarea de produse tehnologice emergente. De asemenea, el este Senior Advisor la Ernst & Young și face parte din Consiliul de Administrație pentru Inteligență Artificială al acestei companii, și este membru al Inițiativei de Proiectare Etică a IEEE.

Lucrările lui Reid au fost prezentate în The Wall Street Journal și Dell Perspectives, și el a contribuit cu articole în The Harvard Business Review, TechCrunch, VentureBeat și Revista de Risc și Conformitate. El a fost citat în numeroase articole de știri și vorbește regulat în diverse locuri, inclusiv Forumul Economic Mondial, SAP, Cannes Lions, Forbes, Școala de Afaceri NYU Stern, Universitatea Columbia și AIG.

Ați fost profesor de filozofie la Universitatea Colgate din 2009 până în 2018. La ce punct ați început să integrați etica inteligenței artificiale în cursurile dvs?

Am predat adesea un curs de filozofie socială și politică, în care am acoperit subiectul lui Marx. Una dintre afirmațiile centrale ale lui Marx este că capitalismul va ceda în cele din urmă locul comunismului, din cauza unei creșteri masive a “mijloacelor de producție”. Cu alte cuvinte, capitalismul promovează o eficiență tot mai mare în numele concurenței și deschiderii de noi piețe, ceea ce înseamnă o creștere a creației de tehnologii care pot produce mai mult și mai mult în timpuri tot mai scurte. Marx a prezis, de asemenea, că acest lucru va pune tot mai mult bani în mâinile celor puțini și va împinge tot mai mult oameni în sărăcie, în momentul în care structurile capitaliste vor fi răsturnate de o revoluție condusă de masa tot mai numeroasă a celor sărmani. Toate acestea duc la o discuție despre etica tehnologiei care face inutilă nevoia de muncă umană, care este un element central al eticii inteligenței artificiale.

Poveste laterală mică, dacă sunteți interesați: În 2002, eram student doctorand și conduceam o discuție despre Marx cu studenți de la Northwestern University. La un moment dat, un student a ridicat mâna și a spus: “În cele din urmă, nu vom mai avea nevoie de oameni pentru a face niciun fel de muncă.” Clasa a fost confuză. Eu eram confuz. Așa că am spus: “Ei bine, atunci cine va face munca?” El a răspuns într-un mod foarte natural: “Roboții.” Clasa a izbucnit în râs. Am înăbușit râsul meu. Dar este destul de evident cine a avut ultimul cuvânt.

În 2018, ați lansat Virtue Consultants, o consultanță de etică care împuternicește liderii de date și inteligență artificială să identifice și să mitigeze riscurile etice ale produselor lor. Ce v-a inspirat să începeți această călătorie antreprenorială?

Invidie. Ei bine, sortare. Am început o companie de vânzări de artificii în 2003 sau 2004, când eram student doctorand. Acest lucru a mers mai bine decât anticipam, și compania există și astăzi, deși acum sunt doar consilier și nu mai am grijă de operațiunile zilnice. Orice ar fi, este relevant pentru că explică cum am ajuns să fiu mentor pentru startup-uri în programul de antreprenoriat al Universității Colgate (numit Thought Into Action, condus de doi investitori excelente, Andy Greenfield și Wills Hapworth, care conduc TIA Ventures). Ca mentor, am văzut studenți care porneau proiecte interesante, încercând să înțeleagă cum să-și stabilească și să-și scalizeze startup-urile lor și am spus: “Vreau și eu asta!” Dar ce ar fi fost noua mea aventură? Trebuia să se raporteze la dragostea mea pentru filozofie și etică, și primul lucru care a avut sens a fost o consultanță de etică. Nu am văzut piața pentru astfel de servicii la acea vreme, pentru că nu exista, așa că am așteptat. Și apoi Cambridge Analytica, BLM și #MeToo au făcut știri naționale, și brusc a existat o conștientizare mai mare a nevoii.

Cât de important este pentru companii să introducă o Declarație de etică a inteligenței artificiale?

O Declarație de etică a inteligenței artificiale nu este esențială, dar este un instrument extrem de util pentru stabilirea obiectivelor. Când introduceți un program de etică a inteligenței artificiale în organizația dvs., doriți să identificați și să mitigați și să gestionați diverse riscuri etice, reputaționale, regulatorii și legale. Acesta este principalul său scop. O declarație de etică vă ajută la articularea a ceea ce va arăta odată ce veți avea infrastructura, procesul și practicile în loc pentru a atinge acea funcție. În măsura în care o strategie are nevoie de un obiectiv – ceea ce întotdeauna are – o Declarație de etică a inteligenței artificiale este un mod frumos de a articula acele obiective, deși nu este singurul mod.

Cum pot companiile să se asigure că declarația de etică este transformată în proces și practică?
O declarație de etică este doar un mic pas în direcția corectă. Dacă doriți să continuați, următorul pas firesc este să faceți o evaluare a punctului în care vă aflați în raport cu obiectivele articulate în acea declarație. Odată ce știți unde sunt cele mai mari, riscurile cele mai mari – adică, unde sunteți cel mai expus la eșecul obiectivelor dvs. – atunci puteți începe să dezvoltați soluții pentru a reduce aceste lacune. Poate fi un comitet de etică. Poate fi un proces de due diligence în timpul dezvoltării produsului. Poate fi îmbunătățirea modului în care gestionați datele în departamente non-produs, cum ar fi marketingul și resursele umane. Probabil că este vorba despre toate acestea și mai mult.

Care sunt unele soluții pe care companiile ar trebui să le implementeze pentru a evita introducerea de prejudecăți în algoritmul de inteligență artificială în sine?

Există o mulțime de instrumente tehnice acolo pentru identificarea prejudecăților, dar ele sunt limitate. Ele vă permit să comparați ieșirile modelului dvs. cu zecile de metrici cantitative oferite în literatura academică de etică a inteligenței artificiale, dar trebuie să fiți atenți, deoarece aceste metrici nu sunt compatibile între ele. Așa că o decizie etică substanțială trebuie luată: care, dacă există, dintre aceste metrici este adecvată în acest context?

În afara utilizării unui instrument de acest fel, completat cu un mod responsabil de a răspunde la această întrebare, echipele de produs ar face bine să se gândească la locurile în care prejudecata poate pătrunde înainte de a începe să construiască. Cum ar putea fi conținută sau reflectată în seturile de date de antrenament? Cum ar putea fi determinată funcția obiectiv? Ce despre determinarea pragului? Există multe locuri în care prejudecata poate pătrunde. Gândirea prealabilă despre locurile în care ar putea apărea în proiectul dvs. actual și cum ar putea ajunge acolo este esențială pentru identificarea și mitigarea prejudecății.

Companiile de inteligență artificială sunt notorii pentru faptul că sunt dominate de bărbați albi care ar putea, fără intenție, să programeze prejudecăți în sistemul de inteligență artificială. Pentru a evita acest lucru, ce tip de trăsături ar trebui să caute departamentele de resurse umane?

Sunt pentru oportunități și diversitate mai mari printre ingineri și echipele de produs, în general. Cu toate acestea, cred că aceasta este o abordare greșită. Problema principală atunci când vine vorba de algoritmi biasați nu este că un tip alb are prejudecăți care duc la cod biasat. Este că seturile de date de antrenament sunt biasate. De fapt, o lucrare recentă de la Columbia – “Programatori biasați? Sau date biasate? Un experiment de teren în operaționalizarea eticii inteligenței artificiale” – a concluzionat că “[p]rogramatorii care înțeleg îndrumarea tehnică reduc cu succes biasul” și că “[p]redicțiile algoritmice ale programatorilor de inteligență artificială de sex feminin și minoritari nu prezintă un bias algoritmic sau discriminare mai mică”. Așa că, în timp ce departamentele de resurse umane ar trebui să acorde atenție problemelor de diversitate, este departe de a fi clar că strategiile pentru reducerea ieșirilor biasate ale inteligenței artificiale ar trebui să se concentreze în primul rând – sau exclusiv – pe deciziile de angajare în legătură cu eforturile de diversitate.

Ar putea discuta despre ce este due diligence-ul riscului etic și de ce companiile ar trebui să-l implementeze?

O due diligence a riscului etic este o încercare de a identifica diversele riscuri etice care pot fi realizate cu produsul pe care îl creați, inclusiv modul în care este implementat, modul în care poate fi utilizat și utilizat în mod greșit etc. Doriți să vă concentrați asupra caracteristicilor produsului – atât a celor pe care le are, cât și a celor pe care le lipsește – și asupra modurilor în care acestea pot duce, atunci când sunt implementate în diverse contexte, la acte etice greșite. Când este făcută bine, este o inspecție sistematică și exhaustivă. Desigur, în timp ce puteți încerca să vă uitați cât mai departe, există, probabil, unele lucruri pe care le veți pierde, ceea ce face ca monitorizarea continuă să fie importantă.

În ceea ce privește de ce companiile ar trebui să o implementeze: ele nu trebuie decât să ia în considerare riscurile etice, reputaționale, regulatorii și legale pentru a nu face acest lucru. Gândiți-vă la Optum în știri și sub investigație regulatoare pentru un algoritm (presupus a fi) biasat care a recomandat profesioniștilor din domeniul sănătății să acorde mai multă atenție pacienților albi decât pacienților negri mai bolnavi. Sau la Goldman Sachs, sub investigație pentru limitele de credit pentru cardul Apple, care (presupus a fi) discriminează femeile. Sau software-ul de angajare al Amazon, care a fost abandonat din cauza îngrijorărilor cu privire la bias înainte de a fi implementat. Sau IBM, dată în judecată de Los Angeles pentru presupusa însușire a datelor colectate de la aplicația sa de vreme. Sau Facebook…

Există altceva pe care ați dori să-l împărtășiți despre Virtue Consultants?

Virtue ajută liderii seniori să pună etica inteligenței artificiale în practică, fie că este vorba de a educa și a dezvolta oameni pe această temă, de a scrie o Declarație de etică a inteligenței artificiale, de a crea și a implementa un cadru de risc etic activ sau pur și simplu de a acționa ca consilieri în materie de etică a inteligenței artificiale. Dacă acest lucru sună interesant, oamenii ar trebui să vină să salute.

Vă mulțumim pentru acest interviu minunat. Citiitorii care doresc să afle mai multe despre Reid pot vizita Reid Blackman, sau pot vizita Virtue Consultants.