Reid Blackman, Ph.D, Fondator și CEO al Virtue Consultants – Seria de interviuri

Reid Blackman este fondatorul și CEO-ul Virtue Consultants. În această calitate, el a lucrat cu companii pentru a integra etica și mitigarea riscurilor etice în cultura companiei și în dezvoltarea, implementarea și achiziționarea de produse tehnologice emergente. De asemenea, el este consilier senior al Ernst & Young și face parte din Consiliul de consultanți pentru Inteligență Artificială al acestei companii, și este membru al Inițiativei de proiectare etică a IEEE.

Lucrările lui Reid au fost prezentate în The Wall Street Journal și Dell Perspectives, iar el a contribuit cu articole la The Harvard Business Review, TechCrunch, VentureBeat și Risk & Compliance Magazine. El a fost citat în numeroase articole de știri și vorbește regulat la diverse evenimente, inclusiv Forumul Economic Mondial, SAP, Cannes Lions, Forbes, Școala de Afaceri Stern a Universității NYU, Universitatea Columbia și AIG.

Ați fost profesor de filozofie la Universitatea Colgate din 2009 până în 2018. La ce punct ați început să integrați etica inteligenței artificiale în cursurile dvs.?

Am predat adesea un curs de filozofie socială și politică, în care am acoperit subiectul lui Marx. Una dintre afirmațiile centrale ale lui Marx este că capitalismul va ceda în cele din urmă locul comunismului, din cauza unei creșteri masive a “mijloacelor de producție”. În alte cuvinte, capitalismul impune o eficiență din ce în ce mai mare în numele concurenței și deschiderii de noi piețe, ceea ce înseamnă o creștere a creației de tehnologii care pot produce mai mult și mai mult în timpuri din ce în ce mai scurte. Marx a prezis, de asemenea, că acest lucru va pune din ce în ce mai mult bani în mâinile celor puțini și va împinge din ce în ce mai mult oameni în sărăcie, în momentul în care structurile capitaliste vor fi răsturnate de o revoluție condusă de numărul tot mai mare de mase sărace. Toate acestea duc la o discuție despre etica tehnologiei care face inutilă nevoia de muncă umană, care este un element central al eticii inteligenței artificiale.

Poveste laterală mică, dacă sunteți interesați: În 2002, eram student doctorand care conducea o discuție despre Marx cu studenți de la Universitatea Northwestern. La un moment dat, un student și-a ridicat mâna și a spus: “În cele din urmă, nu vom mai avea nevoie de oameni pentru a face munca.” Clasa a fost confuză. Eu am fost confuz. Așa că am spus: “Ei bine, atunci cine va face munca?” El a răspuns într-un mod foarte obișnuit: “Roboții.” Clasa a izbucnit în râs. Eu am înăbușit râsul meu. Dar este destul de evident cine a avut ultimul cuvânt.

În 2018, ați lansat Virtue Consultants, o consultanță de etică care împuternicește liderii de date și inteligență artificială să identifice și să mitigeze riscurile etice ale produselor lor. Ce v-a inspirat să începeți acest drum antreprenorial?

Gelozia. Ei bine, sortare. Am început o companie de vânzare cu amănuntul de artificii în 2003 sau 2004, când eram student doctorand. Acest lucru a mers mai bine decât anticipam, și compania există și astăzi, deși acum sunt doar consilier și nu mai am grijă de operațiunile zilnice. Orice, acest lucru este relevant pentru că explică cum am ajuns să fiu mentor pentru startup-uri în programul de antreprenoriat al Universității Colgate (numit TIA, Thought Into Action, condus de doi investitori awesomi, Andy Greenfield și Wills Hapworth, care conduc TIA Ventures). Ca mentor, am văzut studenți care își începeau proiecte interesante, încercând să înțeleagă cum să stabilească și să scaleze startup-urile lor cu scop lucrativ sau non-profit, și am spus: “Vreau și eu asta!” Dar ce ar fi fost noua mea aventură? Trebuia să aibă legătură cu dragostea mea pentru filozofie și etică, și primul lucru care a avut sens a fost o consultanță de etică. Nu am văzut piața pentru astfel de servicii la acea vreme, pentru că nu exista, așa că am așteptat. Și apoi Cambridge Analytica, și BLM, și #MeToo au făcut titluri naționale, și brusc a existat o conștientizare mai mare a nevoii.

Cât de important este pentru companii să introducă o declarație de etică a inteligenței artificiale?

O declarație de etică a inteligenței artificiale nu este esențială, dar este un instrument extrem de util pentru stabilirea obiectivelor. Când introduceți un program de etică a inteligenței artificiale în organizația dvs., doriți să identificați și să mitigați și să gestionați diverse riscuri etice, de reputație, regulatorii și legale. Aceasta este funcția sa principală. O declarație de etică vă ajută în a articula cum vor arăta lucrurile odată ce veți avea infrastructura, procesele și practicile în loc pentru a atinge acea funcție. În măsura în care o strategie are nevoie de un obiectiv – ceea ce întotdeauna are – o declarație de etică a inteligenței artificiale este un mod bun de a articula acele obiective, deși nu este singurul mod.

Cum pot companiile să se asigure că declarația de etică este transformată în proces și practică?
O declarație de etică este doar un mic pas în direcția cea bună. Dacă doriți să continuați, următorul pas firesc este să faceți o evaluare a poziției dvs. față de obiectivele articulate în acea declarație. Odată ce știți unde sunt cele mai mari, riscurile cele mai mari – adică unde sunteți mai mult în pericol de a nu atinge obiectivele dvs. – atunci puteți începe să dezvoltați soluții pentru a reduce acele lacune. Poate fi un comitet de etică. Poate fi un proces de due diligence în timpul dezvoltării produsului. Poate fi să deveniți mai buni în a face față datelor în departamentele non-produs, cum ar fi marketing și resurse umane. Probabil că este vorba de toate acestea și multe altele.

Care sunt soluțiile pe care companiile ar trebui să le implementeze pentru a evita prejudecățile în algoritmii inteligenței artificiale?

Există o mulțime de instrumente tehnice acolo pentru identificarea prejudecăților, dar sunt limitate. Vă permit să comparați ieșirile modelului dvs. cu zecile de metrici cantitative oferite în literatura academică de etică a inteligenței artificiale, dar trebuie să fiți atenți, deoarece aceste metrici nu sunt compatibile între ele. Așa că o decizie substanțială, etică trebuie luată: care, dacă există, dintre aceste metrici este adecvată în acest context?

În afara utilizării unui instrument de genul acesta, completat cu un mod responsabil de a răspunde la această întrebare, echipele de produs ar face bine să se gândească la locurile unde prejudecățile pot pătrunde înainte de a începe să construiască. Cum ar putea fi conținute sau reflectate în seturile de date de antrenament? Cum ar fi determinarea funcției obiectiv? Ce despre determinarea pragului? Există multe locuri unde prejudecățile pot pătrunde. Gândirea prealabilă despre locurile unde ar putea apărea în proiectul curent și cum ar putea fi identificate și mitigate este esențială.

Companiile de inteligență artificială sunt notorii pentru faptul că sunt dominate de bărbați albi care ar putea, fără intenție, să programeze prejudecăți în sistemul de inteligență artificială. Pentru a evita acest lucru, ce tip de trăsături ar trebui să caute departamentele de resurse umane?

Sunt pentru oportunități mai mari și o diversitate mai mare printre ingineri și echipele de produs, în general. Cu toate acestea, cred că aceasta este o abordare greșită. Problema principală atunci când vine vorba de algoritmi prejudecați nu este că prejudecățile unui bărbat alb duc la cod prejudecat. Este că seturile de date de antrenament sunt prejudecate. De fapt, un studiu recent de la Columbia – “Programatori prejudecați? Sau date prejudecate? Un experiment de teren în operaționalizarea eticii inteligenței artificiale” – a concluzionat că “[p]rogramatorii care înțeleg îndrumarea tehnică reduc cu succes prejudecățile”, și că “[p]redicțiile algoritmice ale programatorilor de inteligență artificială de sex feminin și minoritari nu prezintă prejudecăți sau discriminare algoritmică mai mică.” Așa că, în timp ce departamentele de resurse umane ar trebui să acorde atenție problemelor de diversitate, nu este deloc clar că strategiile pentru reducerea ieșirilor prejudecate ale inteligenței artificiale ar trebui să se concentreze în primul rând – sau, mai mult, exclusiv – pe deciziile de angajare în legătură cu eforturile de diversitate.

Puteți discuta despre ce este due diligence-ul riscului etic și de ce companiile ar trebui să îl implementeze?

Due diligence-ul riscului etic este o încercare de a identifica diversele riscuri etice care pot fi realizate cu produsul pe care îl creați, inclusiv modul în care este implementat, modul în care poate fi utilizat și utilizat în mod greșit, etc. Doriți să vă concentrați asupra caracteristicilor produsului – atât a celor pe care le are, cât și a celor pe care le lipsește – și a modurilor în care acestea pot duce, atunci când sunt implementate în diverse contexte, la fapte etice greșite. Când se face bine, este o inspecție sistematică și exhaustivă. Desigur, deși puteți încerca să vă uitați cât mai departe, există posibil lucruri pe care le veți pierde, ceea ce face ca monitorizarea continuă să fie importantă.

În ceea ce privește de ce companiile ar trebui să îl implementeze: ele nu trebuie decât să ia în considerare riscurile etice, de reputație, regulatorii și legale pentru a nu face acest lucru. Gândiți-vă la Optum în știri și sub investigație regulamentară pentru un algoritm (allegat) prejudecat care a recomandat furnizorilor de îngrijire a sănătății să acorde mai multă atenție pacienților albi decât pacienților negri mai bolnavi. Sau la Goldman Sachs (GS ), sub investigație pentru limitele de credit pentru cardul Apple (AAPL ), care (allegat) discriminează femeile. Sau la software-ul de angajare al Amazon (AMZN ), care a fost abandonat din cauza preocupărilor cu privire la prejudecăți înainte de a fi implementat. Sau la IBM, care este dată în judecată de către Los Angeles pentru (allegat) furt de date colectate de la aplicația sa de vreme. Sau la Facebook (META ) …

Există altceva pe care ați dori să îl împărtășiți despre Virtue Consultants?

Virtue ajută liderii seniori să pună etica inteligenței artificiale în practică, fie prin educarea și dezvoltarea oamenilor pe acest subiect, fie prin scrierea unei declarații de etică a inteligenței artificiale, crearea și implementarea unui cadru de risc etic acționabil, sau pur și simplu prin servirea ca consilieri pe etica inteligenței artificiale. Dacă sună interesant, oamenii ar trebui să vină să ne salute.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Reid ar trebui să viziteze Reid Blackman, sau pot vizita Virtue Consultants.