Рид Блекман, д-р, основач и извршен директор на Virtue Consultants – серија на интервјуа

Рид Блекмен е основач и извршен директор на Доблести консултанти. Во тој капацитет, тој работеше со компании за да ги интегрира етиката и етичкото ублажување на ризикот во културата на компанијата и развојот, распоредувањето и набавката на новите технолошки производи. Тој е исто така виш советник на Ernst & Young и седи во нивниот Советодавен одбор за вештачка интелигенција и е член на Иницијативата за етички усогласен дизајн на IEEE.

Работата на Рид е профилирана во The Wall Street Journal и Dell Perspectives и има придонесено во The Harvard Business Review, TechCrunch, VentureBeat и Risk & Compliance Magazine. Тој е цитиран во бројни новинарски написи и тој редовно зборува на различни места, вклучувајќи ги Светскиот економски форум, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Универзитетот Колумбија и AIG.

Бевте професор по филозофија на Универзитетот Колгејт од 2009 до 2018 година. Во кој момент почнавте да ја инкорпорирате етиката на вештачката интелигенција во вашите часови?

Често предавав курс за социјална и политичка филозофија, каде што го покривав Маркс. Едно од централните тврдења на Маркс е дека капитализмот на крајот ќе му отстапи место на комунизмот, поради масовното зголемување на „средствата за производство“. Со други зборови, капитализмот турка се поголема и поголема ефикасност во име на конкуренцијата и отворањето на нови пазари, што значи зголемување на создавањето технологии кои можат да произведуваат се повеќе и повеќе за пократко и пократко време. Маркс, исто така, предвиде дека ова сè повеќе ќе ги стави парите во рацете на малкумина и ќе турка сè повеќе луѓе во сиромаштија, во тој момент капиталистичките структури ќе бидат превртени со револуција предводена од растечкиот број на сиромашните маси. Сето ова води до дискусија околу етиката на технологијата, со што се избегнува потребата од човечки труд, што е централен елемент на етиката на вештачката интелигенција.

Мала споредна приказна ако ве интересира: Во 2002 година бев дипломиран студент кој водеше дискусија за Маркс со студенти на Универзитетот Нортвестерн. Во одреден момент, еден студент ја крена раката и рече: „Конечно нема да ни требаат луѓе за да вршат никаква работа“. Класот беше збунет. Бев збунет. Затоа реков, „па тогаш кој ќе ја заврши работата?“ Тој одговори на многу фактичен начин: „роботи“. Класот избувна во смеа. Си го задушив своето. Но, прилично е очигледно кој последен пат се насмеал.

Во 2018 година започнавте Доблести консултанти, етички консултант што ги овластува лидерите на податоци и вештачка интелигенција да ги идентификуваат и ублажат етичките ризици на нивните производи. Што ве инспирираше да го започнете ова претприемачко патување?

Љубомора. Па, некако. Почнав компанија за големопродажба на огномет кога бев дипломиран студент, мислам дека околу 2003 или 2004 година. Тоа помина подобро отколку што очекував, а компанијата сè уште постои, иако сега сум советник и повеќе не се грижам за секојдневните операции . Како и да е, релевантно е затоа што објаснува како дојдов да бидам ментор на стартапи во програмата за претприемништво на Colgate (наречена TIA, Thought Into Action, предводена од двајца прекрасни VC, Енди Гринфилд и Вилс Хапворт, кои раководат со TIA Ventures). Како ментор видов студенти кои започнуваат возбудливи проекти додека се обидуваа да сфатат како да основаат и да ги зголемат своите профитни или непрофитни стартапи и си помислив: „Го сакам тоа!“ Но, каков би бил мојот нов потфат? Тоа мораше да зборува за мојата љубов кон филозофијата и етиката, а првото нешто што имаше смисла беше консултант за етика. Јас тогаш не го видов пазарот за такви услуги, бидејќи немаше кој да видам и затоа чекав. И тогаш Cambridge Analytica, BLM и #MeToo станаа национални наслови, и одеднаш се појави поголема свест за потребата.

Колку е важно компаниите да воведат изјава за етика за вештачка интелигенција?

Изјавата за етика на вештачката интелигенција не е суштинска, но таа е исклучително корисна алатка за поставување на вашите цели. Кога воведувате програма за етика на вештачка интелигенција во вашата организација, сакате таа да идентификува и ублажи и управува со различни етички, репутациски, регулаторни и правни ризици. Тоа е нејзината главна функција. Етичката изјава помага да се артикулира како ќе изгледаат работите штом ќе ја имате поставено инфраструктурата, процесот и практиките за да ја постигнете таа функција. Со оглед на тоа што на стратегијата и треба цел – што секогаш го прави – изјавата за етика на вештачката интелигенција е убав начин да се артикулираат тие цели, иако тоа не е единствениот начин.

Како компаниите можат да обезбедат етичката изјава да се пренесе во процес и практика?

Етичката изјава е само мал чекор во вистинската насока. Ако сакате да продолжите, следниот природен чекор е да направите проценка за тоа каде сте во однос на целите артикулирани во таа изјава. Откако ќе знаете каде се најголемите, најризичните празнини - односно каде сте најмногу изложени на ризик да не ги постигнете вашите цели - тогаш можете да започнете да смислувате решенија за да ги намалите тие празнини. Можеби е етички комитет. Можеби тоа е процес на должна анализа за време на развојот на производот. Можеби станува подобро за тоа како ракувате со податоците во одделите што не се производи, како што се маркетинг и човечки ресурси. Веројатно тоа се сите тие работи и многу повеќе.

Кои се некои решенија што компаниите треба да ги имплементираат за да избегнат пристрасност кон вистинскиот алгоритам за вештачка интелигенција?

Има еден куп технички алатки за идентификување на пристрасност, но тие се ограничени. Тие ќе ви овозможат да ги споредите резултатите на вашиот модел со десетици квантитативни метрики што се понудени во литературата за академска ML етика, но мора да бидете внимателни бидејќи тие метрики не се меѓусебно компатибилни. Значи, треба да се донесе суштинска, етичка одлука: која, ако некоја од овие метрика, е соодветна во овој контекст?

Освен користењето на таква алатка, дополнета со одговорен начин на одговарање на тоа прашање, тимовите за производи би направиле добро да размислат каде може да навлезе пристрасност пред да почнат да градат. Како може да се содржи или да се одрази во збирките на податоци за обуката? Како за одредување на целната функција? Што е со одредувањето на прагот? Има многу места каде може да навлезе пристрасноста. Предмислата за тоа каде би можело да биде тоа во нечиј тековен проект и како би можело да влезе таму е од суштинско значење за идентификување и ублажување на пристрасноста.

Компаниите за вештачка интелигенција се познати по тоа што доминираат бели мажи кои може ненамерно да програмираат во некои предрасуди во системот за вештачка интелигенција. За да се избегне ова, каков тип на особини треба да бараат одделенијата за човечки ресурси?

Јас сум за поголеми можности и поголема разновидност меѓу инженерите и тимовите на производи генерално. Тоа, рече, мислам дека ова ги гледа работите низ погрешна леќа. Примарниот проблем кога станува збор за пристрасни алгоритми не е дека предрасудите на некои белци доведуваат до пристрасен код. Тоа е дека групите за обука на податоци се пристрасни. Всушност, неодамнешниот труд од Колумбија - „Пристрасни програмери? Или пристрасни податоци? Теренски експеримент во операционализација на етика на вештачка интелигенција“ – заклучи дека „[p]програмерите кои ги разбираат техничките упатства успешно ја намалуваат пристрасноста“ и дека „[а]лгоритамските предвидувања од женски и малцински програмери со вештачка интелигенција не покажуваат помала алгоритамска пристрасност или дискриминација“. Значи, иако човечките ресурси треба да обрнат внимание на прашањата за различноста, далеку од јасно е дека стратегиите за намалување на пристрасните резултати на вештачката интелигенција првенствено - а камоли, исклучиво - треба да се фокусираат на одлуките за вработување во врска со напорите за различност.

Дали би можеле да разговарате за тоа што е длабинска анализа за етички ризик и зошто компаниите треба да го имплементираат?

Етичкиот ризик е обид да се забележат различните етички ризици што може да се реализираат со производот што го создавате, вклучително и начинот на кој се користи, како може да се користи и злоупотребува итн. Сакате да се фокусирате на карактеристиките на производ - и оние што ги има и оние што му недостигаат - и начините на кои тие можат да доведат, кога се распоредени во различни контексти, до етичко погрешно постапување. Кога е добро направено, тоа е системска и исцрпна проверка. Се разбира, иако можете да се обидете максимално да погледнете зад аголот, веројатно има некои работи што ќе ги пропуштите, па затоа е важно постојаното следење.

Што се однесува до тоа зошто компаниите треба да го имплементираат: тие треба само да ги земат предвид етичките, репутациските, регулаторните и правните ризици ако не го сторат тоа. Размислете за Optum во вестите и под регулаторна истрага за (наводно) пристрасен алгоритам кој им препорачува на здравствените работници да посветат повеќе внимание на белите пациенти отколку на поболните црни пациенти. Или на Goldman Sachs, под истрага за кредитните лимити за Apple Card, кои наводно ги дискриминираат жените. Или софтверот за вработување на Амазон, кој беше укинат поради загриженост за пристрасност пред да биде распореден. Или IBM е тужен од Лос Анџелес за наводно злоупотреба на податоците собрани од нејзината апликација Weather. Или Фејсбук...

Дали има нешто друго што би сакале да споделите за Virtue Consultants?

Доблест им помага на високите лидери да ја спроведат етиката на вештачката интелигенција во пракса, без разлика дали тоа е помагање за едукација и усовршување на луѓето на оваа тема, пишување изјава за етика на вештачка интелигенција, создавање и спроведување на рамка за етички ризик за вештачка интелигенција, или едноставно служење како советници за етика на вештачка интелигенција. Ако тоа звучи интересно, луѓето треба да дојдат да се поздрават.

Ви благодариме за одличното интервју, треба да го посетат читателите кои сакаат да дознаат повеќе за Рид Рид Блекмен, или можете да ја посетите Доблести консултанти.