Andrew Pery, Etický Evangelista, ABBYY – Rozhovorová Série

Andrew Pery je Etickým Evangelistou ve společnosti ABBYY, digitální inteligence společnosti. Pomáhají organizacím získat cenné, ale často těžko dostupné, informace o svých operacích, které umožňují skutečnou obchodní transformaci.

ABBYY nedávno spustila Globální Iniciativu pro rozvoj důvěryhodného Umělého Intelektu. Rozhodli jsme se položit Andrewovi otázky týkající se etiky v AI, zneužívání AI a toho, co může průmysl AI dělat pro řešení těchto obav v budoucnu.

Co vás původně přimělo k zájmu o etiku AI?

To, co mě původně přimělo k zájmu o etiku AI, byla hluboká fascinace průnikem práva a technologie AI. Začal jsem svou kariéru v trestním soudnictví, zastupoval jsem chudé klienty, kteří si nemohli dovolit právní služby. Poté jsem přešel do technologie se zaměřením na aplikaci pokročilého vyhledávání a AI v právní praxi. Jako Certifikovaný Odborník na Ochrany Dát jsem zejména vášnivě zajímán o právo na ochranu soukromí a správné použití technologie AI, které je v souladu s právem na ochranu soukromí.

Technologie rozpoznávání obličeje je často zneužívána autoritativními zdroji, včetně vlády USA. Jak velké by mělo být toto společenské znepokojení?

Dopady technologie rozpoznávání obličeje by měly být významným společenským znepokojením, protože tato technologie může ovlivnit tolik základních práv, včetně ekonomických, sociálních a bezpečnostních práv.

Existuje jasný a přesvědčivý důkaz, že algoritmy rozpoznávání obličeje jsou nespolehlivé. Studie NIST o algoritmech rozpoznávání obličeje zjistila, že Afroameričané byli až 100krát více pravděpodobně nesprávně identifikováni. Podobná studie Georgetown Law School zjistila, že algoritmy rozpoznávání obličeje založené na policejních fotografiích vyprodukovaly vysoké procento falešných pozitivních výsledků spojených s afroamerickými jedinci, a studie z roku 2018 o softwaru Amazon (AMZN ) Facial Recognition nalezla, že zatímco bílí muži byli identifikováni přesně 99% času, tmaví jedinci vygenerovali až 35% falešných pozitivních výsledků.

Je to proto, že regulátoři začínají podnikat kroky k zákazu používání technologie rozpoznávání obličeje, zejména v kontextu dohledu a profilování. Například kalifornský senát přijal celostátní zákaz používání technologie rozpoznávání obličeje a dalších biometrických metod dohledu.

Existuje také momentum ve technické komunitě, aby se stáhla z marketingu softwaru pro rozpoznávání obličeje. IBM oznámila, že přestane prodávat software pro rozpoznávání obličeje, s odůvodněním, že porušuje základní lidská práva a svobody. Microsoft (MSFT ) také oznámila podobné rozhodnutí přestat prodávat svou technologii rozpoznávání obličeje, s odůvodněním, že porušuje základní lidská práva.

Software COMPAS, který byl použit v amerických soudcích pro hodnocení rizika recidivy, nesprávně označil viditelné menšinové pachatele jako více pravděpodobné k recidivě než bílé pachatele. Mělo by být používání AI ve soudních řízeních vůbec bráno v úvahu?

Studie o COMPAS nalezly, že není lepší v předpovídání zločinů než náhodní lidé. Zatímco prediktivní analytika dodává významnou hodnotu v komerčním kontextu, bylo prokázáno, že vede k nerovnostem v jejím použití v trestním soudnictví. To je evidentní v zprávě publikované Pro Publica, která nalezla, že COMPAS, nejoblíbenější software používaný americkými soudy pro hodnocení rizika recidivy, nesprávně označil viditelné menšinové pachatele jako více pravděpodobné k recidivě dvakrát více než bílé pachatele.

Tyto nerovnosti vedly bývalého generálního prokurátora Erica Holdera k otázce spravedlivosti a vyjádření obav o potenciální nerovnosti, které může použití technologie AI pro předpovídání recidivy vyvolat.

Jak lze společnosti vyhnout neúmyslnému programování negativních předsudků do systémů AI?

Nejprve musí být uznáno, že AI může mít sklon produkovat neúmyslné předsudky, nazývané nevědomé předsudky. Snižování jejich negativního dopadu vyžaduje komplexní přístup, který zahrnuje vývoj etických směrnic pro AI, jako je navrhovaný OECD Etický Rámec. Tento rámec je založen na sedmi základních principech, včetně lidské agentury a dohledu, technické robustnosti a bezpečnosti, ochrany soukromí a řízení, transparentnosti, rozmanitosti a nediskriminace, společenského blaha a odpovědnosti.

ABBYY nedávno spustila Globální Iniciativu pro rozvoj důvěryhodného Umělého Intelektu. Jak důležité je toto úsilí pro budoucnost ABBYY?

Rozhodnutí vyvinout naši globální iniciativu pro důvěryhodný AI je důležité rozhodnutí, které je vedeno naší vírou, že jako organizace, jejíž technologie ovlivňují podniky po celém světě a slouží desítkám tisíc jednotlivců, máme povinnost být dobrými firemními občany s sociálními svědomími. Nejenže to pomáhá vytvořit větší důvěru u našich globálních zákazníků a partnerů, ale také zajišťuje, že naše technologie budou mít hluboký dopad způsobem, který prospívá společnému blahu.

Jedna z iniciativ, které se ABBYY zavázala, je dodávat AI technologie, které jsou sociálně a ekonomicky prospěšné. Jak mohou společnosti nejlépe implementovat tuto rovnováhu?

Lídry by měly dosáhnout této rovnováhy, vezmou-li v úvahu doporučení Deloitte: Navrhování etiky do AI začíná určením toho, co je důležité pro zúčastněné strany, jako jsou zákazníci, zaměstnanci, regulátoři a veřejnost. Společnosti by měly zřídit specializovaný výbor pro AI a poradenské orgány z跨funkčních lídrů a externích poradců, které by se zapojily do multistakeholder pracovních skupin a zřídily a dohlížely na řízení AI-podporovaných řešení, včetně jejich návrhu, vývoje, nasazení a použití.

Můžete sdílet své názory na používání AI pro aplikace COVID-19 pro sledování kontaktů a potřeby rovnováhy mezi právem na soukromí?

Toto je zvláště složitá otázka. Existují ti, kteří argumentují, že implementace mobilních aplikací pro sledování představuje nežádoucí invazi do práv na soukromí. Na druhou stranu, když jde o veřejnou bezpečnost, existují vždy limity na práva obecně. Je to obchod mezi právy a odpovědností. Práva nejsou absolutní. Omezení globální pandemie vyžaduje koordinované akce a použití zdrojů a technologií, které mohou být zodpovědně použity k ochraně populace.

Tato rovnováha mezi individuálními právy na soukromí a společným blahem je uznána v rámci právního rámce. Například GDPR identifikuje šest důvodů pro zákonné zpracování osobních údajů, včetně ustanovení, že když je zpracování nezbytné pro veřejný zájem, takové zpracování osobních údajů je odůvodněné bez souhlasu subjektu údajů.

Ještě něco, co byste rádi sdíleli týkající se nové Globální Iniciativy ABBYY pro rozvoj důvěryhodného Umělého Intelektu?

Regulace tendují k tomu, aby zaostávaly za technologickou inovací, a proto společnosti potřebují sehrát proaktivní roli při vytváření transparentnosti a odpovědnosti za technologie AI a jejich dopad na práva na soukromí a bezpečnost. Naše iniciativa odráží náš závazek v tomto úsilí. Od našeho založení jsme vytvořili inovativní technologie, které uchovávají cenné informace a přeměňují je na akční znalosti.

Dále by etické použití technologií Umělého Intelektu nemělo být považováno pouze za právní základ, ale také jako morální povinnost a obchodní imperativ. Pokud vaše řešení mají široký dopad a ovlivňují kritické obchodní funkce, mělo by být odvětvím standardem být transparentní při aplikaci technologií AI.

Děkuji vám moc za odpovědi na tyto důležité otázky. Chcete-li zobrazit směrnice a přístup ABBYY pro dodržování a podporu důvěryhodných principů AI, klikněte zde. Kdokoli, kdo si chce dozvědět více o ABBYY obecně, může navštívit webové stránky ABBYY.