Ендрю Пері, Євангеліст Етики, ABBYY – Серія Інтерв’ю

Ендрю Пері – Євангеліст Етики в ABBYY, компанії цифрової інтелекту. Вони надають організаціям доступ до цінної, але часто важкодоступної інформації про свої операції, яка дозволяє здійснити справжню трансформацію бізнесу.

ABBYY недавно запустила Глобальну Ініціативу з розвитку довірчих штучних інтелектів. Ми вирішили запитати Ендрю питання щодо етики в галузі штучного інтелекту, зловживань штучним інтелектом та того, що галузь штучного інтелекту може зробити щодо цих проблем у майбутньому.

Що спочатку викликало ваш інтерес до етики штучного інтелекту?

Спочатку мій інтерес до етики штучного інтелекту виник через глибокий інтерес до перетину права та технології штучного інтелекту. Я розпочав свою кар’єру в системі кримінального правосуддя, представляючи інтереси бідних підсудних, які не мали фінансових коштів для оплати юридичних послуг. Потім я перейшов до технологій, зосередившись на застосуванні передових пошукових систем та штучного інтелекту в юридичній практиці. Як сертифікований фахівець з захисту даних, я особливо пристрасно ставлюся до права на захист даних та належного використання технологій штучного інтелекту, які відповідають та посилюють права на захист даних.

Технологія розпізнавання облич часто зловживає джерелами влади, включаючи уряд США. Наскільки великою повинна бути суспільна турбота щодо цього?

Наслідки технології розпізнавання облич повинні бути суттєвою суспільною турботою, оскільки ця технологія може вплинути на так багато фундаментальних прав, включаючи економічні, соціальні та безпекові права.

Є чіткі та переконливі докази того, що алгоритми розпізнавання облич ненадійні. Дослідження NIST алгоритмів розпізнавання облич виявило, що афроамериканці були в 100 разів більш ймовірно неправильно ідентифіковані. Подібне дослідження школи права Джорджтауна виявило, що алгоритми розпізнавання облич на основі фотографій з кримінальних справ мали високу кількість хибних позитивних результатів, пов’язаних з афроамериканськими особами, а дослідження MIT 2018 року програмного забезпечення розпізнавання облич Amazon (AMZN ) виявило, що білі чоловіки були точно ідентифіковані 99% часу, тоді як темношкірі особи генерували до 35% хибних позитивних результатів.

Через ці причини регулятори починають вживати заходів щодо заборони використання технологій розпізнавання облич, особливо в контексті спостереження та профайлінгу. Наприклад, сенат Каліфорнії прийняв законопроект про заборону використання технологій розпізнавання облич та інших біометричних методів спостереження.

Є також імпульс у технологічній спільноті до відмови від продажу програмного забезпечення розпізнавання облич. IBM оголосила, що припинить продаж програмного забезпечення розпізнавання облич, оскільки воно порушує основні права людини та свободи. Microsoft (MSFT ) також оголосила про подібне рішення щодо припинення продажу своєї технології розпізнавання облич, також посилаючись на фундаментальні права людини.

Програмне забезпечення COMPAS, яке використовувалося судами США для оцінки кримінального ризику, помилково позначило видимих меншинових правопорушників як більш схильних до повторної злочинності, ніж білих правопорушників. Чи повинен штучний інтелект використовуватися в судах?

Дослідження програмного забезпечення COMPAS виявили, що воно не краще передбачає злочини, ніж випадкові люди. Хоча передбачувальна аналітика надає значну цінність у комерційному контексті, вона була доведена як джерело нерівностей у її застосуванні до кримінального правосуддя. Це очевидно в звіті, опублікованому Pro Publica, який виявив, що COMPAS, найпопулярніше програмне забезпечення, використовуване судами США для оцінки кримінального ризику, помилково позначило видимих меншинових правопорушників як більш схильних до повторної злочинності в два рази частіше, ніж білих правопорушників.

Ці нерівності спонукали колишнього генерального прокурора Еріка Холдера поставити під сумнів справедливість та висловити занепокоєння щодо потенційних нерівностей, викликаних застосуванням технологій штучного інтелекту для передбачення показників рецидивізму серед правопорушників.

Як суспільство може уникнути непередбачуваного програмування негативних упереджень у системи штучного інтелекту?

По-перше, повинна бути визнана можливість того, що штучний інтелект може мати схильність до生产у непередбачуваних упереджень, відомих як несвідомі упередження. Мінімізація їхнього негативного впливу вимагає комплексного підходу, який складається з розробки етичних керівних принципів штучного інтелекту, таких як запропоновані ОЕСР Етичними рамками. Це ґрунтується на семи фундаментальних принципах, включаючи агентство людини та нагляд, технічну надійність та безпеку, захист даних та управління, прозорість, різноманітність та недискримінацію, добробут суспільства та підзвітність.

По-друге, дотримування юридичних рамок, які захищають від автоматичного профайлінгу, є ключовим. Наприклад, ЄС має довгу історію захисту та захисту прав на захист даних, а останнє та найпотужніше вираження цього є Загальним регламентом захисту даних (GDPR), який конкретно захищає від автоматизованого прийняття рішень.

По-третє, повинна бути відповідальність галузі за те, як розробляється технологія штучного інтелекту, та зобов’язання надавати прозорість без впливу на їхні права інтелектуальної власності. Є позитивні тенденції в цьому напрямку. Наприклад, Партнерство з питань штучного інтелекту – це організація з понад 80 учасниками з 13 країн, присвячена дослідженням та обговоренню ключових питань штучного інтелекту.

По-четверте, технологічні організації повинні дотримуватися зобов’язання провести оцінку впливу упереджень перед випуском алгоритмів штучного інтелекту, особливо коли їхнє застосування впливає на права на захист даних та безпеки. Питання, які керівники технологічних організацій повинні розглянути перед випуском нових застосунків штучного інтелекту, включають: Чи достатньо різноманітні дані, на яких ця технологія була навчена? Як виявити упередження? Як воно тестується та ким? Які стимули розробників? Хто вигодується від цього комерційно?

Важливо пам’ятати, що рішення штучного інтелекту відображають під час навчання дані, на яких ці застосування були навчені, тому забезпечення того, що ці дані не є упередженими та належним чином відображають різноманітність тих, кому ця технологія буде служити, є критично важливим. У словах дослідника штучного інтелекту професора Джоанни Брайсон, “якщо під час навчання дані відображають стереотипи, або якщо ви навчаєте штучний інтелект з людської культури, ви знайдете упередження. І якщо ми не будемо обережні, ми ризикуємо інтегрувати це упередження в комп’ютерні програми, які швидко беруть на себе управління всім, від лікарень до шкіл та в’язниць – програм, які повинні усунути ці упередження з самого початку”.

ABBYY недавно запустила Глобальну Ініціативу з розвитку довірчих штучних інтелектів. Наскільки важлива ця ініціатива для майбутнього ABBYY?

Рішення щодо розробки нашої глобальної ініціативи щодо довірчих штучних інтелектів є важливим рішенням, яке мотивоване нашою вірою в те, що як організація, чиї технології впливають на підприємства по всьому світу та обслуговують десятки тисяч окремих користувачів, ми маємо зобов’язання бути добрими корпоративними громадянами з соціальною совістю. Це не тільки допомагає породити більшу довіру серед наших глобальних клієнтів та партнерів, але також допомагає забезпечити, що наші технології продовжують мати глибокий вплив у спосіб, який приносить користь загальному благу.

Це також має добрий бізнес-сенс просувати та підтримувати довірче використання штучного інтелекту. Це посилює наш бренд-капітал, породжує довіру з нашою спільнотою глобальних клієнтів та партнерської екосистеми. Довіра перекладується у повторний бізнес та у сталий зростання.

Частина цієї ініціативи полягає в тому, що ABBYY зобов’язується розвивати культуру, яка просуває етичне використання штучного інтелекту та його соціальну корисність. Що потрібно зробити іншим компаніям, щоб розвивати подібну культуру?

Технологічні компанії повинні розробити рамки для етичного використання штучного інтелекту. Обсяг такого зобов’язання залежить від передбачуваних застосунків алгоритмів штучного інтелекту. Найкращий спосіб оцінити його вплив полягає в застосуванні принципу “не нашкодь”. І повинна бути зверху вниз зобов’язання щодо довірчого використання штучного інтелекту.

Так само важливо зобов’язання щодо прозорості. Хоча права інтелектуальної власності повинні бути збалансовані з принципом довірчого штучного інтелекту, важливість прозорості та підзвітності щодо відповідального використання штучного інтелекту повинна бути чітко артикулована та комунікована по всій організації.

Одна з ініціатив, до якої зобов’язалася ABBYY, полягає в тому, щоб надавати технології штучного інтелекту, які є соціально та економічно корисними. Це може бути складним балансом. Як компанії можуть найкраще реалізувати це?

Лідери можуть досягти цього балансу, враховуючи рекомендації, надані Deloitte: проектування етики в штучний інтелект починається з визначення того, що важливо для зацікавлених сторін, таких як клієнти, працівники, регулятори та загальна громадськість. Компанії повинні створити спеціальний комітет з управління штучним інтелектом та консультативну раду з лідерів та зовнішніх радників, яка буде взаємодіяти з багатосторонніми робочими групами та встановлювати та наглядати за управлінням рішень, що використовують штучний інтелект, включаючи їхній дизайн, розвиток, розгортання та використання.

Як ми балансували свої комерційні інтереси та соціальне благо, було продемонстровано під час пандемії коронавірусу. Ми зробили багато наших технологій доступними безкоштовно або за зниженими цінами, щоб допомогти окремим особам та організаціям подолати кризу, підтримати бізнес-цілісність та підтримати своїх клієнтів у непередбачуваних обставинах.

Ми також недавно зробили наші технологічні рамки доступними через NeoML, нашу багатоплатформену відкриту бібліотеку машинного навчання, яка дозволяє розробникам програмного забезпечення використовувати перевірені та надійні моделі для просування інновацій штучного інтелекту.

Чи можете ви поділитися своїми поглядами щодо використання штучного інтелекту для додатків COVID-19 для контактного трейсингу та потреби балансування права на захист даних?

Це особливо складна проблема. Є ті, хто стверджує, що впровадження мобільних додатків для відстежування представляє небажану інтрозію в права на захист даних. З іншого боку, коли мова йде про громадську безпеку, завжди існують обмеження на права в цілому. Це компроміс між правами та відповідальністю. Однак права не є абсолютними. Подолання глобальної пандемії вимагає координованих дій та застосування ресурсів та технологій, які можуть бути відповідально використані для захисту населення в цілому.

Цей баланс між індивідуальними правами на захист даних та загальним благом визнається в юридичному кадрі. Наприклад, GDPR ідентифікує шість підстав для законної обробки особистої інформації, включаючи положення, згідно з яким обробка є невід’ємною для громадських інтересів, така обробка особистої інформації є виправданою без отримання згоди суб’єкта даних.

Крім того, пункт 46 GDPR прямо вказує, що обробка особистої інформації є виправданою без отримання згоди суб’єкта даних у разі гуманітарних надзвичайних ситуацій, включаючи епідемії. Однак важливо відзначити, що пункт 46 тлумачить застосування положення громадських інтересів дуже вузько, зазначаючи, що це повинно відбуватися лише тоді, коли це не може бути засновано на іншій юридичній основі.

Поза балансом між правами на захист даних та громадським інтересом також лежить на технологічній галузі та політиках впровадження етично звучних, прозорих та справедливих керівних принципів щодо використання профайлінгу штучного інтелекту та обміну високочутливою інформацією про здоров’я. Великі технологічні компанії, включаючи Google (GOOGL ) та Facebook (META ), вже почали ініціативи щодо відстеження рухів користувачів для визначення того, як вірус поширюється, та оцінки ефективності заходів соціального дистанціювання.

Я вважаю, що поки інформація анонімізована, її використання має соціальну корисність.

Чи є щось інше, що ви хотіли б поділитися щодо нової Глобальної Ініціативи ABBYY з розвитку довірчих штучних інтелектів?

Регулятори схильні відставати від технологічних інновацій, тому компанії повинні взяти на себе активну роль у просуванні прозорості та підзвітності щодо технологій штучного інтелекту та їхнього впливу на права на захист даних та безпеки. Наша ініціатива відображає нашу зобов’язання в цьому напрямку. З моменту заснування ми створили інноваційні технології, які зберігають цінну інформацію та перетворюють її на діючу знання.

Крім того, етичне використання технологій штучного інтелекту не повинно розглядатися лише з юридичної точки зору, але також як моральне зобов’язання та бізнес-імператив. Якщо ваші рішення мають великий вплив, і впливають на бізнес-критичні функції, це повинно бути галузевим стандартом бути прозорим у застосуванні технологій штучного інтелекту.

Дуже дякую за відповіді на ці важливі питання. Чтобы переглянути керівні принципи та підхід ABBYY до дотримання та просування довірчих принципів штучного інтелекту, натисніть тут. Хто бажає дізнатися більше про ABBYY загалом, може відвідати веб-сайт ABBYY.