Грейс Ї, старший директор з питань етичної інновації (Етика штучного інтелекту та доступність) в Adobe – Серія інтерв’ю

Грейс Ї є старшим директором з питань етичної інновації (Етика штучного інтелекту та доступність) в Adobe, керуючи глобальною, організаційною роботою щодо етики та розробки процесів, інструментів, тренінгів та інших ресурсів для забезпечення того, щоб інновації Adobe в галузі штучного інтелекту продовжували розвиватися в лінії з основними цінностями та етичними принципами компанії. Грейс просунула зобов’язання Adobe щодо будівництва та використання технологій відповідально, центруючи етику та інклюзивність у всіх роботах компанії з розробки штучного інтелекту. У рамках цієї роботи Грейс керує Комітетом з етики штучного інтелекту та Наглядовою радою Adobe, які роблять рекомендації для допомоги у керівництві командами розробки Adobe та огляду нових функцій та продуктів штучного інтелекту для забезпечення того, щоб вони відповідали принципам відповідальності, підзвітності та прозорості компанії. Ці принципи допомагають забезпечити те, що ми приносимо наші функції, що використовують штучний інтелект, на ринок, одночасно мінімізуючи шкідливі та упереджені результати. Грейс також працює з командою політики для сприяння захисту інтересів та формування державної політики, законів та правил щодо штучного інтелекту на користь суспільства.

У рамках зобов’язання Adobe щодо доступності Грейс допомагає забезпечувати те, що продукти Adobe є інклюзивними та доступними для всіх користувачів, щоб кожен міг створювати, взаємодіяти та взаємодіяти з цифровими досвідами. Під її керівництвом Adobe працює з урядовими групами, торговими асоціаціями та спільнотами користувачів для просування та розвитку політики та стандартів доступності, що призводить до впливових рішень галузі.

Розкажіть нам про шлях Adobe за останні п’ять років у формуванні етики штучного інтелекту? Які ключові віхі визначили цю еволюцію, особливо у світлі швидких досягнень, таких як генерація штучного інтелекту?

П’ять років тому ми офіційно сформулювали наш процес етики штучного інтелекту шляхом встановлення наших принципів етики штучного інтелекту – відповідальності, підзвітності та прозорості, які служать основою для нашого процесу управління етикою штучного інтелекту. Ми зібрали різноманітну, міжфункціональну команду співробітників Adobe з усього світу для розробки дієвих принципів, які можуть витримати випробування часом.

Відтоді ми розробили надійний процес огляду для ідентифікації та мінімізації потенційних ризиків та упереджень на ранній стадії циклу розробки штучного інтелекту. Цей багатоступеневий аналіз допоміг нам ідентифікувати та вирішити функції та продукти, які могли б поширювати шкідливі упередження та стереотипи.

Як тільки з’явилася генерація штучного інтелекту, ми адаптували наш процес етики штучного інтелекту для вирішення нових етичних проблем. Цей ітеративний процес дозволив нам залишатися попереду потенційних проблем, забезпечуючи те, що наші технології штучного інтелекту розробляються та розгортаються відповідально. Наше зобов’язання щодо безперервного навчання та співробітництва з різними командами по всій компанії було важливим для підтримання актуальності та ефективності нашої програми етики штучного інтелекту, в кінцевому підсумку поліпшуючи досвід, який ми надаємо нашим клієнтам, та просування інклюзивності. ​

Як принципи етики штучного інтелекту Adobe – відповідальність, підзвітність та прозорість – перекладаються на щоденну діяльність? Чи можете Ви поділитися прикладами того, як ці принципи спрямовували проекти штучного інтелекту Adobe?

Ми дотримуємося зобов’язань Adobe щодо етики штучного інтелекту в наших функціях, що використовують штучний інтелект, шляхом реалізації надійних інженерних практик, які забезпечують відповідальну інновацію, одночасно безперервно збираючи відгуки від наших співробітників та клієнтів для здійснення необхідних коригувань.

Нові функції штучного інтелекту проходять повний аналіз етики для ідентифікації та мінімізації потенційних упереджень та ризиків. Коли ми представили Adobe Firefly, нашу сім’ю моделей генерації штучного інтелекту, вона пройшла оцінку для мінімізації генерації контенту, який міг би поширювати шкідливі стереотипи. Цей аналіз є ітеративним процесом, який еволюціонує на основі тісної співпраці з продуктовими командами, впровадження відгуків та знань для підтримання актуальності та ефективності. Ми також проводимо навчання з відкриття ризиків із продуктовими командами для розуміння потенційних впливів на проектування відповідних механізмів тестування та зворотного зв’язку. ​

Як Adobe звертається до проблем, пов’язаних з упередженням у штучному інтелекті, особливо в інструментах, які використовуються глобальною, різноманітною базою користувачів? Чи можете Ви подати приклад того, як упередження було визначено та мінімізовано в конкретній функції штучного інтелекту?

Ми безперервно еволюціонуємо наш аналіз та процес огляду етики штучного інтелекту в тісній співпраці з нашими продуктовими та інженерними командами. ​Аналіз етики штучного інтелекту, який ми мали кілька років тому, відрізняється від того, який ми маємо зараз, і я передбачаю додаткові зрушення в майбутньому. Цей ітеративний підхід дозволяє нам впроваджувати нові знання та вирішувати нові етичні проблеми, коли технології, такі як Firefly, еволюціонують.

Наприклад, коли ми додали підтримку кількох мов до Firefly, моя команда помітила, що вона не давала очікуваних результатів, і деякі слова були заблоковані ненавмисно. Для мінімізації цього ми працювали в тісній співпраці з нашою командою інтернаціоналізації та носіями мови для розширення наших моделей та покриття країно-специфічних термінів та конотацій. ​

Наше зобов’язання щодо еволюції нашого підходу до аналізу, коли технології просунуться вперед, є тим, що допомагає Adobe балансувати інновації з етичною відповідальністю. За допомогою сприяння інклюзивному та відповідальному процесу ми забезпечуємо те, що наші технології штучного інтелекту відповідають найвищим стандартам прозорості та цілісності, надають творцям можливість використовувати наші інструменти з впевненістю.

Як ви навігуєте на перетині швидко змінюваних регуляцій штучного інтелекту та інновацій? Яку роль грає Adobe у формуванні цих регуляцій?

Ми активно взаємодіємо з законодавцями та галузевими групами для сприяння формуванню політики, яка балансує інновації з етичними міркуваннями. Наші дискусії з законодавцями зосереджені на нашому підході до штучного інтелекту та важливості розробки технологій для поліпшення людських досвідів. Регулятори шукають практичні рішення для вирішення поточних проблем, і представляючи нам рамки, такі як наші принципи етики штучного інтелекту – розроблені спільно та застосовані послідовно в наших функціях, що використовують штучний інтелект, – ми сприяємо більш продуктивним дискусіям. Це важливо – привести конкретні приклади до столу, які демонструють, як наші принципи працюють на практиці, та показати реальний вплив, а не говорити про абстрактні концепції.

Які етичні міркування優先ує Adobe при джерелах тренувальних даних, і як ви забезпечуєте, що використовувані набори даних є як етичними, так і достатньо потужними для потреб штучного інтелекту?

У Adobe ми优 tiên кілька ключових етичних міркувань при джерелах тренувальних даних для наших моделей штучного інтелекту. ​Як частина нашої зусилля для забезпечення того, що Firefly є комерційно безпечним, ми тренували його на наборі ліцензованого контенту, такого як Adobe Stock, та публічного домену, де авторське право закінчилося. Ми також зосередилися на різноманітності наборів даних для уникнення посилення шкідливих упереджень та стереотипів у результатах наших моделей. Для досягнення цього ми співпрацюємо з різноманітними командами та експертами для огляду та кураторства даних. За допомогою дотримання цих практик ми прагнемо створити технології штучного інтелекту, які не тільки потужні та ефективні, але також етичні та інклюзивні для всіх користувачів. ​

Як важливо прозорість у спілкуванні з користувачами про те, як функції штучного інтелекту Adobe, такі як Firefly, тренуються та які дані використовуються?

Прозорість є важливою, коли мова йде про спілкування з користувачами про те, як функції генерації штучного інтелекту Adobe, такі як Firefly, тренуються, включаючи типи даних, які використовуються. Це будує довіру та впевненість у наших технологіях, забезпечуючи те, що користувачі розуміють процеси, які стоять за нашим розвитком генерації штучного інтелекту. За допомогою відкритості щодо джерел даних, методів тренування та етичних заходів безпеки, які ми маємо на місці, ми надаємо користувачам можливість приймати обґрунтовані рішення про те, як вони взаємодіють з нашими продуктами. Ця прозорість не тільки відповідає нашим основним принципам етики штучного інтелекту, але також сприяє співробітницьким відносинам з нашими користувачами.

Як ви вважаєте, які будуть найбільш значущими етичними проблемами, з якими компанії, такі як Adobe, будуть зіштовхуватися в найближчому майбутньому?

Я вважаю, що найбільш значущими етичними проблемами для компаній, таких як Adobe, будуть мінімізація шкідливих упереджень, забезпечення інклюзивності та підтримання довіри користувачів. ​Потенціал штучного інтелекту для непередбачуваної поширення стереотипів або генерації шкідливого та вводючого в оману контенту є проблемою, яка вимагає постійного нагляду та надійного захисту. Наприклад, з недавніми досягненнями у генерації штучного інтелекту, тепер легше, ніж будь-коли, для “поганих акторів” створювати обманливий контент, поширювати дезінформацію та маніпулювати громадською думкою, підірвавши довіру та прозорість.

Для вирішення цієї проблеми Adobe заснувала Ініціативу автентичності контенту (CAI) у 2019 році для створення більш довірливої та прозорої цифрової екосистеми для споживачів. CAI реалізує наше рішення для будівництва довіри в Інтернеті – так звані Креденціали контенту. Креденціали контенту включають “інгредієнти” або важливу інформацію, таку як ім’я творця, дата створення зображення, інструменти, які були використані для створення зображення, та будь-які редагування, які були зроблені на шляху. Це надає користувачам можливість створити цифровий ланцюг довіри та автентичності.

Як генерація штучного інтелекту продовжує розвиватися, буде ще важливіше просувати широке впровадження Креденціалів контенту для відновлення довіри до цифрового контенту.

Який порада Ви дали б іншим організаціям, які тільки починають думати про етичні рамки для розвитку штучного інтелекту?

Моя порада була б почати з встановлення чітких, простих та практичних принципів, які можуть спрямовувати ваші зусилля. Часто я бачу компанії або організації, які зосереджені на тому, що виглядає добре в теорії, але їхні принципи не є практичними. Причина, чому наші принципи витримали випробування часом, полягає в тому, що ми розробили їх для того, щоб вони були дієвими. Коли ми оцінюємо наші функції, що використовують штучний інтелект, наші продуктові та інженерні команди знають, на що ми орієнтуємося, та які стандарти ми очікуємо від них.

Я також рекомендував би організаціям приходити до цього процесу, знаючи, що це буде ітеративний процес. Я можу не знати, що Adobe винайде за п’ять або десять років, але я знаю, що ми будемо еволюціонувати наш аналіз, щоб задовольнити ці інновації та відгуки, які ми отримуємо.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Adobe.