Джульєтта Пауелл і Арт Клейнер, автори книги “Ділема штучного інтелекту” – Інтерв’ю серія

Книгу “Ділема штучного інтелекту” написали Джульєтта Пауелл і Арт Клейнер.

Джульєтта Пауелл – автор, телевізійний творець з 9000 прямими шоу, технолог і соціолог. Вона також коментатор на Bloomberg TV/ Business News Networks і спікер на конференціях, організованих The Economist і Міжнародною фінансовою корпорацією. Її виступ на TED має 130 тис. переглядів на YouTube. Джульєтта визначає закономірності і практику успішних бізнес-лідерів, які покладаються на етичний штучний інтелект і дані, щоб перемогти. Вона викладає в Нью-Йоркському університеті, де викладає чотири курси, включаючи курс “Навички дизайну для відповідальних ЗМІ”, заснований на її книзі.

Арт Клейнер – письменник, редактор і футуролог. Серед його книг – “Ера єретиків”, “Хто справді має значення”, “Привілеї і успіх”, і “Мудрі”. Він був редактором стратегії+бізнес, нагородженої премією журналу, видаваного PwC. Арт також є довгостроковим членом факультету Нью-Йоркського університету, де викладає курси, включаючи спільне викладання “Відповідальна технологія і майбутнє ЗМІ”.
“Ділема штучного інтелекту” – книга, яка фокусується на небезпеці технології штучного інтелекту в неправильних руках, хоча й визнає переваги, які штучний інтелект пропонує суспільству.

Проблеми виникають тому, що базова технологія така складна, що стає неможливим для кінцевого користувача真正 зрозуміти внутрішню роботу закритої системи.

Одна з найважливіших проблем, підкреслених у книзі, полягає в тому, що визначення відповідального штучного інтелекту завжди змінюється, оскільки суспільні цінності часто не залишаються сталими з плином часу.

Мені дуже сподобалося читати “Ділему штучного інтелекту”. Це книга, яка не сенсационізує небезпеки штучного інтелекту чи не занурюється глибоко в потенційні пастки штучного загального інтелекту (AGI). Замість цього читачі дізнаються про несподівані способи використання наших особистих даних без нашого відома, а також деякі з поточних обмежень штучного інтелекту і підстав для занепокоєння.

Нижче наведені деякі питання, які призначені для того, щоб показати нашим читачам, чого вони можуть очікувати від цієї революційної книги.

Що спочатку надихнуло вас написати “Ділему штучного інтелекту”?

Джульєтта пішла в Колумбійський університет, щоб вивчити межі і можливості регулювання штучного інтелекту. Вона почула від друзів, які працювали над проектами штучного інтелекту, про напруженість, закладену в цих проектах. Вона прийшла до висновку, що існує ділема штучного інтелекту, проблема, набагато більша, ніж саморегулювання. Вона розробила модель бенчмарку Apex – модель того, як рішення щодо штучного інтелекту схиляються до низької відповідальності через взаємодію між компаніями і групами всередині компаній. Це призвело до її дисертації.

Арт працював з Джульєттою над кількома проектами письма. Він прочитав її дисертацію і сказав: “У вас є книга”. Джульєтта запросила його співавтора. Під час спільної роботи вони виявили, що мають дуже різні точки зору, але мають спільну думку, що цей складний, високоризиковий феномен штучного інтелекту потребує кращого розуміння, щоб люди, які його використовують, могли діяти більш відповідальним і ефективним чином.

Одна з фундаментальних проблем, підкреслених у “Ділемі штучного інтелекту”, полягає в тому, що зараз неможливо зрозуміти, чи система штучного інтелекту відповідальна, чи вона підтримує соціальну нерівність, просто вивчивши її вихідний код. Наскільки великою є ця проблема?

Проблема не полягає в основному у вихідному коді. Як зазначає Кеті О’Ніл, коли є закрита система, це не тільки код. Це соціотехнічна система – людські і технологічні сили, які формують одна одну – що потрібно досліджувати. Логіка, яка створила і випустила систему штучного інтелекту, полягала в ідентифікації мети, ідентифікації даних, встановленні пріоритетів, створенні моделей, встановленні керівних принципів і обмежень для машинного навчання, і вирішенні питання, коли і як людина повинна втрутитися. Це та частина, яка повинна бути прозорою -至少 для спостерігачів і аудиторів. Ризик соціальної нерівності і інших ризиків набагато більший, коли ці частини процесу приховані. Ви не можете真正 змінити логіку дизайну з вихідного коду.

Чи може зосередження уваги на роз’яснюваному штучному інтелекті (XAI) вирішити цю проблему?

Для інженерів роз’яснюваний штучний інтелект зараз вважається групою технологічних обмежень і практик, спрямованих на те, щоб зробити моделі більш прозорими для людей, які працюють над ними. Для людини, яку хибно звинувачують, роз’яснюваність має зовсім інше значення і терміновість. Їм потрібно роз’яснюваність, щоб мати можливість захистити себе. Нам усім потрібна роз’яснюваність у сенсі того, щоб зробити бізнес-рішення чи урядові рішення, що лежать в основі моделей, ясними.至少 в США завжди буде напруженість між роз’яснюваністю – правом людини знати – і правом організації конкурувати і інновувати. Аудитори і регулятори потребують іншого рівня роз’яснюваністі. Ми детально розглядаємо це у “Ділемі штучного інтелекту”.

Чи можете ви коротко поділитися своїми поглядами на важливість відповідальності зацікавлених сторін (компаній штучного інтелекту) за код, який вони випускають у світ?

Наприклад, у випадку з аварією безпілотного автомобіля в Темпе, штат Аризона, який убив пішохода, оператор був звинувачений. Людина пішла до в’язниці. Однак, в кінцевому підсумку, це була організаційна помилка.

Коли міст звалився, механічний інженер був звинувачений. Це тому, що механічні інженери проходять навчання, постійне переатестування і підлягають відповідальності своєї професії. Інженери-комп’ютерники не проходять.

Чи повинні зацікавлені сторони, включаючи компанії штучного інтелекту, проходити навчання і переатестування, щоб приймати кращі рішення і нести більшу відповідальність?

“Ділема штучного інтелекту” багато уваги приділяє тому, як компанії, такі як Google (GOOGL ) і Meta, можуть збирати і монетизувати наші особисті дані. Чи можете ви поділитися прикладом значного зловживання нашими даними, яке повинно бути на увазі у всіх?

З “Ділеми штучного інтелекту”, стор. 67 і далі:

Нові випадки систематичного зловживання особистими даними продовжують з’являтися на публічному огляді, багато з яких включають приховане використання розпізнавання облич. У грудні 2022 року MIT Technology Review опублікував розповіді про довгострокову практику iRobot. Роботи-пилососи Roomba записують зображення і відео, зняті в будинках добровільних бета-тестерів, що неминуче означає збір інтимних особистих і сімейних зображень. Ці зображення передаються, без знання тестерів, групам поза країною.至少 в одному випадку зображення людини на туалеті було опубліковано на Facebook (META ). Тоді як в Ірані влади почали використовувати дані з систем розпізнавання облич, щоб відстежувати і арештовувати жінок, які не носять хіджабу.16

Не потрібно доводити ці історії далі. Їх дуже багато. Однак важливо визначити накопичувальний ефект такого життя. Ми втрачаємо відчуття контролю над нашим життям, коли відчуваємо, що наша приватна інформація може бути використана проти нас в будь-який момент, без попередження.

Одна з небезпечних концепцій, яку ви підняли, полягає в тому, що наш увесь світ спроектований так, щоб бути безтеричним, з визначенням тертя як “будь-яка точка в шляху клієнта з компанією, де він зустрічає перешкоду, яка сповільнює його або викликає незадоволення”. Як наше очікування безтеричного досвіду потенційно може привести до небезпечного штучного інтелекту?

У Новій Зеландії бот для підготовки савві-їжі запропонував рецепт, який би створив хлорний газ, якщо б його використали.

Безтеричність створює ілюзію контролю. Це швидше і легше слухати додаток, ніж шукати рецепт бабусі.

Тертя, з іншого боку, творче. Ви включаєтеся. Це призводить до справжнього контролю. Справжній контроль вимагає уваги і праці, і – у випадку з штучним інтелектом – проведення розширеної оцінки вигод і ризиків.

З ілюзією контролю здається, що ми живемо у світі, де системи штучного інтелекту підказують людям, замість того, щоб люди залишилися повністю під контролем. Чи можете ви дати приклади того, як люди колективно вважають, що вони мають контроль, хоча насправді вони його не мають?

У Сан-Франциско зараз, з роботаксі. Ідея про самоходи tende викликати два конфліктні емоції: збудження (“таксі за значно нижчою ціною!”) і страх (“чи вони влучать у мене?”). Тому багато регуляторів пропонують, щоб машини проходили випробування з людьми всередині, які можуть керувати контролем. Однак мати людей на чергуванні, готових перевести системи в ручний режим в режимі реального часу, може не бути хорошим випробуванням громадської безпеки. Перехідність є поширеною динамікою з системами штучного інтелекту. Чим автономнішою є система, тим більше людина оператор довіряє їй і не звертає повної уваги. Ми набуваємо звички до цих технологій. Коли відбувається аварія, ми не очікуємо цього і часто не реагуємо вчасно.

Було проведено багато досліджень для цієї книги, чи було щось, що вас здивувало?

Одна з речей, яка нас справді здивувала, полягала в тому, що люди по всьому світу не могли погодитися, хто повинен жити, а хто повинен померти у симуляції самохідного автомобіля. Якщо ми не можемо погодитися на це, то важко уявити, що ми могли б мати єдину глобальну систему управління або універсальні стандарти для систем штучного інтелекту.

Ви обидва описуєте себе як підприємці, як те, що ви дізналися і повідомили, вплине на ваші майбутні зусилля?

Наша практика консультування з штучного інтелекту спрямована на допомогу організаціям зростати відповідально з технологією. Юристи, інженери, соціологи і бізнес-думки є зацікавленими сторонами у майбутньому штучного інтелекту. У нашій роботі ми об’єднуємо ці точки зору і практикуємо творче тертя, щоб знайти кращі рішення. Ми розробили рамки, такі як розрахунок наміреного ризику, щоб допомогти орієнтуватися в цих питаннях.

Дякуємо за великі відповіді, читачам, які бажають дізнатися більше, слід відвідати Ділему штучного інтелекту.