Аліса Сімпсон Рочверґер, співавтор книги “Дійсний світ штучного інтелекту” – Інтерв’ю

Аліса Рочверґер – лідер продукту, орієнтований на клієнта, який присвячений створенню продуктів, що розв’язують складні проблеми для реальних людей. Вона займала численні керівні посади у сфері штучного інтелекту. Вона працювала віце-президентом з продукту в компанії Figure Eight (придбана компанією Appen), віце-президентом з штучного інтелекту та даних у компанії Appen, а також директором з продукту в компанії IBM Watson. Нещодавно вона покинула цю галузь, щоб реалізувати свою мрію про використання технологій для покращення охорони здоров’я. Наразі вона працює директором з продукту в компанії Blue Shield of California, де вона оточена великою кількістю даних, складними проблемами та безліччю можливостей для позитивного впливу.

Ми обговорюємо її нову книгу: Дійсний світ штучного інтелекту: Практичний посібник для відповідального машинного навчання

У вступі до книги ви описуєте, як під час роботи у компанії IBM ви вперше зіткнулися з проблемою штучного інтелекту, який надавав упереджену інформацію, коли фотографія людини в інвалідному візку була класифікована алгоритмом як “loser”. Наскільки це було для вас сигналом про наявність упередженості штучного інтелекту?

Я б не назвала це сигналом, а радше першим випадком, коли я будувала продукт на основі машинного навчання (я була лише кілька місяців на цій посаді) і не знала достатньо про те, як ця технологія працює, щоб належним чином встановити охорону та активне пом’якшення нежаданих упереджень. Це був досвід, який відкрив мені очі на цю проблему – і зробив мене ще більш уважною до цього питання в майбутньому. Справедливість, доступність та інклюзивність – це тема, про яку я давно переймаюся – і навіть отримала нагороду в коледжі за свою діяльність на користь студентів з обмеженими можливостями. Цей досвід у компанії IBM допоміг мені зрозуміти з технічної сторони, наскільки легко системна соціальна упередженість може бути закодована в продукти, що використовують машинне навчання, якщо команда не активно пом’якшує її. Я була рада працювати в установі, яка глибоко переймається справедливістю та вкладає ресурси в пом’якшення.

Що ви особисто дізналися під час дослідження та написання цієї книги?

З особистого боку – мені довелося виділити час для написання цієї книги, одночасно змінюючи роботу, виховуючи 1-річного сина та переживаючи пандемію COVID. Я дізналася, як виділити час для цього проекту, і як попросити допомогу в сім’ї, щоб мати можливість приділити книзі достатньо уваги.

З професійного боку – було чудово мати можливість поспілкуватися з багатьма учасниками, які доброзичливо та щедро поділилися своїми історіями для публікації. Професіонали у сфері машинного навчання, на мій досвід, – це надзвичайно вдумливі та щедрі люди, які готові допомогти іншим та поділитися своїми помилками та уроками. На жаль, багато цих історій не були включені до книги або мали бути анонімізовані значною мірою, через побоювання щодо публічного розголошення інформації, яка могла б негативно вплинути на компанію чи окрему особу. Хоча це, безумовно, нормальна практика, особисто я вважаю це прикро – я велика прихильниця навчання та зростання на основі минулого досвіду та помилок, якщо вони можуть бути корисними для інших.

Які з найважливіших уроків ви сподіваєтеся, що люди вивчать з цієї книги?

Я сподіваюся, що люди дізнаються, що машинне навчання не є надто складним чи важким для розуміння. Що це потужна, але іноді хрупка технологія, яка потребує керівництва та структури для успішного розв’язання складних проблем. А також, що відповідальне та етичне використання цієї технології є критично важливим для її успіху – і що фокусування на пом’якшенні шкідливої упередженості на ранній стадії є ключем до бізнесового успіху.

Одним з прикладів упередженості штучного інтелекту щодо гендеру, описаних у книзі, була ситуація з кредитною карткою Apple (AAPL ), яка видавала нижчі лінії кредиту жінкам, ніж чоловікам. Це був приклад того, як пропускання гендеру як варіанту не врахувало інші змінні, які можуть слугувати підставою для гендеру. Приклад показав, що без вхідних даних про гендер було неможливо визначити, чи є результат упередженим, аж до моменту виходу кінцевого продукту. Які дані ви вважаєте такими, що ніколи не повинні бути пропущені, щоб уникнути упередженості щодо гендеру чи меншин?

Є немає жорсткого правила – кожен набір даних, випадок та ситуація є різними. Я б порадила практикам зануритися у деталі та нюанси проблеми, яку машинне навчання застосовується для розв’язання – і яких шкідливих упереджень можна закодувати у це рішення.

У книзі описується, як одна з основних tráchібностей при спілкуванні з командою штучного інтелекту полягає у тому, щоб точно визначити результати, які важливі для бізнесу. Наскільки часто компанії не виконують цю задачу?

Я б сказала, що на мій досвід, більшість часу результати або не визначені, або визначені лише на високому рівні. Вникнення у деталі щодо конкретних результатів – це легкий спосіб забезпечити успіх команди на ранній стадії.

У книзі говориться про важливість розуміння того, що система штучного інтелекту не є системою типу “встановити та забути”. Чи можете ви коротко обговорити це?

Це класична помилка, яку більшість компаній робить при запуску нової системи машинного навчання у виробництво. Реальність змінюється – час проходить, те, що було правдою вчора (тренувальні дані), може не бути правдою сьогодні. Все залежить від обставин, але в більшості випадків важливо мати можливість навчатися та корегувати рішення з часом на основі більш недавньої інформації.

Продукти, що використовують машинне навчання, є по суті приймачами рішень. Для порівняння з людиною – це як суддя у високих ставках футбольного матчу. Багато разів, якщо це добре підготовлений суддя з досвідом, суддя приймає хороше рішення, і гра продовжується – але іноді цей суддя або приймає погане рішення – або не знає, яке рішення прийняти – і повинен повернутися та переглянути відео – попросити кількох інших людей, щоб прийняти рішення щодо певного епізоду. Подібним чином продукти, що використовують машинне навчання, потребують зворотного зв’язку, навчання, і іноді не мають впевненості. їм потрібно мати запасні варіанти, а також нову інформацію, щоб навчатися та покращувати з часом. Добрий суддя буде навчатися з часом та покращувати свої судження.

Чи можете ви розповісти про важливість створення міжфункціональної команди, яка може визначити, які проблеми найкраще розв’язувати за допомогою штучного інтелекту?

Технологія машинного навчання найкраще підходить для дуже складних та конкретних проблем, які не розв’язуються іншими підходами. Будь-яка складна проблема – це робота команди. Коли компанії тільки починають працювати зі штучним інтелектом, часто існує хибна розповідь про те, що один вчений-машинного навчання або навіть команда машинного навчання можуть розв’язати проблему самостійно. Я ніколи не знаходила цього правдою. Для успіху потрібно команда з різним досвідом та підходами – і, безумовно, для успішного розгортання технології машинного навчання у виробництво.

Дякую за велике інтерв’ю, для читачів (і особливо бізнес-лідерів), які цікавляться дізнатися більше, я рекомендую прочитати книгу Дійсний світ штучного інтелекту: Практичний посібник для відповідального машинного навчання.