Barb Hyman, засновниця та CEO Sapia.ai – серія інтерв’ю

Barb Hyman, засновниця та CEO Sapia.ai — досвідчений бізнес‑лідер, чия кар’єра охоплює право, управлінський консалтинг, маркетинг, навчання та розвиток, управління персоналом і технології. Вона розпочала свою кар’єру як юрист у Herbert Smith Freehills, а потім перейшла до консалтингу в Boston Consulting Group, де піднялася до ролі Project Leader і згодом повернулася на старші посади, керуючи навчанням і розвитком, HR та маркетингом у всій Австралії та Новій Зеландії. Хайман також працювала Head of Marketing and Sponsorship у Museum of Contemporary Art у Сіднеї та Executive General Manager of People & Culture у REA Group. У 2018 році вона заснувала Sapia.ai, спираючись на свій досвід у організаційному лідерстві та управлінні талантами, щоб переосмислити, як компанії оцінюють і наймають людей за допомогою штучного інтелекту.

Sapia.ai — компанія, що пропонує технології найму на базі штучного інтелекту, орієнтовані на структуровану, розмовну оцінку кандидатів. Її платформа використовує чат‑інтерв’ю для послідовної оцінки кандидатів у масштабі, допомагаючи роботодавцям оцінювати навички та придатність, зменшуючи залежність від традиційного скринінгу резюме та інших сигналів, які можуть вносити упередженість. Sapia.ai стверджує, що її технологія оценила понад 10 мільйонів кандидатів і поєднує науку про структуровану оцінку з інтелектом талантів, підкріпленим ШІ, персоналізованим зворотним зв’язком для кандидатів та інтеграціями з існуючими системами ATS і HR. Компанія також наголошує на пояснюваності, справедливості та корпоративній відповідності, а її ширша платформа охоплює AI‑інтерв’ю, аналіз вакансій, планування інтерв’ю, інтелект талантів та кар’єрний коучинг на базі ШІ.

Перед тим як заснувати Sapia.ai, ви будували кар’єру, що охоплювала консалтинг у Boston Consulting Group, право, маркетинг, навчання та розвиток, і зрештою керівництво People & Culture у REA Group. Які досвіди з цього шляху переконали вас, що процес найму потребує фундаментального переосмислення, і яку проблему ви спочатку намагалися вирішити за допомогою Sapia.ai?

Сучасний спосіб оцінки людей зламаний — особливо у процесі найму.

Ми покладаємося на резюме. Ми не бачимо всю особу. Ми приймаємо наші найважливіші рішення — кого найняти, кого підвищити — на підставі інтуїції та проксі. Підбір за дзеркальними критеріями поширений: з якого часу школа чи університет, який хтось відвідував, стали проксі інтелекту? Це не так. Це проксі переваги.

Деякі з цих моментів пов’язані з моєю особистою історією. Я іммігрант і знаю, що потрапила у щасливу категорію іммігрантів: я біла і маю ім’я, яке людям легко вимовляти. Я походжу з родини, де ніхто не ходив до університету; мій батько був крамарем. І все ж я отримала надзвичайні можливості, і після п’яти кар’єр я тут. Коли я думаю про два мільярди працівників у світі, я уявляю, скільки з них мають саме той талант, драйв, критичне мислення, які мені приписують, але їх ніколи не помічають, бо ми сліпі від нашого власного досвіду. Упередженість — чудовий скорочений шлях до швидкого рішення, і саме тому найм продовжує винагороджувати вже привілейованих. Це ніколи не здавалось справедливим чи раціональним.

Інша частина історії походить з консалтингу. Після отримання MBA я перейшла у світ, де ніколи не входиш у зал засідань і не робиш рекомендацію без реального дослідження. І все ж найважливіше рішення, яке приймає будь‑яка компанія (хто приєднується, хто керує, хто формує культуру), все ще приймається на інтуїції або на проксі, такому тонкому, як назва університету. Люди не стоять у балансі, але в професійних послугах, особливо, вони — актив. Це розрив здавався мені абсурдним.

Саме резюме суттєво не змінилося з часів, коли Леонардо да Вінчі винайшов його формат. Вікіпедія налічує понад 180 задокументованих людських упереджень. Третина кандидатів у Північній Америці, які завершують подачу заявки, залишаються без відповіді протягом двох місяців. Це не проблема таланту: талант розподілений рівномірно, а можливості — ні.

Те, що я хотіла виправити в Sapia, було не лише рішенням — це було з досвіду пошуку роботи. Моя команда сміється зі мною за це, але я завжди сприймала найм як знайомства. Це відносини. Ви проводите більше часу з людьми на роботі, ніж з партнером. Тож чому б не приймати це рішення з тією ж ретельністю — даними, — яку ми вимагаємо для кожного іншого важливого рішення?

Ви стверджували, що більшість організацій підходять до впровадження ШІ як до проєкту підвищення ефективності, коли насправді це має починатися як проєкт довіри. Яким виглядає «довіра» на практиці, і як компанії мають вимірювати її поряд із традиційними метриками, такими як продуктивність, економія витрат і рівень впровадження?

Я зрозуміла це, будучи CHRO: якщо ви не прозорі щодо причин зміни, довіра стає першою жертвою. І я вважаю, що більшість компаній підходять до впровадження ШІ навпаки. Вони вимірюють приріст продуктивності, наприклад, заощаджені години, вартість найму, але ніколи не зупиняються, щоб виміряти те, що справді визначає, чи залишиться це: чи довіряють ваші люди тому, як ви використовуєте ШІ, і чому.

Довіра — це субстрат вашої культури. Це не м’яка метрика, що стоїть поруч із реальними — це те, на чому будуються реальні показники. Подумайте про це так само, як про будь‑які стосунки. Висока довіра дає вам свободу дій. Низька довіра робить усе меншим, менш підйомним, менш розслабленим. І ніхто не виконує свою найкращу роботу, коли не відчуває безпеки. Організації не є винятком.

Проте велика частина того, що було зроблено з ШІ на робочому місці, фактично перетворила дані людей проти них, наприклад, збираючи їхні публікації в соцмережах, щоб визначити, чи є вони хорошим кандидатом, хорошим ризиком, чи поганим ризиком. Я щиро не можу уявити зустріч, на якій було прийнято таке рішення, чи як хтось міг подумати, що це не підрве культуру, коли люди дізнаються.

Тож, якщо ви серйозно ставитеся до впровадження ШІ, довіра має стати метрикою з першого дня, розташовуючись поруч із продуктивністю та економією витрат. Запитайте людей безпосередньо: чи розумієте ви, чому ми це використовуємо? Чи вважаєте ви, що це використовується справедливо? Якщо ви не можете відповісти «так» на обидва питання, вигоди в ефективності, які ви святкуєте, позичені у культури, яку ви тихо підриваєте.

Одне з найбільших занепокоєнь щодо ШІ в наймі полягає в тому, що моделі можуть навчатися на історичних даних про працевлаштування і потенційно підсилювати ті ж людські упередження, які організації намагаються усунути. Як компанії можуть запобігти тому, щоб ШІ просто автоматизував існуючі упередження у наймі, і які захисні механізми слід вбудовувати в ці системи з самого початку?

Саме це — пастка, яку більшість розмов про ШІ у наймі пропускає, і причина, чому я створив Sapia саме так. Якщо ви навчаєте модель на історичних даних про найм (хто був прийнятий, хто отримав підвищення, хто отримав перше інтерв’ю), ви не усуваєте упередження, а індустріалізуєте його. Ви навчаєте машину відтворювати кожне рішення про «дзеркальний» найм, кожне рішення про “culture fit”, кожну інтуїтивну скорочену схему, що сформувала вашу вже існуючу робочу силу. Це не інновація. Це упередження в масштабі, лише швидше і під виглядом об’єктивності, що ускладнює його оскарження.

Тому захисний механізм має починатися ще раніше, ніж алгоритм. Ми не навчаємося на резюме, фотографіях, іменах, університетах чи будь‑яких традиційних проксі, які корелюють з привілеями, а не з потенціалом. Якщо вхідні дані несуть упередження, жодна кількість розумного моделювання в подальшому це не виправить. Це проблема “garbage in, garbage out”, лише сміттям тут є десятиліття людських упереджень, замаскованих під резюме.

Друге – це те, проти чого ви фактично вимірюєте модель. Недостатньо сказати “the AI works,” потрібно постійно тестувати негативний вплив за гендером, етнічністю, віком, інвалідністю, усіма захищеними характеристиками, які можна вимірювати безперервно, а не лише одноразовим аудитом перед запуском. Упередження – це не помилка, яку виправляєте один раз. Це те, за чим треба постійно стежити, так само, як ви моніторите будь‑яку систему, що приймає важливі рішення щодо життя людей.

І третє — це те, що часто пропускають — потрібен зовнішній погляд. Незалежні аудити вашої моделі сторонніми організаціями, опублікована методологія, реальна прозорість щодо того, що система робить і чого не робить. Якщо ви готові, щоб ваш інструмент найму на базі ШІ перевіряли лише ті, хто його створив і фінансово зацікавлений у його захисті, ви насправді не вирішили проблему довіри, а лише перенесли її.

«Алгоритм це зробив» — це не виправдання, а визнання того, що ви не створили захисних механізмів спочатку. Пам’ятайте, ШІ не знімає людську відповідальність за справедливість.

Найм — це надзвичайно важливе застосування ШІ, оскільки алгоритм може безпосередньо впливати на кар’єру людини. Де організації повинні провести межу між рішеннями, які можна автоматизувати, і тими, які завжди повинні залишатися під значущим людським контролем?

Моя межа така: ШІ безумовно може допомогти вам бачити людину чіткіше, але ніколи не повинен самостійно вирішувати її долю. Існує реальна різниця між підсиленням рішення та його аутсорсингом. Найм — одне з небагатьох місць, де помилкове розрізнення цих підходів справді змінює чиєсь життя.

Отже, де автоматизація заслуговує на місце? У виявленні сигналів, які людина не може постійно та справедливо бачити, наприклад, читанні тисяч відповідей на інтерв’ю без втоми, без поганого дня, без підсвідомого схилення до кандидата, який нагадує їм їх самих у двадцять п’ять років. Це завдання, яке ШІ може виконати краще, ніж втомлений менеджер з найму під час восьмого інтерв’ю за день. Перевірка справжніх м’яких навичок, структурування інсайтів так, щоб кожен кандидат оцінювався за однаковими критеріями — ось де машина додає реальну цінність, бо ми не створені бути настільки послідовними.

Остаточне рішення — хто буде прийнятий, хто відхилений, хто отримає другий шанс — має залишатися за людиною, яку можна притягнути до відповідальності. Не як формальна печатка на будь‑якому виводі моделі, а реальний, значущий контроль: хтось, хто розуміє, що система вимірює, може поставити під сумнів результат, який здається помилковим, і може його скасувати. Якщо людина не може суттєво оскаржити рекомендацію ШІ, це не контроль, а людська відмазка.

Я також проведу черту щодо всього незворотного чи непрозорого. Якщо кандидат не може отримати зрозуміле пояснення, чому його не просунули далі, система провалюється, незалежно від того, наскільки “точною” вона є. І якщо модель приймає рішення, які ніхто в компанії не може пояснити — включаючи людей, які її створили — це не інструмент найму, а чорна скринька, в якій знаходиться чиясь кар’єра. Тест, який я пропоную будь‑якій організації, простий: чи можете ви сісти напроти відхиленого кандидата і простими словами пояснити, чому? Якщо чесна відповідь звучить: “Я насправді не знаю, модель вирішила”, то ви автоматизували не ту частину процесу.

Sapia.ai розрізняє генеративний ШІ, який використовується для відкритих розмов, і більш детерміністичні системи, що застосовуються для оцінки кандидатів. Чому це розрізнення важливе, особливо коли результати ШІ мають бути послідовними, піддаваними аудиту та обґрунтованими?

Коли люди чують “ШІ”, вони припускають, що це одне й те саме, але в процесі найму саме ця ідентифікація призводить до помилок. Ми навмисно розділяємо завдання на дві частини, бо відкриті розмови та оцінка з високими ставками мають зовсім різні вимоги, і вдавання, що це одна і та ж технологія, змушує компанії мати системи, які вони не можуть пояснити, захистити чи довіряти.

Генеративний ШІ блискуче працює на рівні розмови — забезпечує природний, схожий на людське спілкування обмін з кандидатом, ставить хороші уточнюючі питання, роблячи досвід схожим на розмову, а не на заповнення форми. Саме тут потрібна гнучкість, нюансованість і навіть певна непередбачуваність, адже реальні розмови не сценаризовані.

Але в той момент, коли ви переходите від розмови з кандидатом до його оцінювання, усі вимоги до системи змінюються. Оцінка має бути послідовною: однакова відповідь повинна отримати однакову оцінку, чи то кандидат номер один, чи тисяча, чи то в понеділок вранці, чи в п’ятницю ввечері. Вона має бути піддаваною аудиту, що означає можливість повернутися назад і точно показати, чому кандидат отримав саме цю оцінку, а не просто довіряти, що модель “розібралася”. І вона має бути обґрунтованою, бо на кону стоїть чиєсь існування, і фраза “генеративна модель вважала це хорошою відповіддю” не витримає перевірки регулятора, журналіста чи кандидата, який хоче знати, чому не отримав роботу.

Генеративні моделі за своєю природою є ймовірнісними — задайте одне й те саме питання двічі, і ви можете отримати трохи різні результати. Це перевага для розмов, але серйозна вразливість для оцінювання. У Sapia ми використовуємо детерміністичні системи для тієї частини процесу, яка фактично визначає результат кандидата. Ми моделюємо ситуації, коли один і той же вхід стабільно дає один і той же вихід, коли можемо простежити логіку, і коли можемо довести, що два схожих кандидата обробляються однаково.

По суті це розділення відповідальностей: дозволяйте генеративному ШІ бути відмінним у створенні людської взаємодії, а детерміністичним, піддаваним аудиту системам нести вагу рішення, яке має бути справедливим, пояснюваним і обґрунтованим під наглядом.

Пояснюваність часто розглядається як вимога відповідального ШІ, проте багато передових моделей залишаються складними для розуміння користувачами. Скільки пояснень кандидат чи співробітник має розумно очікувати, коли ШІ вплинув на рішення про найм?

Я вважаю, що кандидати заслуговують більше, ніж більшість компаній наразі їм надає, і, чесно кажучи, більше, ніж більшість компаній вважає, що можуть надати. “Алгоритм вирішив” — це визнання провалу, замасковане під вишуканість.

Ось де я стою: кандидат завжди повинен мати можливість зрозуміти простими словами, за якими критеріями його оцінювали і приблизно чому він отримав такий результат. Не підґрунтова математика, не вивід ваг моделі. Те, чого вони хочуть і що їм належить, має бути ближче до того, що хороший менеджер сказав би їм особисто: це ті якості, які ми шукали, це ваші сильні сторони, це те, де ви не були найкращим підходом цього разу. Це цілком розумна планка, і будь-яка система, яка не може її досягти, не повинна приймати рішення щодо чиїхось засобів до існування.

Тому для нас пояснюваність має бути вбудована в архітектуру з першого дня, бо неможливо пояснити те, чого не можна простежити.

Те, проти чого я трохи виступаю, — це ідея, що пояснюваність вимагає від кандидатів технічної освіти щодо того, як працює модель. Це хибний стандарт, і його часто використовують як виправдання, коли насправді система просто не спроектована для пояснення. Хороший лікар не розповідає вам про біохімію діагнозу; він каже, що виявив і що це означає для вас. ШІ у наймі має дотримуватись того ж рівня прозорості, зрозумілості для людини.

Справжній тест той самий, який я застосовую до людського контролю: чи може кандидат запитати “чому я не пройшов далі?”, і отримати конкретну, чесну і справжню для себе відповідь. Якщо ваш ШІ не може надати таку відповідь, ви не створили пояснювану систему. Ви створили систему, сподіваючись, що ніхто про неї не запитає.

Компанії часто зосереджуються на тому, чи використовують співробітники та менеджери інструмент ШІ, а не на тому, чи дійсно довіряють вони його результатам. Які сигнали попереджають, що організація досягла впровадження ШІ, не отримавши справжньої впевненості у технології?

Прийняття – найпростіший показник, який можна підробити, і саме тому багато компаній плутають його з успіхом. Якщо я скажу, що всі в бізнесі “використовують” інструмент ШІ, це майже нічого не говорить про їхню віру в нього — це може означати лише, що його обов’язково треба застосовувати, або це найпростіший шлях, або ще ніхто не знайшов способу обійти його.

Перший сигнал тривоги – це обхідні дії. Якщо люди користуються інструментом ШІ, але тихо продовжують виконувати старий процес паралельно — вручну перевіряючи його результати, ведучи власні окремі нотатки, запускаючи тіньову систему на випадок проблем — це дотримання політики страхування. Числа використання виглядають чудово. Правда в тому, що всі вважають, що інструмент може помилитися.

Другий сигнал – мовчання. У справді довірливій культурі люди кидають виклик системі, коли щось виглядає підозрілим: вони ставлять питання, заперечують, позначають результати, які не здаються правильними. Коли прийняття реальне, а довіра відсутня, відбувається протилежне. Люди перестають ставити питання, бо вирішили, що це не варто боротьби. Це мовчання лідерство сприймає як задоволення. Насправді це відмова.

Третій сигнал – розрив між тим, що люди говорять у опитуванні, і тим, що вони говорять один одному. Я був би набагато стурбований компанією, у якої офіційна панель прийняття зелена скрізь, а реальна розмова в кімнаті відпочинку звучить: “так, ми просто робимо те, що вона каже, бо так легше, ніж сперечатися” — це культура, яка ще не перетворилася.

І найглибший сигнал тривоги, який має для мене найбільше значення: коли люди зовсім перестають вносити власне судження. Це відмова. Справжня довіра до інструменту означає, що люди все ще відчувають себе уповноваженими не погоджуватись з ним, коли їхня експертиза підказує інше, і відчувають безпеку, роблячи це. Якщо ваші менеджери замовкли і просто підкоряються тому, що каже ШІ, ви створили залежність.

Отже, справжня перевірка не в тому, “чи люди його використовують”, а в тому, “чи люди обрали б продовжувати його використання, якби це було необов’язково, і чи вони чесно скажуть вам, коли він помилиться”. Більшість компаній ніколи не ставили жодного з цих питань. Це зазвичай і є ознакою.

Інструменти найму ШІ потенційно можуть оцінювати кандидатів у масштабі та послідовності, недоступних для людських рекрутерів, проте найм також включає контекст і нюанси. Де, на вашу думку, ШІ сьогодні може перевершити людське судження, а де люди залишаються незамінними?

ШІ може бути чудовим інструментом для оцінки великого пулу кандидатів незалежно від їхнього походження та досвіду, одночасно надаючи індивідуальну оцінку кандидатам із специфічними потребами. Людський рекрутер може схильний віддавати перевагу кандидатам з провідного університету або без попередніх проблем зі здоров’ям. ШІ проводить справедливу, рівну оцінку всіх кандидатів у спосіб, який люди не можуть забезпечити, коли стикаються зі сотнями заявок. Проте, людське судження все ще необхідне для оцінки, чи підходить кандидат до культури компанії та чи відповідає він стандартам, вимогам клієнтів.

У міру того, як ШІ все глибше впроваджується у підбір персоналу, коучинг, управління продуктивністю та інші рішення щодо робочої сили, як слід структурувати відповідальність, коли рішення, підтримане ШІ, призводить до несправедливого або неправильного результату?

Відповідальність у ШІ зберігається, коли люди залишаються остаточними приймачами рішень, а робочий процес підбору включає прозорість, пояснюваність та суворе тестування упередженості. Ми запустили модель FAIR™ для сприяння відповідальним практикам ШІ. Вона рекомендує:

• Неупередженість: Тестуйте на упередженість і використовуйте правильні статистичні міри — такі як правило 4/5, паритет рівня помилок та інші релевантні тести упередженості — щоб перевірити справедливість результатів.
• Валідність: Докази, що базуються на ШІ, повинні спиратися на реальні дані та бути пов’язані з результатом, який вони мають передбачати.
• Пояснюваність: Майте чітку документацію та інструменти для інтерпретації результатів, що ШІ виявило про кандидата і як це вплинуло на його оцінку.
• Інклюзивність: Це означає забезпечити справедливе ставлення до кандидатів протягом усього процесу, від подачі заявки до прийняття рішення. Це комплексний погляд на досвід найму — включаючи людей, процеси, технології та ШІ, які працюють разом.

Дивлячись у майбутнє, чи очікуєте ви, що ШІ переважно стане шаром прийняття рішень у HR‑системах, чи його важливіша роль буде розмовною, допомагаючи кандидатам і працівникам краще розуміти можливості, розвивати навички та орієнтуватися у кар’єрі?

Навіть найсучасніші технології потребують людського дотику, людського судження та людського контролю. ШІ існує, щоб підтримувати процес, забезпечуючи кожному кандидату справедливий, рівний шанс бути розглянутим на посаду. У Sapia ми називаємо це “підходом людина‑в‑циклі”, коли поєднуємо людський і машинний інтелект для створення розумних чат‑досвідів, які передбачають, відповідають відповідальності та персоналізовані. Для цього ми залучаємо наших клієнтів, постійно перевіряючи точність і справедливість, одночасно навчаючи наші моделі ШІ розвиватися з часом.

Наш людський підхід також проявляється в тому, що ми пропонуємо кандидатам. Нещодавно ми запустили Phai, кар’єрного коуча, який діє як наставник, надаючи шукачам роботи персоналізовані рекомендації, картографування сильних сторін та підготовку до інтерв’ю, щоб вони впевнено стикалися зі своєю наступною можливістю. Це позитивний інструмент, який допомагає підтримувати мотивацію кандидата після результату інтерв’ю.

Дякуємо за чудове інтерв’ю, читачі, які хочуть дізнатися більше, мають відвідати Sapia.ai.