Barb Hyman, основатель и генеральный директор Sapia.ai — серия интервью

Barb Hyman, основатель и генеральный директор Sapia.ai, является опытным бизнес‑лидером, чья карьера охватывала юриспруденцию, управленческий консалтинг, маркетинг, обучение и развитие, управление персоналом и технологии. Она начала свою карьеру как юрист в Herbert Smith Freehills, а затем перешла в консалтинг в Boston Consulting Group, где продвинулась до руководителя проекта и позже вернулась на старшие позиции, отвечая за обучение и развитие, HR и маркетинг в Австралазии. Хайман также работала руководителем отдела маркетинга и спонсорства в Музее современного искусства в Сиднее и исполняла обязанности исполнительного генерального директора по персоналу и культуре в REA Group. В 2018 году она основала Sapia.ai, опираясь на свой опыт в организационном лидерстве и управлении талантами, чтобы переосмыслить, как компании оценивают и нанимают людей с помощью искусственного интеллекта.

Sapia.ai — компания, разрабатывающая технологии найма на базе ИИ, сосредоточенная на структурированной, разговорной оценке кандидатов. Ее платформа использует чат‑интервью для последовательной оценки кандидатов в масштабе, помогая работодателям оценивать навыки и пригодность, одновременно снижая зависимость от традиционного скрининга резюме и других сигналов, способных вносить предвзятость. Sapia.ai утверждает, что её технология оценила более 10 млн кандидатов и сочетает науку о структурированных оценках с ИИ‑поддержкой талантов, персонализированной обратной связью для кандидатов и интеграциями с существующими системами отслеживания соискателей и HR. Компания также делает акцент на объяснимости, справедливости и корпоративном соответствии, а её более широкая платформа охватывает ИИ‑интервью, анализ должностей, планирование интервью, интеллект талантов и карьерный коучинг на базе ИИ.

Прежде чем основать Sapia.ai, вы построили карьеру, охватывающую консалтинг в Boston Consulting Group, юриспруденцию, маркетинг, обучение и развитие, а в конечном итоге руководство People & Culture в REA Group. Какие опыты из этого пути убедили вас, что процесс найма нуждается в фундаментальном переосмыслении, и какую проблему вы изначально ставили перед собой, создавая Sapia.ai

Текущий способ оценки людей сломан — особенно в сфере найма.

Мы полагаемся на резюме. Мы не видим всю личность. Мы принимаем самые важные решения — кого нанять, кого повысить — опираясь на интуицию и прокси. Зеркальный найм распространён: с каких пор школа или университет, в котором учился человек, стали прокси интеллекта? Это не так. Это прокси преимущества.

Часть этого связана с моей личной историей. Я иммигрант, и я понимаю, что попал в привилегированную категорию иммигрантов: я белый и у меня имя, которое людям легко произносить. Я родом из семьи, где никто не учился в университете; мой отец был продавцом. И всё же мне выпали исключительные возможности, и спустя пять карьер я оказался здесь. Когда я думаю о двух миллиардах работников в мире, я задумываюсь, сколько из них обладают тем же талантом, стремлением и критическим мышлением, за которые меня хвалят, но их никогда не замечают, потому что мы слепы из‑за призмы собственного опыта. Предвзятость — удобный ярлык для быстрого принятия решения, и именно поэтому найм продолжает вознаграждать уже привилегированных. Это никогда не кажется справедливым или рациональным.

Вторая часть истории пришла из консалтинга. После получения MBA я попал в мир, где невозможно войти в зал заседаний и дать рекомендацию без реального исследования. И всё же самое важное решение, которое принимает любая компания (кто присоединяется, кто руководит, кто формирует культуру), всё ещё принимается на основе интуиции или прокси столь тонкого, как название университета. Люди не находятся в балансе, но в профессиональных услугах, особенно, они являются активом. Это несоответствие казалось мне абсурдным.

Само резюме по сути не изменилось со времён, когда Леонардо да Винчи изобрёл этот формат. Wikipedia перечисляет более 180 документированных человеческих предубеждений. Одна треть кандидатов в Северной Америке, завершивших заявку на работу, остаются без ответа спустя два месяца. Это вовсе не проблема талантов: таланты распределены равномерно, но возможности — нет.

То, что я хотел исправить с помощью Sapia, было не просто решение — это исходило из опыта поиска работы. Моя команда смеётся над этим, но я всегда сравниваю найм со знакомствами. Это отношения. Вы проводите больше времени с людьми на работе, чем с партнёром. Так зачем принимать решение на основе чего‑то менее строгого — данных, — чем мы требуем для любого другого важного решения?

Вы утверждаете, что большинство организаций рассматривают внедрение ИИ как проект повышения эффективности, тогда как он должен начинаться как проект доверия. Как выглядит «доверие» на практике, и как компании должны измерять его наряду с более традиционными метриками, такими как продуктивность, экономия средств и уровень внедрения?

Я усвоил это в роли CHRO: если вы не прозрачны в причинах изменений, доверие становится первой жертвой. И я считаю, что большинство компаний подходят к внедрению ИИ наоборот. Они измеряют прирост продуктивности, например сэкономленные часы, стоимость найма, но никогда не останавливаются, чтобы измерить то, что действительно определяет, удержится ли результат: доверяют ли ваши сотрудники тому, как вы используете ИИ, и почему.

Доверие — основа вашей культуры. Это не мягкая метрика, расположенная рядом с реальными — это то, на чём строятся реальные метрики. Подумайте об этом так же, как о любых отношениях. Высокое доверие даёт вам степень свободы. Низкое доверие делает всё меньше, менее упругим, менее расслабленным. И никто не работает наилучшим образом, когда не чувствует себя в безопасности. Организации ничем не отличаются.

Тем не менее, большая часть того, что делается с ИИ на рабочем месте, фактически превращает собственные данные людей в оружие против них, например, собирая данные из чьих‑то социальных сетей, чтобы определить, является ли человек хорошим сотрудником, хорошим риском или плохим риском. Я искренне не могу представить совещание, на котором было принято такое решение, или как кто‑то мог думать, что это не подорвет культуру, как только люди узнают об этом.

Поэтому, если вы всерьёз относитесь к внедрению ИИ, доверие должно стать метрикой с первого дня, находясь рядом с продуктивностью и экономией затрат. Спросите людей напрямую: понимаете ли вы, почему мы это используем? Считаете ли вы, что это используется справедливо? Если вы не можете ответить «да» на оба вопроса, то получаемые вами выгоды в эффективности – лишь займы за счёт культуры, которую вы тихо разъедаете.

Одна из главных проблем применения ИИ в найме заключается в том, что модели могут обучаться на исторических данных о занятости и потенциально усиливать те же человеческие предубеждения, которые организации пытаются устранить. Как компании могут предотвратить простую автоматизацию существующих предвзятостей в найме с помощью ИИ, и какие меры защиты следует встроить в такие системы с самого начала?

Именно в эту ловушку попадает большинство обсуждений ИИ в найме, и это причина, по которой я создал Sapia именно так. Если обучать модель на исторических данных о найме (кто был принят, кто получил повышение, кто получил первое интервью), вы не устраняете предвзятость, а индустриализируете её. Вы учите машину воспроизводить каждое решение о найме, каждый «соответствие культуре», каждый интуитивный ярлык, который привёл к текущему составу персонала. Это не инновация. Это предвзятость в масштабе, только быстрее и с видимой объективностью, что делает её труднее оспорить.

Поэтому меры защиты должны начинаться задолго до алгоритма. Мы не обучаемся на резюме, фотографиях, именах, университетах или любых традиционных прокси, которые коррелируют с привилегиями, а не с потенциалом. Если входные данные несут предвзятость, никакое умное моделирование дальше не исправит её. Это проблема «мусор в — мусор out», только мусор представляет собой десятилетия человеческих предрассудков, замаскированных под резюме.

Вторая часть — это то, с чем вы действительно сравниваете модель. Недостаточно просто сказать «ИИ работает», необходимо постоянно проверять наличие неблагоприятного воздействия по гендеру, этнической принадлежности, возрасту, инвалидности и каждому защищённому признаку, измеряя их непрерывно, а не в виде одноразового аудита перед запуском. Предвзятость — это не ошибка, которую исправляют один раз. Это то, за чем нужно постоянно следить, так же как вы мониторите любую систему, принимающую важные решения о жизни людей.

И третье — то, что часто упускают — вам нужны внешние глаза. Независимые сторонние аудиты ваших моделей, опубликованная методология, реальная прозрачность того, что система делает и чего не делает. Если вы согласны проверять ваш инструмент найма на основе ИИ только теми, кто его создал и имеет финансовый интерес в его защите, вы на самом деле не решили проблему доверия, а лишь перенесли её.

«Это сделал алгоритм» — не оправдание, а признание того, что вы изначально не создали меры защиты. Помните, ИИ не снимает человеческую ответственность за справедливость.

Найм — это необычно высоко‑рисковое применение ИИ, поскольку алгоритм может напрямую влиять на карьеру человека. Где организации должны проводить черту между решениями, которые можно автоматизировать, и теми, которые всегда должны оставаться под осмысленным человеческим контролем?

Я провожу черту так: ИИ может безусловно помочь вам увидеть человека более ясно, но он никогда не должен единолично решать его судьбу. Существует реальная разница между поддержкой решения и передачей его на аутсорсинг. Найм — одно из немногих мест, где ошибочное различие действительно меняет чью‑то жизнь.

И тогда где автоматизация заслуживает места? В выявлении сигналов, которые люди не способны видеть постоянно и справедливо, например, чтение тысяч ответов на интервью без усталости, без плохого дня, без подсознательного предпочтения кандидата, напоминающего им их самих в двадцать пять лет. Это задача, которую ИИ может выполнять лучше, чем уставший менеджер по найму на своём восьмом интервью за день. Отбор подлинных мягких навыков, структурирование информации так, чтобы каждый кандидат оценивался по одинаковым критериям — именно здесь машина приносит реальную ценность, потому что мы не созданы быть настолько последовательными.

Окончательное решение — кто будет принят, кто отклонён, кому дать второй шанс — должно приниматься человеком, который может нести за него ответственность. Не как формальная печать на любом выводе модели, а как реальный, значимый контроль: человек, понимающий, что измеряет система, способный поставить под вопрос результат, который кажется ошибочным, и отклонить его. Если человек не может осмысленно оспорить рекомендацию ИИ, это не надзор, а человеческое оправдание.

Я также проведу черту на всем, что необратимо или непрозрачно. Если кандидат не может получить понятное объяснение, почему он не прошёл дальше, система провалилась независимо от того, насколько «точной» она кажется. И если модель принимает решения, которые никто в компании не может действительно объяснить — включая людей, которые её создали — это не инструмент найма, а чёрный ящик с чьей‑то карьерой внутри. Тест, который я бы предложил любой организации, прост: сможете ли вы сесть напротив отклонённого кандидата и объяснить, простыми словами, почему? Если честный ответ звучит как «я действительно не знаю, модель решила», вы автоматизировали неправильную часть процесса.

Sapia.ai различает генеративный ИИ, используемый для открытых разговоров, и более детерминированные системы, применяемые для оценки кандидатов. Почему это различие важно, особенно когда выводы ИИ должны быть согласованными, проверяемыми и обоснованными?

Люди слышат «ИИ» и считают, что это одно и то же, но в найме именно такое смешение приводит к ошибкам. Мы сознательно делим задачу на две части, потому что открытый диалог и оценка с высокими ставками требуют совершенно разных требований, и представление их как одной технологии приводит к системам, которые нельзя объяснить, защитить или доверять.

Генеративный ИИ великолепен на уровне разговора — он позволяет вести естественный, похожий на человеческий диалог с кандидатом, задавать хорошие уточняющие вопросы, делать процесс похожим на беседу, а не на форму. Здесь нужна гибкость, нюанс и даже небольшая непредсказуемость, потому что реальные разговоры не сценарные.

Но в тот момент, когда вы переходите от общения с кандидатом к его оценке, всё, что вам нужно от системы, меняется. Оценка должна быть последовательной: один и тот же ответ должен получать одинаковую оценку, будь то первый кандидат или тысяча‑й, будь то утро понедельника или пятничный полдень. Она должна быть проверяемой, что означает возможность вернуться назад и точно показать, почему кандидат получил ту или иную оценку, а не просто доверять, что модель «разобралась». И она должна быть обоснованной, потому что чья‑то жизнь зависит от этой оценки, а фраза «генеративная модель посчитала, что это хороший ответ» не выдержит проверку регулятора, журналиста или кандидата, желающего понять, почему ему не предложили работу.

Генеративные модели по своей природе вероятностны — задайте один и тот же вопрос дважды, и вы можете получить слегка разные ответы. Это плюс для разговора и серьёзный минус для оценки. В Sapia мы используем детерминированные системы для той части процесса, которая действительно решает исход человека. Мы моделируем ситуацию, когда одинаковый ввод надёжно приводит к одинаковому выводу, когда мы можем проследить логику и доказать, что два похожих кандидата рассматриваются одинаково.

Это действительно разделение ответственности: позволяйте генеративному ИИ быть отличным в имитации человеческого общения, а детерминированным, проверяемым системам нести тяжесть решения, которое должно быть справедливым, объяснимым и обоснованным под контролем.

Объяснимость часто обсуждается как требование ответственного ИИ, но многие продвинутые модели остаются трудными для понимания пользователями. Какое количество объяснений кандидат или сотрудник может разумно ожидать, когда ИИ повлиял на решение о найме?

Я считаю, что кандидаты заслуживают большего, чем большинство компаний сейчас им предоставляют, и, честно говоря, большего, чем большинство компаний считают, что способны дать. «Алгоритм решил» — это признание провала, замаскированное под изысканность.

Вот где я стою: кандидат всегда должен иметь возможность понять простыми словами, по чему его оценили и примерно почему он оказался там, где оказался. Не математические формулы, не распечатка весов модели. То, что им нужно и что им полагается, ближе к тому, что хороший менеджер сказал бы им лицом к лицу: это качества, которые мы искали, здесь вы проявили сильные стороны, а здесь вы не полностью соответствовали требованиям в этот раз. Это полностью разумный порог, и любая система, которая не может его достичь, не должна принимать решения о чьей‑то жизни.

Поэтому для нас объяснимость должна быть встроена в архитектуру с первого дня, потому что нельзя объяснить то, что нельзя отследить.

То, где я бы слегка возразил, — это идея, что объяснимость требует от кандидатов технического образования о том, как работает модель. Это ложный стандарт, часто используемый как оправдание, когда на самом деле система просто не была спроектирована для объяснения. Хороший врач не будет подробно разбирать биохимию диагноза; он скажет, что нашёл и что это значит для пациента. ИИ в найме должен придерживаться того же уровня понятной, честной коммуникации.

Настоящий тест такой же, как я бы применил к человеческому надзору: может ли кандидат спросить «почему я не прошёл дальше?» и получить конкретный, честный и действительно свой ответ? Если ваш ИИ не может дать такой ответ, вы не построили объяснимую систему. Вы построили систему, о которой надеетесь, что никто не будет спрашивать.

Компании часто сосредотачиваются на том, используют ли сотрудники и менеджеры ИИ‑инструмент, а не на том, доверяют ли они действительно его результатам. Какие предупредительные сигналы указывают, что организация достигла внедрения ИИ без реального доверия к технологии?

Принятие – самая простая метрика для подделки, и именно поэтому многие компании принимают её за успех. Если я скажу, что каждый в компании “использует” инструмент ИИ, это почти ничего не говорит о том, верят ли они в него — это может означать лишь, что он обязателен, или это путь наименьшего сопротивления, или пока никто не нашёл способ обойти его.

Первый тревожный сигнал – обходные действия. Если люди используют инструмент ИИ, но при этом тихо продолжают старый процесс параллельно — вручную проверяют его вывод, ведут собственные отдельные заметки, запускают теневую систему на всякий случай — это соблюдение страховочного полиса. Показатели использования выглядят отлично. На деле же все считают, что инструмент может ошибаться.

Второй сигнал – молчание. В действительно доверительной культуре люди бросают вызов системе, когда что‑то выглядит странно: они задают вопросы, возражают, помечают результаты, которые кажутся неверными. Когда принятие реально, а доверие отсутствует, происходит обратное. Люди перестают задавать вопросы, потому что решили, что борьба не стоит того. Это молчание руководство воспринимает как удовлетворённость. На самом деле это отставание.

Третий сигнал – разрыв между тем, что люди говорят в опросе, и тем, что они обсуждают друг с другом. Меня гораздо больше беспокоит компания, у которой официальная панель принятия полностью зелёная, но реальная беседа в комнате отдыха звучит так: “да, мы просто делаем то, что говорит система, потому что так проще, чем спорить” — это культура, которая ещё не преобразовалась.

И самый глубокий тревожный сигнал, который имеет для меня наибольшее значение: когда люди полностью перестают привносить собственное суждение. Это отречение. Реальное доверие к инструменту означает, что люди всё ещё чувствуют себя уполномоченными не соглашаться с ним, когда их собственный опыт подсказывает иное, и чувствуют себя в безопасности, делая это. Если ваши менеджеры замкнулись и просто подчиняются тому, что говорит ИИ, вы создали зависимость.

Таким образом, реальный тест не в том, “используют ли его люди”, а в том, “выбрали бы они продолжать использовать его, если бы это было необязательно, и будут ли они честно говорить вам, когда он ошибается”. Большинство компаний никогда не задавали ни один из этих вопросов. Обычно именно это и выдаёт правду.

Инструменты ИИ для найма могут потенциально оценивать кандидатов в масштабе и с консистентностью, недоступными человеческим рекрутерам, но процесс найма также включает контекст и нюансы. Где, по вашему мнению, ИИ сегодня может превзойти человеческое суждение, а где люди всё ещё незаменимы?

ИИ может стать отличным инструментом для оценки большого пула кандидатов независимо от их происхождения и опыта, одновременно предоставляя индивидуальную оценку кандидатам с особыми потребностями. Человек‑рекрутер может быть более склонен отдавать предпочтение кандидатам из топ‑университетов или без предыдущих проблем со здоровьем. ИИ проводит справедливую, равную оценку всех кандидатов так, как это невозможно для людей, когда они сталкиваются со сотнями заявок. Тем не менее, человеческое суждение всё ещё необходимо, чтобы оценить, впишется ли кандидат в культуру компании и соответствует ли он требованиям клиентов.

По мере того как ИИ всё глубже внедряется в подбор персонала, коучинг, управление эффективностью и другие решения, связанные с рабочей силой, как следует структурировать ответственность, когда решение, поддержанное ИИ, приводит к несправедливому или ошибочному результату?

Ответственность в ИИ сохраняется, когда люди остаются конечными принимающими решения, а процесс подбора включает прозрачность, объяснимость и строгие тесты на предвзятость. Мы запустили модель FAIR™ для содействия ответственным практикам ИИ. Она рекомендует:

• Беспристрастность: проверять наличие предвзятости и использовать правильные статистические меры — такие как правило 4/5, паритет ошибок и другие релевантные тесты на предвзятость — чтобы убедиться, что результаты справедливы.
• Валидность: доказательства, полученные с помощью ИИ, основаны на реальных данных и связаны с результатом, который они предназначены предсказывать.
• Объяснимость: иметь чёткую документацию и инструменты для интерпретации результатов, того, что ИИ выявил о кандидате и как это повлияло на его оценку.
• Инклюзивность: это означает обеспечение справедливого обращения с кандидатами на протяжении всего процесса, от подачи заявки до принятия решения. Это всесторонний взгляд на опыт найма — включая людей, процессы, технологии и ИИ, работающие совместно.

Смотря в будущее, ожидаете ли вы, что ИИ в основном станет слоем принятия решений внутри HR‑систем, или его более важная роль будет разговорной, помогая кандидатам и сотрудникам лучше понимать возможности, развивать навыки и ориентироваться в своей карьере?

Даже самые продвинутые технологии требуют человеческого участия, человеческого суждения и человеческого контроля. ИИ существует, чтобы поддерживать процесс, обеспечивая каждому кандидату справедливый, равный шанс быть рассмотренным на позицию. В Sapia мы называем это «подходом человек‑в‑цикле», где мы объединяем человеческий и машинный интеллект для создания умных чат‑опытов, предсказуемых, ответственных и персонализированных. Для этого мы привлекаем наших клиентов, постоянно проверяя точность и справедливость, одновременно обучая наши модели ИИ развиваться со временем.

Наш человеческий подход также отражается в том, что мы предлагаем кандидатам. Мы недавно запустили Phai, карьерного коуча, который выступает в роли наставника, предоставляя соискателям персонализированные рекомендации, карту сильных сторон и подготовку к интервью, чтобы они уверенно встречали следующую возможность. Это положительный инструмент, помогающий поддерживать мотивацию кандидата даже после результата интервью.

Спасибо за отличное интервью, читатели, желающие узнать больше, должны посетить Sapia.ai.