Ольга Мегорская, основатель и генеральный директор Toloka – Интервью

Ольга Мегорская, основатель и генеральный директор Toloka, возглавляет компанию с 2020 года, преобразовав ее из исходных корней крауд-лейблинга в крупного игрока на рынке услуг по данным для ИИ. До основания и руководства Toloka она провела более десяти лет в Яндексе, где в конечном итоге заняла должность руководителя краудсорсинга и платформ, где она построила и масштабировала инфраструктуру крауд-лейблинга данных для продуктов машинного обучения, включая поиск, голос, речь, самоходные транспортные средства, модерацию контента и многое другое. Под ее руководством в Toloka компания позиционирует себя как глобального партнера по данным для ИИ — объединяя технологию машинного обучения с человеческим опытом для поддержки обучения, оценки и безопасности крупномасштабных моделей и агентов ИИ.

Toloka – это нидерландская компания с штаб-квартирой в Амстердаме, которая предоставляет высококачественные, экспертно отобранные данные для разработки ИИ, начиная от аннотации и маркировки и заканчивая настраиваемыми наборами данных для обучения с учителем (SFT) и обучения с подкреплением от человеческой обратной связи (RLHF). Компания поддерживает широкий спектр модальностей — текст, изображение, аудио, видео — и вовлекает экспертов из различных областей вместе с глобальной краудом для предоставления масштабируемых, точных наборов данных для обучения и оценки передовых агентов и крупных языковых моделей ИИ. Их услуги помогают улучшить возможности, такие как рассуждение, многоязычное понимание, генерация изображений и аудио, а также безопасность ИИ в различных отраслях и приложениях.

Вы провели годы, создавая системы с человеческим фактором в Яндексе, прежде чем основать Toloka в 2020 году. Какой момент убедил вас, что это должно стать отдельной компанией, и как этот опыт сформировал ваше видение роли Toloka в разработке ИИ?

В определенный момент мы поняли, что Toloka переросла свою компанию-основателя. Исследователи ИИ со всего мира использовали платформу, и мы осознали, что компания может добиться большего как независимая сущность. Следовательно, Toloka смогла полагаться на накопленный опыт сотен команд ИИ, собирающих данные для обучения для всего спектра решений ИИ — от веб-поиска и голосовых помощников до чат-ботов GenAI и агентов ИИ. Мы объединили наш опыт в управлении человеческими усилиями с построением и обучением агентов ИИ, чтобы создать наш новый продукт, Tendem.

Вы сказали, что真正е нарушение не придет от полностью автономных агентов. Что привело вас к выводу, что гибридные агенты — объединяющие автоматизацию ИИ с человеческим суждением — являются моделью, которая в конечном итоге победит?

Хотя я считаю, что решения ИИ в многих областях скоро достигнут удивительного уровня качества, чтобы полностью удовлетворить потребности клиентов, всегда будет длинный хвост случаев использования, для которых базовые модели никогда не будут оптимизированы. Именно здесь гибридный подход превзойдет как решения ИИ, так и решения, основанные только на человеческом факторе, в ближайшем будущем. Мы видели ту же закономерность, повторяющуюся в течение последнего десятилетия: ИИ может прекрасно масштабировать задачи, но он испытывает трудности с нюансами, контекстом и видами суждений, которые имеют значение в реальных деловых условиях. Профессионалы хотят скорости, но им также нужна надежность — полностью автономные агенты просто не могут гарантировать это сегодня. Гибридные системы побеждают, потому что они решают обе стороны уравнения. ИИ обрабатывает то, что он делает лучше всего: скорость, структуру и повторяемость. Человеческий опыт заполняет пробелы: неоднозначность, граничные случаи и интерпретация. Когда вы объединяете их родными средствами, вы получаете рабочий процесс, который одновременно быстрый и заслуживающий доверия. Это модель, на которую профессионалы в конечном итоге будут полагаться.

Вы отметили, что ИИ ломается на неоднозначность и рассуждение на основе нескольких документов. Какие задачи раскрывают эти ограничения наиболее четко?

Задачи с длинным горизонтом — те, которые требуют синтеза нескольких источников, согласования противоречивой информации или интерпретации контекста, и которые займут у человека часы или даже дни — склонны раскрывать текущие ограничения ИИ. Примеры включают рыночные исследования, конкурентный анализ, суммирование длинных документов, создание оригинального контента из смешанных входных данных или извлечение выводов, которые зависят от человеческой нюанса, а не от распознавания закономерностей. ИИ отлично подходит для создания первого варианта. Но в тот момент, когда задача требует приоритизации, суждения или согласования неоднозначности, надежность резко падает. Именно здесь человеческие эксперты необходимы.

Многие профессионалы используют ИИ, но все еще не полностью доверяют ему. Как ваш подход восстанавливает доверие к делегированию реальной работы системам, поддерживаемым ИИ?

Доверие улучшается, когда людям не приходится исправлять выходные данные ИИ. Наш подход восстанавливает доверие, интегрируя людей в рабочий процесс с самого начала, а не как путь эскалации, когда ИИ терпит неудачу. Каждая задача в Tendem проходит через менеджера проекта ИИ, который решает, что следует автоматизировать, а что требует человеческого опыта. После этого автоматические проверки и контроль качества человека гарантируют, что окончательный результат точен, полон и готов для бизнеса. Для профессионалов это означает, что они могут делегировать работу и действительно ожидать проверенный результат, а не черновик, который им придется исправить.

Какие механизмы гарантируют, что человеческие эксперты в цикле поддерживают высококачественный выход без замедления рабочего процесса?

Два фактора делают это возможным:

• Специализация в масштабе. Эксперты в сети Tendem прошли предварительную проверку, обучение и были подобраны на основе опыта в конкретных областях. Они не являются обычными фрилансерами, пытающимися адаптироваться на лету — они уже квалифицированы для конкретных типов задач.
• Слоистый контроль качества и умная маршрутизация. ИИ обрабатывает базовые шаги, чтобы человеческие эксперты могли сосредоточиться только на тех частях, которые требуют суждения. Затем есть второй уровень автоматического контроля качества и проверки человека, где это необходимо. Это сохраняет человеческий фактор там, где он добавляет наибольшую ценность, а не создает узкие места.

Результатом является скорость, сопоставимая с автоматизацией, с точностью, сопоставимой с проверкой эксперта.

В отраслях, требующих точности и соблюдения нормативов, как гибридные системы могут предложить проверяемость и аудитability, на которые бизнес может положиться?

Гибридные системы по своей природе позволяют проводить аудит, поскольку каждый шаг в рабочем процессе отслеживается, атрибутируется и проверяется на качество. Вы знаете, какие части были автоматизированы, какие были выполнены проверенными экспертами, и какие шаги контроля качества подтвердили выходные данные. В высокорегулируемых отраслях этот процесс становится необходимым. Вы больше не полагаетесь на решение ИИ в черном ящике; у вас есть проверяемая цепочка суждений, исправлений и одобрений. Это то, что делает гибридные системы подходящими для областей, где точность и соблюдение нормативов не могут быть необязательными.

Какие категории знаний, по вашему мнению, первыми перейдут на гибридные агенты, и какие будут медленнее в принятии этой модели?

В целом я считаю, что гибридный подход намного проще в принятии, чем подход, основанный только на ИИ, поэтому мы ожидаем, что почти любая область может быть покрыта этой моделью — разница будет только в пропорции ИИ и человеческого участия. Первыми, кто примет эту модель, будут роли, где важны скорость и точность, но работа все еще высоко повторяющаяся. Мы уже видим сильный спрос со стороны консалтинга, маркетинга, операций по продажам, исследований и создания контента. Наиболее сложными (и, вероятно, наиболее интересными) областями для решения будут те, которые ближе к физическому миру, такие как архитектура и строительство. Но я также вижу ясный технологический путь к тому, чтобы добраться туда.

С операционной точки зрения, как организации выигрывают от перехода от управления фрилансерами к гибридным агентам?

Гибридные агенты устраняют два из самых больших неэффективностей в управлении фрилансерами: административные расходы и несоответствующее качество. Организации и профессионалы больше не должны набирать, проверять, инструктировать, управлять или исправлять фрилансеров. Гибридный агент автоматически обрабатывает оркестровку рабочего процесса, назначая правильную комбинацию ИИ и человеческого опыта для каждого шага. Это снижает время выполнения, стандартизирует качество выходных данных и масштабирует работу без увеличения штата. Короче говоря: вы получаете скорость автоматизации с надежностью команды экспертов, но без управления любой из них.

Когда гибридные системы получат широкое распространение, какое влияние, по вашему мнению, это окажет на более широкую экономику фриланса и гиг-экономику?

Мы считаем, что это преобразует экономику фриланса, но не заменит ее. Вместо того, чтобы фрилансеры тратили время на низкоуровневые, повторяющиеся задачи, они могут подключиться к гибридным системам как специалисты в конкретных областях. Работа становится более структурированной: более ценной, предсказуемой и стабильной. Вместо того, чтобы преследовать непоследовательные проекты, эксперты могут внести свой вклад в масштабе через платформы, такие как Tendem, где их навыки сопоставляются с правильными задачами и поддерживаются системами ИИ, которые удаляют рутинную работу.

Оглядываясь вперед на несколько лет, как выглядит “делегирование ИИ” после того, как гибридные агенты станут стандартом во всей цифровой работе?

Делегирование будет чувствоваться не как “использование инструмента”, а как передача работы способной команде. Вы опишете желаемый результат, и гибридный агент разобьет его, маршрутизирует подзадачи, применит правильную смесь ИИ и человеческого опыта, проверит результаты и предоставит готовый продукт — все в течение нескольких часов. Сдвиг будет от использования ИИ как помощника по созданию черновиков к доверию ИИ как менеджеру проекта, который контролирует весь рабочий процесс. Вот когда происходит真正е делегирование: когда профессионалы могут доверять системе предоставить окончательный результат, а не только начало.

Благодарим за отличное интервью, читателям, которые хотят узнать больше, мы рекомендуем посетить Toloka.