Jen Vescio, президент Empiric Earth — серия интервью

Jen Vescio — президент Empiric Earth, отвечает за стратегию развития продуктов, корпоративное развитие и коммерциализацию. Ранее она занимала должность директора по развитию бизнеса в Uber, где руководила развитием бизнеса по всему миру и созданием новых партнерств в сферах мобильности и автономного транспорта. Кроме того, она инвестировала в перспективные технологические компании и консультировала их, уделяя особое внимание тому, как помочь физическому ИИ перейти от исследований к коммерческому внедрению.

Empiric Earth объединяет Nexar и Nauto, чтобы предоставлять данные о реальном дорожном движении, модели безопасности и возможности для валидации. Компания сочетает данные о миллиардах миль поездок с записями редких событий, помогая разработчикам, автопаркам и другим организациям оценивать производительность и риски. В этом интервью Вескио рассказывает о независимой оценке, ответственном управлении данными, коммерциализации и инфраструктуре, необходимой для масштабирования физического ИИ.

У вас за плечами впечатляющая карьера: развитие бизнеса Uber по всему миру, инвестиции в передовые технологии и консультирование компаний в сфере физического ИИ. В апреле вы сначала вошли в совет директоров Empiric Earth, а недавно заняли пост президента. Что привлекло вас в этой компании и что в итоге убедило взять на себя более активную руководящую роль?

Будучи инвестором и консультантом в сфере физического ИИ, я постоянно сталкивалась с одной и той же проблемой. Многие команды проводили эксперименты, но лишь немногие располагали данными из реального мира, которые позволили бы доказать, что их системы работают за пределами испытательной среды. У Empiric Earth такие данные уже были. Более 10 миллиардов миль поездок в реальных условиях и 60 миллионов нештатных ситуаций — это нельзя ни купить, ни подделать.

Это ставит компанию в особое положение. Нам не нужно конкурировать с компаниями, которые создают роботов, транспортные средства или модели. Мы можем помочь всем им быстрее вывести разработки на рынок, предоставляя необходимые данные о реальном мире, чтобы управлять рисками, проверять производительность и укреплять доверие. Будучи членом совета директоров, я увидела возможность создать нечто фундаментальное для всей экосистемы физического ИИ.

На решение занять пост президента меня подтолкнули Зак и его видение. Я знаю его с тех пор, как мы оба занимались развитием партнерств в сфере мобильности: я — в Uber, а он — в Lyft. Когда человек, которому вы доверяете уже много лет, приходит к вам со сложной задачей и активом, которого больше ни у кого нет, вы прислушиваетесь. Мы дополняем друг друга. Он размышляет о развитии этой отрасли и ее будущем. Я посвятила карьеру превращению новых технологий в масштабируемый бизнес. Прямо сейчас физический ИИ переходит из лабораторий к внедрению в реальных условиях, и мне не хотелось наблюдать за этим только на заседаниях совета директоров.

Empiric Earth была создана в результате слияния Nexar и Nauto, объединившего две компании с глубокими знаниями в области анализа дорожной обстановки в реальном мире и безопасности на основе ИИ. Какие уникальные возможности открывает это объединение и как, по вашему мнению, объединенная компания будет выделяться на стремительно меняющемся рынке физического ИИ?

Nexar и Nauto были основаны в 2015 году и в общей сложности более двух десятилетий изучали одну и ту же проблему с двух разных точек зрения. Вместе мы можем понять, что происходит на дороге и как на это реагируют водители, — так мы получаем гораздо более полное представление о поведении людей и рисках в реальных условиях.

Для всего рынка это мост между симуляцией и реальным миром. Большинство команд разрабатывают и тестируют системы в симуляции, но самое сложное — доказать, что система способна надежно работать в реальных условиях. Мы можем помочь партнерам выявить сценарии, с которыми их системы еще не сталкивались, улучшить модели и проверить их работу на соответствие тому, что происходит в действительности. Это позволяет сократить циклы разработки, снизить риски и ускорить коммерциализацию.

Нас отличает способность проводить независимую оценку в экосистеме физического ИИ. Мы не создаем транспортные средства, роботов или автономные системы, которые разрабатывают наши клиенты. Мы предоставляем данные о реальном мире, помогающие им оценивать производительность, управлять рисками и укреплять доверие. Для этого необходимы приверженность нейтралитету, переносимости и совместимости. Выводя на рынок новые приложения, модели и сервисы, мы хотим, чтобы клиенты могли использовать их на разных аппаратных платформах и в различных технологических стеках, не привязываясь к одному поставщику. Наша цель — быть «арбитром» для всей экосистемы, а не выбирать в ней победителей.

Физический ИИ становится одним из следующих ключевых направлений развития искусственного интеллекта. Он применяется, в частности, в автономных транспортных средствах, робототехнике и интеллектуальной инфраструктуре. Какие препятствия, на ваш взгляд, больше всего мешают этим системам надежно работать в непредсказуемых условиях реального мира и почему доступ к данным из реального мира так важен для их преодоления?

Главное препятствие в том, что физический мир никогда не был описан в письменной форме. Языковые модели быстро стали хорошо справляться со своими задачами, потому что обучались на текстах, которые люди создавали десятилетиями. Для дороги, складского пола или тротуара ничего подобного нет. Большинство происходящих там событий — например, ситуация, когда столкновения едва удалось избежать, или закрытая этим утром полоса — вообще нигде не фиксируется.

Это создает две проблемы. Первая заключается в том, что физический мир постоянно меняется. Система должна знать, что происходит сейчас, а фотография, сделанная прошлой весной, не расскажет ей о дороге, которая изменилась сегодня утром. Нельзя и вернуться в прошлое, чтобы собрать данные за вчерашний день. Вторая проблема — разрозненность. Ни одна компания не видит достаточно большую часть мира самостоятельно, поэтому разработчики проводят отдельные эксперименты, используя разные наборы данных, модели и технологические стеки. Из-за этого труднее сравнивать результаты, делиться успешными решениями и превращать перспективные исследования в коммерчески жизнеспособные продукты.

Данные из реального мира помогают решить обе проблемы. События, которые выводят систему из строя, каждый день происходят где-нибудь, и обнаружить их можно, только непрерывно наблюдая за огромным разнообразием реальных условий. Согласно нашим данным по США, на каждое столкновение приходится около 19 опасных ситуаций, едва не закончившихся аварией, и почти ни одна из них не попадает в полицейские отчеты или страховые заявления. Зак недавно метко выразился в своем эссе: безопасность — это изучение того, чего не произошло. Но изучать такие случаи нельзя, если их никто не зафиксировал.

Empiric Earth накопила более 10 миллиардов миль данных о поездках и свыше 60 миллионов нестандартных ситуаций; при этом каждый месяц фиксируются еще сотни миллионов миль. Как этот огромный массив данных может помочь разработчикам ИИ обучать и проверять более надежные автономные системы, особенно в редких или опасных сценариях, которые сложно воспроизвести традиционными методами моделирования?

Сейчас большинство систем хорошо справляется с обычными ситуациями на дороге. Но по-прежнему сбивают их с толку редкие события: авария, внезапно вышедший из-за припаркованных машин пешеход, животное на дороге, дорожные работы, которых на прошлой неделе еще не было. Такие ситуации слишком редки, чтобы испытательный автопарк мог собрать их в достаточном количестве, а моделирование позволяет воспроизвести лишь то, что кто-то заранее додумался смоделировать.

Empiric Earth создана для поиска таких ситуаций. Мы не обрабатываем каждую милю, которую проезжают автомобили в нашей сети. Мы сохраняем небольшую часть данных, которую наши модели отмечают как необычную или рискованную. Так из 10 миллиардов миль получаются 60 миллионов нестандартных ситуаций, которыми разработчики действительно могут пользоваться.

Команды используют эту базу тремя способами. Во-первых, ищут в ней нужные примеры: команда, работающая над системами для зон дорожных работ, может найти тысячи реальных случаев, когда водители успешно проезжали такие участки, вместо того чтобы вручную прописывать несколько сценариев. Во-вторых, запрашивают недостающие данные: если система плохо справляется с поворотами налево на оживленных перекрестках, мы можем направить сеть на сбор именно таких примеров, фиксируя их по мере возникновения. В-третьих, сверяют моделирование с реальностью. Когда партнер воссоздает реальные столкновения и опасные ситуации с участием пешеходов и велосипедистов, он может проверить, соответствует ли поведение смоделированного мира реальному, прежде чем выпустить продукт.

Именно поэтому ценность этих данных не ограничивается ими самими. Моделирование необходимо, но оно должно опираться на то, что действительно происходит в реальном мире. Доступ к этим свидетельствам помогает разработчикам раньше выявлять пробелы, быстрее совершенствовать системы и принимать более обоснованные решения о готовности к внедрению. Кроме того, такая база создает основу для более последовательной и независимой оценки по мере роста отрасли.

Один из основополагающих принципов Empiric Earth — независимость от производителей автономных систем и автомобилей, которые она оценивает. Почему независимая проверка становится все важнее по мере того, как физический ИИ приближается к широкому внедрению, и какие стандарты должна принять отрасль, чтобы установить значимые критерии оценки безопасности ИИ?

По мере того как физический ИИ переходит из исследовательской среды в общественные пространства, доверие становится не менее важным, чем технические характеристики.

Сегодня во многом отрасль полагается на разработчиков, которые сами тестируют свои системы и сообщают об их характеристиках. На данном этапе это понятно, но по мере того как все больше автономных систем будет появляться в повседневной жизни, клиенты, регулирующие органы и общественность все чаще будут требовать независимых доказательств их надежной работы.

В других отраслях мы сталкивались с похожими ситуациями. Садясь в автомобиль, мы знаем, что существует устоявшаяся система выдачи водительских прав, техосмотра транспортных средств и установления требований к безопасности. Для физического ИИ понадобятся собственные способы подтверждения готовности и оценки эффективности. Для автономных автомобилей это может быть аналог водительских прав — стандартизированный экзамен, показывающий, что система работает не хуже человека за рулем.

Вопрос в том, как установить значимые критерии оценки, отражающие реальные условия, а не полагаться исключительно на контролируемые испытания или моделирование. Такие критерии должны опираться на данные из реального мира, учитывать редкие и опасные сценарии и позволять последовательно оценивать работу разных систем.

Здесь Empiric Earth может сыграть важную роль. Мы не считаем, что оценивать эффективность автономных систем должны только компании, которые их разрабатывают. Наша задача — предоставлять независимую информацию о реальном мире, модели и средства проверки, позволяющие другим оценивать эффективность, управлять рисками и укреплять доверие. Сохраняя нейтралитет и обеспечивая совместимость, мы можем поддерживать оценку разных технологий и платформ, не отдавая предпочтения какому-либо одному подходу.

В конечном счете для установления стандартов потребуется сотрудничество разработчиков, исследователей, регулирующих органов и других заинтересованных сторон. Мы хотим помочь создать основу для независимой оценки, чтобы доверие строилось на доказательствах, а не на заявлениях.

По мере того как всё более совершенные системы ИИ взаимодействуют с физическим миром, организациям приходится искать баланс между потребностью в обширных данных из реального мира и защитой конфиденциальности, безопасности и ответственным управлением данными. Как Empiric Earth решает эти задачи и какие меры защиты необходимы, чтобы завоевать общественное доверие к масштабной инфраструктуре физического ИИ?

Доверие начинается с того, как собирают, защищают и используют данные. В Empiric Earth конфиденциальность заложена в наш подход с самого начала. Мы сосредоточены на сборе данных о событиях в реальном мире, которые дают значимую информацию, а не рассматриваем каждый момент вождения как одинаково ценный. Обезличивание данных и ответственное обращение с ними — основа этого процесса.

Не менее важно знать происхождение данных. По мере того как физический ИИ приближается к коммерческому внедрению, разработчикам необходимо понимать, откуда поступили данные, как их собирали и какие права регулируют их использование. Без этой основы трудно обрести уверенность, необходимую для масштабирования.

В разных странах действуют разные требования к конфиденциальности, согласию на обработку данных и локализации данных. Наша платформа применяет для каждой страны собственные настройки, что позволяет соблюдать местные нормы без перестройки системы. Оценивая, где и как расширять деятельность, мы должны учитывать эти различия.

Главный принцип здесь — прозрачность. Каждый, кто создаёт инфраструктуру для физического ИИ, должен быть в состоянии объяснить, какие данные он собирает, как их защищает и кто может ими пользоваться. Ответственное обращение с данными — не что-то отдельное от построения успешного бизнеса. Оно помогает сделать широкое внедрение возможным.

Ваш опыт работы в Uber связан с превращением новых технологий и стратегических партнёрств в масштабируемый бизнес. На новой должности вы отвечаете за продуктовую стратегию, корпоративное развитие и коммерциализацию Empiric Earth. Какие уроки, извлечённые за время работы в Uber, наиболее применимы для масштабирования физического ИИ и как вы решаете, когда развивать необходимые компетенции внутри компании, а когда прибегать к приобретениям или партнёрствам?

Uber научила меня тому, что правильный ответ может измениться. Мы создали собственную программу автономного вождения ATG, потому что считали, что должны владеть всем технологическим стеком. Позже мы продали её Aurora и вернулись к автономному вождению через партнёрства. На тот момент оба решения казались оправданными. Изменились наши критерии оценки скорости, затрат и рисков.

Поэтому при каждом решении — разрабатывать самим, покупать или искать партнёра — мы задаём одни и те же вопросы. Каковы риски? Какие ресурсы и капитал потребуются? Как быстро это позволит нам выйти на рынок и что за это время предпримут конкуренты? Соответствует ли это нашей стратегии?

Empiric Earth начинает с иных позиций, чем большинство компаний, поскольку у нас уже есть самое сложное для создания — данные. Мы развиваем те направления, в которых эта основа даёт нам преимущество, которое трудно воспроизвести. Приобретения оправданы, когда они дополняют наши компетенции или ускоряют реализацию стратегии. Партнёрства же нередко позволяют быстрее всего выйти к клиентам, на новые рынки и достичь коммерческого масштаба. Физический ИИ — слишком широкая область, чтобы одна компания могла создать всё необходимое. Поэтому мы хотим работать с партнёрами, способными укрепить всю экосистему, и выстраивать последовательность наших шагов с учётом ситуации на рынке и соответствия нашего подхода нашим конкурентным преимуществам — имеющимся у нас активам.

Вы также участвовали в развитии экосистемы ИИ с открытым исходным кодом, в том числе работали с сообществом OpenClaw. Как, по-вашему, инновации с открытым исходным кодом могут способствовать развитию физического ИИ? Может ли повышение прозрачности и расширение сотрудничества ускорить внедрение, не снижая требований к безопасности и управлению, которым должны соответствовать эти системы?

Открытый исходный код изменил темпы развития ИИ в сфере программного обеспечения. Когда больше людей могут создавать решения на основе одних и тех же инструментов, исследовательские циклы становятся короче, а хорошие идеи приходят отовсюду, а не только из крупнейших лабораторий. Физический ИИ находится на более раннем этапе этого пути. Значительная часть работы в этой области всё ещё сводится к исследованиям и демонстрациям, и теперь вопрос в том, как превратить её в устойчивый бизнес.

Я руководил партнёрствами в OpenClaw Foundation, созданной для поддержки идеи Питера Штайнбергера о персональном агентном ИИ с открытым исходным кодом. Это один из самых наглядных примеров того, как открытый проект помогает быстрее решать реальные задачи: люди могли взять его, запустить в собственных системах и приспособить к тому, чем действительно занимаются.

Именно этот урок, на мой взгляд, физическому ИИ стоит усвоить. Открытые инструменты позволяют большему числу команд создавать и тестировать решения, не начиная с нуля. Если данные остаются в собственной среде заказчика, а не требуют передачи куда-то ещё, исчезает одна из главных причин, по которым компании медлят. Оператор автопарка, город или производитель могут применять ИИ к собственным данным, самостоятельно контролировать этот процесс и быстрее увидеть результат.

Сочетание этих двух идей поможет отрасли перейти от исследований и демонстраций к продуктам, за которые люди готовы платить. Открытость сама по себе не делает систему безопасной: по-прежнему необходимы полноценные испытания, чёткие правила управления и подотчётность. Но открытая экосистема, в которой данные остаются у тех, кому они принадлежат, позволяет внедрять больше систем в реальных условиях, где накопление опыта усиливает эффект обучения.

В Empiric Earth нас интересует, как открытые инструменты и данные, остающиеся в среде заказчика, могут способствовать развитию всей экосистемы физического ИИ, при этом мы защищаем реальные данные, которые делают нашу работу ценной. Мы не считаем, что развитие экосистемы и создание устойчивого бизнеса должны быть взаимоисключающими целями.

Вы говорили о важности привлечения большего числа женщин на руководящие должности в сфере ИИ — особенно сейчас, когда отрасль начинает устанавливать стандарты безопасности и создавать нормативные рамки, которые будут определять, как интеллектуальные машины функционируют в обществе. Как, по вашему мнению, более разнообразный состав руководителей может повлиять на создание более безопасных и ответственных систем ИИ?

К этому вопросу я отношусь осторожно, потому что идея «добавить больше женщин — и ИИ станет безопаснее» сама по себе представляет собой разновидность предвзятости. Речь о более широком явлении. Создаваемые нами агенты учатся на том, что уже сделали люди, и на том, как мы их обучаем. Если все, кто влияет на это обучение, мыслят одинаково, системы перенимают те же слепые зоны.

Разнообразие в руководстве позволяет учитывать больше точек зрения при принятии решений о том, что должно быть важно для агента, в том числе о сопереживании, заботе и о том, как тот или иной выбор отразится на человеке по другую сторону. Многие риски, связанные с ИИ, имеют технический характер. Другие возникают, когда системы принимают решения, не учитывающие ценности или потребности людей, на которых эти решения влияют. Разнообразие точек зрения помогает выявлять слепые зоны до того, как они обернутся проблемами в реальном мире.

Я хочу от этих систем простого: они должны помогать людям принимать более взвешенные решения и оставлять нам больше времени на живое общение. Для этого необходимы баланс и реальные механизмы контроля, учитывающие самые разные точки зрения. Ни одна группа не справится с этой задачей в одиночку. Нам нужно мотивировать и поддерживать женщин, чтобы они участвовали в этой работе и помогали развивать взаимодействие между агентами и людьми, между агентами и между людьми.

Если заглянуть на три-пять лет вперед, какие возможности для Empiric Earth вы считаете наиболее перспективными помимо уже существующих направлений — безопасности дорожного движения и аналитики автопарков? По мере того как автономные транспортные средства, робототехника и другие технологии физического ИИ все глубже входят в повседневную жизнь, какую роль, по вашему мнению, Empiric Earth будет играть в инфраструктуре, обеспечивающей этот переход?

Мы начали с безопасности дорожного движения и автопарков, и эти направления по-прежнему составляют основу нашего бизнеса. Но более широкая возможность — поддерживать развитие физического ИИ, снижая риски, создавая стандарт валидации и в конечном счете делая реальный мир безопаснее.

Основные задачи остаются схожими, строите ли вы автономный автомобиль, робота-доставщика или систему аналитики розничной торговли, работающую в реальной сети рекламы и торговли. Как понять, что происходит в реальном мире? Как определить, способен ли система справляться с неожиданными ситуациями? И как оценивать эффективность и управлять рисками по мере перехода таких систем к коммерческому внедрению?

Я вижу будущее Empiric Earth в роли важного интеллектуального слоя экосистемы физического ИИ: мы будем предоставлять реальные данные, модели, приложения и сервисы, которые помогут разработчикам, партнерам и операторам находить ответы на эти вопросы. Для воплощения этого замысла важны нейтральность, переносимость и совместимость. Мы хотим, чтобы наши решения работали на разных технологиях и платформах, позволяя заказчикам выбирать наиболее подходящие для них варианты.

У нас сложился выдающийся задел в области интеллектуального анализа дорожного движения в реальных условиях, и теперь мы можем развивать его, создавая новые возможности, выстраивая партнерства и разрабатывая коммерческие модели.

Физический ИИ не сможет масштабироваться только потому, что одна компания создаст лучшего робота или лучшую модель. Масштабирование станет возможным, когда вся экосистема получит интеллектуальные решения, инструменты и меры безопасности, необходимые для применения этих систем в реальном мире. Именно такую роль мы хотим отвести Empiric Earth.

Спасибо за прекрасное интервью. Читателям, которые хотят узнать больше об интеллектуальных решениях для реального мира и независимой валидации систем физического ИИ, рекомендуем посетить Empiric Earth.