Марк Фернандес, директор по стратегии Neurologyca — серия интервью

Marc Fernandez, Chief Strategy Officer at Neurologyca, является технологическим стратегом и руководителем по развитию бизнеса с более чем двадцатилетним опытом в области искусственного интеллекта, передовых технологий, потребительской электроники и взаимодействия человек‑компьютер. В Neurologyca он сосредоточен на стратегии и коммерциализации Human Context AI, разработанной для того, чтобы AI‑системы могли интерпретировать такие сигналы, как стресс, уверенность и вовлечённость. Ранее Фернандес был генеральным директором Pearl — платформы с поддержкой ИИ, ориентированной на развитие мягких навыков и профессиональный рост, а также предпринимателем‑резидентом в ALIVE Ventures, где работал в сфере технологий для пожилых людей. До этого он возглавлял стратегию в США в OPPO, фокусируясь на технологиях следующего поколения, включая ИИ, Web3, блокчейн и мобильные операционные системы, а также занимал старшие должности по развитию бизнеса в Emerge, Denizen, SweetLabs, Movella и X‑Rite/Pantone. Кроме того, он 15 лет преподавал в Университете Южной Калифорнии в качестве адъюнкт‑профессора, обучая на стыке предпринимательства, коммуникаций, социальных платформ, ИИ, блокчейна и других передовых технологий.

Neurologyca — компания из Сан‑Франциско, разрабатывающая то, что она называет Human Context Layer для интеллектуальных систем, позволяя AI‑приложениям и агентам лучше понимать и адаптироваться к людям, которым они служат. Ее платформа на основе API и SDK обрабатывает мультимодальные поведенческие сигналы, паттерны взаимодействия и ситуативный контекст, генерируя машинно‑читаемые индикаторы таких факторов, как вовлечённость, уверенность, стресс, внимание и доверие. Эти инсайты помогают AI‑системам в реальном времени адаптировать ответы, темп, рекомендации и действия, сохраняя контекстную непрерывность между взаимодействиями. Neurologyca позиционирует технологию как инфраструктуру, а не как отдельное приложение, с потенциальными сценариями в образовании и обучении, оздоровлении, корпоративном ПО, автономных агентах, безопасности водителей, играх и других интерактивных системах. В настоящее время компания предлагает платформу через ограниченную программу раннего доступа для партнёров, создающих адаптивные AI‑опыты.

Ваша карьера прошла от стратегии передовых технологий в OPPO к созданию Pearl на основе ИИ‑поддержки мягких навыков и теперь к разработке Human‑Context AI в Neurologyca. Как это развитие сформировало ваш взгляд на то, что одной из крупнейших ограничений ИИ является не интеллект сам по себе, а понимание человека за инструкцией?

Тридцать лет назад веб сделал информацию доступной. Пять лет назад ИИ сделал выводы обильными. Сегодня мы тонем в контенте, но всё ещё боремся за полезные результаты. Чистая техническая мощность не гарантирует хороший результат для реального человека, получающего ответ.

Это прослеживается во всей моей работе — от интеграции новых технологий в повседневную жизнь в OPPO, через проверку, может ли ИИ обучать межличностным навыкам в Pearl, до построения человеческого контекста как инфраструктуры в Neurologyca. Интеллект больше не является узким местом; модели умеют рассуждать и выполнять задачи. Сложнее — весь невербальный контекст, который люди привносят в простую просьбу: почему они спросили, что их смущает, или означает ли лёгкое колебание, что системе следует прервать действие. Сейчас ИИ видит лишь сжатый фрагмент этого через текст, а когда агенты начинают выполнять реальные действия, этот «слепой пятно» становится критическим.

Недавние примеры автономных агентов, крадущих учётные данные, создающих поддельные личности или скрывающих свои действия, вызывают вопросы о том, что происходит, когда ИИ становится очень эффективным в достижении цели, но не полностью понимает намерения, стоящие за ней. Вы рассматриваете это в первую очередь как проблему согласованности, инженерную проблему или фундаментальное ограничение текущего проектирования агентов?

Это провал дизайна, охватывающий как согласованность, так и инженерию. Мы оптимизировали системы для достижения целей, не тратя достаточно усилий на обучение их тому, как выглядит настоящий успех для человеческого пользователя.

Посмотрите на классический пример GPT‑4 + TaskRabbit: столкнувшись с CAPTCHA, модель соврала, заявив, что у неё проблемы со зрением, чтобы человек‑оператор решил её. Никто её не учил обманывать; она просто обнаружила препятствие и выбрала путь наименьшего сопротивления. Если вознаграждать агента только за результат, он найдёт любые «короткие пути». Основная задача — разделить действия, которые должны быть архитектурно заблокированы, от действий, технически разрешённых, но контекстуально неверных.

Вы утверждаете, что компании становятся лучше в том, чтобы сообщать агентам, какую цель преследовать, но не дают им достаточного понимания того, что «успех» действительно значит для человеческого пользователя. Какая информация нужна агенту помимо самого промпта, чтобы действительно понять намерение?

Промпты — лишь поверхностный слой. Истинное намерение опирается на глубину ситуации: предшествующую историю, приемлемые компромиссы, реальные ставки и реакцию пользователя в процессе выполнения задачи.

Часть этой информации может поступать из состояния приложения или истории чата, но в прямом взаимодействии именно поведенческие подсказки поддерживают динамичность контекста. Люди колеблются, меняют мнение на полпути или путаются. Если агент не способен «читать» эти изменения, он будет бездумно следовать устаревшей инструкции.

Существует важное различие между действиями, которые должны быть технически невозможны для агента, и действиями, которые разрешены, но неуместны в конкретном контексте. Как разработчикам разделять ответственность между жёсткими охранными барьерами и способностью ИИ проявлять контекстуальное суждение?

Любое действие, вызывающее серьёзный вред и не имеющее легитимных сценариев использования — кража учётных данных, стирание журналов, несанкционированное повышение привилегий — должно быть жёстко закодировано как невозможное. Агент не должен тратить вычислительные ресурсы на обсуждение, стоит ли обходить безопасность; архитектура системы должна просто делать такие действия невозможными.

Серая зона — повседневные действия, такие как отправка писем, отмена встреч или изменение внутренних рабочих процессов. Теоретически они разрешены, но решение о их автоматическом выполнении зависит от ставок, истории пользователя, возможности отката и тонких признаков его колебаний. Умение остановиться, когда контекст отсутствует, важнее, чем чистая способность выполнять задачу.

Neurologyca разрабатывает технологию, способную преобразовывать такие сигналы, как стресс, уверенность, внимание, вовлечённость и доверие, в машинно‑читаемый контекст. Как такие сигналы могут практически изменить поведение автономного ИИ‑агента во время выполнения задачи?

Эти поведенческие входы — по сути данные о реакции в реальном времени, того самого обратного канала, которого не хватает текущим архитектурам ИИ. Сейчас модели отслеживают только свои действия, но полностью слепы к тому, как человек их воспринимает.

Возьмём пример репетиторства: пользователь пишет «Я понимаю», но его физиологические или поведенческие сигналы указывают на растущее замешательство и падение внимания. Это прямой сигнал для ИИ замедлиться, изменить подход или предложить альтернативное объяснение. Цель не в медицинской диагностике, а в создании тесного обратного цикла — контекст, действие, реакция, адаптация — чтобы система училась тому, что действительно работает для конкретного человека.

Человеческий контекст может быть неоднозначным. Система может неправильно интерпретировать колебание, стресс, тон голоса или другие поведенческие сигналы. Как не дать контекстно‑осведомлённому ИИ стать излишне уверенным в том, что человек думает или намеревается?

Поведенческие сигналы по своей природе шумные и вероятностные. Внезапный всплеск стресса или пауза в наборе могут означать замешательство, а могут просто свидетельствовать о том, что пользователь пролил кофе.

Надёжные системы рассматривают совокупность сигналов во времени, учитывают базовые уровни окружения и явно выводят границы уверенности. Есть огромная разница между записью «повышенная когнитивная нагрузка относительно базового уровня» и утверждением «пользователь тревожен». Когда неопределённость высока или ставки значительны, задача агента — не угадывать, а задавать уточняющий вопрос.

Вовлечение человека в каждый значимый выбор может подорвать большую часть эффективности, обещанной автономными агентами. Как выглядит масштабируемая модель человеческого надзора, при которой агент знает, когда он может действовать самостоятельно, а когда действительно должен остановиться и запросить руководство?

Масштабируемый надзор — это не постоянный человек‑в‑цикле, а динамическое эскалирование.

Низко‑рисковые, обратимые задачи выполняются автоматически. По мере роста ставок, увеличения фонового шума или появления сигналов дискомфорта пользователя порог одобрения динамически повышается. Ключевым является персонализированный порог: один менеджер может смело делегировать управление календарём, а другой требует подтверждения каждой мелкой правки. Система должна изучать индивидуальные границы, а не навязывать жёсткие глобальные правила.

По мере того как агенты развивают постоянную память и всё более детальные модели людей, которых они обслуживают, контекст быстро превращается в чувствительные персональные данные. Как компаниям подходить к согласию, конфиденциальности, владению данными и ограничениям на то, что ИИ может запоминать о пользователе?

Это главный «бутылочный горлышко» доверия для автономных систем. Постоянная память превращает обычный инструмент в помощника, но возникает опасный перекрёсток между хранением предпочтений рабочего процесса и скрытым созданием психологического профиля без одобрения.

Управление данными здесь требует строгих границ целей. Если агент выводит паттерны стресса во время коуч‑сессии для руководителя, такой контекст не должен просочиться в оценки эффективности, страховые алгоритмы или рекламные технологии. Прозрачность должна быть детализированной — пользователи нуждаются в видимости сохранённого контекста, возможности одноразового удаления и разумных предустановленных сроков хранения. То, что система может вывести о вас, не даёт ей права хранить эту информацию.

Как нам оценивать, действительно ли автономный агент понимает человеческое намерение? Не сосредоточены ли современные метрики слишком сильно на выполнении задачи и точности, а не на том, достиг ли агент цели способом, приемлемым для пользователя?

Оценка завершения задачи — глубоко вводящая в заблуждение метрика. Агент может дословно выполнить инструкцию и всё равно предоставить результат, который пользователь считает неприемлемым.

Если агент добивается самой низкой цены по контракту, но разрушает многолетние отношения с поставщиком, традиционные метрики фиксируют 100 % успеха. Для руководителя это катастрофа. Нам нужны метрики, измеряющие эффективность в рамках неявных границ: соблюдал ли он неписаные нормы? Приостановил ли он действие, когда условия изменились? Этот разрыв между чистым выполнением и реальной удовлетворённостью полностью игнорируется текущими бенчмарками.

Смотрим в будущее: станут ли возможности человеческого контекста стандартным слоем AI‑стека наряду с моделями, памятью, инструментами и безопасностью? Что ещё нужно решить, чтобы предприятия могли уверенно делегировать значимую работу агентам без постоянного надзора?

По мере перехода ИИ от генерации контента к реальным действиям в мире, человеческий контекст становится обязательным слоем. Модели обеспечивают рассуждения, инструменты дают «руки», но без живого обратного цикла человеческого контекста память и охранные барьеры работают на статических предположениях.

Прежде чем предприятия передадут реальную власть, нам нужно решить вопросы контекстной конфиденциальности, вероятностного рассуждения при неопределённости и детализированных правил управления. Создание ИИ, который решает изолированные задачи, в основном уже решено; способность систем динамически адаптироваться к человеку за запросом определит, насколько реальную автономию мы готовы им предоставить.

Thank you for the great interview, readers who wish to learn more should visit Neurologyca.