Джеральд Кирс, генеральный директор и сооснователь Trustible – Интервью

Джеральд Кирс, генеральный директор и сооснователь Trustible, является технологическим и политическим лидером, ориентированным на операционализацию ответственного ИИ. Он возглавляет миссию Trustible по помощи организациям в построении доверия, управлении рисками и соблюдении возникающих правил ИИ. Ранее он занимал должность вице-президента и генерального менеджера по решениям ИИ в FiscalNote, где он курировал корпоративные продукты ИИ и занимал руководящие должности в области корпоративного развития, продукта, успеха клиентов и исполнительных операций. Его карьера постоянно находилась на пересечении технологий, регулирования и масштабируемой корпоративной реализации.

Trustible предоставляет платформу управления ИИ, которая помогает организациям инвентаризировать системы ИИ, оценивать и смягчать риски, а также операционализировать соблюдение правил через структурированные рабочие процессы и документацию. Разработанная для юридических, комплаенс- и команд ИИ, платформа централизует деятельность по управлению, согласовывает случаи использования ИИ с нормативными рамками и позволяет более быстрому и прозрачному развертыванию ответственного ИИ во всей организации.

Вы перешли из маркетинга продукта и работы начальника штаба в руководство решениями ИИ в FiscalNote, прежде чем основать Trustible. Что вы увидели в этих ролях, что убедило вас, что управление ИИ нуждается в специальной платформе, и какую проблему вы были решительно настроены решить сначала, когда запустили Trustible?

Мне посчастливилось иметь множество ролей в течение 8+ лет в FiscalNote, где я начал как ранний сотрудник Seed/Series A и ушел как старший исполнитель после IPO.

На протяжении маркетинга продукта, работы начальника штаба и, в конечном итоге, руководства решениями ИИ в FiscalNote, я постоянно видел одну и ту же проблему, возникающую с разных сторон. Управление ИИ является фундаментально социотехнической проблемой, но большинство организаций подходили к этому фрагментарно. Команды рассматривали производительность ИИ, безопасность, конфиденциальность, этику и юридические обзоры как отдельные треки, часто принадлежащие разным функциям с небольшим общим операционным позвоночником, связывающим их вместе. Эти пять измерений абсолютно важны, и они должны быть решены совместно. Но где организации боролись, было перевод этого социотехнического намерения в что-то прочное, когда ИИ переходил в реальное принятие решений.

В то же время нормативная среда вокруг ИИ явно менялась. Закон ИИ ЕС и связанные с ним стандарты сигнализировали о сдвиге в сторону управления ИИ как регулируемой инфраструктуры, а не экспериментальной технологии. Что стало очевидным, так это то, что многие компании пытались сопоставить политику и нормативные ожидания с системами ИИ после развертывания, вместо того, чтобы проектировать управление, которое могло бы непрерывно операционализировать нормативные намерения через эти социотехнические измерения.

Мой опыт в FiscalNote был важен, потому что мы применяли ИИ к самому юридическому, политическому и нормативному ландшафту. Мы помогали организациям понять, как законы эволюционируют, как требования интерпретируются и как нормативные ожидания переводятся в операционные обязательства с течением времени. Этот опыт сделал ясным, что эффективное управление ИИ требует той же дисциплины в обратном направлении: применения политических и нормативных мыслей直接 к тому, как системы ИИ строятся, развертываются, отслеживаются и адаптируются при изменении условий.

Клиенты последовательно описывали одни и те же болевые точки. Они не могли с уверенностью ответить, какие системы ИИ находятся в производстве, какие из них являются высокорисковыми под возникающими правилами, кто несет ответственность, когда системы пересекают функциональные границы, или как продемонстрировать непрерывное соблюдение, когда модели, данные, поставщики и правила эволюционируют одновременно.

Когда мы запустили Trustible, первой проблемой, которую мы поставили перед собой, было превращение социотехнического управления из теории в операционную реальность. Мы сосредоточились на создании системы, которая соединяет техническое поведение, контекст риска использования, владение и нормативные ожидания в одном месте. Trustible был построен, чтобы дать организациям живую систему учета для ИИ, с непрерывной видимостью и подотчетностью, чтобы управление могло идти в ногу с технологическими изменениями и нормативной эволюцией, а не отставать от них.

С передовой, что вы узнали за прошлый год о том, почему программы управления застревают, когда ИИ переходит в реальные решения, рабочие процессы и клиентоориентированные trải nghiệm?

Когда ИИ переходит из экспериментирования в реальные рабочие процессы, управление склонно застревать по очень практическим причинам, а не философским. Большинство организаций просто не знают, как оценить риск ИИ таким образом, чтобы он соответствовал тому, как системы фактически используются. Они могут оценить модели в абстрактном виде, но они борются с оценкой риска на уровне использования, где контекст, влияние и последующие решения имеют гораздо большее значение, чем технические метрики alone.

Эта проблема становится еще более выраженной с генеративным ИИ. Одна базовая модель может использоваться для поддержки клиентов, внутренних исследований, поддержки принятия решений или генерации контента, каждая с очень разными профилями риска. Без структурированного способа оценить и сравнить эти использования, команды либо чрезмерно осторожны, либо продвигаются вперед без реальной уверенности.

Третий фактор ИИ еще больше усложняет ситуацию. Организации сильно полагаются на поставщиков и встроенные возможности ИИ, но не имеют последовательных методов для оценки этих систем, понимания контроля поставщиков или определения того, как риск поставщика переводится в их собственную нормативную и операционную экспозицию. В результате обзоры становятся субъективными и медленными.

Эти проблемы усугубляются пробелами в экспертизе и владении. Ответственность за управление часто распределена между юридическими, комплаенс-, безопасными, данными и продуктовыми командами без общей основы или явно подотчетного владельца, когда системы достигают производства. В сочетании с неподходящим инструментарием, таким как электронные таблицы, репозитории документов или устаревшие платформы GRC, команды управления теряют видимость того, что меняется и почему это важно.

В своей основе управление застревает, потому что организации применяют старые книги правил, разработанные для статических систем, к динамическим системам ИИ. ИИ требует непрерывной оценки риска, ясного владения, связанного с результатами, и инструментария, отражающего, как системы фактически ведут себя в производстве, а не как они были одобрены на бумаге. Команды управления не могут видеть, что меняется, когда оно меняется или почему это важно.

Наконец, владение часто остается нерешенным. Во многих организациях нет явно подотчетного владельца для системы ИИ, когда она переходит из экспериментирования в производство. Без явно подотчетного бизнес-владельца, ответственного за результаты, управление становится консультативным, и прогресс замедляется.

Общая нить заключается в том, что организации применяют старые книги правил управления к фундаментально новой технологии. Эти книги были разработаны для статических систем и периодических обзоров. ИИ требует непрерывной оценки риска, ясного владения и инструментария, который напрямую связывает управление с тем, как системы фактически работают в производстве.

Как вы определяете управление ИИ во втором году, и что меняется, когда организация переходит от первоначального внедрения к постоянному мониторингу, управлению дрейфом и непрерывному соблюдению?

Управление ИИ во втором году – это момент, когда ИИ перестает рассматриваться как серия проектов и начинает рассматриваться как основная инфраструктура для принятия решений. То, что я имею в виду, заключается в том, что в первом году управление ИИ в основном занимается обеспечением. Команды сосредоточены на одобрении случаев использования, документировании моделей и создании процессов обзора, чтобы ИИ мог двигаться вперед ответственно.

Когда системы ИИ масштабируются и становятся встроенными в основные бизнес-процессы, фокус смещается. Вопрос больше не заключается в том, следует ли что-то развертывать, а в том, может ли оно быть эксплуатировано безопасно и надежно с течением времени, когда данные, пользователи, поставщики и правила меняются. Управление ИИ становится непрерывным, а не эпизодическим, запускаемым реальными изменениями в поведении или контексте, а не календарными обзорами.

Риск также становится динамическим. Вместо присвоения статического рейтинга риска при запуске организации должны понимать, как риск эволюционирует, когда модели дрейфуют, объемы расширяются или новые заинтересованные стороны взаимодействуют с системой. Соблюдение правил следует тому же сдвигу. Регуляторные требования переходят от сопоставления с политиками к принудительному соблюдению через живые контроли, сигналы мониторинга и непрерывно захваченные доказательства.

Другой ключевой аспект управления ИИ во втором году – введение реального управления инцидентами ИИ. Организации должны знать, какие системы отслеживаются, расставлять приоритеты на основе внутреннего риска, интегрировать правильные данные, чтобы выявить значимые сигналы, и определять ясные критерии оповещения и эскалации. Это позволяет командам вмешаться рано, прежде чем проблемы превратятся в инциденты.

С фрагментированными системами и ограниченными ресурсами, какие первые возможности управления вы думаете, что компании должны стандартизировать во всей организации?

Когда ресурсы ограничены, организации должны быть намеренными в том, где они начинают, потому что ранние выборы задают траекторию для всего, что следует. Первым приоритетом является получение надежной видимости того, где ИИ фактически существует в бизнесе. Многие команды считают, что у них есть только несколько систем ИИ, только чтобы обнаружить скрытый ИИ, встроенные возможности поставщиков и тихо масштабируемые случаи использования, которые никогда не были официально рассмотрены. Без живого представления о том, что находится в производстве, обсуждения управления остаются теоретическими и оторванными от реальности.

Как только существует видимость через ваш Инвентарь ИИ, речь идет об введении подотчетности в случаи использования ИИ. Управление разрушается быстро, когда ответственность распределена между комитетами или функциями. Организации должны явно назначить, кто несет ответственность за результаты, когда система ИИ принимает или влияет на решения, а не только кто построил ее или первоначально рассмотрел ее. Эта ясность становится особенно важной, когда происходят инциденты или когда модели эволюционируют за пределы своего первоначального объема.

Оттуда команды нуждаются в практическом способе рассуждения о риске. Это означает установление общего подхода к классификации риска, который работает как для внутренне построенных систем, так и для случаев использования генеративного ИИ и поставщиков третьих сторон. Без общего линзы риска организации либо чрезмерно проверяют системы с низким влиянием, либо недостаточно внимательно отслеживают те, которые имеют наибольшее значение.

Наконец, управление должно генерировать доказательства в качестве побочного продукта нормальных операций. Мы часто говорим о “Say It, Do It, Prove It” как о способе демонстрации достоверности вашего управления ИИ. Захват одобрений, изменений и сигналов мониторинга, когда системы работают, позволяет организациям реагировать на аудиты, инциденты, запросы клиентов и регуляторные вопросы с уверенностью, а не реконструкцией. Эти основы не должны быть идеальными сначала, но они должны быть последовательными и повторяемыми, если управление должно масштабироваться.

Почему вы считаете, что управление ИИ должно быть behandelt с той же серьезностью, что и кибербезопасность или GRC, и где лидеры наиболее недооценивают операционную нагрузку?

Управление ИИ несет системный риск, сопоставимый с кибербезопасностью и GRC, но с добавленной сложностью. Как и кибербезопасность, неудачи ИИ могут быстро распространяться и оставаться незамеченными на протяжении всей организации. Как и GRC, ИИ пересекается с юридическими, этическими и операционными обязательствами. В отличие от любого из них, системы ИИ могут менять свое поведение с течением времени без явных человеческих действий.

Где лидеры склонны недооценивать нагрузку, это в постоянных операционных требованиях. Мониторинг является непрерывным, а не периодическим. Координация охватывает продукцию, данные, ИТ, юридические, комплаенс- и закупочные команды. Управление изменениями является постоянным, поскольку модели, поставщики, случаи использования и правила эволюционируют одновременно.

Организации, которые рассматривают управление ИИ как разовое упражнение по соблюдению правил, неизбежно борются. Те, кто подходит к этому как к операционной инфраструктуре, подобной безопасности или инженерии надежности, гораздо лучше подготовлены к масштабированию ИИ безопасно и устойчиво.

Когда штаты США продвигаются вперед с правилами ИИ, а федеральная политика остается спорной, как должны компании проектировать управление, чтобы оно оставалось устойчивым через регуляторную неопределенность?

Регуляторная среда для ИИ неопределенна и развивается. Наиболее устойчивые программы управления строятся вокруг требований, а не отдельных правил. Вместо того, чтобы реагировать на каждое новое законодательство с индивидуальными процессами, организации должны сосредоточиться на общих ожиданиях, которые появляются на протяжении юрисдикций, таких как инвентаризация, прозрачность, подотчетность, оценка риска, человеческий надзор и документация.

Когда системы управления модульны, новые регуляторные требования могут быть сопоставлены с существующими контролями, а не заставлять команды заново изобретать свой подход каждый раз, когда ландшафт меняется. Это снижает трение и помогает управлению идти в ногу с изменениями политики.

Цель состоит не в том, чтобы оптимизировать соблюдение сегодняшних правил, а в том, чтобы адаптировать его, когда ожидания эволюционируют.

Оглядываясь на 2026 год, какие возможности управления ИИ, по вашему мнению, станут незаменимыми, когда организации будут масштабировать ИИ во все больше бизнес-единиц?

Когда ИИ переходит от изолированных пилотов к системам, которые формируют реальные решения, ожидания управления меняются так же быстро. К 2026 году организации больше не смогут полагаться на книги правил, которые работали в 2024 и 2025 годах, когда надзор ИИ часто был ручным, эпизодическим и центрировался на индивидуальных обзорах. Постоянный мониторинг станет основным требованием, поскольку статическая документация и оценки на определенный момент не удовлетворят регуляторам, советам, сотрудникам или клиентам в динамичной среде ИИ.

Когда ИИ становится встроенным в все больше команд и рабочих процессов, организации также будут нуждаться в последовательном управлении все более сложными цепочками поставок ИИ. Внутренние модели, поставщики третьих сторон, встроенные функции ИИ и автономные компоненты все должны управляться через одну и ту же линзу, а не рассматриваться как слепое пятно или предполагать, что ответственность заканчивается на этапе закупок.

Доказательства, готовые к аудиту, должны быть доступны по требованию, когда регуляторное обеспечение усиливается и растут общественные ожидания прозрачности. Это означает захват деятельности управления, когда системы ИИ проектируются, развертываются и отслеживаются, а не реконструкцию решений после инцидента или запроса аудита.

Наконец, управление должно быть встроено во весь жизненный цикл ИИ. Надзор не будет юридическим обзором на этапе развертывания, а операционной возможностью, интегрированной в SDLC, MLOps и рабочие процессы закупок для третьих сторон. Организации, которые строят эти возможности, будут лучше подготовлены к адаптации к регуляторной неопределенности, реагированию на инциденты и более быстрому и безопасному масштабированию ИИ, когда ожидания продолжают эволюционировать.

Если бы вы консультировали компанию, которая уже имеет ИИ в производстве, но не имеет正式ной программы управления, какой был бы реалистичный первый 90-дневный период?

Первые 30 дней должны сосредоточиться на получении базовой видимости. Это означает определение того, какие системы ИИ находятся в производстве, понимание того, где они влияют на реальные решения, и назначение ясного владения.

Следующая фаза заключается в установлении базовых контролей. Организации должны определить, как они классифицируют риск, ввести контрольные точки для систем с более высоким риском и начать мониторинг областей, которые имеют наибольшее значение.

В окончательном этапе управление должно перейти от настройки к эксплуатации. Мониторинг должен быть интегрирован в существующие рабочие процессы, пути эскалации должны быть явно определены, и доказательства должны начать накапливаться естественным образом, когда системы работают.

Цель первых 90 дней не состоит в том, чтобы достичь совершенства. Это импульс. Программа управления, которая функционирует несовершенно на практике, гораздо более ценна, чем та, которая существует только на бумаге.”

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Trustible.