Джонатан Дамброт, CEO и сооснователь Cranium AI – Интервью

Джонатан Дамброт является CEO и сооснователем Cranium AI, предприятия, которое помогает командам кибербезопасности и数据 науки понять, где ИИ влияет на их системы, данные или услуги.

Джонатан является бывшим партнером в KPMG, лидером отрасли кибербезопасности и видением. До KPMG он возглавлял Prevalent, которая стала лидером отрасли по управлению рисками третьих сторон по версии Gartner и Forrester, прежде чем была продана Insight Venture Partners в конце 2016 года. В 2019 году Джонатан передал роль CEO в Prevalent, когда компания продолжала расти под новым руководством. Он был процитирован в ряде публикаций и регулярно выступает перед группами клиентов по вопросам тенденций в ИТ, информационной безопасности и соблюдению требований.

Не могли бы вы рассказать историю создания Cranium AI?

У меня появилась идея Cranium в июне 2021 года, когда я был партнером в KPMG и возглавлял глобальные услуги безопасности третьих сторон. Мы разрабатывали и доставляли решения на основе ИИ для некоторых наших крупнейших клиентов, и я обнаружил, что мы ничего не делали, чтобы защитить их от угроз. Итак, я задал тот же вопрос лидерам кибербезопасности в наших крупнейших клиентах, и ответы, которые я получил, были одинаково ужасными. Многие команды безопасности никогда даже не разговаривали с dữ scientistами – они говорили на совершенно разных языках, когда речь шла о технологиях, и в конечном итоге не имели никакой видимости в ИИ, работающем на предприятии. Все это в сочетании с постоянно растущим развитием регулирования стало триггером для создания платформы, которая могла бы обеспечить безопасность ИИ. Мы начали работать с инкубатором KPMG Studio и привлекли некоторых наших крупнейших клиентов в качестве партнеров по дизайну, чтобы руководить разработкой в соответствии с потребностями этих крупных предприятий. В январе этого года Syn Ventures завершила финансирование в рамках раунда Seed, и мы вышли из состава KPMG в марте и вышли из режима скрытности в апреле 2023 года.

Что такое Cranium AI Card и какие ключевые идеи он раскрывает?

Cranium AI Card позволяет организациям эффективно собирать и делиться информацией о надежности и соблюдении требований их моделей ИИ как с клиентами, так и с регулирующими органами, и получить видимость в безопасность ИИ систем их поставщиков. В конечном итоге мы стремимся предоставить командам безопасности и соблюдения требований возможность визуализировать и контролировать безопасность ИИ в их цепочке поставок, согласовать свои собственные системы ИИ с текущими и будущими требованиями и рамками, и легко делиться тем, что их системы ИИ являются безопасными и надежными.

Какие проблемы доверия люди имеют с ИИ, которые решаются с помощью этого решения?

Люди обычно хотят знать, что стоит за ИИ, который они используют, особенно поскольку все больше и больше их повседневных рабочих процессов каким-то образом затронуты ИИ. Мы стремимся предоставить нашим клиентам возможность ответить на вопросы, которые они скоро получат от своих собственных клиентов, такие как “Как это управляется?”, “Что делается для защиты данных и моделей?” и “Была ли эта информация проверена?”. AI-карта дает организациям быстрый способ решить эти вопросы и продемонстрировать прозрачность и надежность своих систем ИИ.

В октябре 2022 года Белый дом опубликовал проект Закона о правах ИИ, который поделился не обязательным планом для ответственного использования ИИ. Не могли бы вы обсудить свои личные взгляды на плюсы и минусы этого законопроекта?

Хотя важно, что Белый дом сделал этот первый шаг в определении руководящих принципов для ответственного ИИ, мы не считаем, что он пошел достаточно далеко, чтобы предоставить руководство для организаций, а не только для людей, обеспокоенных обжалованием решения на основе ИИ. Будущие регулирующие рекомендации должны быть не только для поставщиков систем ИИ, но и для пользователей, чтобы они могли понять и использовать эту технологию в безопасной и безопасной форме. В конечном итоге, основным преимуществом является то, что системы ИИ будут более безопасными, инклюзивными и прозрачными. Однако без основанного на риске框架 для организаций, чтобы подготовиться к будущим регулированиям, существует потенциал для замедления темпа инноваций, особенно в ситуациях, когда выполнение требований прозрачности и объяснимости технически нецелесообразно.

Как Cranium AI помогает компаниям соблюдать этот Закон о правах?

Cranium Enterprise помогает компаниям разрабатывать и доставлять безопасные и безопасные системы, что является первым ключевым принципом в Законе о правах. Кроме того, AI-карта помогает организациям с соблюдением принципа уведомления и объяснения, позволяя им делиться подробностями о том, как их системы ИИ фактически работают и какие данные они используют.

Что такое NIST AI Risk Management Framework, и как Cranium AI поможет предприятиям в выполнении их обязательств по соблюдению требований этого框架?

NIST AI RMF – это框架 для организаций, чтобы лучше управлять рисками для отдельных лиц, организаций и общества, связанными с ИИ. Он следует очень похожей структуре их других框架, определяя результаты успешной программы управления рисками для ИИ. Мы сопоставили нашу AI-карту с целями, изложенными в рамках, чтобы поддержать организации в отслеживании того, как их системы ИИ соответствуют рамках, и поскольку наша платформа предприятия уже собирает много этой информации, мы можем автоматически заполнить и проверить некоторые поля.

EU AI Act – один из наиболее монументальных законов об ИИ, которые мы видели в недавней истории, почему компании вне ЕС должны соблюдать его?

Аналогично GDPR для защиты данных, Закон об ИИ изменит фундаментально способ, которым глобальные предприятия разрабатывают и эксплуатируют свои системы ИИ. Организации, базирующиеся вне ЕС, все равно должны обращать внимание на и соблюдать требования, поскольку любые системы ИИ, которые используют или влияют на граждан ЕС, будут подчиняться требованиям, независимо от юрисдикции компании.

Как Cranium AI готовится к EU AI Act?

В Cranium мы следили за разработкой Закона об ИИ с самого начала и адаптировали дизайн нашей продукции AI-карты, чтобы поддержать компании в выполнении требований соблюдения. Мы считаем, что у нас есть отличный старт, учитывая наше раннее осознание Закона об ИИ и того, как он эволюционировал за годы.

Почему ответственный ИИ должен стать приоритетом для предприятий?

Скорость, с которой ИИ встраивается в каждый бизнес-процесс и функцию, означает, что все может быстро выйти из-под контроля, если это не делается ответственно. Приоритизация ответственного ИИ сейчас, в начале революции ИИ, позволит предприятиям масштабироваться более эффективно и не столкнуться с крупными препятствиями и проблемами соблюдения требований позже.

Каково ваше видение будущего Cranium AI?

Мы видим Cranium как истинного короля категории для безопасного и надежного ИИ. Хотя мы не можем решить все, такие как сложные проблемы, как этический использование и объяснимость, мы стремимся сотрудничать с лидерами в других областях ответственного ИИ, чтобы стимулировать экосистему, которая сделает все простым для наших клиентов, чтобы покрыть все области ответственного ИИ. Мы также хотим работать с разработчиками инновационных решений ИИ, чтобы поддержать безопасность и доверие этих возможностей. Мы хотим, чтобы Cranium позволил компаниям по всему миру продолжать инновации в безопасной и надежной форме.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Cranium AI.