Джонатан Дамброт, генеральный директор и соучредитель Cranium AI — серия интервью

Джонатан Дамброт — генеральный директор и соучредитель Череп ИИ, предприятие, которое помогает командам по кибербезопасности и науке о данных понять, где ИИ влияет на их системы, данные или услуги.

Джонатан — бывший партнер KPMG, лидер отрасли кибербезопасности и провидец. До прихода в KPMG он руководил компанией Prevalent, которая стала лидером отрасли Gartner и Forrester в области управления рисками сторонних компаний, прежде чем компания была продана Insight Venture Partners в конце 3 года. В 2016 году Джонатан сменил должность генерального директора Prevalent, поскольку компания надеется продолжить свой рост под новым руководством. . Его цитируют в ряде публикаций, и он регулярно беседует с группами клиентов о тенденциях в области ИТ, информационной безопасности и нормативно-правового соответствия.

Не могли бы вы поделиться историей происхождения Cranium AI?

Идея Cranium пришла мне в голову примерно в июне 2021 года, когда я был партнером в KPMG, ведущем глобальное обслуживание сторонних служб безопасности. Мы разрабатывали и поставляли решения на основе ИИ для некоторых из наших крупнейших клиентов, и я обнаружил, что мы ничего не делаем для их защиты от угроз со стороны злоумышленников. Итак, я задал тот же вопрос лидерам кибербезопасности у наших крупнейших клиентов, и ответы, которые я получил, были такими же ужасными. Многие из команд безопасности никогда даже не разговаривали с учеными данных — они говорили на совершенно разных языках, когда дело доходило до технологий, и в конечном итоге не имели никакого представления об ИИ, работающем на предприятии. Все это в сочетании с неуклонно растущим развитием правил послужило толчком к созданию платформы, которая могла бы обеспечить безопасность ИИ. Мы начали работать с инкубатором KPMG Studio и привлекли некоторых из наших крупнейших клиентов в качестве партнеров по дизайну, чтобы руководить разработкой для удовлетворения потребностей этих крупных предприятий. В январе этого года Syn Ventures пришла, чтобы завершить посевное финансирование, и в марте мы выделились независимо от KPMG и вышли из скрытности в апреле 2023 года.

Что такое Cranium AI Card и какие ключевые идеи она раскрывает?

Cranium AI Card позволяет организациям эффективно собирать и обмениваться информацией о надежности и соответствии своих моделей ИИ как с клиентами, так и с регулирующими органами, а также получать представление о безопасности систем ИИ своих поставщиков. В конечном счете, мы стремимся предоставить группам безопасности и соответствия требованиям возможность визуализировать и контролировать безопасность ИИ в их цепочке поставок, согласовывать свои собственные системы ИИ с текущими и будущими требованиями и структурами соответствия, а также легко сообщать, что их системы ИИ безопасны. и заслуживающий доверия.

Какие проблемы с доверием людей к ИИ решаются с помощью этого решения?

Люди, как правило, хотят знать, что стоит за используемым ими ИИ, тем более что все больше и больше их повседневных рабочих процессов тем или иным образом, в той или иной форме влияет на ИИ. Мы стремимся предоставить нашим клиентам возможность отвечать на вопросы, которые они вскоре получат от своих клиентов, такие как «Как это регулируется?», «Что делается для защиты данных и моделей?» эта информация была подтверждена?». Карта ИИ дает организациям быстрый способ ответить на эти вопросы и продемонстрировать как прозрачность, так и надежность их систем ИИ.

В октябре 2022 года Управление научно-технической политики Белого дома (OSTP) опубликовал проект Билля о правах ИИ, которая поделилась необязательной дорожной картой ответственного использования ИИ. Можете ли вы обсудить ваши личные взгляды на плюсы и минусы этого законопроекта?

Хотя невероятно важно, что Белый дом сделал этот первый шаг в определении руководящих принципов ответственного ИИ, мы не считаем, что он зашел достаточно далеко, чтобы дать рекомендации организациям, а не только отдельным лицам, обеспокоенным обжалованием решения, основанного на ИИ. Будущие нормативные рекомендации должны быть предназначены не только для поставщиков систем искусственного интеллекта, но и для пользователей, чтобы они могли понимать и использовать эту технологию безопасным и надежным образом. В конечном счете, основное преимущество заключается в том, что системы ИИ станут более безопасными, инклюзивными и прозрачными. Однако без основанной на рисках структуры для подготовки организаций к будущему регулированию существует потенциальная возможность замедления темпов инноваций, особенно в обстоятельствах, когда соблюдение требований прозрачности и объяснимости технически неосуществимо.

Как Cranium AI помогает компаниям соблюдать этот Билль о правах?

Cranium Enterprise помогает компаниям разрабатывать и поставлять безопасные и надежные системы, что является первым ключевым принципом Билля о правах. Кроме того, карта ИИ помогает организациям соблюдать принцип уведомления и объяснения, позволяя им делиться подробностями о том, как на самом деле работают их системы ИИ и какие данные они используют.

В чём Структура управления рисками искусственного интеллекта NIST, и как Cranium AI поможет предприятиям выполнить свои обязательства по соблюдению ИИ для этой структуры?

NIST AI RMF — это структура, позволяющая организациям лучше управлять рисками для отдельных лиц, организаций и общества, связанных с ИИ. Он следует структуре, очень похожей на другие их структуры, и описывает результаты успешной программы управления рисками для ИИ. Мы сопоставили нашу карту ИИ с целями, изложенными в структуре, чтобы помочь организациям отслеживать, как их системы ИИ согласуются с этой структурой, и, учитывая, что наша корпоративная платформа уже собирает большой объем этой информации, мы можем автоматически заполнять и проверять некоторые поля. .

Ассоциация Закон ЕС об искусственном интеллекте является одним из самых монументальных законов об ИИ, которые мы видели в новейшей истории, почему компании, не входящие в ЕС, должны его соблюдать?

Подобно GDPR в отношении конфиденциальности данных, Закон об ИИ коренным образом изменит то, как глобальные предприятия разрабатывают и эксплуатируют свои системы ИИ. Организации, базирующиеся за пределами ЕС, по-прежнему должны будут обращать внимание на требования и соблюдать их, поскольку любые системы ИИ, которые используют граждан Европы или влияют на них, подпадают под требования, независимо от юрисдикции компании.

Как Cranium AI готовится к Закону ЕС об искусственном интеллекте?

В Cranium мы с самого начала следили за развитием Закона об искусственном интеллекте и адаптировали дизайн нашего предложения продукта AI Card, чтобы помочь компаниям в соблюдении требований соответствия. Мы чувствуем, что у нас есть отличный старт, учитывая, что мы очень рано узнали о Законе об ИИ и о том, как он развивался с годами.

Почему следует ответственный ИИ стать приоритетом для предприятий?

Скорость, с которой ИИ внедряется в каждый бизнес-процесс и функцию, означает, что все может быстро выйти из-под контроля, если не будет действовать ответственно. Приоритизация ответственного ИИ сейчас, в начале революции ИИ, позволит предприятиям более эффективно масштабироваться и не сталкиваться с серьезными препятствиями и проблемами соответствия позже.

Каким вы видите будущее Cranium AI?

Мы видим, что Cranium становится настоящим королем категории безопасных и надежных ИИ. Хотя мы не можем решить все, например такие сложные проблемы, как этичное использование и объяснимость, мы рассчитываем на сотрудничество с лидерами в других областях ответственного ИИ, чтобы управлять экосистемой, чтобы наши клиенты могли легко охватить все области ответственного ИИ. Мы также рассчитываем на сотрудничество с разработчиками инновационных решений для генеративного ИИ, чтобы обеспечить безопасность и доверие к этим возможностям. Мы хотим, чтобы Cranium позволил компаниям по всему миру продолжать внедрять инновации безопасным и надежным способом.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Череп ИИ.