Джонатан Дамброт, CEO та співзасновник Cranium AI – Серія інтерв’ю

Джонатан Дамброт є CEO та співзасновником Cranium AI, підприємством, яке допомагає командам кібербезпеки та даних науки зрозуміти, де штучний інтелект впливає на їхні системи, дані чи послуги.

Джонатан є колишнім партнером у KPMG, лідером галузі кібербезпеки, та видним діячем. До KPMG він очолював Prevalent, який став лідером галузі за версією Gartner та Forrester у сфері управління ризиками третіх сторін перед його продажем компанії Insight Venture Partners у кінці 2016 року. У 2019 році Джонатан передав посаду генерального директора Prevalent, оскільки компанія продовжила свій розвиток під новим керівництвом. Його цитували у численних публікаціях, а він регулярно виступає перед групами клієнтів щодо тенденцій у сфері ІТ, інформаційної безпеки та відповідності вимогам.

Чи можете ви поділитися історією створення Cranium AI?

У мене з’явилася ідея щодо Cranium у червні 2021 року, коли я був партнером у KPMG та очолював глобальні служби безпеки третіх сторін. Ми будували та доставляли рішення, засновані на штучному інтелекті, для деяких наших найбільших клієнтів, і я виявив, що ми нічого не робимо для захисту їх від загроз. Тому я поставив той же питання лідерам із безпеки у наших найбільших клієнтів, і відповіді, які я отримав, були не менш поганими. Багато команд із безпеки ніколи не спілкувалися з вченими-даними – вони говорили абсолютно різними мовами щодо технологій та мали нульову видимість щодо штучного інтелекту, який працював по всьому підприємству. Все це, у поєднанні зі стабільним розвитком регуляторних вимог, стало спригом до створення платформи, яка могла б забезпечити безпеку штучного інтелекту. Ми почали працювати з інкубатором KPMG Studio та привели деяких наших найбільших клієнтів як партнерів-дизайнерів для керівництва розробкою з урахуванням потреб цих великих підприємств. У січні цього року компанія Syn Ventures завершила фінансування на стадії посіву, і ми вийшли з KPMG у березні та вийшли з режиму секретності у квітні 2023 року.

Що таке Cranium AI Card, і які ключові ідеї він розкриває?

Cranium AI Card дозволяє організаціям ефективно зібрати та поділитися інформацією про довірування та відповідність вимогам їхніх моделей штучного інтелекту з клієнтами та регуляторами, а також отримати видимість щодо безпеки систем штучного інтелекту їхніх постачальників. У кінцевому підсумку ми прагнемо надати командам із безпеки та відповідності можливості візуалізувати та контролювати безпеку штучного інтелекту у їхній ланцюжку постачання, вирівняти свої системи штучного інтелекту з поточними та майбутніми вимогами щодо відповідності та рамками, а також легко поділитися тим, що їхні системи штучного інтелекту є безпечними та довіреними.

Які існують питання довіри щодо штучного інтелекту, які люди мають, і які вирішуються за допомогою цього рішення?

Люди загалом хочуть знати, що стоїть за штучним інтелектом, який вони використовують, особливо оскільки все більше їхніх робочих процесів впливається якимось чином на штучний інтелект. Ми прагнемо надати нашим клієнтам можливість відповісти на питання, які вони скоро отримають від своїх клієнтів, такі як “Як це керується?”, “Що робиться для захисту даних та моделей?” та “Чи була ця інформація перевірена?”. AI-карта надає організаціям швидкий спосіб відповісти на ці питання та продемонструвати прозорість та довірування своїх систем штучного інтелекту.

У жовтні 2022 року Білый дім опублікував проєкт Закону про права штучного інтелекту, який поділився необов’язковим планом щодо відповідального використання штучного інтелекту. Чи можете ви обговорити свої особисті погляди на плюси та мінуси цього законопроєкту?

Хоча дуже важливо, що Білый дім зробив цей перший крок у визначенні керівних принципів для відповідального штучного інтелекту, ми не вважаємо, що це достатньо для надання керівництва організаціям та не тільки окремим особам, які турбуються про апеляцію щодо рішення, прийнятого на основі штучного інтелекту. Будучи майбутнім регуляторним керівництвом, воно повинно бути не тільки для постачальників систем штучного інтелекту, але також для користувачів, щоб вони могли зрозуміти та використати цю технологію у безпечній та відповідній манері. У кінцевому підсумку, основна користь полягає в тому, що системи штучного інтелекту будуть безпечнішими, більш інклюзивними та прозорішими. Однак без ризик-орієнтованої структури для організацій, щоб вони могли підготуватися до майбутньої регуляції, існує потенційний ризик сповільнення темпу інновацій, особливо в ситуаціях, коли виконання вимог щодо прозорості та пояснюваності є технічно недоцільним.

Як Cranium AI допомагає компаніям дотримуватися цього Закону про права штучного інтелекту?

Cranium Enterprise допомагає компаніям у розробці та доставці безпечних та відповідальних систем, що є першим ключовим принципом Закону про права штучного інтелекту. Крім того, AI-карта допомагає організаціям у виконанні принципу повідомлення та пояснення, дозволяючи їм поділитися деталями щодо того, як їхні системи штучного інтелекту працюють насправді та які дані вони використовують.

Що таке Рамка управління ризиками штучного інтелекту NIST, і як Cranium AI допоможе підприємствам у виконанні їхніх зобов’язань щодо відповідності цьому)frame?

Рамка управління ризиками штучного інтелекту NIST є рамкою для організацій, щоб вони могли краще керувати ризиками для окремих осіб, організацій та суспільства, пов’язаними зі штучним інтелектом. Вона слідує дуже схожій структурі їхніх інших рамок, викладаючи результати успішної програми управління ризиками для штучного інтелекту. Ми відображили нашу AI-карту на цілі, викладені у цій рамці, щоб підтримати організації у відстеженні того, як їхні системи штучного інтелекту відповідають цій рамці, і, оскільки наша корпоративна платформа вже збирає багато цієї інформації, ми можемо автоматично заповнити та перевірити деякі з цих полів.

Чому компанії поза ЄС повинні дотримуватися Закону про штучний інтелект ЄС?

Подібно до GDPR щодо захисту даних, Закон про штучний інтелект ЄС фундаментально змінить спосіб, у який глобальні підприємства розробляють та експлуатують свої системи штучного інтелекту. Організації поза ЄС усе ще повинні звернути увагу на ці вимоги та дотримуватися їх, оскільки будь-які системи штучного інтелекту, які використовують або впливають на громадян ЄС, підпадатимуть під ці вимоги, незалежно від юрисдикції компанії.

Як Cranium AI готується до Закону про штучний інтелект ЄС?

У Cranium ми слідкуємо за розробкою Закону про штучний інтелект ЄС з самого початку та адаптували дизайн нашого продукту AI-карти, щоб підтримати компанії у виконанні вимог щодо відповідності. Ми вважаємо, що маємо великий стартовий优势, оскільки ми мали раннє усвідомлення Закону про штучний інтелект ЄС та його еволюції за роки.

Чому відповідальний штучний інтелект повинен стати пріоритетом для підприємств?

Швидкість, з якою штучний інтелект впроваджується у кожен бізнес-процес та функцію, означає, що все може вийти з-під контролю швидко, якщо цього не зробити відповідально. Пріоритезація відповідального штучного інтелекту зараз, на початку революції штучного інтелекту, дозволить підприємствам масштабуватися більш ефективно та не натикатися на великі перешкоди та проблеми з відповідністю пізніше.

Яка у вас бачення майбутнього Cranium AI?

Ми бачимо Cranium як справжнього короля категорії для безпечного та довіреного штучного інтелекту. Хоча ми не можемо вирішити все, наприклад, складні завдання, такі як етичне використання та пояснювання, ми прагнемо співпрацювати з лідерами в інших областях відповідального штучного інтелекту, щоб створити екосистему, яка зробить це простим для наших клієнтів покрити всі області відповідального штучного інтелекту. Ми також прагнемо працювати з розробниками інноваційних рішень штучного інтелекту, щоб підтримати безпеку та довіру цих можливостей. Ми хочемо, щоб Cranium дозволив компаніям у всьому світі продовжувати інновувати у безпечній та довіреній манері.

Дякуємо за велике інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Cranium AI.