Майк Каппс, співзасновник та CEO компанії Diveplane – Серія інтерв’ю

Доктор Майкл Каппс – відомий технологічний спеціаліст і CEO компанії Diveplane Corporation. До того, як він став співзасновником компанії Diveplane, Майк мав легендарну кар’єру в індустрії відеоігор як президент компанії Epic Games, яка створила блокбастери Fortnite і Gears of War. Його робота включала понад сто нагород “Гра року”, десятки конференційних доповідей, нагороду за життєві досягнення та успішну захист свободи слова в галузі відеоігор у Верховному суді США.

Diveplane пропонує рішення на основі штучного інтелекту для бізнесу в різних галузях. З шістьма затвердженими патентами і декількома патентами, що розглядаються, штучний інтелект компанії Diveplane забезпечує повне розуміння і прозорість рішень на підтримку етичної політики штучного інтелекту і стратегій захисту даних.

Ви успішно пішли на пенсію з кар’єри в індустрії відеоігор у компанії Epic Games, що спонукало вас вийти з пенсії і зосередитися на штучному інтелекті?

Створення ігор було дуже цікавим, але – принаймні на той час – не було ідеальною кар’єрою, коли у вас є молодая сім’я. Я займався роботою в раді компанії і радах директорів, але це не було достатньо задовільним. Тому я зробив список із трьох великих проблем, які стоять перед світом і які я міг би вплинути, – і одна з них була поширення “чорних скриньок” штучного інтелекту. Мій план бувsuch, щоб витратити рік на кожну проблему, але через кілька тижнів мій талановитий друг Кріс Хазард сказав мені, що він таємно працював над прозорим і повністю пояснимим штучним інтелектом. І ось ми тут.

Компанія Diveplane була заснована з місією привнесення людяності в штучний інтелект, можете ви роз’яснити, що це означає конкретно?

Тут ми використовуємо термін “людяність” у значенні “людяність” або “чоловічість”. Щоб забезпечити, щоб найкраще в людях було в вашій моделі штучного інтелекту, ви не можете просто натренувати, протестувати трохи і сподіватися, що все буде гаразд.

Нам потрібно ретельно переглянути вхідні дані, саму модель і результати цієї моделі, і бути впевненими, що вони відображають найкраще в людях. Більшість систем, натренованих на історичних або реальних даних, не будуть правильними з першого разу, і вони не обов’язково вільні від упереджень. Ми вважаємо, що єдиний спосіб викорінити упередження в моделі – це поєднання прозорості, аудитабельності і людського розуміння.

Ядро технології компанії Diveplane називається REACTOR, що робить цей підхід новим у створенні пояснимого машинного навчання?

Машинне навчання зазвичай включає використання даних для побудови моделі, яка приймає певний тип рішень. Рішення можуть включати кут повороту коліс для транспортного засобу, рішення про затвердження або відхилення покупки чи позначення її як шахрайство, або рекомендацію продукту комусь. Якщо ви хочете дізнатися, як модель прийняла рішення, вам зазвичай потрібно поставити їй багато подібних питань і потім знову спробувати передбачити, що модель сама зробила б.

Робота з REACTOR є досить іншою. REACTOR характеризує невизначеність ваших даних, і ваші дані стають моделлю. Замість побудови однієї моделі для кожного типу рішення ви просто просите REACTOR, щоб він прийняв рішення – це може бути все, що пов’язано з даними – і REACTOR запитує, які дані потрібні для прийняття рішення. REACTOR завжди може показати вам дані, які він використав, як вони пов’язані з відповіддю, кожний аспект невизначеності, контрфактичне міркування і практично будь-яке додаткове питання, яке ви хочете поставити. Через те, що дані є моделлю, ви можете редагувати дані, і REACTOR буде миттєво оновлений. Він може показати вам, чи були дані, які виглядали аномально під час прийняття рішення, і відстежувати кожну редагування даних і їх джерело.

REACTOR здатний робити все це, зберігаючи при цьому високу конкурентоспроможність точності, особливо для малих і розріджених наборів даних.

GEMINAI – це продукт, який створює цифровий двійник набору даних, що це означає конкретно, і як це забезпечує захист даних?

Коли ви надаєте GEMINAI набір даних, він створює глибокі знання про статистичну форму цих даних. Ви можете використовувати його для створення синтетичного двійника, який нагадує структуру оригінальних даних, але всі записи створені знову. Але статистична форма залишається такою самою. Наприклад, середнє значення частоти серцевих скорочень пацієнтів у обох наборах буде майже однаковим, як і всі інші статистичні дані. Отже, будь-який аналіз даних, який використовує двійника, дасть той самий результат, що і оригінали, включаючи навчання моделей машинного навчання.

І якщо в когось є запис у原始них даних, то не буде жодного запису для нього у синтетичному двійнику. Ми не просто видаляємо ім’я – ми забезпечуємо, щоб не було жодного нового запису, який би був “поруч” з його записом (і всі інші) в інформаційному просторі. Тобто, немає жодного запису, який би був впізнаваний у обох оригінальному і синтетичному наборах.

І це означає, що синтетичний набір даних можна більш вільно поділитися без ризику порушення конфіденційності. Це не має значення, чи це особисті фінансові транзакції, інформація про здоров’я пацієнтів, класифіковані дані -只要 статистика даних не є конфіденційною, синтетичний двійник також не є конфіденційним.

Чому GEMINAI є кращим рішенням, ніж використання диференціальної приватності?

Диференціальна приватність – це набір технік, які обмежують імовірність того, що будь-яка окрема особа вплине на статистику більш, ніж на маргінальну кількість, і це фундаментальна частина майже будь-якого рішення щодо захисту даних. Однак, коли диференціальна приватність використовується окремо, для даних потрібно керувати бюджетом приватності, з достатнім шумом, доданим до кожного запиту. Як тільки цей бюджет використаний, дані не можуть бути використані знову без ризику порушення приватності.

Одним зі способів подолати цей бюджет є застосування повного бюджету приватності одразу для навчання моделі машинного навчання для генерації синтетичних даних. Ідея полягає в тому, що ця модель, натренована з використанням диференціальної приватності, може бути використана відносно безпечно. Однак правильне застосування диференціальної приватності може бути складним, особливо якщо є різна обсяг даних для різних осіб і більш складні відносини, такі як люди, які живуть в одному будинку. І синтетичні дані, згенеровані з цієї моделі, часто можуть містити, випадково, реальні дані, які окрема особа могла б вважати своїми, оскільки вони надто схожі.

GEMINAI вирішує ці проблеми і більше, поєднуючи кілька технік приватності при синтезі даних. Він використовує практичну форму диференціальної приватності, яка може бути застосована до широкого різноманіття типів даних. Він побудований на нашому двигуні REACTOR, тому він додатково знає імовірність того, що будь-які частини даних можуть бути переплутані одна з одною, і синтезує дані, забезпечуючи, щоб вони завжди були достатньо різними від найбільш схожих оригінальних даних. Крім того, він розглядає кожне поле, кожну частину даних як потенційно чутливу або ідентифікуючу, тому він застосовує практичні форми диференціальної приватності для полів, які не традиційно вважаються чутливими, але могли б унікально ідентифікувати особу, наприклад, єдина транзакція в 24-годинному магазині між 2 годиною ночі і 3 годиною ночі. Ми часто називаємо це “перетином приватності”.

GEMINAI здатний досягати високої точності для майже будь-якої мети, яка виглядає як оригінальні дані, але запобігає тому, щоб хто-небудь міг знайти будь-які синтетичні дані, надто схожі на синтетичні дані.

Компанія Diveplane була інструментальною в співзаснуванні Альянсу даних і довіри, що це за альянс?

Це абсолютно фантастична група технологічних керівників, які співпрацюють для розробки і прийняття відповідальних практик даних і штучного інтелекту. Світові організації, такі як IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) і Diveplane. Ми дуже горді тим, що були частиною ранніх стадій, і також горді роботи, яку ми колективно зробили над нашими ініціативами.

Компанія Diveplane最近 успішно провела раунд фінансування серії А, що це означає для майбутнього компанії?

Ми були успішні у наших корпоративних проектах, але це складно змінити світ одну компанію за раз. Ми використаємо цю підтримку для розширення нашої команди, поділення нашого повідомлення і забезпечення того, щоб зрозумілість штучного інтелекту була в усіх місцях!

Чи є щось ще, що ви хотіли б поділитися про компанію Diveplane?

Компанія Diveplane – це про те, щоб забезпечити, щоб штучний інтелект робився правильно, оскільки він поширюється. Ми про справедливий, прозорий і зрозумілість штучного інтелекту, проактивно показуючи, що стоїть за рішеннями, і рухаючись від “чорної скриньки” в штучному інтелекті, яка має потенціал бути несправедливою, неетичною і упередженою. Ми вважаємо, що пояснюваність – це майбутнє штучного інтелекту, і ми раді грати ключову роль у його розвитку!

Дякуємо за велике інтерв’ю, читачам, які хочуть дізнатися більше, слід відвідати Diveplane.