Майк Каппс, сооснователь и CEO компании Diveplane – Интервью

Доктор Майкл Каппс – известный технолог и CEO компании Diveplane Corporation. До того, как он стал сооснователем Diveplane, Майк имел легендарную карьеру в индустрии видеоигр в качестве президента компании Epic Games, создателя блокбастеров Fortnite и Gears of War. Его карьера включала в себя более ста наград “Игра года”, десятки ключевых докладов на конференциях, премию за вклад в развитие индустрии и успешную защиту свободы слова в Верховном суде США.

Diveplane предлагает решения на основе искусственного интеллекта для различных отраслей. С шестью патентами, уже одобренными, и несколькими патентами, находящимися на рассмотрении, понятный искусственный интеллект компании Diveplane обеспечивает полное понимание и прозрачность принятия решений в поддержку этических политик искусственного интеллекта и стратегий защиты данных.

Вы успешно ушли на пенсию после успешной карьеры в индустрии видеоигр в компании Epic Games, что вдохновило вас вернуться, чтобы сосредоточиться на искусственном интеллекте?

Создание игр было очень интересным, но – по крайней мере, на тот момент – не было идеальной карьерой, когда у меня была новая семья. Я занимался работой в советах директоров и консультационными ролями, но это не было достаточно полноценным. Итак, я составил список из трех крупных проблем, с которыми сталкивается мир, и которые я мог бы потенциально решить – и в этот список вошла распространенность “черных ящиков” систем искусственного интеллекта. Мой план был потратить год на каждую проблему, но через несколько недель мой блестящий друг Крис Хазард рассказал мне, что он тайно работал над прозрачной и полностью объяснимой платформой искусственного интеллекта. И вот мы здесь.

Компания Diveplane была основана с миссией привнести человечность в искусственный интеллект, можете ли вы подробнее рассказать о том, что это значит?

Да. Здесь мы используем термин “человечность” для обозначения “человеческого” или “сострадательного”. Чтобы обеспечить, чтобы лучшее, что есть в человечестве, было в вашей модели искусственного интеллекта, вы не можете просто обучить, протестировать немного и надеяться, что все будет в порядке.

Нам необходимо тщательно просмотреть входные данные, саму модель и выходные данные модели, и убедиться, что они отражают лучшее, что есть в человечестве. Большинство систем, обученных на исторических или реальных данных, не будут правильными с первого раза, и они не обязательно будут свободны от предвзятости. Мы считаем, что единственный способ искоренить предвзятость в модели – это сочетание прозрачности, аудитability и понятного объяснения.

Ядро технологии компании Diveplane называется REACTOR, что делает этот подход к объяснимому машинному обучению новаторским?

Машинное обучение обычно предполагает использование данных для построения модели, которая принимает определенный тип решений. Решения могут включать в себя угол поворота колес для транспортного средства, одобрение или отклонение покупки или пометку как мошенничество, или рекомендацию продукта кому-либо. Если вы хотите узнать, как модель приняла решение, вы обычно должны задать ей много подобных вопросов и затем попытаться предсказать, что сделает модель.

Работа с REACTOR отличается. REACTOR характеризует неопределенность ваших данных, и ваши данные становятся моделью. Вместо построения одной модели для каждого типа решения вы просто спрашиваете REACTOR, что вы хотите, чтобы он решил – это может быть все, что связано с данными – и REACTOR запрашивает, какие данные необходимы для принятия решения. REACTOR всегда может показать вам данные, которые он использовал, как они связаны с ответом, каждый аспект неопределенности, контрфактическое рассуждение и практически любой дополнительный вопрос, который вы хотите задать.

REACTOR может показать вам, были ли какие-либо данные, которые казались аномальными и вошли в решение, и отслеживать каждое редактирование данных и его источник. REACTOR использует теорию вероятностей на всех уровнях, что означает, что мы можем сказать вам единицы измерения каждой части своей работы. И, наконец, вы можете воспроизвести и проверить любое решение, используя только данные, которые привели к решению, и неопределенности, используя относительно простую математику, даже не используя REACTOR.

REACTOR может делать все это, сохраняя высокую конкурентоспособность точности, особенно для небольших и скудных наборов данных.

GEMINAI – это продукт, который создает цифровой двойник набора данных, что это значит и как это обеспечивает защиту данных?

Когда вы подаете GEMINAI набор данных, он строит глубокое понимание статистической формы этих данных. Вы можете использовать его для создания синтетического двойника, который напоминает структуру исходных данных, но все записи являются новыми. Но статистическая форма остается той же. Например, средний сердечный ритм пациентов в обоих наборах будет почти одинаковым, как и все другие статистические показатели.

И если у кого-то есть запись в исходных данных, то в синтетическом двойнике не будет записи для этого человека. Мы не просто удаляем имя – мы гарантируем, что не будет новой записи, которая находится “недалеко” от его записи (и всех остальных) в информационном пространстве. Т.е. не будет записи, которую можно распознать и в исходном, и в синтетическом наборе.

И это означает, что синтетический набор данных можно более свободно делиться без риска несанкционированного обмена конфиденциальной информацией. Не имеет значения, являются ли это личные финансовые транзакции, информация о здоровье пациентов, классифицированные данные – пока статистика данных не является конфиденциальной, синтетический двойник не является конфиденциальным.

Почему GEMINAI является лучшим решением, чем использование дифференциальной приватности?

Дифференциальная приватность – это набор методов, которые ограничивают вероятность того, что любая отдельная личность будет влиять на статистику более чем на небольшую величину, и является фундаментальной частью几乎 любого решения по защите данных. Однако, когда дифференциальная приватность используется самостоятельно, для данных необходимо управлять бюджетом приватности, добавляя достаточный шум к каждому запросу.

Один из способов преодолеть этот бюджет – применить полный бюджет приватности сразу для обучения модели машинного обучения для генерации синтетических данных. Идея заключается в том, что эта модель, обученная с использованием дифференциальной приватности, может быть использована относительно безопасно. Однако правильное применение дифференциальной приватности может быть сложным, особенно если есть различия в объемах данных для разных людей и более сложные отношения, такие как люди, живущие в одном доме.

GEMINAI решает эти проблемы и многие другие, сочетая несколько методов приватности при синтезе данных. Он использует практическую форму дифференциальной приватности, которая может удовлетворять широкому спектру типов данных. Он построен на основе нашего движка REACTOR, поэтому он также знает вероятность того, что любые части данных могут быть混аны с другими, и синтезирует данные, гарантируя, что они всегда достаточно отличаются от наиболее похожих исходных данных.

GEMINAI может достичь высокой точности для几乎 любой цели, которая выглядит как исходные данные, но предотвращает возможность найти любой синтетический данные, слишком похожие на исходные.

Компания Diveplane сыграла ключевую роль в создании Альянса данных и доверия, что это за альянс?

Это абсолютно фантастическая группа генеральных директоров технологических компаний, сотрудничающих для разработки и принятия ответственных практик работы с данными и искусственным интеллектом. Классные организации, такие как IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) и Diveplane. Мы очень гордимся тем, что были частью ранних этапов, и также гордимся работой, которую мы коллективно выполнили над нашими инициативами.

Компания Diveplane недавно успешно привлекла средства в рамках раунда Series A, что это будет значить для будущего компании?

Мы были удачливы в наших проектах для корпоративных клиентов, но сложно изменить мир, работая с одним предприятием за раз. Мы будем использовать эту поддержку для расширения нашей команды, распространения нашего послания и внедрения понятного искусственного интеллекта как можно больше!

Есть ли что-то еще, что вы хотели бы поделиться о компании Diveplane?

Компания Diveplane – это все о том, чтобы гарантировать, что искусственный интеллект делается правильно, когда он распространяется. Мы занимаемся справедливым, прозрачным и понятным искусственным интеллектом, активно показывая, что движет решениями, и отходя от “черного ящика” в искусственном интеллекте, который имеет потенциал быть несправедливым, неэтичным и предвзятым.

Мы считаем, что объяснимость – это будущее искусственного интеллекта, и мы рады сыграть ключевую роль в продвижении этого!

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Diveplane.