Брайан Сатхианатан, технический директор и сооснователь Iterate.ai – Интервью

Брайан Сатхианатан является техническим директором и сооснователем Iterate.ai, создателем low-code-платформы Interplay для быстрого создания приложений на основе искусственного интеллекта в различных отраслях. Ранее Сатхианатан работал в Apple (AAPL ) над различными проектами, связанными с новыми технологиями, включая операционную систему Mac и первый iPhone.

Что изначально привлекло вас к работе с технологиями искусственного интеллекта?

У меня всегда был интерес к алгоритмическому обучению, и я начал работать с системами искусственного интеллекта во время моих студенческих дней. Кроме того, я провел много времени в начале своей карьеры, разрабатывая криптографические и другие безопасные технологии для Apple, а также технологии сжатия видео для предыдущей компании, одним из основателей которой я был. И видео-, и криптографические технологии очень интенсивны в плане алгоритмов, и это действительно ускорило мою кривую обучения в области ИИ/МЛ. Около 2016 года я начал работать с открытыми фреймворками ИИ/ГПУ, осознав, насколько они продвинулись за последние пять лет – как с точки зрения алгоритмов, так и с точки зрения их способности выполнять более широкий спектр классификаций. Затем я понял необходимость сделать это проще и доступнее для всех.

У вас есть сильные мнения о когнитивных предубеждениях и предубеждениях в данных в ИИ, можете ли вы поделиться этими опасениями?

Предубеждения в ИИ возникают, когда инженеры позволяют своим собственным взглядам и предубеждениям формировать их наборы данных для обучения ИИ. Это быстро подрывает то, чего они пытаются достичь с помощью ИИ. Чаще всего это влияние бессознательно, поэтому они могут даже не осознавать, что предубеждения проникли в их наборы данных. Без эффективных проверок и балансов данные могут быть ограничены только теми точками фокуса или демографическими группами, которые инженеры склонны учитывать. Даже когда инженеры имеют высококачественные и объемные данные, предубеждения в наборах данных могут сделать результаты, предоставляемые приложениями ИИ, неверными и, во многих случаях, в значительной степени бесполезными.

Отчет Gartner оценил, что до 2030 года 85% проектов ИИ будут предоставлять ложные результаты из-за предубеждений. Это большой пробел, который необходимо преодолеть. Бизнесы, которые инвестируют в ИИ, доверяют ему и принимают стратегические решения на его основе, только чтобы быть введенными в заблуждение ложными выводами, основанными на предубеждениях, рискуют дорогостоящими неудачами и ущербом своей репутации. С учетом того, что ИИ быстро переходит от новой технологии к повсеместной основе как в приложениях, ориентированных на клиентов, так и во внутренних процессах, удаление предубеждений имеет решающее значение для реализации истинного потенциала ИИ в будущем.

Какие есть способы предотвратить появление таких предубеждений?

Предубеждения в ИИ должны быть систематически и проактивно обнаружены и удалены. Предубеждения могут быть закодированы в алгоритмы. Неправильности могут быть введены через когнитивные предубеждения, которые просто опускают необходимые данные. Агрегатное предубеждение – это еще один риск, где серия небольших решений складывается в искаженные результаты ИИ.

Обнаружение и устранение предубеждений в ИИ во всех его формах требует от организаций использования фреймворков, наборов инструментов, процессов и политик, разработанных для эффективного смягчения этих проблем. Например, фреймворки ИИ, такие как Aletheia Framework от Rolls Royce и фреймворк ИИ Deloitte – дополненные автоматически обеспечиваемыми эталонами – могут способствовать практикам, свободным от предубеждений, на протяжении всего развития и развертывания приложений ИИ. Наборы инструментов, такие как AI Fairness 360 и IBM Watson OpenScale, могут распознавать и удалять предубеждения и закономерности предубеждений в моделях и трубопроводах машинного обучения. Наконец, процессы, которые тестируют данные на определенные метрики предубеждений, в сочетании с политиками, которые обеспечивают управление для предотвращения предубеждений посредством обеспечиваемых практик, позволяют организациям быть систематичными в проверке своих слепых пятен и ограничении предубеждений ИИ.

Вы являетесь техническим директором и сооснователем Iterate.ai – как все началось?

Эта история начинается в 2013 году, когда сооснователь Джон Нордмарк (наш генеральный директор) и я оба служили членами совета директоров ускорителя в Восточной Европе, базирующегося в Украине, предназначенного для помощи предпринимателям в создании и эксплуатации стартапов в стиле Кремниевой долины. Эти опыт с удивительно инновационными новыми компаниями привели нас к идее объединить перспективные (но, возможно, менее известные) стартапы с крупными предприятиями, нуждающимися в инновационной поддержке. Мы последовательно запустили то, что тогда называлось Iterate Studio, предлагая специализированный поисковый движок для предприятий, чтобы найти партнеров-стартапы на основе инновационных возможностей, которые эти более крупные организации искали. В 2015 году компания стала Iterate.ai, чтобы подчеркнуть наш подбор стартапов с помощью ИИ. Сегодня наша база данных Signals индексирует более 15,7 миллионов технологий стартапов на основе различных факторов (и с использованием проприетарного ИИ для этого).

Мы расширили свою деятельность в 2017 году и запустили первую версию нашей платформы Interplay для разработки низкокодовых приложений. Interplay предоставляет слой программного обеспечения, работающий на ИИ, который модернизирует наследственные стеки предприятий, позволяя использовать перетаскивание и сбрасывание инновационных технологий, а также ускоряя разработку программного обеспечения в десять раз. Низкокодовая платформа имеет 475 предварительно построенных компонентов, поэтому пользователи могут смешивать и сочетать технологии, которые им нужны, чтобы быстро запустить приложения. Возможности ИИ находятся в центре платформы наряду с другими low-code-компонентами для IoT, интеграции данных и даже блокчейна.

Iterate – это низкокодовая платформа для разработки приложений на основе ИИ; какие есть некоторые из приложений ИИ, которые можно создать?

Наша низкокодовая платформа позволила создать приложения ИИ для действительно интересного разнообразия случаев использования – разнообразие развертывания является чем-то, чем мы действительно гордимся. Ulta Beauty (ULTA ), миллиардный глобальный ритейлер красоты, использовал нашу платформу для создания умного чат-бота розничного гостя ИИ всего за две недели. В отличие от этого, примитивные чат-боты ориентированы на ключевые слова, и большинство приложений чат-ботов поставщиков не могут интегрироваться бесшовно с наследственными системами для доступа к информации о клиентах или обеспечения плавных переходов к поддержке, оказываемой человеком. Умный чат-бот ИИ Ulta Beauty исключил эти проблемы с помощью функций обработки естественного языка и способности распознавать “намерения” клиентов для предоставления действительно точных ответов. Наша платформа сделала простым для Ulta создание двигателя чат-бота ИИ всего за несколько часов, а также настроить, усовершенствовать и улучшить обучение и ответы чат-бота чрезвычайно быстро.

В другом примере Jockey использовала нашу платформу для ответов на часто задаваемые вопросы с помощью ИИ, способных автоматически и успешно обрабатывать довольно сложные и субъективные ситуации обслуживания клиентов. Платформа также помогла глобальной сети небольших магазинов и автозаправок отреагировать на пандемию, внедрив бесконтактные топливные колонки с распознаванием автомобильных номеров клиентов средствами ИИ. Наши возможности ИИ поддерживают и стратегии безопасности магазинов на основе камер. Обученные приложения могут распознавать на изображениях угрозы и оружие снаружи магазинов, запускать блокировку для защиты покупателей и связываться с властями.

Насколько мало программирования требуется на самом деле? Какими навыками разработки должны обладать пользователи?

По моему мнению, правило 80/20 применяется. 80% примененных случаев ИИ уже построены и имеют установленные модели и данные для обучения. Традиционная организация может легко использовать низкокодовую платформу (наша, Interplay, является одной из таких платформ) и реализовать эти случаи. Вот некоторые примеры:

• Ответы на часто задаваемые вопросы с помощью ИИ
• ИИ-ориентированные поиски продуктов
• Рекомендации продуктов и пакетирование
• OCR
• Визуальная идентификация продуктов
• Анализ табличных данных: такие как AOV, анализ корзины, прогнозы оттока клиентов и т. д.
• Извлечение/обнаружение объектов
• Постоянство объектов

Вышеуказанные случаи могут быть реализованы инженером с знаниями серверной программирования и некоторым базовым пониманием API машинного обучения. Это очень похоже на потоковое видео, криптографию и управление ключами, которые широко используются через API сегодня. Большинство инженеров, которые используют эти API, часто не знают, как они работают под капотом.

Почему низкокодовый ИИ важен для масштабирования технологии ИИ?

Бизнесы, стремящиеся к возможностям ИИ в разработке приложений, могут быстро столкнуться с серьезными проблемами, если не использовать низкокод. В мире сегодня существует только 300 000 инженеров ИИ, и только 60 000 из них являются учеными-данными. Из-за этого необходимый талант для разработки и масштабирования решений ИИ дорог и растет. Напротив, низкокодовая разработка действительно демократизирует доступ к ИИ. С низкокодом любой из 25 миллионов разработчиков программного обеспечения в мире и даже те, кто не имеет обучения, могут легко реализовать двигатели ИИ, усовершенствовать их возможности и производить и масштабировать эффективные решения.

Вернемся к платформе Signals, работающей на ИИ, от Iterate.ai – какие есть некоторые из более интересных тенденций, которые появляются?

Мы наблюдаем быстрый рост в пяти силах инноваций: ИИ, IoT, блокчейне, данных и решениях стартапов. Это все очень большие рынки. Мы видим тысячи точек данных о новостях, патентах и новых продуктах стартапов каждый день. Interplay построена для использования этих сил, включая предварительно построенные компоненты для использования этих растущих сил.

Есть ли что-то еще, что вы хотели бы поделиться об Iterate.ai?

Я думаю, что все еще существуют заблуждения о низкокоде и его роли в создании приложений ИИ. Это не редкость видеть, как ИТ-профессионалы ставят под сомнение, может ли стратегия низкокода удовлетворить их требованиям к масштабируемости, расширяемости и безопасности на уровне предприятия. Я думаю, что низкокодовые варианты, предназначенные для прототипирования – но неправильно примененные в качестве инструментов для приложений производства – способствовали этим сомнениям. Однако правильные низкокодовые платформы абсолютно способны создавать и поддерживать приложения ИИ, готовые к производству. Предприятиям следует провести свою проверку при выборе низкокодового инструментария, обеспечивая, чтобы эти инструменты имели прозрачный и тщательный слой безопасности и доказанную историю доставки приложений в масштабе предприятия.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Iterate.ai.