Брайан Сатхіанатан, головний технічний директор та співзасновник Iterate.ai – Інтерв’ю

Брайан Сатхіанатан є головним технічним директором і співзасновником Iterate.ai, творцем low-code-платформи Interplay для швидкої побудови додатків на основі штучного інтелекту в різних галузях. Раніше Сатхіанатан працював в Apple (AAPL ) над різними проектами з новими технологіями, включаючи операційну систему Mac і перший iPhone.

Що спочатку привернуло вашу увагу до роботи з технологіями штучного інтелекту?

Я завжди був зацікавлений в алгоритмах навчання, і почав працювати з системами штучного інтелекту під час навчання в університеті. Крім того, я провів багато часу на початку своєї кар’єри, створюючи криптографічні та інші безпекові технології для Apple, а також технології стиснення відео для компанії, яку я раніше співзаснував. Обидві технології відео та криптографії дуже залежать від алгоритмів, і це зробило мій навчальний процес в області штучного інтелекту швидшим. Близько 2016 року я почав працювати з відкритими фреймворками штучного інтелекту та GPU, розуміючи, як далеко вони пішли за останні п’ять років – як з точки зору алгоритмів, так і їхньої здатності виконувати широкий спектр класифікацій. Потім я зрозумів необхідність зробити це простішим і легшим для використання для всіх.

Ви маєте чіткі погляди на когнітивні упередження й упередженість даних у ШІ. Чи можете поділитися цими занепокоєннями?

Упередженість штучного інтелекту відбувається, коли інженери дозволяють своїм власним поглядам і упередженням формувати їхні навчальні дані. Це швидко підірває те, чого вони намагаються досягти за допомогою штучного інтелекту. Найчастіше, цей вплив є підсвідомим, тому вони можуть навіть не бути свідомі того, що упередженість проникла в їхні дані. Без ефективних перевірок і балансів дані можуть бути обмежені лише тими точками фокусу або демографічними групами, яких інженери схильні враховувати. Навіть коли інженери мають високоякісні та об’ємні дані, упередженості в даних можуть зробити результати, одержувані додатками штучного інтелекту, неправильними та, у багатьох випадках, абсолютно безкорисними.

Звіт Gartner оцінив, що до 2030 року 85% проектів штучного інтелекту будуть давати неправильні результати через упередженість. Це велика проблема, яку потрібно подолати. Бізнеси, які інвестують у можливості штучного інтелекту, довіряють їм та приймають стратегічні рішення на основі штучного інтелекту, можуть бути введені в оману хибними висновками, що ґрунтуються на упередженості, і ризикують дорогими невдачами та шкодою для своєї репутації. З штучним інтелектом, який швидко переходить від нової технології до всеприсутньої основи як у клієнтських додатках, так і в внутрішніх процесах, видалення упередженості є важливим для реалізації справжнього потенціалу штучного інтелекту в майбутньому.

Які є деякі способи запобігання появі цих упереджень?

Упередженість штучного інтелекту потрібно систематично та проактивно виявляти та видалити. Упередження можуть бути закодовані в алгоритми. Неправильності можуть бути введені через когнітивні упередженості, які просто опускають необхідні дані. Агрегатна упередженість є ще одним ризиком, де серія малих рішень підсумовується до упередженості результатів штучного інтелекту.

Виявлення та видалення упередженості штучного інтелекту у всіх її формах вимагає від організацій використання фреймворків, інструментів, процесів та політики, створених для ефективного подолання цих проблем. Наприклад, фреймворки штучного інтелекту, такі як Aletheia Framework від Rolls Royce та фреймворк штучного інтелекту Deloitte – доповнені автоматично-застосованими бенчмарками – можуть сприяти практикам без упередженості під час розробки та розгортання додатків штучного інтелекту. Інструменти, такі як AI Fairness 360 та IBM Watson OpenScale, можуть визначати та видалити упередженість та моделі упередженості в моделях машинного навчання та трубопроводах. Нарешті, процеси, які перевіряють дані проти визначених метрик упередженості, у поєднанні з політиками, які забезпечують управління для стримування упередженості через примусові практики, дозволяють організаціям бути систематичними у перевірці своїх сліпих плям та обмеженні упередженості штучного інтелекту.

Як Iterate.ai розпочався?

Ця історія починається в 2013 році, коли співзасновник Джон Нордмарк (наш генеральний директор) та я обидва служили членами ради східноєвропейського акселератора, розташованого в Україні, створеного для допомоги підприємцям у створенні та управлінні стартапами типу Силіконової долини. Ці досвіди з надзвичайно інноваційними новими компаніями привели нас до ідеї поєднання перспективних (але, можливо, менш відомих) стартапів з великими підприємствами, які потребують інноваційної підтримки. Ми згодом запустили те, що тоді називалося Iterate Studio, пропонуючи спеціалізований пошуковий двигун для підприємств, щоб знайти партнерів-стартапи на основі інноваційних можливостей, які ці більші організації шукали. У 2015 році компанія стала Iterate.ai, щоб підкреслити наш добір стартапів за допомогою ШІ. Сьогодні наш Signals база даних індексує понад 15,7 мільйонів технологій стартапів на основі різних факторів (і використовуючи пропрієтарний штучний інтелект для здійснення цього в такому масштабі).

Ми розширили свою діяльність у 2017 році та запустили першу версію нашої Interplay платформи низькокодової розробки додатків. Interplay забезпечує програмний шар на основі ШІ, який модернізує спадкові стеки підприємств, дозволяючи використовувати інноваційні технології за допомогою перетягування та випуску, а також прискорюючи розробку програмного забезпечення в десять разів. Платформа низькокодової розробки має 475 попередньо створених компонентів, тому користувачі можуть поєднувати та поєднувати технології, які їм потрібні, щоб швидко створити додатки. Надання можливостей штучного інтелекту знаходиться в центрі платформи, а також інші компоненти низькокодової розробки для IoT, інтеграції даних та навіть блокчейну.

Які деякі приклади додатків штучного інтелекту, які можна створити за допомогою платформи?

Наша платформа низькокодової розробки дозволила створити додатки штучного інтелекту для дуже цікавого різноманіття випадків використання – розмах розгортання є чимось, чим ми дуже пишаємося. Ulta Beauty (ULTA ), глобальний рітейлер краси з доходом у мільярд доларів, використала нашу платформу для створення розумного чат-бота роздрібної торгівлі лише за два тижні. Натомість примітивні чат-боти спираються на ключові слова, а більшість чат-ботів постачальників не можуть безперешкодно інтегруватися зі старими системами для доступу до інформації про клієнтів чи плавного переходу до підтримки людиною. Розумний чат-бот Ulta Beauty усунув ці проблеми за допомогою функцій обробки природної мови та можливості розпізнавання “інтенцій” клієнтів для надання точних відповідей. Наша платформа зробила простим для Ulta побудову двигуна чат-бота штучного інтелекту всього за кілька годин, а також налаштувати, уточнити та покращити тренування та відповіді чат-бота дуже швидко.

В іншому прикладі Jockey використала нашу платформу для відповідей на поширені запитання на основі ШІ, які автоматично й успішно реагують на досить складні та суб’єктивні ситуації обслуговування клієнтів. Платформа також допомогла глобальній мережі магазинів біля дому й автозаправок відповісти на пандемію безконтактними паливними колонками, що використовують розпізнавання номерних знаків клієнтів засобами ШІ. Наші можливості ШІ також підтримують стратегії безпеки магазинів на основі камер. Навчені застосунки можуть розпізнавати загрози та зброю перед магазинами, запускати їх блокування для захисту клієнтів і звертатися до відповідних органів.

Наскільки мало програмування насправді потрібно? Які навички розробки потрібні користувачам?

В моєму розумінні, правило 80/20 застосовується. 80% випадків застосування штучного інтелекту вже побудовані та мають встановлені моделі та навчальні дані. Традиційна організація легко може використовувати платформу низькокодової розробки (наша Interplay є однією з таких платформ) та реалізувати ці випадки. Ось деякі приклади:

• Відповіді на поширені запитання за допомогою ШІ
• Пошук продуктів, підтримуваний штучним інтелектом
• Рекомендації продуктів та пакетні пропозиції
• OCR
• Візуальна ідентифікація продуктів
• Аналіз таблиць даних: речі, такі як АОВ, аналіз корзини, прогнози відтоку клієнтів тощо
• Виділення/виявлення об’єктів
• Сталість об’єктів

Вищезазначені випадки можуть бути реалізовані інженером з знаннями серверної програми та базовим розумінням API машинного навчання. Це дуже схоже на потокове відео, криптографію та керування ключами, які широко використовуються через API сьогодні. Більшість інженерів, які використовують ці API, часто не знають, як вони працюють під капотом.

Чому низькокодовий штучний інтелект важливий для масштабування технологій штучного інтелекту?

Бізнеси, які реалізовують можливості штучного інтелекту у своїй розробці додатків, можуть швидко зіткнутися з великими проблемами, якщо не використовувати низькокодову розробку. У світі сьогодні є лише 300 000 інженерів штучного інтелекту, і лише 60 000 з них є вченими-даними. Через це талант, необхідний для розробки та масштабування рішень штучного інтелекту, є дорогим та зростаючим. Натомість низькокодова розробка дійсно демократизує доступ до штучного інтелекту. З низькокодовою розробкою будь-який з 25 мільйонів розробників програмного забезпечення та навіть ті, хто не має освіти, можуть легко реалізовувати двигуни штучного інтелекту, уточнювати їхні можливості та створювати та масштабувати ефективні рішення.

Повертаючись до штучно-інтелектуальної платформи Signals Iterate.ai, які є деякими з більш цікавих тенденцій, які з’являються?

Ми бачимо швидкий ріст по п’яти силам інновацій: штучному інтелекті, IoT, блокчейні, даних та інноваційних рішеннях стартапів. Це всі дуже великі ринки. Ми бачимо тисячі даних про новини, патенти та нові продукти стартапів щодня. Interplay побудована для використання цих сил, включаючи попередньо створені компоненти для використання цих зростаючих сил.

Є щось ще, що ви хотіли б поділитися про Iterate.ai?

Я думаю, що все ще існують помилкові уявлення про низькокодову розробку та її роль у створенні додатків штучного інтелекту. Це не рідкість бачити спеціалістів ІТ, які сумніваються, чи може низькокодова стратегія задовольнити їхні вимоги до масштабованості підприємства, розширення та безпеки. Я думаю, що низькокодові інструменти, призначені для прототипування – але помилково застосовані як інструменти для виробничих додатків – внесли свій внесок у цю недовіру. Тоді як правильні низькокодові платформи абсолютно здатні будувати та підтримувати виробничі додатки штучного інтелекту. Підприємства повинні виконувати свою належну перевірку при виборі низькокодових інструментів, забезпечуючи, щоб ці інструменти мали прозорий та повний шар безпеки та мали доведену історію доставки додатків у масштабі підприємства.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Iterate.ai.