Інтерв’ю
Навріна Сінгх, генеральний директор і засновник Credo AI – Серія інтерв’ю
Навріна Сінгх є генеральним директором і засновником Credo AI, компанії, яка розробляє першу комплексну платформу SaaS для управління штучним інтелектом, що дозволяє компаніям і особам краще розуміти і доставляти надійний і етичний штучний інтелект, залишатися попереду нових правил і політик та створювати запис штучного інтелекту, який є аудиторським і прозорим на всьому підприємстві. Компанія працювала в режимі стелс і тихо будувала вражаючий портфель клієнтів, який включає одного з найбільших урядових підрядників і фінансових послугових компаній у світі, серед інших брендів Fortune 100.
Ви виросли в маленькому місті в Індії з скромними початками, як ви знайшли себе привабленим до інженерії та галузі штучного інтелекту?
Я походжу з середньостатистичної сім’ї; мій тато був у війську протягом чотирьох десятиліть, а моя мама була вчителькою, яка стала дизайнером моди. З раннього віку вони завжди заохочували мою цікавість, любов до наукових відкриттів і надавали мені безпечне місце для дослідження “що якщо”.
Коли я виростав в Індії, жінкам не надавалося так багато можливостей, як чоловікам. Багато рішень вже були прийняті для дівчини на основі того, що було прийнятним для суспільства. Єдиним способом відійти і забезпечити добрий життя для своєї сім’ї було через освіту.
Після закінчення школи я володів своїм першим комп’ютером, який був моїм вікном у світ. Я був дуже зацікавлений у апаратному забезпеченні і провів години онлайн, вивчаючи, як розібрати материнські плати, створювати робототехнічні додатки, вивчати кодування, переробляти електрику в своєму будинку (його!) і багато іншого. Інженерія стала моїм безпечним простором, де я міг експериментувати, досліджувати, створювати і переживати світ, який я хотів бути частиною через свої винаходи. Я був надихнутий і збудований тим, як технології могли бути потужним інструментом для впливу на зміни, особливо для жінок.
Виростаючи, мої засоби були обмежені, але можливості не були. Я завжди мріяв про те, щоб приїхати до Сполучених Штатів, щоб створити міцнішу основу в технологіях для вирішення найбільших проблем, з якими стикається людство. Я іммігрував сюди в 2001 році, щоб продовжити своє інженерне навчання в Університеті Вісконсин-Медісон.
За майже два десятиліття в інженерії я мав привілей працювати над багатьма передовими технологіями, від мобільних до доповненої реальності.
У 2011 році я почав вивчати штучний інтелект для створення нових бізнесів у Qualcomm. Я також провів час, створюючи бізнес і додатки в області штучного інтелекту через мовлення, бачення і NLP у Microsoft і Qualcomm за останні десять років. Коли я дізнався більше про штучний інтелект і машинне навчання, стало очевидним, що ця передова технологія буде масово порушувати наш життя за межами того, що ми можемо уявити.
Створення штучного інтелекту підприємства також зробило мене усвідомило, що технологія може зробити послугу і нашкодити нашим людям і громадам, якщо залишається без контролю. Ми, як лідери, повинні взяти на себе величезну відповідальність за технології, які ми будемо створювати. Ми повинні бути проактивними у максимізації його переваг для людства і мінімізації його ризику. Після всього “Те, що ми робимо, робить нас” Тому будівництво відповідально є критично важливим, що надихнуло наступну фазу моєї кар’єри будівництва управління штучним інтелектом.
Коли ви вперше серйозно подумали про управління штучним інтелектом?
Коли я був головою інновацій у Qualcomm, ми досліджували можливості, які штучний інтелект міг би принести нашим новим бізнесам. Наша перша робота була зосереджена на колаборативних роботах, які використовувалися в ланцюзі постачання. Це був мій перший досвід з “реальними” ризиками штучного інтелекту, особливо щодо фізичної безпеки людей, які працювали поряд з цими роботизованими системами.
Під час цього часу ми провели значний час з стартапами, такими як Soul Machines, вивчаючи нові випадки використання і знаходимо способи партнерства з ними для прискорення нашої роботи. Soul Machines випустила нову версію своєї дитини-аватара, “Baby X”. Дивлячись на це нейронне дитя, яке активно вивчало світ навколо неї, зробило мене зупинитися і подумати про непередбачувані наслідки цієї технології. Моя дочка Зія народилася приблизно в той же час, і ми ласкаво назвали її Baby “Z” після Soul Machines Baby “X”. Я говорив про це досить багато, включаючи виступ на Women In Product Keynote в 2019 році.
Вчення дитини X і дитини Z були зловісно схожими! Коли Зія росла, ми надавали їй початковий словник і інструменти для вивчення. З часом вона почала розуміти світ і складати все сама. Дитина X, нейронне дитя, також вивчала через візуальні сенсори і розпізнавання мови, і швидко будувала глибоке розуміння людського світу.
Ці ранній штучний інтелект моменти зробили мені зрозумілим, що було критично важливо знайти способи керування ризиком і встановлення ефективних бар’єрів навколо цієї потужної технології, щоб забезпечити її розгортання для добра.
Чи можете ви поділитися історією походження Credo AI?
Після Qualcomm мене запросили очолити комерціалізацію технологій штучного інтелекту в Microsoft у групі бізнес-розробки та, згодом, в групі продукту. Під час мого перебування я був щасливим працювати над спектром технологій штучного інтелекту з додatkами в випадках використання від розмовного штучного інтелекту до контрактної розвідки, і від візуальних інспекцій до мовного відкриття продукту.
Однак, насіння управління штучним інтелектом, посаджене в Qualcomm, продовжувало рости, коли я продовжував свідчити про зростаючий “дефіцит нагляду” у розробці технологій штучного інтелекту. Як лідер продукту, який працював з командою даних і інженерії, ми були мотивовані створити високопродуктивний додаток штучного інтелекту, підтримуваний машинним навчанням, і розгорнути його швидко на ринку.
Ми розглядали відповідність і управління як перевірку, яка сповільнює темп інновацій. Однак, мої зростаючі побоювання щодо дефіциту управління між технічними і наглядовими фахівцями в ризику, відповідності, аудиті, мотивували мене продовжувати дослідження проблем управління штучним інтелектом.
Всі незвідані питання про управління штучним інтелектом спонукали мене шукати відповіді. Тому я почав закладати основу для некомерційної організації під назвою MERAT (Ринок інструментів етичного і відповідального штучного інтелекту) з метою створення екосистеми для стартапів і Global 2000, які зосереджені на відповідальному розвитку штучного інтелекту.
Через ранні експерименти в MERAT стало зрозумілим, що не було стартапів, які дозволяють багатосторонні інструменти для забезпечення комплексного управління додатками штучного інтелекту і машинного навчання – поки Credo AI. Цей розрив був моєю можливістю реалізувати місію керування штучним інтелектом намерено. Моя гіпотеза продовжувала підтверджуватися, що наступний рубіж революції штучного інтелекту буде керуватися управлінням. Підприємства, які приймають управління, виникнуть як лідери у довірчих брендах.
Мене підходили до AI Фонд, інкубатор, заснований Ендрю Нг, відомим експертом з штучного інтелекту. AI Фонд зосереджувався на тих самих темах аудиторської звітності і управління штучним інтелектом, над якими я був зайнятий протягом останнього десятиліття.
Credo AI була заснована 28 лютого 2020 року з фінансуванням від AI Фонду.
Credo означає “набір цінностей, який керує вашими діями”. З Credo AI, наша бачення полягає в тому, щоб наділити підприємства можливістю створювати штучний інтелект з найвищими етичними стандартами.
У попередньому інтерв’ю ви обговорювали, як бренди в майбутньому будуть довіряти не “тільки” тому, як вони будують і розгортають штучний інтелект, але і тому, як вони масштабують штучний інтелект, щоб він був на службі людства. Чи можете ви роз’яснити це?
Штучний інтелект є однією з ігрових технологій цього століття і пропонує трансформаційні можливості для економіки і суспільства. Це на шляху до внесення майже 16 трильйонів доларів до глобальної економіки до 2030 року.
Однак, останні кілька років поставили акцент на великих загрозах штучного інтелекту (і ні, це не роботизовані правителі!) вже тут. Наприклад, судові алгоритми, які оптимізують мінімальну рецидивність (повторне порушення закону), можуть вводити упередженість і відмовити у паролі тим, хто цього заслуговує.
Соціальні алгоритми, які оптимізують взаємодію, можуть розділити націю.
Несправедливі алгоритми можуть бути причиною того, що ви не отримуєте роботу або вступу до університету.
Чим більше автономію ми надаємо нашим інструментам, тим ширше діапазон непередбачуваних наслідків. Надзвичайна масштабність генерує надзвичайний вплив, але не завжди той вплив, який ми намагаємося досягти (я пишу про це в Credo AI Маніфесті).
Я передбачаю, що підприємства, які інвестують у управління штучним інтелектом, щоб допомогти їм будувати технології відповідально і зобов’язатися використовувати дані етично, будуть能够 породити довіру серед зацікавлених сторін – клієнтів, споживачів, інвесторів, працівників та інших.
Як Credo AI допомагає компаніям нести відповідальність?
Відповідальність означає зобов’язання прийняти відповідальність за свої дії. У контексті розробки і розгортання штучного інтелекту це означає, що підприємства повинні не тільки погодитися на те, що “гарне виглядає для них”, але і зробити намерені кроки, щоб продемонструвати дії на цих узгоджених цілях і прийняти відповідальність за результати.
Credo AI має на меті бути шерпа для підприємств у їхніх ініціативах з етичного і відповідального штучного інтелекту, щоб утримувати їх відповідальними перед різними зацікавленими сторонами: користувачами, працівниками, регуляторами, аудиторами, інвесторами та іншими. Тому Credo AI стала піонером у реальному часі, контекстно-орієнтованому, комплексному і безперервному рішенні для доставки етичного і відповідального штучного інтелекту у масштабі.
Будівництво відповідальності і довіри до штучного інтелекту є динамічним процесом. Організації повинні погодитися на корпоративні цінності, закодувати ці цінності, побудувати їх у свою організаційну інфраструктуру, спостерігати вплив і повторити процес з різними голосами, які надають вхід на кожному етапі. Credo AI забезпечує цю відповідальність через комплексне і реальне рішення для управління відповідністю і вимірювання ризику для розгортання штучного інтелекту у масштабі.
За допомогою рішення з управління Credo AI підприємства можуть:
- Погодитися на вимоги управління для своїх випадків використання штучного інтелекту і моделей, з настраїваними пакетами політики і інструментами прийняття рішень для вибору метрик оцінки моделі.
- Оцінити і допитати дані і моделі машинного навчання щодо цих узгоджених цілей
- Аналізувати технічні характеристики у діючий вплив на бізнес на кожному етапі розробки і розгортання моделі, щоб ви могли впіймати і виправити проблеми управління до того, як вони стануть масовими проблемами
Зафіксувавши рішення і дії на кожному етапі, Credo AI захоплює походження рішень, які пішли у створення моделей як докази. Ці докази будуть записом, спільним всередині підприємства з зацікавленими сторонами і зовні з аудиторами, який будує довіру до намірів штучного інтелекту.
Ці докази допоможуть командам розробки передбачати і запобігати непередбачуваним наслідкам і стандартизуватимуть спосіб оцінки ефективності і довіри до моделей штучного інтелекту.
Ми находимося на початку іннингу щодо забезпечення управління штучним інтелектом через комплексні оцінки і гарантії, і ми раді працювати з більш підприємствами для просування відповідальності.
Як Credo AI допомагає компаніям перейти від управління штучним інтелектом як післядуми?
У сучасному світі існує відсутність ясності щодо того, що таке “відповідальний”, “етичний” і “довірчий” штучний інтелект, і як підприємства можуть доставити це. Ми допомагаємо переформулювати це ключове питання для підприємств, використовуючи платформу SaaS Credo AI для демонстрації “економіки етики”.
З Credo AI підприємства можуть не тільки доставляти справедливий, відповідний і аудиторський штучний інтелект, але і будувати довіру клієнтів.
Будівництво довіри клієнтів може розширити клієнтську базу компанії і розблокувати більше продажів. Наприклад, компанії можуть забезпечити найкращий можливий клієнтський досвід, використовуючи етичний штучний інтелект у своїх сервісних чат-ботах, або відповідально використовувати штучний інтелект, щоб зрозуміти діяльність користувача і запропонувати додатковий контент або продукти для них. Надзвичайно задоволені клієнти потім пропонують найкращу рекламу, ділиться своїм досвідом з друзями і сім’єю.
Крім того, підприємства також можуть побачити, як співробітництво між технічними і наглядовими функціями може допомогти їм заощадити кошти через швидшу відповідність, інформоване управління ризиком, знижене брендове і регуляторне ризики. Ми допомагаємо організаціям розгортати етичний штучний інтелект, будуючи міст між технічними метриками і відчутними бізнес-результатами. Коли все більше людей розуміють, що просування етичного штучного інтелекту включає в себе набагато більше, ніж перевірка коробки “регуляторної відповідності”. Але це має силу доставляти навіть більше, ніж внесок у більш справедливий світ, який би був гідним результатом сам по собі.
Коли компанія дотримується високих етичних стандартів, вона може очікувати реальних бізнес-результатів, таких як збільшення доходу. Зміна перспективи з абстрактної “м’якої” концепції на об’єктивне бізнес-рішення було ключовим способом для нас допомогти позиціонувати управління штучним інтелектом як критичну частину економічного і соціального двигуна компанії.
Нещодавно адміністрація Байдена створила Національний комітет з питань штучного інтелекту. Як ви вважаєте, які є наслідки цього для бізнесу штучного інтелекту?
Уряди по всьому світу йдуть повним ходом на регулювання штучного інтелекту, і підприємства повинні бути готові. Створенням адміністрацією Байдена Національного комітету з питань штучного інтелекту і інвестиціями в Білому домі OSTP є добрим першим кроком, щоб привнести дію в обговорення навколо білля про права, що регулюють системи штучного інтелекту. Однак, багато роботи потрібно зробити, щоб реалізувати, що таке Відповідальний штучний інтелект для нашої країни і економіки.
Я вважаю, що 2022 рік позиціонується як рік дії для відповідального штучного інтелекту. Це сигнал пробудження для підприємств, які хочуть реалізувати або зміцнити свій етичний каркас штучного інтелекту. Тепер є час для компаній оцінити свій існуючий каркас на наявність пробілів або, для компаній, які не мають підходу, реалізувати солідний каркас для довірчого штучного інтелекту, щоб забезпечити їм успіх у веденні в епоху штучного інтелекту.
Ми повинні очікувати більше жорстких і м’яких регуляцій, які виникнуть. Крім дій Білого дому, існує багато імпульсу, який надходить від інших законодавців і агентств, таких як проєкт Закону про алгоритмічну відповідальність Сенату, керівництво Федеральної торгової комісії (FTC) щодо упередженості штучного інтелекту та інше.
Якщо ми прискоримо майбутнє, наскільки важливим буде етика штучного інтелекту і управління штучним інтелектом за п’ять років?
Ми находимося на початку іннингу управління штучним інтелектом. Щоб підкреслити, наскільки критично управління штучним інтелектом, ось деякі з моїх передбачень для наступних кількох років:
- Етичне управління штучним інтелектом стане верхньою організаційною пріоритетністю
Підприємства продовжують інвестувати і отримувати вигоду від використання штучного інтелекту в своїх бізнесах. IDC передбачив витрату в розмірі 340 мільярдів доларів на штучний інтелект у 2022 році. Без управління підприємства будуть неохоче інвестувати у штучний інтелект через побоювання щодо упередженості, безпеки, точності, відповідності цих систем.
Без довіри споживачі також будуть неохоче приймати продукти, засновані на штучному інтелекті, або ділитися даними для створення цих систем. За наступні п’ять років етичне управління штучним інтелектом стане пріоритетом у раді директорів і важливою метрикою, яку компанії повинні розкривати і повідомляти, щоб будувати довіру серед своїх зацікавлених сторін.
- Нові соціотехнічні категорії роботи виникнуть всередині підприємства
Ми вже бачимо, як організації, орієнтовані на етику, інвестують значні кошти у майбутнє своє розвитку, щоб забезпечити справедливий, відповідний і аудиторський додатки штучного інтелекту.
Щоб лідирувати у штучному інтелекті, підприємства повинні прискорити навчання про ландшафт регулювання штучного інтелекту і реалізації структур відповідальності у масштабі. Коли виникаюча галузь реалізації етичного штучного інтелекту еволюціонує, нова соціотехнічна категорія роботи може виникнути, щоб фасилітувати ці розмови і взяти на себе відповідальність у цій галузі. Ця нова частина робочої сили могла б функціонувати як посередники між технічними і наглядовими органами, допомагаючи розробляти спільні стандарти і цілі.
- Нові штучно-інтелектні досвіди будуть вимагати суворішого управління
Керування передбачуваними і непередбачуваними наслідками штучного інтелекту є критично важливим, особливо коли ми вступаємо у Метавсесвіт і web3-світ. Ризики штучного інтелекту існують у реальному світі і в віртуальному світі, але вони ще більше посилюються в останньому.
Відправляючись у Метавсесвіт головою без належного нагляду за штучним інтелектом, підприємства піддають своїх клієнтів ризику для проблем, таких як крадіжка особистості і шахрайство. Це є важливо, щоб проблеми штучного інтелекту і управління були вирішені у реальному світі зараз, щоб тримати клієнтів у безпеці у Метавсесвіті.
- Нові екосистеми етичного управління штучним інтелектом виникнуть
Світ прокинувся до ідеї, що управління штучним інтелектом представляє базовий будівельний блок для операціоналізації відповідального штучного інтелекту. За наступні кілька років ми побачимо конкурентний і динамічний ринок постачальників послуг, які виникнуть, щоб надати інструменти, послуги, освіту і інші можливості для підтримки цієї масової потреби.
Крім того, ми також побачимо консолідацію і доповнення існуючих платформ MLOps і GRC, щоб привнести можливості управління і оцінки до штучного інтелекту.
Чи є щось інше, що ви хотіли б поділитися про Credo AI?
Етичне управління штучним інтелектом є інвестицією, яку ви не можете собі дозволити не зробити, і сьогодні є найкращим днем, щоб почати.
Дякую за детальне інтерв’ю і за те, що поділилися всіма своїми ідеями щодо управління штучним інтелектом і етики, читачам, які бажають дізнатися більше, повинні відвідати Credo AI.
