Brian Sathianathan, dyrektor ds. technologii i współzałożyciel Iterate.ai – Seria wywiadów

Brian Sathianathan jest Chief Technology Officerem i współzałożycielem Iterate.ai, twórcy platformy low-code Interplay do szybkiej budowy aplikacji opartych na sztucznej inteligencji w różnych branżach. Wcześniej Sathianathan pracował w Apple (AAPL ) nad różnymi projektami technologii wschodzących, w tym systemem operacyjnym Mac i pierwszym iPhone’em.

Czym było to, co początkowo przyciągnęło Cię do pracy z technologiami AI?

Zawsze interesowałem się algorytmicznym uczeniem i zacząłem pracę z systemami AI podczas studiów. Ponadto spędziłem dużo czasu na początku swojej kariery na budowaniu technologii kryptografii i innych zabezpieczeń dla Apple, a także technologii kompresji wideo dla poprzedniej firmy, której byłem współzałożycielem. Zarówno technologie wideo, jak i kryptograficzne są bardzo intensywnymi algorytmami, co znacznie przyspieszyło moją krzywą uczenia się w AI/ML. Wokół 2016 roku zacząłem bawić się otwartymi frameworkami AI/GPU, zdając sobie sprawę, jak daleko posunęły się one w ciągu ostatnich pięciu lat – zarówno z perspektywy algorytmu, jak i ich zdolności do wykonywania szerszego zakresu klasyfikacji. Wtedy zrozumiałem potrzebę uczynienia tego łatwiejszym i prostszym dla wszystkich do użycia.

Masz silne poglądy na temat cognitive bias i data bias w AI, czy mógłbyś się nimi podzielić?

AI bias występuje, gdy inżynierowie pozwalają swoim własnym punktom widzenia i założeniom kształtować ich zestawy danych szkoleniowych AI. To szybko podważa to, co starają się osiągnąć z AI. Zazwyczaj ten wpływ jest nieświadomy, więc mogą nie być świadomi, że bias wkradł się do ich zestawów danych. Bez skutecznych kontroli i bilansu danych mogą być ograniczone do tylko tych punktów uwagi lub demografii, które inżynierowie skłonni są brać pod uwagę. Nawet gdy inżynierowie mają wysokiej jakości i ilości danych do pracy, biasy w zestawach danych mogą sprawić, że wyniki dostarczane przez aplikacje AI będą nieprawidłowe i w wielu przypadkach zupełnie bezużyteczne.

Raport Gartnera oszacował, że do 2030 roku 85% projektów AI dostarczy fałszywe wyniki z powodu biasu. To duża luka do pokonania. Firmy, które inwestują w AI, ufają mu i podejmują strategiczne decyzje na jego podstawie, ryzykują wysokimi kosztami porażek i uszkodzeniem swojej reputacji. Z AI szybko przechodzącym od technologii wschodzącej do wszechobecnego kamienia węgielnego w aplikacjach skierowanych do klienta i procesach wewnętrznych, usunięcie biasu jest niezbędne do realizacji prawdziwego potencjału AI w przyszłości.

Jakie są sposoby zapobiegania tym typom biasów?

Bias AI musi być systematycznie i proaktywnie wykrywany i usunięty. Biasy mogą być zakodowane w algorytmach. Nieścisłości mogą być wprowadzane za pośrednictwem biasów poznawczych, które po prostu pomijają niezbędne dane. Agregacja biasu jest jeszcze jednym ryzykiem, gdzie seria małych decyzji sumuje się do skrzywionych wyników AI.

Wykrywanie i eliminowanie AI biasu we wszystkich jego formach wymaga od organizacji wykorzystania frameworków, narzędzi, procesów i polityk opracowanych w celu skutecznego złagodzenia tych problemów. Na przykład, frameworki AI, takie jak Aletheia Framework od Rolls Royce i framework AI Deloitte – uzupełnione automatycznie egzekwowanymi benchmarkami – mogą promować praktyki wolne od biasu w rozwoju i wdrożeniu aplikacji AI. Narzędzia, takie jak AI Fairness 360 i IBM Watson OpenScale, mogą rozpoznać i usunąć bias i wzorce biasu w modelach i potokach machine learning. Wreszcie, procesy, które testują dane przeciwko określonym metrykom biasu, w połączeniu z politykami, które zapewniają zarządzanie w celu odstraszania biasu za pomocą wymuszonych praktyk, umożliwiają organizacjom systematyczne sprawdzanie swoich punktów ślepych i ograniczanie AI biasu.

Jak Iterate.ai się rozpoczęło?

Historia ta zaczyna się w 2013 roku, kiedy współzałożyciel Jon Nordmark (nasz CEO) i ja byliśmy członkami rady nadzorczej wschodnioeuropejskiego akceleratora z siedzibą na Ukrainie, zaprojektowanego w celu pomocy przedsiębiorcom w budowaniu i prowadzeniu startupów w stylu Doliny Krzemowej. Te doświadczenia z niesamowicie innowacyjnymi nowymi firmami doprowadziły nas do pomysłu połączenia obiecujących (choć może mniej znanych) startupów z dużymi przedsiębiorstwami, które potrzebują wsparcia innowacyjnego. Następnie uruchomiliśmy to, co wtedy nazywało się Iterate Studio, oferując wyspecjalizowaną wyszukiwarkę dla przedsiębiorstw, aby znaleźć partnerów startupów na podstawie innowacyjnych możliwości, których te większe organizacje poszukiwały. W 2015 roku firma stała się Iterate.ai, aby podkreślić nasz oparty na AI dobór startupów. Dziś nasza Signals baza indeksuje ponad 15,7 miliona startupowych technologii na podstawie różnych czynników (i przy użyciu własnego AI, aby to zrobić w takiej skali).

Rozwinęliśmy się w 2017 roku i uruchomiliśmy pierwszą wersję naszej Interplay platformy rozwoju aplikacji low-code. Interplay zapewnia warstwę oprogramowania napędzaną AI, która modernizuje legacy stacki przedsiębiorstw, umożliwiając użytkownikom przeciąganie i upuszczanie innowacyjnych technologii, przyśpieszając rozwój oprogramowania o dziesięć razy. Platforma low-code ma 475 pre-fabrycznych komponentów, więc użytkownicy mogą mieszać i łączyć technologie, których potrzebują, aby szybko uruchomić aplikacje. Wzmocnienie AI jest rdzeniem platformy, a także inne komponenty low-code dla IoT, integracji danych i nawet blockchain.

Iterate.ai to platforma low-code do tworzenia aplikacji opartych na AI; jakie są niektóre z aplikacji AI, które można zbudować?

Nasza platforma low-code umożliwiła aplikacje AI dla bardzo interesującej różnorodności przypadków użycia – szerokość wdrożenia jest czymś, z czego jesteśmy naprawdę dumni. Ulta Beauty (ULTA ), miliardowy globalny detalista beauty, użył naszej platformy do zbudowania inteligentnego AI retail gościa chatbota w zaledwie dwa tygodnie. Natomiast proste chatboty opierają się na słowach kluczowych, a większość chatbotów dostawców nie potrafi płynnie integrować się ze starszymi systemami, aby uzyskać dostęp do informacji o klientach lub umożliwić gładkie przejścia do obsługiwanego przez człowieka wsparcia. Inteligentny AI chatbot Ulta Beauty wyeliminował te problemy dzięki funkcjonalności przetwarzania języka naturalnego i możliwości rozpoznawania “intencji” klienta, aby zapewnić naprawdę dokładne odpowiedzi. Nasza platforma umożliwiła Ulta Beauty zbudowanie silnika AI chatbota w zaledwie kilka godzin i skonfigurować, udoskonalić i poprawić trening i odpowiedzi chatbota w ekstremalnie szybkim tempie.

W innym przykładzie Jockey wykorzystał naszą platformę do stworzenia odpowiedzi na często zadawane pytania opartych na AI, które automatycznie i skutecznie reagują na dość złożone oraz subiektywne sytuacje w obsłudze klienta. Platforma umożliwiła również globalnej sieci sklepów osiedlowych i stacji paliw reakcję na pandemię w postaci bezdotykowych dystrybutorów paliwa, wykorzystujących rozpoznawanie tablic rejestracyjnych klientów przez AI. Nasze możliwości AI wspierają też strategie bezpieczeństwa oparte na kamerach w sklepach. Wytrenowane aplikacje mogą rozpoznawać na obrazach zagrożenia i broń przed sklepami, uruchamiać ich zamknięcie dla ochrony klientów i kontaktować się z władzami.

Jak niewiele programowania jest faktycznie potrzebne? Jakich umiejętności programistycznych potrzebują użytkownicy?

Uważam, że reguła 80/20 ma zastosowanie. 80% przypadków użycia AI jest już zbudowanych i ma ustalone modele i zestawy danych szkoleniowych. Tradycyjna organizacja może łatwo użyć platformy low-code (naszej, Interplay, jest jedną z takich platform) i wdrożyć te przypadki. Oto kilka przykładów:

• AI napędzane FAQ
• Wyszukiwarki produktów wspomagane AI
• Rekomendacje produktów i bundling
• OCR
• Wizualna identyfikacja produktu
• Analiza danych tabelarycznych: rzeczy takie jak AOV, analiza koszyka, przewidywania churnu, itp.
• Ekstrakcja/detekcja obiektu
• Stałość obiektu

Powyższe przypadki mogą być wdrożone przez inżyniera z wiedzą na temat programowania po stronie serwera i podstawowym zrozumieniem API machine learning. Jest to bardzo podobne do strumieniowania wideo, kryptografii i zarządzania kluczami, które są powszechnie używane za pomocą API dzisiaj. Większość inżynierów, którzy używają tych API, często nie wiedzą, jak one działają pod spodem.

Dlaczego low-code AI jest ważny dla skalowania technologii AI?

Przedsiębiorstwa, które poszukują możliwości AI w swoim rozwoju aplikacji, mogą szybko napotkać duże wyzwania, gdy nie używają low-code. W świecie dzisiejszym jest tylko 300 000 inżynierów AI, a tylko 60 000 z nich to uczeni danych. Z powodu tego, talent potrzebny do rozwoju i skalowania rozwiązań AI jest drogi i rośnie. W przeciwieństwie do tego, rozwój low-code naprawdę demokratyzuje dostęp do AI. Z low-code, każdy z 25 milionów developerów na świecie i nawet ci bez szkolenia, może łatwo wdrożyć silniki AI, udoskonalić ich możliwości i wyprodukować i skalować skuteczne rozwiązania.

Wracając do platformy Signals firmy Iterate.ai, opartej na AI: jakie interesujące trendy się pojawiają?

Widzimy szybki wzrost pięciu sił innowacji: AI, internetu rzeczy, blockchainu, danych i nowych rozwiązań startupowych. To ogromne rynki. Codziennie widzimy tysiące punktów danych dotyczących wiadomości, patentów i nowych produktów startupów. Interplay zaprojektowano tak, aby również wykorzystywał te siły dzięki gotowym komponentom pozwalającym korzystać z ich rozwoju.

Czy jest coś jeszcze, czym chciałbyś się podzielić na temat Iterate.ai?

Uważam, że nadal istnieją mity na temat low-code i jego roli w budowaniu aplikacji AI. Nie jest rzadkością, gdy specjaliści IT kwestionują, czy strategia low-code może spełnić ich wymagania dotyczące skalowalności, rozszerzalności i bezpieczeństwa na poziomie przedsiębiorstwa. Uważam, że low-code, które są przeznaczone do prototypowania – ale błędnie stosowane jako narzędzia do aplikacji produkcyjnych – przyczyniły się do tych obaw. Powiedzmy, że odpowiednie platformy low-code są absolutnie w stanie wykonać i wspierać aplikacje AI gotowe do produkcji. Przedsiębiorstwa powinny wykonać swoje due diligence w wyborze narzędzi low-code, upewniając się, że te narzędzia mają transparentną i gruntowną warstwę bezpieczeństwa oraz udowodniony rekord dostarczania aplikacji w skali przedsiębiorstwa.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Iterate.ai.