Dr. Vishal Sikka, Założyciel & CEO Vianai – Seria Wywiadów

Vishal Sikka jest Założycielem i CEO Vianai, byłym CTO SAP AG, oraz byłym CEO Infosys. Obecnie pełni również funkcję członka rady nadzorczej Oracle, rady nadzorczej BMW Group oraz jest doradcą w Stanford Institute of Human-Centered AI.

Platforma Vianai łączy elementy open-source, techniki i optymalizacje własne Vianai oraz projektowanie ukierunkowane na człowieka, aby wprowadzić AI do przedsiębiorstw na dużą skalę, we wszystkich różnorodnych środowiskach. Z platformą, duże organizacje mogą tworzyć, optymalizować, wdrażać i zarządzać zaawansowanymi modelami ML na istniejącej infrastrukturze i poprawiać działanie oraz wydajność modeli ML w całym przedsiębiorstwie,

Czym początkowo zainteresował Cię machine learning?

Zainteresowałem się AI jako nastolatek, kiedy przeczytałem rozmyślania Marvina Minsky’ego o naszych umysłach jako społecznościach prostych agentów i dowiedziałem się o Elizie Joe Weizenbauma (bardzo wczesnym chatbocie) oraz o krytyce Johna McCarthy’ego. Później miałem zaszczyt mieć McCarthy’ego jako przewodniczącego mojego komitetu egzaminacyjnego z AI na Stanfordzie. McCarthy i Minsky byli dwoma ojcami dziedziny Sztucznej Inteligencji i obaj mieli głębokie spojrzenia na możliwości oraz ograniczenia AI, i miałem szczęście studiować z nimi.

Nadal możemy dzisiaj zobaczyć, że AI ma ogromny potencjał, i jednocześnie ma znaczne ograniczenia. Te same wyzwania, z którymi borykaliśmy się 30 lat temu, są nadal widoczne dzisiaj, szczególnie gdy spoglądamy na AI w przedsiębiorstwach. Byłem zainspirowany pracą jako student, aby zobaczyć, czy wartość AI mogłaby być jakoś odblokowana, i nadal jestem pasjonowany tym.

Wcześniej napisałeś kilka instrumentalnych prac, która praca uważasz za najbardziej instrumentalną w ewolucji Twoich poglądów na AI?

Jako student musiałem przeczytać kilka tysięcy prac. Prace McCarthy’ego o „doradcy”, o niektórych kluczowych problemach filozoficznych AI, prace Marvin’a o umyśle jako społeczności, o łączeniu podejścia połączonego (opartego na sieciach neuronowych) i symbolicznego do AI, prace Judei Pearl o rozumowaniu prawdopodobieństwowym i inteligencji przyczynowej, oraz prace Davida Marr’a (o widzeniu), Pat Winston (o nauce opisów obiektów z przykładów), prace Waldingera o syntezie programów i wielu innych kształtowały moje poglądy. Ostatnio czytałem prace Hinton, Lecun, ludzi uwagi, a także prace Cynthii Rudin, Fernandy Viegas i innych.

Powiedziałeś, że doświadczenie deweloperskie budowy systemu AI jest fragmentowane i złamane, jakie są niektóre z obecnych problemów związanych z budową systemu AI?

Systemy AI dzisiaj mogą być wyjaśnione tylko przez stosunkowo niewielką liczbę ludzi — statystyki się różnią, ale wydaje się, że może być tylko około 20-30,000 na świecie, którzy rozumieją prawdziwe metody, jak systemy AI działają. Jest to znacznie mniej niż 52,000 ludzi, których szacujemy jako profesjonalistów MLOps, lub 1 milion, których szacujemy jako naukowców danych. Wielu z nich nie mogłoby powiedzieć, dlaczego system robi to, co robi, dlaczego daje takie rekomendacje, co mogłoby pójść nie tak, lub jak działają podstawowe techniki.

Pozwól, aby to było umieszczone na tle ogromnie złożonego krajobrazu. Istnieje ponad 300 dostawców MLOps, których śledzi Gartner w dowolnym momencie. Każdy z nich ma specjalistyczną ofertę. Duży dostawcy chmury z drugiej strony mają własny smak wszystkiego i często starają się zamknąć firmy w swoich ekosystemach i infrastrukturze.

Następnie, sama komputacja jest często zbyt droga dla firm, aby naprawdę zbudować i przeszkolić niektóre z najbardziej zaawansowanych modeli dostępnych. Te są pozostawione kilku firmom, które mają talent i zasoby niezbędne do zarządzania wymaganiami systemu AI.

Brak zrozumienia, złożoność narzędzi i koszt komputacji łączą się, aby stworzyć rozłączony i wyzywający krajobraz dla każdej firmy, która szuka bycia biegłą w AI. W Vianai, budujemy metody, aby uczynić AI łatwiejszym w użyciu i łatwiejszym do zrozumienia, oraz znacznie zmniejszyć zasoby i koszty związane z uzyskaniem najlepszej wydajności.

Czy mógłbyś podzielić się historią powstania Vianai?

Spędziłem wiele lat, pracując nad wprowadzeniem nowych, przełomowych innowacji do przedsiębiorstw. Moi zespoły i ja zbudowaliśmy kilka produktów, które dotarły do dziesiątków tysięcy przedsiębiorstw i były uważane za przełomowe. Prowadziłem również dwie fundamentalne transformacje w moich dwóch poprzednich podróżach przed założeniem Vianai i uczestniczyłem w transformacjach w setkach przedsiębiorstw. Dodatkowo, moje wiele lat studiowania AI i skupienia się na tym, jak uczynić AI lepszym, bardziej istotnym i w służbie ludzkości.

W dość niezwykły sposób – te rzeczy połączyły się. Byłem na urlopie z rodziną w Azji Południowo-Wschodniej [pod koniec 2018 roku]. Robiliśmy zakupy na małym rynku, a sprzedawca miał piękne, ręcznie robione biżuterię. Była wykonana z tradycyjnych technik i lokalnych kamieni, i była oszałamiająca, ale oczywiście nikt poza tym małym miastem nie słyszał o nich. I miałem to pytanie w moim umyśle, „Co, gdyby ten sprzedawca mógł użyć AI? Jak to wyglądałoby? Jak systemy musiałyby działać?” W tym momencie uderzyło mnie, że każde przedsiębiorstwo na świecie zostanie przekształcone z AI, i że ta transformacja nie może być postrzegana przez pryzmat wczoraj, ale potrzebuje produktów i pomysłów, które muszą zacząć się od czystej kartki.

Około miesiąc później, założyłem Vianai z misją wprowadzenia prawdziwego, ukierunkowanego na człowieka AI do firm na całym świecie. Oznacza to dostarczanie produktów i usług, aplikacji i technologii, narzędzi, które umożliwiają użytkownikom firm, naukowcom danych, inżynierom ML i nawet sprzedawcom w odległych częściach świata, aby naprawdę zebrać korzyści z AI.

Od tego czasu, stworzyliśmy aplikacje, aby pomóc firmom rozpocząć pracę z AI, platformę, aby pomóc praktykom ML zarządzać i monitorować ich modele AI, oraz techniki optymalizacji, aby umożliwić więcej firmom dostęp do AI.

Przez wszystko, odkryliśmy, że znaczny potencjał wprowadzenia mocy ludzkiego zrozumienia, osądu i współpracy razem z danymi i najlepszymi technikami AI pozostaje niewykorzystany. Na podstawie naszej pracy z wiodącymi firmami korporacyjnymi, zobaczyłem, że te same techniki, które pomogłyby małemu sprzedawcy, pomogłyby również największym przedsiębiorstwom na świecie.

Vianai to wszystko o AI ukierunkowanym na człowieka, czy mógłbyś zdefiniować, co to jest i dlaczego jest ważne?

AI ukierunkowany na człowieka to AI, który szuka wzmocnienia pracy ludzkiej i poprawy ludzkiej oceny. Nauka maszynowa jest zbyt często postrzegana jako zastąpienie pracy ludzkiej. Ale AI jest uzupełnieniem dla ludzi — oferuje skalę i powtarzalność i precyzję, której ludzie nie mogą powtórzyć. Ale AI nie może powtórzyć ludzkiej oceny, ludzkich doświadczeń, ani naszego zrozumienia kontekstu.

Są oczywiste przykłady tego, np. gdy AI myli żółwia z karabinem, ale znacznie częściej pokładamy zbyt wielką ufność w AI, kiedy nie udowodniło jeszcze, że jest godne zaufania. Słynna historia pochodzi z dekady temu, kiedy AI jednej firmy była pozwolona na handel bez interwencji człowieka. Algorytm stracił 440 milionów dolarów w mniej niż godzinę.

Dla bardziej niedawnego przykładu, najnowocześniejsze modele językowe pozostają stosunkowo łatwe do zdezorientowania lub uprzedzenia. Generatory tekstu do obrazu są potencjalnie potężne, ale wymagają bardzo konkretnych poleceń od użytkownika, aby osiągnąć pełny potencjał.

AI ukierunkowany na człowieka, zatem, jest rodzajem skupienia w projekcie naszych produktów. Przynosimy moc ludzkiego zrozumienia – jak ocena i współpraca – razem z najlepszymi danymi i technikami AI, aby stworzyć inteligentne systemy, które mogą znacznie poprawić wyniki biznesowe i procesy.

Czy mógłbyś wyjaśnić potrzebę pętli sprzężenia zwrotnego między ludźmi i AI?

Istnieje cały dział AI zwany „ludźmi w pętli”, który polega na mechanizmach sprzężenia zwrotnego ludzi, aby naturalnie poprawić wydajność AI. Jest to naturalne i ma sens dla każdego systemu.

Systemy AI mogą się poprawiać w czasie, poprzez ponowne szkolenie, które uwzględnia działania, które użytkownik podjął. Jest to, oczywiście, część naszych aplikacji. Pozwól, aby dałem przykład.

Przed Covid, pracowaliśmy z dużą firmą finansową nad prognozowaniem popytu. Ponieważ zaprojektowaliśmy system w ten sposób, kiedy Covid przyszedł i złamał wiele innych modeli, nasz dostosował się szybko do zmian i nigdy nie musiał być odbudowany. Jest to drugi i najważniejszy aspekt AI ukierunkowanego na człowieka, projektowanie systemów od samego początku, aby uwzględnić złożoności współczesnego życia.

To tworzy zaufanie i system, który rośnie z organizacją i użytkownikiem.

Co sprawia, że Vianai jest następną generacją platformy AI?

Chociaż jest wiele dyskusji na temat ryzyka, regulacji i obietnicy AI, niewielu szukało tego, co uważamy za rozwiązanie — pojęcia AI ukierunkowanego na człowieka.

Nasza platforma jest zatem gotowa do problemów, które pojawią się, gdy AI stanie się bardziej realne w przedsiębiorstwie. Jest to rozwiązanie problemów związanych z zaufaniem, uprzedzeniami i przejrzystością. Umożliwia firmom skalowanie AI z monitorowaniem i optymalizacją. I umożliwia użytkownikom nie-tech, aby wykorzystać AI za pomocą naszych aplikacji.

Co są niektóre z wyzwań związanych z budową platformy, która dramatycznie upraszcza doświadczenie AI dla przedsiębiorstw?

Największymi wyzwaniami, które widzimy w firmach włączających AI, są talent, narzędzia i technologia. Po pierwsze, talent tendencję do koncentrowania się w kilku miejscach, szczególnie w większych firmach technologicznych. To sprawia, że jest bardzo trudno dla zespołów spoza, aby uczestniczyć w nadzorze, zarządzaniu i kształtowaniu programu AI i może stworzyć jeszcze więcej uprzedzeń, ponieważ tylko ograniczona liczba członków zespołu pracuje nad operacjami.

Technologia i narzędzia mogą również być wyzwaniem w upraszczaniu AI. Obecnie, zarówno technologia, jak i narzędzia są ograniczone. Chipy do uruchomienia AI są rzadkie i bardzo drogie, a narzędzia są zablokowane u pewnych dostawców, co redukuje swobodę poprawy kosztów, jednocześnie rozszerzając wartość. Niezależnie od tego, gdzie firma może być w swojej podróży z AI, te wyzwania mogą sprawić, że wdrożenie przydatnego i etycznego AI będzie wyzwaniem, ponieważ tworzy rozłączoną, fragmentowaną strategię i usuwa narzędzia niezbędne do wykonania odpowiednich funkcji. Organizacje muszą być w stanie wspierać wszystkie obszary AI, od wdrożenia do utrzymania, i muszą mieć wsparcie zespołu, aby to osiągnąć.

Dla prawdziwego sukcesu, stwierdziłem, że możliwości platformy muszą być całkowicie otwarte, modułowe, elastyczne i niezależne od drogich uaktualnień sprzętu i oprogramowania. I z podejściem ukierunkowanym na człowieka, ludzie są w stanie przynieść wiedzę, kontekst, doświadczenia i kreatywność do rozwiązywania problemów — jest to wzmocnione przez platformę AI, a nie zastąpione.

Czy jest coś jeszcze, co chciałbyś podzielić się o Vianai?

W wielu ways, żyjemy w czasach AI. Istnieje wiele haseł i dyskusji wokół AI, co generalnie jest dobrą rzeczą. Widzimy wiele postępów i szersze przyjęcie niż w przeszłości w obszarach takich jak Generative AI i innych. Jednak powinniśmy również pracować nad rozpoznaniem ograniczeń AI — rzeczywistości techniki AI dzisiaj, a także rzeczywistości rzadkości ekspertyzy w AI i braku zaufania do AI, szczególnie w przedsiębiorstwach. Jeśli możemy ukształtować AI jako wzmocnienie naszego życia, społeczeństwa, naszej pracy, naszego potencjału i mieć niezbędny nadzór nad AI, aby to zagwarantować, wtedy wierzę, że w końcu zobaczymy, jak AI staje się żywe w znaczący i transformacyjny sposób.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Vianai.