Dr. Vishal Sikka, zakladatel a CEO společnosti Vianai – Interview Series

Vishal Sikka je zakladatel a CEO společnosti Vianai, bývalý CTO společnosti SAP AG a bývalý CEO společnosti Infosys. V současné době také působí v dozorčí radě společnosti Oracle, ve správní radě společnosti BMW Group a jako poradce Stanford Institute of Human-Centered AI.

Platforma Vianai kombinuje otevřené zdrojové kódy, vlastnické techniky a optimalizace společnosti Vianai a human-centered design, aby přinesla umělou inteligenci do podniků ve velkém měřítku, napříč různými krajinnami. S platformou mohou velké organizace vytvářet, optimalizovat, nasazovat a spravovat sofistikované modely strojového učení na stávající infrastruktuře a zlepšovat provoz a výkon modelů strojového učení napříč celou společností.

Co vás původně přitáhlo k strojovému učení?

Zajímal jsem se o umělou inteligenci jako teenager, když jsem četl Marvin Minskyho úvahy o našich myslích jako společnostech jednoduchých agentů a dozvěděl se o Joe Weizenbaumově Elize (velmi raném chatbotu) a John McCarthyho kritice. Později jsem měl tu čest mít McCarthyho jako předsedu mého kvalifikačního zkouškového výboru na Stanfordu. McCarthy a Minsky byli dva otcové oboru umělé inteligence a oba měli hluboké znalosti o silách i omezeních umělé inteligence, a já jsem měl štěstí, že jsem mohl studovat u obou.

Dnes můžeme stále vidět, že umělá inteligence má velký potenciál, a zároveň má významná omezení. Stejné výzvy, se kterými jsme se potýkali před 30 lety, jsou stále zřejmé dnes, zejména když se díváme na umělou inteligenci v podniku. Byl jsem inspirován prací jako student, abych viděl, zda lze nějakým způsobem odemknout hodnotu umělé inteligence, a stále jsem vášnivě zapálen pro ni.

V minulosti jste napsal některé instrumentální články, který článek si myslíte, že byl nejvíce instrumentální při vývoji vašeho pohledu na umělou inteligenci?

Jako student jsem musel přečíst několik tisíc článků. McCarthyho prorocké články o “Advice Taker”, o některých klíčových filozofických problémech umělé inteligence, Marvinovy články o mysli jako společnosti, o spojení connectionistického (založeného na neuronových sítích) a symbolického přístupu k umělé inteligenci, Judea Pearlův články o pravděpodobnostním uvažování a kauzální inteligenci a články Davida Marra (o vidění), Pat Winston (o učení popisů objektů z příkladů), Waldingerovy práce o syntéze programů a mnoho dalších utvořilo můj pohled. Nedávno jsem četl práce Hinton, Lecun, pozornost lidí, stejně jako práce Cynthia Rudin, Fernanda Viegas a dalších.

Rozhodl jste se, že vývojářský zážitek ze sestavení systému umělé inteligence je fragmentovaný a rozbitý, co jsou některé z aktuálních problémů za stavbou systému umělé inteligence?

Systémy umělé inteligence dnes mohou být vysvětleny pouze relativně malým počtem lidí — statistiky se liší, ale zdá se, že jich může být opravdu pouze asi 20-30 000 na světě, kteří rozumějí skutečným metodám, jak systémy umělé inteligence fungují. To je výrazně méně než 52 000 lidí, které odhadujeme jako odborníky na MLOps, nebo 1 milion, které odhadujeme jako datové vědce. Mnozí z nich nemohou říci, proč systém dělá to, co dělá, proč dělá ta doporučení, která dělá, nebo co by mohlo selhat, nebo jak fungují základní techniky.

To postavte proti pozadí velice komplexní krajiny. Existuje přes 300 dodavatelů MLOps, které Gartner sleduje v kteroukoli dobu. Každý z nich má specializovanou nabídku. Velcí cloudoví dodavatelé na druhé straně mají svou vlastní verzi všeho a často se snaží uzamknout společnosti do svých ekosystémů a infrastruktury.

Pak je samo výpočet často příliš drahé pro společnosti, aby skutečně postavily a trénovaly některé z nej pokročilejších modelů dostupných. Ty jsou ponechány několika společnostem, které mají talent a zdroje potřebné k řízení požadavků systému umělé inteligence.

Nedostatek porozumění, složitost nástrojů a náklady na výpočet se kombinují, aby vytvořily nesourodou a náročnou krajinu pro jakoukoli společnost, která se snaží být zdatná v umělé inteligenci. Ve Vianai budujeme metody, aby byla umělá inteligence snazší na použití a snazší na pochopení a pozorování, zatímco výrazně snižujeme zdroje a náklady spojené s dosažením nejlepšího výkonu.

Můžete sdílet příběh o vzniku Vianai?

Strávil jsem mnoho let prací na přinášení nových, disruptivních inovací do podniků. Moje týmy a já postavili několik produktů, které dosáhly desítek tisíc podniků a byly považovány za průlomové. Také jsem vedl dvě fundamentální transformace v mých dvou cestách předtím, než jsem založil Vianai, a účastnil se transformací ve stovkách podniků. K tomu jsem přidal své mnoho let studia umělé inteligence a soustředění se na to, jak udělat umělou inteligenci lepší, relevantnější a ve službách lidstva.

V somewhat neobvyklém způsobem – tyto věci se spojily. Byl jsem na dovolené se svou rodinou v jihovýchodní Asii [koncem roku 2018]. Nakupovali jsme na malém trhu, a prodávající měl krásné, ručně vyrobené šperky. Byly vyrobeny z tradičních technik a místních kamenů, a byly úžasné, ale, samozřejmě, nikdo mimo tohoto malého města o nich neslyšel. A já jsem měl tuto otázku, která mi přišla na mysl, “Co kdyby tento prodávající mohl použít umělou inteligenci? Jak by to vypadalo? Jak by systémy měly fungovat?” V tu chvíli mi to došlo, že každý podnik na světě bude transformován umělou inteligencí, a že tato transformace nemůže být pohledána skrze čočky včerejška, ale potřebuje produkty a nápady, které musí začít z čistého listu.

O měsíc později jsem založil Vianai s misí přinést skutečnou, human-centered umělou inteligenci do podniků celého světa. To znamená poskytovat produkty a služby, aplikace a technologie, nástroje, které umožňují obchodním uživatelům, datovým vědcům, inženýrům strojového učení a dokonce i prodávajícím v odlehlých částech světa skutečně využít výhody umělé inteligence.

Od té doby jsme vytvořili aplikace, které pomáhají podnikům začít s umělou inteligencí, platformu, která pomáhá praktikům strojového učení spravovat a monitorovat své modely umělé inteligence, a optimalizační techniky, které umožňují více společnostem přístup k umělé inteligenci.

Prostřednictvím všeho jsme zjistili, že významný potenciál spojení moci lidského porozumění, úsudku a spolupráce s daty a nejlepšími technikami umělé inteligence zůstává nevyužitý. Na základě naší práce s předními podniky jsem viděl, že stejné techniky, které by pomohly malému prodávajícímu, by pomohly i největším podnikům na světě.

Vianai je vše o human-centered AI, můžete definovat, co to je a proč je důležité?

Human-centered AI je umělá inteligence, která se snaží zesílit lidskou práci a zlepšit lidský úsudek. Strojové učení je často považováno za náhradu lidské práce. Ale umělá inteligence je doplňkem lidské práce — nabízí škálu a opakovatelnost a přesnost, které lidé nemohou replikovat. Ale umělá inteligence nemůže replikovat lidský úsudek, lidské zkušenosti nebo naše porozumění kontextu.

Existují zřejmé příklady toho, jako například, když umělá inteligence omylem vezme želvu za pušku, ale mnohem častěji důvěřujeme umělé inteligenci, když se ještě neprokázala jako důvěryhodná. Slavný příběh pochází z před deseti lety, kdy umělá inteligence jedné firmy byla povolena obchodovat bez lidského zásahu. Algoritmus ztratil 440 milionů dolarů za méně než hodinu.

Pro nedávný příklad, pokročilé jazykové modely zůstávají relativně snadno zmatené nebo zkreslené. Generátory textu a obrazu jsou potenciálně mocné, ale vyžadují velmi specifické příkazy od lidského uživatele, aby dosáhly plného potenciálu.

Human-centered AI je tedy druh zaměření v návrhu našich produktů. Přinášíme sílu lidského porozumění – jako úsudek a spolupráci – spolu s nejlepšími daty a technikami umělé inteligence, abychom vytvořili inteligentní systémy, které mohou výrazně zlepšit obchodní výsledky a procesy.

Můžete vysvětlit potřebu zpětné vazby mezi lidmi a umělou inteligencí?

Existuje celá větev umělé inteligence nazvaná “human in the loop“, která se spoléhá na zpětnou vazbu mechanismů lidí, aby přirozeně zlepšila výkon umělé inteligence. To je přirozené a má smysl pro jakýkoli systém.

Systémy umělé inteligence mohou zlepšit svůj výkon över čas, prostřednictvím opětovného trénování, které zahrnuje jakékoliv akce, které uživatel provedl. To je, samozřejmě, část našich aplikací. Dejme příklad.

Před Covidem jsme pracovali s velkou finanční službou na předpovědi poptávky. Protože jsme navrhli systém, když Covid přišel a rozbil mnoho jiných modelů, náš se rychle přizpůsobil změnám a nikdy nemusel být přestavěn. To je druhý a nejdůležitější aspekt human-centered AI, návrh systémů od začátku, aby zahrnoval složitosti moderního života.

To vytváří důvěru a systém, který roste s organizací a uživatelem.

Co dělá Vianai platformou nové generace?

Zatímco existuje mnoho diskusí o riziku, regulaci a slibu umělé inteligence, málokdo hledá řešení — koncept human-centered AI.

Naše platforma je připravena na problémy, které přijdou, když se umělá inteligence stane více reálnou v podniku. Je to řešit problémy kolem důvěry, zkreslení a transparentnosti. Umožňuje společnostem škálovat umělou inteligenci s monitorováním a optimalizací. A umožňuje netechnickým uživatelům využívat umělou inteligenci prostřednictvím našich aplikací.

Jaké jsou některé z výzev za stavbou platformy, která dramaticky zjednodušuje zkušenost s podnikovou umělou inteligencí?

Největší výzvy, které vidíme v podnikových společnostech, jsou talent, nástroje a technologie. První, talent tenduje být koncentrován v několika místech, zejména ve větších technologických společnostech. To dělá to velmi těžké pro vnější týmy, aby se účastnili dohledu, řízení a utváření programu umělé inteligence a může vytvořit ještě více zkreslení, protože pouze omezený počet týmů pracuje na operacích.

Technologie a nástroje mohou být také výzvou při zjednodušování umělé inteligence. V současné době jsou technologie a nástroje omezené. Čipy pro běh umělé inteligence jsou vzácné a velmi drahé, a nástroje jsou uzamčeny do určitých dodavatelů, což snižuje svobodu zlepšit náklady, zatímco rozšiřuje hodnotu. Bez ohledu na to, kde společnost je v její cestě podnikové umělé inteligence, tyto výzvy mohou udělat implementaci užitečné a etické umělé inteligence náročnou, protože vytváří nesourodou a fragmentovanou strategii a odstraňuje nástroje nezbytné k provedení správných funkcí. Organizace potřebují být schopny podporovat všechny oblasti umělé inteligence od implementace po údržbu a mít týmovou podporu a nabízet vstup, aby to byl úspěch.

Pro skutečný úspěch jsem zjistil, že platformové schopnosti potřebují být úplně otevřené, modulární, flexibilní a nezávislé na drahých hardware a software upgradech. A s human-centered přístupem, lidé jsou stále schopni přinést znalosti, kontext, zkušenosti a kreativitu k řešení problémů — toto je pak zesíleno platformou umělé inteligence, ne nahrazeno.

Je něco jiného, co byste rádi sdíleli o Vianai?

V mnoha ohledech žijeme v časech umělé inteligence. Existuje mnoho hype a diskusí o umělé inteligenci, což je celkově dobrá věc. Vidíme mnoho pokroků a širší přijetí než v minulosti v oblastech, jako je generativní umělá inteligence a další oblasti. Nicméně bychom také měli pracovat na rozpoznání omezení umělé inteligence — realitách technologie umělé inteligence dnes, stejně jako realitách nedostatku odbornosti v umělé inteligenci a nedostatku důvěry v umělou inteligenci, zejména v podnikových společnostech. Pokud můžeme rámcovat umělou inteligenci jako zesilovač našich životů, společnosti, naší práce, našeho potenciálu a mít nezbytný dohled nad umělou inteligencí, abychom zajistili toto, pak jsem přesvědčen, že konečně uvidíme, jak se to stane skutečným a transformačním způsobem.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Vianai.