Dr. Vishal Sikka, Oprichter & CEO van Vianai – Interview Serie

Vishal Sikka is de oprichter en CEO van Vianai, voormalig CTO van SAP AG en voormalig CEO van Infosys. Hij zit momenteel ook in de raad van bestuur van Oracle , de supervisory board van de BMW Group en als adviseur van het Stanford Institute of Human-Centered AI.

Het Vianai-platform combineert open-source-elementen, Vianai-eigen technieken en optimalisaties, en human-centered design om AI naar het bedrijfsleven te brengen op grote schaal, over diverse landschappen. Met het platform kunnen grote organisaties geavanceerde ML-modellen bouwen, optimaliseren, implementeren en beheren op bestaande infrastructuur en de operaties en prestaties van ML-modellen verbeteren in het hele bedrijf,

Wat trok je aanvankelijk aan tot machine learning?

Ik raakte geïnteresseerd in AI als tiener, toen ik Marvin Minsky’s overpeinzingen over onze geesten als samenlevingen van eenvoudige agenten las, en leerde over Joe Weizenbaum’s Eliza (een heel vroege chatbot) en John McCarthy’s kritiek daarop. Later had ik de eer om McCarthy als voorzitter van mijn AI-kwalificatie-examencie te hebben aan Stanford. McCarthy en Minsky waren de twee vaders van het veld van Artificial Intelligence, en beiden hadden diepe inzichten in de krachten en beperkingen ervan, en ik was gelukkig genoeg om met beiden te studeren.

We kunnen vandaag nog zien dat AI een groot potentieel heeft, en tegelijkertijd significante beperkingen. Dezelfde uitdagingen waar we 30 jaar geleden mee worstelden, zijn nog steeds zichtbaar vandaag, vooral als we naar AI in het bedrijfsleven kijken. Ik werd geïnspireerd door het werk als student, om te zien of de waarde van AI op de een of andere manier kon worden ontsloten, en ik ben nog steeds gepassioneerd over het onderwerp.

Je hebt eerder enkele instrumentale papers geschreven, welke paper denk je dat het meest instrumentaal was in het ontwikkelen van je visie op AI?

Als student moet ik verschillende duizenden papers hebben gelezen. McCarthy’s profetische papers over een “Advice Taker”, over enkele sleutelproblemen van AI, Marvin’s papers over de geest als een samenleving, over het samenbrengen van de connectionistische (neuronale netwerk-gebaseerde) en symbolische benaderingen van AI, Judea Pearl’s papers over probabilistische redenering en causale intelligentie, en papers van David Marr (over visie), Pat Winston (over het leren van beschrijvingen van objecten uit voorbeelden), Waldinger’s werk over programma-synthese, en vele anderen vormden mijn visie. Onlangs heb ik werken van Hinton, Lecun, de aandacht-folks, evenals de werken van Cynthia Rudin, Fernanda Viegas, en anderen gelezen.

Je hebt verklaard dat de ontwikkelaarservaring van het bouwen van een AI-systeem gefragmenteerd en kapot is, wat zijn enkele van de huidige problemen achter het bouwen van een AI-systeem?

AI-systemen kunnen vandaag alleen worden uitgelegd door een relatief klein aantal mensen — statistieken variëren, maar het lijkt erop dat er misschien maar ongeveer 20-30.000 in de wereld zijn die de echte methoden van hoe AI-systemen werken begrijpen. Dit is veel kleiner dan de 52.000 of zo mensen die we schatten dat MLOps-professionals zijn, of de 1 miljoen die we schatten dat data scientists zijn. Velen van hen konden je niet vertellen waarom het systeem doet wat het doet, waarom het de aanbevelingen doet die het doet of wat mogelijk mis kan gaan, of hoe de onderliggende technieken werken.

Zet dit tegen de achtergrond van een enorm complex landschap. Er zijn meer dan 300 MLOps-vendors die Gartner op elk moment volgt. Elk van deze heeft een gespecialiseerd aanbod. De grote cloud-vendors hebben hun eigen smaak van alles, en zoeken vaak bedrijven te laten vastlopen in hun ecosysteemen en infrastructuur.

Daarnaast is de compute zelf vaak te duur voor bedrijven om echt geavanceerde modellen te bouwen en te trainen. Die zijn overgelaten aan een paar bedrijven die het talent en de middelen hebben om een AI-systeem te beheren.

Het gebrek aan begrip, de complexiteit van de tooling en de kosten van de compute combineren om een disjunct en uitdagend landschap te creëren voor elk bedrijf dat AI-vaardig wil zijn. Bij Vianai bouwen we methoden om AI gemakkelijker te maken en gemakkelijker te begrijpen en te observeren, terwijl we de middelen en kosten die nodig zijn om de beste prestaties te behalen, aanzienlijk verlagen.

Kun je het verhaal achter Vianai delen?

Ik heb vele jaren gewerkt aan het brengen van nieuwe, disruptieve innovaties naar bedrijven. Mijn teams en ik hebben verschillende producten gebouwd die tientallen duizenden bedrijven hebben bereikt en als doorbraken werden beschouwd. Ik heb ook twee fundamentele transformaties geleid in mijn twee reizen voorafgaand aan het starten van Vianai en heb deelgenomen aan transformaties bij honderden bedrijven. Daarbij kwam mijn vele jaren studeren van AI en focussen op hoe AI beter, relevanter en in dienst van de mensheid kon worden gemaakt.

Op een vrij ongebruikelijke manier – deze dingen kwamen samen. Ik was op vakantie met mijn gezin in Zuidoost-Azië [in het najaar van 2018]. We waren aan het winkelen in een kleine markt, en de verkoper had prachtige, met de hand gemaakte sieraden. Het was gemaakt met traditionele technieken en lokale stenen, en het was adembenemend, maar, natuurlijk, had niemand buiten deze kleine stad van hen gehoord. En ik had deze vraag in mijn hoofd, “Wat als deze verkoper AI kon gebruiken? Wat zou dat betekenen? Hoe zouden de systemen moeten werken?” Op dat moment besefte ik dat elk bedrijf in de wereld getransformeerd zou worden met AI, en dat deze transformatie niet kon worden bekeken met de lenzen van gisteren, maar nodig had producten en ideeën die van een blanco slate moesten beginnen.

Ongeveer een maand later richtte ik Vianai op met de missie om echte, human-centered AI naar bedrijven over de hele wereld te brengen. Dit betekent het bieden van producten en diensten, applicaties en technologieën, tools die bedrijfsgebruikers, data scientists, ML-engineers en zelfs verkopers in afgelegen delen van de wereld in staat stellen om echt de voordelen van AI te plukken.

Sindsdien hebben we applicaties gemaakt om bedrijven te helpen AI te starten, een platform om ML-practitioners te helpen hun AI-modellen te beheren en te monitoren, en optimalisatietechnieken om meer bedrijven toegang te geven tot AI.

Door alles heen hebben we ontdekt dat het significante potentieel van het samenbrengen van de kracht van menselijk begrip, oordeel en samenwerking met data en de beste AI-technieken nog steeds onbenut blijft. Op basis van ons werk met toonaangevende bedrijven zag ik dat dezelfde technieken die de kleine verkoper zouden helpen, ook de grootste bedrijven ter wereld zouden helpen.

Vianai draait om human-centered AI, kun je definiëren wat dit is en waarom het belangrijk is?

Human-centered AI is AI die zoekt om menselijk werk te versterken en menselijk oordeel te verbeteren. Machine learning wordt veel te vaak beschouwd als een vervanging voor menselijke arbeid. Maar AI is complementair aan mensen — het biedt schaal en herhaalbaarheid en precisie die mensen niet kunnen repliceren. Maar AI kan niet repliceren menselijk oordeel, menselijke ervaringen of ons begrip van context.

Er zijn voorbeelden van dit, van AI die een schildpad voor een geweer aanziet, maar vaker plaatsen we te veel vertrouwen in AI wanneer het zich nog niet heeft bewezen als betrouwbaar. Een berucht verhaal komt uit een decennium geleden, toen een bedrijf zijn AI toestond om zonder menselijke interventie te handelen. De algoritme verloor $440 miljoen in minder dan een uur.

Human-centered AI, dan, is een soort focus in het ontwerp van onze producten. We brengen de kracht van menselijk begrip – zoals oordeel en samenwerking – samen met de beste data en AI-technieken, om intelligente systemen te creëren die bedrijfsresultaten en processen aanzienlijk kunnen verbeteren.

Kun je de noodzaak van een feedbacklus achter mensen en AI uitleggen?

Er is een hele tak van AI genaamd “human in the loop” die afhankelijk is van de feedbackmechanismen van mensen om de prestaties van de AI natuurlijk te verbeteren. Dit is natuurlijk en maakt sense voor elk systeem.

AI-systemen kunnen over tijd verbeteren, door opnieuw te trainen, wat alle acties van de gebruiker incorporeert. Dit is, natuurlijk, een deel van onze applicaties. Laat me een voorbeeld geven.

Voordat Covid, werkten we met een groot financieel dienstverleningsbedrijf aan vraagvoorspelling. Omdat we het systeem zo hebben ontworpen, paste het zich snel aan de veranderingen aan toen Covid kwam en brak veel andere modellen. Dit is het tweede en belangrijkste aspect van human-centered AI, het ontwerpen van systemen vanaf het begin om de complexiteiten van het moderne leven te incorporeren.

Dit creëert vertrouwen en een systeem dat groeit met de organisatie en de gebruiker.

Wat maakt Vianai een next-generation AI-platform?

Terwijl er veel discussie is over risico, regulering en de beloften van AI, hebben weinigen gezocht naar wat we de oplossing vinden — het concept van human-centered AI.

Ons platform is dan klaar voor de problemen die zullen komen als AI meer realiteit wordt in het bedrijfsleven. Het is om problemen aan te pakken rond vertrouwen, vooroordelen en transparantie. Het stelt bedrijven in staat om AI te schalen met monitoring en optimalisatie. En het stelt niet-technische gebruikers in staat om AI te benutten via onze applicaties.

Wat zijn enkele van de uitdagingen achter het bouwen van een platform dat de ervaring van enterprise AI aanzienlijk stroomlijnt?

De grootste uitdagingen die we zien in bedrijven die AI incorporeren, zijn talent, tools en technologie. Ten eerste is talent geconcentreerd in een paar plaatsen, vooral in grotere technologiebedrijven. Dit maakt het moeilijk voor buitenstaanders om deel te nemen aan de supervisie, governance en vorming van het AI-programma en kan nog meer vooroordelen creëren, omdat alleen een beperkt aantal teamleden werkt aan de operaties.

Technologie en tools kunnen ook een uitdaging zijn in het stroomlijnen van AI. Op dit moment zijn technologie en tools beperkt. Chips om AI te draaien zijn schaars en erg duur, en tools zijn vastgelopen in bepaalde vendors, wat de vrijheid om kosten te verlagen en waarde uit te breiden, beperkt. Ongeacht waar een bedrijf is in zijn enterprise AI-reis, kunnen deze uitdagingen het implementeren van bruikbare en ethische AI moeilijk maken, omdat ze een losgekoppeld, gefragmenteerd strategie creëren en de tools verwijderen die nodig zijn om de juiste functies uit te voeren. Organisaties moeten in staat zijn om alle gebieden van AI te ondersteunen, van implementatie tot onderhoud, en teamondersteuning en input bieden om het een succes te maken.

Om echt succesvol te zijn, heb ik ontdekt dat platformmogelijkheden volledig open, modulair, flexibel en niet afhankelijk van dure hardware- en software-upgrades moeten zijn. En met een human-centered benadering kunnen mensen nog steeds de kennis, context, ervaringen en creativiteit brengen om problemen op te lossen – dit wordt dan versterkt door het AI-platform, niet vervangen.

Is er nog iets anders dat je over Vianai wilt delen?

Op veel manieren leven we in de tijd van AI. Er is veel hype en discussie over AI, wat over het algemeen een goede zaak is. We zien veel vooruitgang en een bredere adoptie dan in het verleden in gebieden zoals Generative AI en andere gebieden. Echter, we moeten ook werken aan het erkennen van de beperkingen van AI – de realiteiten van AI-technologie vandaag, evenals de realiteiten van de schaarste van expertise in AI, en het gebrek aan vertrouwen in AI, vooral in bedrijven. Als we AI kunnen kaderen als een versterker van ons leven, onze samenleving, ons werk, ons potentieel, en de nodige toezicht op AI hebben om dit te garanderen, dan geloof ik dat we AI eindelijk zullen zien ontwaken in betekenisvolle en transformatieve manieren.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Vianai bezoeken.