Dr. Vishal Sikka, Oprichter & CEO van Vianai – Interviewreeks

Vishal Sikka is de oprichter en CEO van Vianai, voormalig CTO van SAP AG en voormalig CEO van Infosys. Hij maakt momenteel ook deel uit van de raad van bestuur van Oracle, de raad van toezicht van de BMW Group en fungeert als adviseur van het Stanford Institute of Human-Centered AI.

Het Vianai-platform combineert open-source-elementen, Vianai-eigentechnieken en -optimalisaties, en human-centered design om AI naar het bedrijfsleven te brengen op grote schaal, over uiteenlopende landschappen. Met het platform kunnen grote organisaties geavanceerde ML-modellen bouwen, optimaliseren, implementeren en beheren op bestaande infrastructuur en de bedrijfsvoering en prestaties van ML-modellen in het hele bedrijf verbeteren.

Wat trok je aanvankelijk aan tot machine learning?

Ik raakte geïnteresseerd in AI als tiener, toen ik Marvin Minsky’s overpeinzingen over onze geesten als samenlevingen van eenvoudige agenten las, en leerde over Joe Weizenbaum’s Eliza (een heel vroeg chatbot) en John McCarthy’s kritiek daarop. Later had ik het voorrecht om McCarthy als voorzitter van mijn AI-kwalificatie-examencie bij Stanford te hebben. McCarthy en Minsky waren de twee grondleggers van het vakgebied van kunstmatige intelligentie, en beiden hadden diepe inzichten in de mogelijkheden en beperkingen ervan, en ik was gelukkig genoeg om met beiden te studeren.

We kunnen vandaag nog steeds zien dat AI een groot potentieel heeft, en tegelijkertijd significante beperkingen. Dezelfde uitdagingen waarmee we 30 jaar geleden worstelden, zijn nog steeds zichtbaar vandaag, vooral als we naar AI in het bedrijfsleven kijken. Ik werd geïnspireerd door het werk als student, om te zien of de waarde van AI op de een of andere manier kon worden ontsloten, en ik ben nog steeds gepassioneerd over het onderwerp.

Je hebt eerder enkele instrumentale papers geschreven, welke paper denk je dat het meest instrumentaal was in het ontwikkelen van je visie op AI?

Als student moet ik wel enkele duizenden papers hebben gelezen. McCarthy’s profetische papers over een “Advice Taker”, over enkele belangrijke filosofische problemen van AI, Marvin’s papers over de geest als een samenleving, over het combineren van de connectionistische (neuraal netwerk-gebaseerde) en symbolische benaderingen van AI, Judea Pearl’s papers over probabilistische redenering en causale intelligentie, en papers van David Marr (over visie), Pat Winston (over het leren van beschrijvingen van objecten uit voorbeelden), Waldinger’s werk over programsynthese, en vele anderen vormden mijn visie. Onlangs heb ik werken van Hinton, Lecun, de aandacht-folks, evenals de werken van Cynthia Rudin, Fernanda Viegas, en anderen gelezen.

Je hebt verklaard dat de ontwikkelaarservaring van het bouwen van een AI-systeem gefragmenteerd en kapot is, wat zijn enkele van de huidige problemen achter het bouwen van een AI-systeem?

AI-systemen kunnen vandaag alleen worden uitgelegd door een relatief klein aantal mensen — statistieken variëren, maar het lijkt erop dat er misschien maar ongeveer 20-30.000 in de wereld zijn die de echte methoden van hoe AI-systemen werken begrijpen. Dit is veel kleiner dan de 52.000 of zo mensen die we schatten MLOps-professionals zijn, of de 1 miljoen die we schatten datawetenschappers zijn. Velen van hen konden je niet vertellen waarom het systeem doet wat het doet, waarom het de aanbevelingen doet die het doet of wat er mis kan gaan, of hoe de onderliggende technieken werken.

Zet dit tegen de achtergrond van een enorm complex landschap. Er zijn meer dan 300 MLOps-leveranciers die Gartner op elk moment volgt. Elk van deze heeft een gespecialiseerd aanbod. De grote cloud-leveranciers hebben hun eigen smaak van alles, en proberen vaak bedrijven te laten kiezen voor hun ecosysteem en infrastructuur.

Dan is de compute zelf vaak te duur voor bedrijven om echt geavanceerde modellen te bouwen en te trainen. Die zijn voorbehouden aan een paar bedrijven die het talent en de middelen hebben om de eisen van een AI-systeem te beheren.

Het gebrek aan begrip, de complexiteit van de tooling en de kosten van de compute combineren om een ongeordend en uitdagend landschap te creëren voor elk bedrijf dat AI-vaardig wil zijn. Bij Vianai bouwen we methoden om AI gemakkelijker te maken en gemakkelijker te begrijpen en te observeren, terwijl we de middelen en kosten die nodig zijn om de beste prestaties te behalen, aanzienlijk verminderen.

Kunt u het ontstaansverhaal achter Vianai delen?

Ik heb vele jaren gewerkt aan het brengen van nieuwe, doorbraakinnovaties naar bedrijven. Mijn teams en ik hebben verschillende producten gebouwd die bij tienduizenden bedrijven zijn gebruikt en als doorbraak werden beschouwd. Ik heb ook twee fundamentele transformaties in mijn twee eerdere reizen geleid en heb deelgenomen aan transformaties bij honderden bedrijven. Daarbij kwam mijn vele jaren studeren naar AI en me focussen op hoe AI beter, relevanter en in dienst van de mensheid kon worden gemaakt.

Op een vrij ongebruikelijke manier — deze dingen kwamen samen. Ik was met mijn gezin op vakantie in Zuidoost-Azië [in het najaar van 2018]. We waren aan het winkelen in een kleine markt, en de verkoper had prachtige, met de hand gemaakte sieraden. Het was gemaakt met traditionele technieken en lokale stenen, en het was adembenemend, maar, natuurlijk, had niemand buiten deze kleine stad er ooit van gehoord. En ik had deze vraag in mijn hoofd, “Wat als deze verkoper AI kon gebruiken? Wat zou dat eruit zien? Hoe zouden de systemen moeten werken?” Op dat moment besefte ik dat elk bedrijf in de wereld getransformeerd zou worden met AI, en dat deze transformatie niet kon worden bekeken met de lenzen van gisteren, maar nodig had producten en ideeën die van een blanco vel moesten beginnen.

Ongeveer een maand later richtte ik Vianai op met de missie om echte, human-centered AI naar bedrijven over de hele wereld te brengen. Dit betekent het bieden van producten en diensten, toepassingen en technologieën, tools die bedrijfsgebruikers, datawetenschappers, ML-engineers en zelfs verkopers in afgelegen delen van de wereld in staat stellen om echt te profiteren van AI.

Sindsdien hebben we toepassingen gemaakt om bedrijven te helpen bij het starten van AI, een platform om ML-praktijkmensen te helpen bij het beheren en monitoren van hun AI-modellen, en optimalisatietechnieken om meer bedrijven toegang te geven tot AI.

Door alles heen hebben we ontdekt dat het significante potentieel van het combineren van de kracht van human understanding, oordeel en samenwerking met data en de beste AI-technieken nog steeds onbenut blijft. Op basis van ons werk met toonaangevende bedrijven, zag ik dat dezelfde technieken die de kleine verkoper zouden helpen, ook de grootste ondernemingen in de wereld zouden helpen.

Vianai draait helemaal om human-centered AI, kunt u uitleggen wat dit is en waarom het belangrijk is?

Human-centered AI is AI die ertoe strekt menselijk werk te versterken en menselijk oordeel te verbeteren. Machine learning wordt veel te vaak gezien als een vervanging voor menselijke arbeid. Maar AI is complementair aan mensen — het biedt schaal en herhaalbaarheid en precisie die mensen niet kunnen repliceren. Maar AI kan niet repliceren menselijk oordeel, menselijke ervaringen of ons begrip van context.

Er zijn voorbeelden van dit, van AI die een schildpad voor een geweer aanziet, maar veel vaker vertrouwen we te veel op AI als het nog niet heeft bewezen dat het betrouwbaar is. Een berucht verhaal komt uit een decennium geleden, toen de AI van een bedrijf zonder menselijke tussenkomst mocht handelen. Het algoritme verloor $440 miljoen in minder dan een uur.

Voor een recent voorbeeld blijven state-of-the-art taalmodellen relatief gemakkelijk te verwarren of te bevooroordeeld. Tekst-naar-afbeelding-generatoren zijn potentieel krachtig, maar vereisen zeer specifieke opdrachten van een menselijke gebruiker om hun volledige potentieel te benutten.

Human-centered AI is dan ook een soort focus in het ontwerp van onze producten. We brengen de kracht van human understanding – zoals oordeel en samenwerking – samen met de beste data en AI-technieken, om intelligente systemen te creëren die bedrijfsresultaten en processen aanzienlijk kunnen verbeteren.

Kunt u uitleggen waarom een feedbacklus achter mensen en AI nodig is?

Er is een hele tak van AI die “human in the loop” heet en die afhankelijk is van de feedbackmechanismen van mensen om de prestaties van de AI natuurlijk te verbeteren. Dit is natuurlijk en heeft zin voor elk systeem.

AI-systemen kunnen in de loop van de tijd verbeteren, door opnieuw te trainen, wat alle acties die de gebruiker nam, incorporeert. Dit is, natuurlijk, een deel van onze toepassingen. Laat me een voorbeeld geven.

Voor Covid werkten we met een groot financieel dienstverleningsbedrijf aan vraagvoorspelling. Omdat we het systeem zo ontworpen hadden, paste het zich snel aan de veranderingen aan toen Covid kwam en brak veel andere modellen, en hoefde het nooit opnieuw te worden opgebouwd. Dit is het tweede en belangrijkste aspect van human-centered AI, het ontwerpen van systemen vanaf het begin om de complexiteiten van het moderne leven te incorporeren.

Dit creëert vertrouwen en een systeem dat met de organisatie en gebruiker groeit.

Wat maakt Vianai een next-generation AI-platform?

Terwijl er veel discussie is over risico, regelgeving en de belofte van AI, hebben weinigen gezocht naar wat we de oplossing vinden — het concept van human-centered AI.

Ons platform is dan ook klaar voor de problemen die zullen komen als AI meer realiteit wordt in het bedrijfsleven. Het is om problemen aan te pakken rond vertrouwen, vooroordelen en transparantie. Het stelt bedrijven in staat om AI te schalen met monitoring en optimalisatie. En het stelt niet-technische gebruikers in staat om AI te benutten via onze toepassingen.

Wat zijn enkele van de uitdagingen achter het bouwen van een platform dat de ervaring voor enterprise AI aanzienlijk stroomlijnt?

De grootste uitdagingen die we zien in het integreren van AI in bedrijven zijn talent, tools en technologie. Ten eerste is talent geconcentreerd in een paar plaatsen, vooral in grotere technologiebedrijven. Dit maakt het voor teamleden buiten het bedrijf moeilijk om deel te nemen aan de toezicht, governance en vormgeving van het AI-programma en kan zelfs meer vooroordelen creëren, omdat alleen een beperkt aantal teamleden werkt aan de operaties.

Technologie en tools kunnen ook een uitdaging zijn bij het stroomlijnen van AI. Op dit moment zijn zowel technologie als tools beperkt. Chips om AI te draaien zijn schaars en erg duur, en tools zijn vastgebonden aan bepaalde leveranciers, wat de vrijheid om kosten te verlagen en waarde uit te breiden, beperkt. Ongeacht waar een bedrijf zich in zijn enterprise AI-reis bevindt, kunnen deze uitdagingen het implementeren van bruikbare en ethische AI moeilijk maken, omdat ze een ongeordend, gefragmenteerd strategie creëren en de tools verwijderen die nodig zijn om de juiste functies uit te voeren. Organisaties moeten in staat zijn om alle gebieden van AI te ondersteunen, van implementatie tot onderhoud, en teamondersteuning en input bieden om het een succes te maken.

Voor echt succes heb ik gevonden dat platformmogelijkheden volledig open, modulair, flexibel en niet afhankelijk van dure hardware- en software-upgrades moeten zijn. En met een human-centered benadering kunnen mensen nog steeds hun kennis, context, ervaringen en creativiteit inzetten om problemen op te lossen — dit wordt dan versterkt door het AI-platform, niet vervangen.

Is er nog iets anders dat u over Vianai wilt delen?

Op veel manieren leven we in de tijd van AI. Er is veel hype en discussie over AI, wat over het algemeen een goede zaak is. We zien veel vooruitgang en een bredere adoptie dan in het verleden in gebieden zoals generatieve AI en andere gebieden. Echter, we moeten ook werken aan het erkennen van de beperkingen van AI — de realiteiten van AI-technologie vandaag, evenals de realiteiten van de schaarste aan expertise in AI en het gebrek aan vertrouwen in AI, vooral in bedrijven. Als we AI kunnen zien als een versterking van ons leven, onze samenleving, ons werk, ons potentieel, en als we de nodige toezicht op AI hebben om dit te waarborgen, dan geloof ik dat we uiteindelijk zullen zien dat het op een betekenisvolle en transformatieve manier tot leven komt.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten bezoeken Vianai.