Dr. Vishal Sikka, Gründer & CEO von Vianai – Interview-Serie

Vishal Sikka ist der Gründer und CEO von Vianai, ehemaliger CTO von SAP AG und ehemaliger CEO von Infosys. Er ist derzeit auch Mitglied des Board of Directors von Oracle, des Aufsichtsrats der BMW Group und Berater des Stanford Institute of Human-Centered AI.

Die Vianai-Plattform kombiniert Open-Source-Elemente, Vianai-eigene Techniken und Optimierungen sowie humanzentriertes Design, um KI in Unternehmen großflächig und über verschiedene Landschaften hinweg zu bringen. Mit der Plattform können große Organisationen komplexe ML-Modelle auf bestehender Infrastruktur erstellen, optimieren, bereitstellen und verwalten und die Betriebs- und Leistungseffizienz von ML-Modellen im gesamten Unternehmen verbessern.

Was hat Sie ursprünglich zur Maschinenlernen-Forschung hingezogen?

Ich wurde als Teenager auf KI aufmerksam, als ich Marvin Minskys Überlegungen über unsere Gehirne als Gesellschaften einfacher Agenten las und von Joe Weizenbaums Eliza (einem sehr frühen Chatbot) und John McCarthys Kritik daran erfuhr. Später hatte ich die Ehre, dass McCarthy meinen AI-Qualifizierungsprüfungsausschuss an der Stanford University leitete. McCarthy und Minsky waren die beiden Väter des Fachgebiets Künstliche Intelligenz, und beide hatten tiefere Einblicke in die Fähigkeiten sowie die Grenzen davon, und ich war glücklich, bei beiden studieren zu können.

Wir können auch heute noch sehen, dass KI großes Potenzial hat und gleichzeitig erhebliche Grenzen aufweist. Die gleichen Herausforderungen, mit denen wir vor 30 Jahren rangen, sind auch heute noch offensichtlich, insbesondere wenn wir KI im Unternehmen betrachten. Ich wurde durch die Arbeit als Student inspiriert, um zu sehen, ob der Wert von KI irgendwie entsperrt werden konnte, und ich bin weiterhin leidenschaftlich daran interessiert.

Sie haben zuvor einige einflussreiche Arbeiten verfasst. Welche Arbeit glauben Sie, war die einflussreichste für die Entwicklung Ihrer Ansichten über KI?

Als Student muss ich mehrere tausend Arbeiten gelesen haben. McCarthys prophetische Arbeiten über einen “Advice Taker”, über einige philosophische Probleme der KI, Marvin Minskys Arbeiten über das Gehirn als Gesellschaft, über die Verbindung von connectionistischen (neuralen Netzwerken) und symbolischen Ansätzen der KI, Judea Pearls Arbeiten über probabilistisches Denken und kausale Intelligenz und Arbeiten von David Marr (über Vision), Pat Winston (über das Lernen von Objektbeschreibungen aus Beispielen), Waldingers Arbeit über Programmsynthese und viele andere haben meine Ansichten geprägt. Kürzlich habe ich die Werke von Hinton, Lecun, den Aufmerksamkeitsforschern sowie die Arbeiten von Cynthia Rudin, Fernanda Viegas und anderen gelesen.

Sie haben erklärt, dass die Erfahrung der Entwickler beim Aufbau eines KI-Systems fragmentiert und gebrochen ist. Was sind einige der aktuellen Probleme beim Aufbau eines KI-Systems?

KI-Systeme können heute wirklich nur von einer relativ kleinen Anzahl von Menschen erklärt werden — die Statistiken variieren, aber es scheint, dass es tatsächlich nur etwa 20-30.000 auf der ganzen Welt gibt, die die wahren Methoden verstehen, wie KI-Systeme laufen. Dies ist erheblich geringer als die 52.000 oder so Menschen, die wir schätzen, die MLOps-Profis sind, oder die 1 Million, die wir schätzen, die Datenwissenschaftler sind. Viele von ihnen könnten Ihnen nicht erklären, warum das System das tut, was es tut, warum es die Empfehlungen gibt, die es gibt, oder was möglicherweise schiefgehen könnte oder wie die zugrunde liegenden Techniken funktionieren.

Stellen Sie dies vor dem Hintergrund einer extrem komplexen Landschaft. Es gibt über 300 MLOps-Anbieter, die Gartner zu jedem Zeitpunkt verfolgt. Jeder von ihnen hat ein spezielles Angebot. Die großen Cloud-Anbieter haben auf der anderen Seite ihre eigene Version von allem und versuchen oft, Unternehmen in ihre Ökosysteme und ihre Infrastruktur zu binden.

Dann ist der Compute selbst oft zu teuer für Unternehmen, um wirklich einige der fortschrittlichsten Modelle aufzubauen und zu trainieren, die verfügbar sind. Diese sind den wenigen Unternehmen vorbehalten, die das Talent und die Ressourcen haben, um die Anforderungen eines KI-Systems zu bewältigen.

Das mangelnde Verständnis, die Komplexität der Werkzeuge und die Kosten des Compute kombinieren sich zu einer fragmentierten und herausfordernden Landschaft für jedes Unternehmen, das KI-kompetent sein will. Bei Vianai bauen wir Methoden, um KI einfacher zu machen und einfacher zu verstehen und zu beobachten, während wir gleichzeitig die Ressourcen und Kosten reduzieren, die mit der Erzielung der besten Leistung verbunden sind.

Können Sie die Entstehungsgeschichte hinter Vianai teilen?

Ich habe viele Jahre damit verbracht, neue, disruptive Innovationen in Unternehmen zu bringen. Mein Team und ich haben mehrere Produkte entwickelt, die Tausende von Unternehmen erreichten und als Durchbrüche galten. Ich habe auch zwei grundlegende Transformationen in meinen beiden vorherigen Reisen vor der Gründung von Vianai geleitet und an Transformationen in Hunderten von Unternehmen teilgenommen. Hinzu kam meine jahrelange Beschäftigung mit KI und der Frage, wie KI besser, relevanter und im Dienste der Menschheit gemacht werden kann.

Auf eine eher ungewöhnliche Weise – all diese Dinge kamen zusammen. Ich war mit meiner Familie im Urlaub in Südostasien [Ende 2018]. Wir waren in einem kleinen Markt und kauften bei einem Händler, der wunderschöne, handgefertigte Schmuckstücke hatte. Es war mit traditionellen Techniken und lokalen Steinen hergestellt und atemberaubend, aber natürlich hatte niemand außerhalb dieser kleinen Stadt davon gehört. Und ich hatte diese Frage im Kopf: “Was, wenn dieser Händler KI verwenden könnte? Wie würde das aussehen? Wie müssten die Systeme funktionieren?” In diesem Moment wurde mir klar, dass jedes Unternehmen auf der Welt durch KI transformiert werden würde, und dass diese Transformation nicht mit den Brillen von gestern betrachtet werden konnte, sondern Produkte und Ideen benötigte, die von einem blanken Blatt Papier aus starten mussten.

Etwa einen Monat später gründete ich Vianai mit der Mission, wahre, humanzentrierte KI für Unternehmen auf der ganzen Welt zu bringen. Dies bedeutet, Produkte und Dienstleistungen, Anwendungen und Technologien, Werkzeuge bereitzustellen, die es Geschäftsanwendern, Datenwissenschaftlern, ML-Ingenieuren und sogar Händlern in abgelegenen Teilen der Welt ermöglichen, die Vorteile von KI wirklich zu nutzen.

Seitdem haben wir Anwendungen entwickelt, um Unternehmen bei der Einführung von KI zu helfen, eine Plattform, um ML-Praktikern zu helfen, ihre KI-Modelle zu verwalten und zu überwachen, und Optimierungstechniken, um es mehr Unternehmen zu ermöglichen, auf KI zuzugreifen.

Durch alles haben wir festgestellt, dass das erhebliche Potenzial, die Macht des menschlichen Verständnisses, des Urteils und der Zusammenarbeit mit Daten und den besten KI-Techniken zusammenzubringen, ungenutzt bleibt. Basierend auf unserer Arbeit mit führenden Unternehmen haben ich gesehen, dass die gleichen Techniken, die dem kleinen Händler helfen würden, auch den größten Unternehmen der Welt helfen würden.

Vianai dreht sich alles um humanzentrierte KI. Können Sie definieren, was das ist und warum es wichtig ist?

Humanzentrierte KI ist KI, die darauf abzielt, menschliche Arbeit zu verstärken und menschliches Urteil zu verbessern. Maschinelles Lernen wird viel zu oft als Ersatz für menschliche Arbeit betrachtet. Aber KI ist komplementär zu Menschen – sie bietet Skalierbarkeit und Wiederholbarkeit und Präzision, die Menschen nicht nachahmen können. Aber KI kann nicht menschliches Urteil, menschliche Erfahrungen oder unser Verständnis von Kontext nachahmen.

Es gibt offensichtliche Beispiele dafür, wie KI einen Schildkrötenpanzer mit einem Gewehr verwechselt, aber viel öfter vertrauen wir KI zu sehr, wenn sie sich noch nicht als vertrauenswürdig erwiesen hat. Eine berüchtigte Geschichte stammt von vor einem Jahrzehnt, als ein Unternehmen seine KI ohne menschliche Intervention handeln ließ. Der Algorithmus verlor 440 Millionen Dollar in weniger als einer Stunde.

Für ein aktuelles Beispiel bleiben bahnbrechende Sprachmodelle relativ leicht zu verwirren oder zu verzerren. Text-Bild-Generatoren sind potenziell leistungsstark, erfordern aber sehr spezifische Befehle von einem menschlichen Benutzer, um ihr volles Potenzial zu entfalten.

Humanzentrierte KI ist also eine Art Fokus in der Gestaltung unserer Produkte. Wir bringen die Macht des menschlichen Verständnisses – wie Urteil und Zusammenarbeit – zusammen mit den besten Daten und KI-Techniken, um intelligente Systeme zu schaffen, die Geschäftsergebnisse und -prozesse erheblich verbessern können.

Können Sie die Notwendigkeit einer Rückkopplungsschleife zwischen Menschen und KI erklären?

Es gibt einen ganzen Zweig der KI, der als “human in the loop” bezeichnet wird und auf den Rückkopplungsmechanismen von Menschen basiert, um die Leistung von KI natürlich zu verbessern. Dies ist natürlich und macht Sinn für jedes System.

KI-Systeme können sich über die Zeit verbessern, durch Neuschulung, die alle Aktionen einbezieht, die der Benutzer vorgenommen hat. Dies ist natürlich auch Teil unserer Anwendungen. Lassen Sie mich ein Beispiel geben.

Bevor Covid auftrat, arbeiteten wir mit einem großen Finanzdienstleistungsunternehmen an der Nachfrageprognose. Weil wir das System so konzipiert hatten, passte es sich schnell an die Änderungen an, als Covid kam und viele andere Modelle brach, und es musste nie neu aufgebaut werden. Dies ist der zweite und wichtigste Aspekt der humanzentrierten KI, die Systeme von Anfang an so zu konzipieren, dass sie die Komplexitäten des modernen Lebens einbeziehen.

Dies schafft Vertrauen und ein System, das mit der Organisation und dem Benutzer wächst.

Was macht Vianai zu einer KI-Plattform der nächsten Generation?

Während es viel Diskussion über Risiken, Regulierung und das Versprechen von KI gibt, haben nur wenige nach der Lösung gesucht, die wir finden – das Konzept der humanzentrierten KI.

Unsere Plattform ist dann bereit für die Probleme, die entstehen, wenn KI in Unternehmen Realität wird. Sie soll Probleme rund um Vertrauen, Voreingenommenheit und Transparenz angehen. Sie ermöglicht es Unternehmen, KI zu skalieren, mit Überwachung und Optimierung. Und sie ermöglicht es nicht-technischen Benutzern, KI durch unsere Anwendungen zu nutzen.

Was sind einige der Herausforderungen beim Aufbau einer Plattform, die die Erfahrung für Unternehmen bei der Einführung von KI dramatisch vereinfacht?

Die größten Herausforderungen, die wir in Unternehmen bei der Einführung von KI sehen, sind Talent, Werkzeuge und Technologie. Zunächst ist Talent in einigen wenigen Orten konzentriert, insbesondere in größeren Technologieunternehmen. Dies macht es sehr schwierig für externe Teammitglieder, an der Aufsicht, Governance und Gestaltung des KI-Programms teilzunehmen, und kann noch mehr Voreingenommenheit schaffen, da nur eine begrenzte Anzahl von Teammitgliedern an den Operationen arbeitet.

Technologie und Werkzeuge können auch eine Herausforderung bei der Vereinfachung von KI sein. Derzeit sind sowohl Technologie als auch Werkzeuge begrenzt. Chips, um KI zu betreiben, sind knapp und sehr teuer, und Werkzeuge sind an bestimmte Anbieter gebunden, was die Freiheit, Kosten zu senken und den Wert zu erweitern, einschränkt. Egal, an welchem Punkt ein Unternehmen auf seinem Weg zur Einführung von KI steht, können diese Herausforderungen die Implementierung nützlicher und ethischer KI erschweren, da sie eine unverbundene, fragmentierte Strategie schaffen und die Werkzeuge entfernen, die notwendig sind, um die richtigen Funktionen auszuführen. Organisationen müssen in der Lage sein, alle Bereiche von KI von der Implementierung bis zur Wartung zu unterstützen und das Team unterstützen und Input liefern, um es zu einem Erfolg zu machen.

Für wahren Erfolg habe ich festgestellt, dass Plattformfunktionen vollständig offen, modular, flexibel und nicht von teuren Hardware- und Software-Upgrades abhängig sein müssen. Und mit einem humanzentrierten Ansatz können Menschen immer noch ihr Wissen, ihren Kontext, ihre Erfahrungen und ihre Kreativität einbringen, um Probleme zu lösen – dies wird dann durch die KI-Plattform verstärkt, nicht ersetzt.

Gibt es noch etwas, das Sie über Vianai teilen möchten?

In vielen Bereichen leben wir in Zeiten von KI. Es gibt viel Hype und Diskussion über KI, was im Großen und Ganzen ein gutes Ding ist. Wir sehen viele Fortschritte und eine breitere Akzeptanz als in der Vergangenheit in Bereichen wie generativer KI und anderen. Wir sollten jedoch auch daran arbeiten, die Grenzen von KI zu erkennen – die Realitäten der heutigen KI-Technologie sowie die Realitäten der Knappheit von KI-Experten und des Mangels an Vertrauen in KI, insbesondere in Unternehmen. Wenn wir KI als Verstärker unseres Lebens, unserer Gesellschaft, unserer Arbeit, unseres Potenzials betrachten und die notwendige Aufsicht über KI haben, um dies zu gewährleisten, dann glaube ich, dass wir KI endlich in sinnvollen und transformierenden Formen sehen werden.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Vianai besuchen.