Omri Kohl, CEO & Co-Founder von Pyramid Analytics – Interview-Serie

Omri Kohl ist der CEO und Mitgründer von Pyramid Analytics. Die Pyramid Decision Intelligence Platform liefert datengetriebene Erkenntnisse, damit jeder schneller und intelligenter Entscheidungen treffen kann. Er leitet die Strategie und den Betrieb des Unternehmens in einem schnell wachsenden Daten- und Analytics-Markt. Kohl bringt ein tiefes Verständnis von Analytics- und KI-Technologien, wertvolle Managementerfahrung und die Fähigkeit mit, konventionelles Denken in Frage zu stellen. Kohl ist ein sehr erfahrener Unternehmer mit einer bewährten Erfolgsbilanz bei der Entwicklung und dem Management von schnell wachsenden Unternehmen. Er studierte Volkswirtschaft, Finanzen und Betriebswirtschaft an der Bar-Ilan-Universität und hat einen MBA in Internationalem Betriebswirtschaftsmanagement von der New York University, Leonard N. Stern School of Business.

Können Sie mit der Erklärung beginnen, was GenBI ist und wie es Generative KI mit Business Intelligence verbindet, um Entscheidungsprozesse zu verbessern?

GenBI ist das Framework und die Mechanik, um die Kraft von GenAI, LLMs und allgemeiner KI in Analytics, Business Intelligence und Entscheidungsfindung einzubringen.

Im Moment ist es nicht praktikabel, GenAI allein zu verwenden, um auf Erkenntnisse in Datenbeständen zuzugreifen. Es könnte über eine Woche dauern, genügend Daten in Ihr GenAI-Tool hochzuladen, um sinnvolle Ergebnisse zu erhalten. Das ist einfach nicht machbar, da Geschäftsdaten zu dynamisch und zu sensibel sind, um auf diese Weise verwendet zu werden. Mit GenBI kann jeder wertvolle Erkenntnisse aus seinen Daten extrahieren, indem er einfach eine Frage in natürlicher Sprache stellt und die Ergebnisse in Form eines BI-Dashboards sieht. Es dauert nur 30 Sekunden, um eine relevante und nützliche Antwort zu erhalten.

Was sind die wichtigsten technologischen Innovationen hinter GenBI, die es ermöglichen, komplexe Business-Intelligence-Aufgaben durch natürliche Sprache zu verstehen und auszuführen?

Nun, ohne all unsere Geheimnisse preiszugeben, gibt es im Wesentlichen drei Komponenten. Erstens gibt GenBI LLMs alle Elemente, die sie benötigen, um die richtigen analytischen Schritte zu produzieren, die die angeforderte Erkenntnis liefern. Das ermöglicht es dem Benutzer, Anfragen in natürlicher Sprache zu formulieren, sogar in vagen Begriffen, ohne genau zu wissen, welche Art von Chart, Untersuchung oder Format angefordert wird.

Als Nächstes wendet die Pyramid-Analytics-GenBI-Lösung diese Schritte auf die Daten Ihres Unternehmens an, unabhängig von den Spezifika Ihrer Situation. Wir sprechen über die grundlegendsten Datensätze und einfachen Anfragen, bis hin zu den anspruchsvollsten Anwendungsfällen und komplexen Datenbanken.

Drittens kann Pyramid diese Anfragen auf den zugrunde liegenden Daten ausführen und die Ergebnisse auf dem Fly manipulieren. Ein LLM allein kann keine tiefere Analyse auf einer Datenbank durchführen. Sie benötigen ein Roboter-Element, um alle notwendigen Informationen zu finden, die Benutzeranfrage zu interpretieren, um Erkenntnisse zu produzieren, und sie an die BI-Plattform weiterzuleiten, um die Ergebnisse entweder in einfacher Sprache oder als dynamische Visualisierung auszudrücken, die später durch Folgeanfragen verfeinert werden kann.

Wie demokratisiert GenBI die Datenanalyse, insbesondere für nicht-technische Benutzer?

Einfach ausgedrückt, ermöglicht GenBI es jedem, auf die Erkenntnisse zuzugreifen, die er benötigt, unabhängig von seinem Fachwissen. Traditionelle BI-Tools erfordern, dass der Benutzer weiß, welche Datenmanipulationstechnik die notwendigen Ergebnisse liefert. Aber die meisten Menschen denken nicht in Pie-Charts, Streudiagrammen oder Tabellen. Sie wollen nicht herausfinden, welche Visualisierung für ihre Situation am effektivsten ist – sie wollen einfach Antworten auf ihre Fragen.

GenBI liefert diese Antworten jedem, unabhängig von seinem Fachwissen. Der Benutzer muss nicht alle Fachbegriffe kennen oder herausfinden, ob ein Streudiagramm oder ein Pie-Chart die beste Option ist, und er muss nicht wissen, wie man Datenbankabfragen codiert. Er kann Daten erkunden, indem er seine eigenen Worte in einem natürlichen Gespräch verwendet.

Wir denken daran, wie man den Unterschied zwischen der Verwendung einer Papierkarte, um seine Route zu planen, und der Verwendung von Google Maps oder einer anderen Navigations-App sieht. Mit einer traditionellen Karte muss man die beste Route herausfinden, über mögliche Verkehrsstaus nachdenken und verschiedene Routenmöglichkeiten vergleichen. Heute geben die Menschen einfach ihr Ziel in die App ein und fahren los – es gibt so viel Vertrauen in die Algorithmen, dass niemand die vorgeschlagene Route in Frage stellt. Wir würden gerne denken, dass GenBI ähnliche magische Automatisierung in Unternehmensdatenbestände bringt.

Was war das Feedback von frühen Anwendern über die Benutzerfreundlichkeit und die Lernkurve?

Wir haben überwältigend positives Feedback erhalten. Die beste Art, es zusammenzufassen, ist: “Wow!” Benutzer und Tester schätzen die Benutzerfreundlichkeit von Pyramid, die leistungsstarken Funktionen und die sinnvollen Erkenntnisse sehr.

Pyramid Analytics hat praktisch keine Lernkurve, also gibt es nichts, was die Menschen davon abhält, es auf der Stelle zu übernehmen. Ungefähr drei Viertel aller Geschäftsteams, die unsere Lösung getestet haben, haben sie übernommen und verwenden sie heute, weil sie so einfach und effektiv ist.

Können Sie erzählen, wie GenBI die Entscheidungsprozesse in Organisationen verändert hat, die es implementiert haben? Gibt es spezifische Fallstudien oder Beispiele?

Obwohl wir es seit langem entwickeln, haben wir GenBI erst vor einigen Wochen veröffentlicht, also verstehe ich, dass wir noch keine umfassenden Fallstudien oder benannten Kundenbeispiele haben. Ich kann Ihnen jedoch sagen, dass Organisationen mit Tausenden von Benutzern plötzlich wirklich datengetrieben werden, weil jeder auf Erkenntnisse zugreifen kann. Benutzer können jetzt den wahren Wert all ihrer Daten entsperren.

GenBI hat einen transformierenden Effekt auf Branchen wie Versicherungen, Banken und Finanzen sowie Einzelhandel, Fertigung und viele andere vertikale Märkte. Plötzlich ist es beispielsweise für Finanzberater möglich, auf instantane Vorschläge zur Optimierung eines Kundenportfolios zuzugreifen.

Was waren einige der größten Herausforderungen, denen Sie bei der Entwicklung von GenBI gegenüberstanden, und wie haben Sie sie überwunden?

Pyramid Analytics nutzte bereits seit vielen Jahren vor der Veröffentlichung der neuen Lösung KI für Analytics, also sind die meisten Herausforderungen bereits vor langer Zeit ausgeräumt worden.

Das wichtigste neue Element ist die Hinzufügung einer fortschrittlichen Abfrage-Generierungstechnologie, die mit jedem LLM zusammenarbeitet, um genaue Ergebnisse zu liefern, während die Daten privat bleiben. Wir haben dies erreicht, indem wir die Daten von der Abfrage entkoppelt haben (mehr darüber in einem Moment).

Eine weitere große Herausforderung, mit der wir konfrontiert waren, war die Geschwindigkeit. Wir sprechen über die Google-Ära, in der die Menschen Antworten jetzt und nicht in einer Stunde oder sogar einer halben Stunde erwarten. Wir haben unsergesagt, die Verarbeitung zu beschleunigen und alle Workflows zu optimieren, um die Reibung zu reduzieren.

Dann gibt es die Notwendigkeit, Halluzinationen zu vermeiden. Chatbots neigen zu Halluzinationen, die die Ergebnisse verzerren und die Zuverlässigkeit untergraben. Wir haben hart daran gearbeitet, diese zu vermeiden, während wir gleichzeitig dynamische Ergebnisse beibehalten.

Wie gehen Sie mit Fragen im Zusammenhang mit Datensicherheit und -privatsphäre um?

Das ist eine großartige Frage, denn Datensicherheit und -privatsphäre sind das größte Hindernis für eine erfolgreiche GenAI-Analytics. Jeder ist – zu Recht – besorgt über die Vorstellung, hochsensible Unternehmensdaten Drittanbieter-KI-Engines auszusetzen, aber sie wollen auch die Sprachinterpretationsfähigkeiten und Dateninsights, die diese Engines liefern können.

Deswegen teilen wir niemals tatsächliche Daten mit den LLMs, mit denen wir zusammenarbeiten. Pyramid fungiert als Vermittler zwischen den Informationen Ihres Unternehmens und dem LLM. Wir ermöglichen es Ihnen, die Anfrage zu stellen, und dann übergeben wir sie dem LLM zusammen mit Beschreibungen dessen, was wir “Zutaten” nennen, im Wesentlichen nur Metadaten.

Das LLM gibt dann ein “Rezept” zurück, das erklärt, wie die Benutzerfrage in eine Datenanalyseanfrage umgewandelt werden kann. Dann führt Pyramid dieses Rezept auf den Daten aus, die Sie bereits sicher auf Ihrem selbst gehosteten Installationsort verbunden haben, sodass keine Daten jemals das LLM erreichen. Wir kombinieren die Ergebnisse, um sie Ihnen in einem leicht verständlichen, visuellen Format zurückzuliefern. Im Wesentlichen wird nichts, was Ihre Sicherheit und Privatsphäre gefährden könnte, exponiert oder verlässt die Sicherheit Ihres Unternehmensfeuerwalls.

Für Organisationen, die GenBI in ihre bestehenden Dateninfrastrukturen integrieren möchten, wie sieht der Implementierungsprozess aus? Gibt es Voraussetzungen oder Vorbereitungen, die erforderlich sind?

Der Implementierungsprozess für Pyramid Analytics könnte nicht einfacher oder schneller sein. Benutzer benötigen sehr wenige Voraussetzungen und Vorbereitungen, und Sie können alles in weniger als einer Stunde in Betrieb nehmen. Sie müssen Ihre Daten nicht in ein neues Framework verschieben oder Ihre Datenstrategie ändern, da Pyramid Ihre Daten direkt dort abfragt, wo sie sich befinden.

Es gibt auch keine Notwendigkeit, Ihre Daten dem Lösung zu erklären oder Spalten zu definieren. Es ist so einfach wie das Hochladen eines CSV-Datensatzes oder das Verbinden Ihrer SQL-Datenbank. Das Gleiche gilt für jede relationale Datenbank beliebigen Typs. Es dauert nur wenige Minuten, Ihre Daten zu verbinden, und dann können Sie Ihre erste Frage Sekunden später stellen.

Das bedeutet, dass Sie die Struktur anpassen können, wenn Sie möchten, wie z. B. das Ändern des Verbindungsmodells oder die Neufestlegung von Spalten. Es erfordert einige Zeit und Mühe, aber wir sprechen über Minuten, nicht über ein monatelanges Entwicklungsprojekt. Unsere Kunden sind oft schockiert, dass Pyramid innerhalb von fünf Minuten oder so auf ihrem klassischen Data-Warehouse oder Data-Lake in Betrieb ist.

Sie müssen auch nicht sehr spezifische, genaue oder sogar intelligente Fragen stellen, um leistungsstarke Ergebnisse zu erhalten. Sie können Rechtschreibfehler machen und falsche Formulierungen verwenden, und Pyramid wird sie entwirren und eine sinnvolle und wertvolle Antwort produzieren. Was Sie benötigen, ist ein gewisses Wissen über die Daten, über die Sie Fragen stellen.

Wenn Sie in die Zukunft blicken, was ist Ihre strategische Vision für Pyramid Analytics in den nächsten fünf Jahren? Wie sehen Sie die Entwicklung Ihrer Lösungen, um den sich ändernden Marktanforderungen gerecht zu werden?

Die nächste große Grenze ist die Unterstützung skalierbarer, hochspezifischer Abfragen. Benutzer sind begierig darauf, sehr präzise Fragen stellen zu können, wie Fragen zu personalisierten Entitäten, und LLMs können noch nicht intelligente Antworten in diesen Fällen liefern, da sie nicht über diese detaillierte Einsicht in die Spezifika Ihrer Datenbank verfügen.

Wir stehen vor der Herausforderung, wie man Sprachmodelle verwenden kann, um die Spezifika Ihrer Daten zu fragen, ohne sofort Ihren gesamten, riesigen Datenbestand mit dem LLM zu verbinden. Wie kann man sein LLM über Daten feinjustieren, die alle zwei Sekunden neu hydratisiert werden? Wir können dies für feste Punkte wie Länder, Standorte und sogar Daten managen, aber nicht für etwas Idiosynkratisches wie Namen, obwohl wir heute sehr nahe dran sind.

Eine weitere Herausforderung besteht darin, dass Benutzer ihre eigenen mathematischen Interpretationen der Daten anwenden können, indem sie ihre eigenen Formeln anwenden. Es ist schwierig, nicht weil die Formel schwer zu umsetzen ist, sondern weil das Verständnis dessen, was der Benutzer will, und das Erhalten der richtigen Syntax herausfordernd ist. Wir arbeiten daran, beide Herausforderungen zu meistern, und wenn wir es schaffen, werden wir den nächsten Eureka-Punkt erreicht haben.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Pyramid Analytics besuchen.