Donny White, CEO & Co-Founder von Satisfi Labs – Interview-Serie

Gegründet im Jahr 2016 ist Satisfi Labs ein führendes Unternehmen im Bereich Conversational AI. Der frühe Erfolg kam durch die Zusammenarbeit mit den New York Mets, Macy’s und dem US Open, wodurch der Zugang zu Informationen, die oft auf Websites nicht verfügbar sind, erleichtert wurde.

Donny verbrachte 15 Jahre bei Bloomberg, bevor er in die Welt der Start-ups eintrat, und hält einen MBA von der Cornell University und einen BA von der Baruch College. Unter Donnys Führung hat Satisfi Labs ein signifikantes Wachstum in den Bereichen Sport, Unterhaltung und Tourismus erlebt und Investitionen von Google, MLB und Red Light Management erhalten.

Sie waren 14 Jahre bei Bloomberg, als Sie plötzlich den Unternehmergeist verspürten. Warum war das Unternehmertum plötzlich auf Ihrem Radar?

Während meines dritten Studienjahres bewarb ich mich um eine Stelle als Empfangsmitarbeiter bei Bloomberg. Sobald ich einen Fuß in der Tür hatte, sagte ich meinen Kollegen, dass ich schnell lernen könne, wenn sie mich unterrichten würden. Bis zu meinem Abschlussjahr war ich Vollzeitmitarbeiter und hatte alle meine Kurse auf Abendkurse umgestellt, damit ich beides tun konnte. Anstatt an meiner College-Abschlussfeier teilzunehmen, als ich 21 war, verbrachte ich diese Zeit damit, mein erstes Team zu leiten. Von diesem Zeitpunkt an hatte ich das Glück, in einer Meritokratie zu arbeiten und wurde mehrmals befördert. Bis ich 25 war, leitete ich meine eigene Abteilung. Von dort aus wechselte ich in die regionale Geschäftsführung und dann in die Produktentwicklung, bis ich schließlich den Vertrieb in allen Amerikas leitete. Bis 2013 begann ich, mich zu fragen, ob ich etwas Größeres tun könne. Ich ging zu einigen Vorstellungsgesprächen bei jungen Technologieunternehmen und ein Gründer sagte zu mir: “Wir wissen nicht, ob Sie gut sind oder Bloomberg gut ist.” Da wusste ich, dass sich etwas ändern musste, und sechs Monate später war ich der VP of Sales bei meinem ersten Start-up, Datahug. Kurz darauf wurde ich von einer Gruppe von Investoren rekrutiert, die Yelp stören wollten. Während Yelp immer noch gut und solide ist, haben wir 2016 eine neue Vision ausgerichtet und ich gründete Satisfi Labs mit denselben Investoren.

Können Sie die Entstehungsgeschichte hinter Satisfi Labs teilen?

Ich war bei einem Baseballspiel im Citi Field mit Randy, dem aktuellen CTO und Mitgründer von Satisfi, als ich von einem ihrer Spezialitäten, Bacon auf einem Stock, hörte. Wir gingen um den Concourse herum und fragten das Personal danach, aber konnten es nirgendwo finden. Es stellte sich heraus, dass es in einem Ende des Stadions versteckt war, was mich zu der Erkenntnis führte, dass es viel bequemer gewesen wäre, direkt mit dem Team über Chat zu fragen. Hier wurde unsere erste Idee geboren. Randy und ich kommen beide aus dem Finanz- und algorithmischen Handelsbereich, was uns dazu führte, das Konzept der Anfrage-Antwort-Zuordnung zu übernehmen, um unser eigenes NLP für hyperspezifische Anfragen zu entwickeln, die an Orten gestellt werden. Die ursprüngliche Idee war, individuelle Bots zu erstellen, die jeweils Experten in einem bestimmten Wissensbereich sein würden, insbesondere Wissen, das nicht leicht auf einer Website zugänglich ist. Von dort aus würde unser System einen “Dirigenten” haben, der jeden Bot bei Bedarf ansprechen könnte. Dies ist die ursprüngliche Systemarchitektur, die noch heute verwendet wird.

Satisfi Labs hatte seinen eigenen NLP-Motor entwickelt und stand vor der Veröffentlichung einer Pressemitteilung, als OpenAI den Tech-Stack mit der Veröffentlichung von ChatGPT durcheinanderbrachte. Können Sie diese Zeit und wie dies Satisfi Labs zwang, sein Geschäftsmodell zu ändern, diskutieren?

Wir hatten eine geplante Pressemitteilung, um unsere patentierte Context-basierte NLP-Upgrade für den 6. Dezember 2022 anzukündigen. Am 30. November 2022 kündigte OpenAI ChatGPT an. Die Ankündigung von ChatGPT änderte nicht nur unsere Roadmap, sondern auch die Welt. Zunächst waren wir, wie alle anderen, damit beschäftigt, die Macht und Grenzen von ChatGPT zu verstehen und zu verstehen, was dies für uns bedeutete. Wir erkannten bald, dass unser kontextuelles NLP-System nicht mit ChatGPT konkurrierte, sondern tatsächlich das LLM-Erlebnis verbessern konnte. Dies führte zu einer schnellen Entscheidung, OpenAI-Unternehmenspartner zu werden. Da unser System mit der Idee begann, Fragen auf granularer Ebene zu verstehen und zu beantworten, konnten wir das “Bot-Conductor”-Systemdesign und sieben Jahre Intent-Daten nutzen, um das System zu aktualisieren und LLMs zu integrieren.

Satisfi Labs hat kürzlich ein Patent für ein Context-LLM-Response-System angekündigt, was ist dies speziell?

Im Juli enthüllten wir unser patentiertes Context-LLM-Response-System. Das neue System kombiniert die Macht unseres patentierten kontextuellen Antwortsystems mit den Fähigkeiten von Large Language Models, um das gesamte Answer Engine-System zu stärken. Die neue Context-LLM-Technologie integriert Large Language Model-Fähigkeiten in die gesamte Plattform, von der Verbesserung der Intent-Weiterleitung bis zur Antwortgenerierung und Intent-Indexierung, was auch die einzigartigen Berichtsfunktionen antreibt. Die Plattform ermöglicht es Marken, mit generativen AI-Antworten oder vorab geschriebenen Antworten zu antworten, je nach Bedarf an Kontrolle über die Antwort.

Können Sie die derzeitige Diskrepanz zwischen den meisten Unternehmens-Websites und LLM-Plattformen bei der Bereitstellung von markenkonformen Antworten diskutieren?

ChatGPT ist darauf trainiert, ein breites Spektrum an Informationen zu verstehen und verfügt daher nicht über das Maß an granularer Schulung, das erforderlich ist, um branchenspezifische Fragen mit dem Maß an Spezifität zu beantworten, das die meisten Marken erwarten. Darüber hinaus ist die Genauigkeit der Antworten, die LLMs liefern, nur so gut wie die bereitgestellten Daten. Wenn Sie ChatGPT verwenden, bezieht es Daten aus dem gesamten Internet, was ungenau sein kann. ChatGPT priorisiert die Daten einer Marke nicht gegenüber anderen Daten. Wir haben im Laufe der letzten sieben Jahre verschiedene Branchen bedient und wertvolle Einblicke in die Millionen von Fragen gewonnen, die Kunden jeden Tag stellen. Dies hat uns ermöglicht, zu verstehen, wie man das System mit größerem Kontext pro Branche anpasst und robuste und granulare Intent-Berichtsfunktionen bereitstellt, die angesichts des Aufstiegs von Large Language Models von entscheidender Bedeutung sind. Während LLMs effektiv darin sind, Intent zu verstehen und Antworten zu generieren, können sie nicht über die gestellten Fragen berichten. Mit Hilfe von Jahren umfassender Intent-Daten haben wir effizient standardisierte Berichterstattung durch unser Intent-Indexing-System erstellt.

Welche Rolle spielen Linguisten bei der Verbesserung der Fähigkeiten von LLM-Technologien?

Die Rolle des Prompt-Engineers ist mit dieser neuen Technologie entstanden, die eine Person erfordert, die Prompts entwirft und verfeinert, um eine spezifische Antwort von der künstlichen Intelligenz zu erhalten. Linguisten haben ein großes Verständnis für Sprachstrukturen wie Syntax und Semantik. Eine unserer erfolgreichsten AI-Engineerinnen hat einen linguistischen Hintergrund, der es ihr ermöglicht, sehr effektiv neue und nuancierte Wege zu finden, die künstliche Intelligenz zu prompten. Subtile Änderungen an den Prompts können tiefgreifende Auswirkungen darauf haben, wie genau und effizient eine Antwort generiert wird, was bei der Bearbeitung von Millionen von Fragen über multiple Kunden einen großen Unterschied ausmacht.

Wie sieht die Feinabstimmung auf der Backend-Seite aus?

Wir haben unser eigenes proprietäres Datenmodell, das wir verwenden, um den LLM in Schach zu halten. Dies ermöglicht es uns, unsere eigenen Zäune zu bauen, um den LLM zu kontrollieren, anstatt nach Zäunen zu suchen. Zweitens können wir Tools und Funktionen nutzen, die andere Plattformen verwenden, was es uns ermöglicht, sie auf unseren Plattformen zu unterstützen.

Die Feinabstimmung der Trainingsdaten und die Verwendung von Reinforcement Learning (RL) in unserer Plattform können dazu beitragen, das Risiko von Fehlinformationen zu mindern. Die Feinabstimmung, im Gegensatz zur Abfrage der Wissensbasis für spezifische Fakten, um sie hinzuzufügen, erstellt eine neue Version des LLM, die auf diesem zusätzlichen Wissen trainiert wird. Andererseits trainiert RL einen Agenten mit menschlichem Feedback und lernt eine Richtlinie, um Fragen zu beantworten. Dies hat sich als erfolgreich erwiesen, um kleinere Modelle zu erstellen, die Experten in spezifischen Aufgaben werden.

Können Sie den Prozess für die Onboarding eines neuen Kunden und die Integration von Conversational AI-Lösungen diskutieren?

Da wir uns auf Ziele und Erfahrungen wie Sport, Unterhaltung und Tourismus konzentrieren, profitieren neue Kunden von denen, die bereits in der Community sind, was das Onboarding sehr einfach macht. Neue Kunden identifizieren, wo ihre aktuellen Datenquellen leben, wie z. B. eine Website, Mitarbeiterhandbücher, Blogs usw. Wir nehmen die Daten auf und trainieren das System in Echtzeit. Da wir mit Hunderten von Kunden in derselben Branche arbeiten, kann unser Team schnell Empfehlungen geben, welche Antworten am besten für vorab geschriebene Antworten oder generierte Antworten geeignet sind. Darüber hinaus richten wir geführte Flows wie unseren dynamischen Food & Beverage Finder ein, damit Kunden nie mit einem Bot-Builder zu tun haben müssen.

Satisfi Labs arbeitet derzeit eng mit Sportteams und Unternehmen zusammen, was ist Ihre Vision für die Zukunft des Unternehmens?

Wir sehen eine Zukunft, in der mehr Marken mehr Aspekte ihrer Chat-Erfahrung kontrollieren möchten. Dies wird zu einem erhöhten Bedarf an unserem System führen, um mehr Entwickler-Level-Zugriff zu bieten. Es hat keinen Sinn, dass Marken Entwickler einstellen, um ihre eigenen Conversational AI-Systeme zu bauen, da die erforderliche Expertise knapp und teuer sein wird. Mit unserem System, das die Backend-Seite speist, können ihre Entwickler sich mehr auf die Kunden Erfahrung und Journey konzentrieren, indem sie eine größere Kontrolle über die Prompts haben, ihre eigenen Daten mit der Plattform verbinden, um mehr Personalisierung zu ermöglichen, und die Chat-Benutzeroberfläche für spezifische Benutzerbedürfnisse verwalten. Satisfi Labs wird das technische Rückgrat der Conversational-Erfahrungen von Marken sein.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Satisfi Labs besuchen.