Donny White, CEO & Co-Founder von Satisfi Labs – Interview-Serie

Gegründet im Jahr 2016 ist Satisfi Labs ein führendes Unternehmen im Bereich Conversational AI. Der erste Erfolg kam durch die Zusammenarbeit mit den New York Mets, Macy’s (M ) und der US Open, wodurch einfacher Zugang zu Informationen ermöglicht wurde, die oft auf Websites nicht verfügbar sind.

Donny verbrachte 15 Jahre bei Bloomberg, bevor er in die Welt der Start-ups eintrat, und hat einen MBA von der Cornell University und einen BA von der Baruch College. Unter Donnys Führung hat Satisfi Labs unter Satisfi Labs ein signifikantes Wachstum in den Bereichen Sport, Unterhaltung und Tourismus erlebt und Investitionen von Google (GOOGL ), MLB und Red Light Management erhalten.

Sie waren 14 Jahre bei Bloomberg, als Sie plötzlich den unternehmerischen Drang verspürten. Warum war das plötzlich auf Ihrem Radar?

Während meines dritten Studienjahres bewarb ich mich um eine Stelle als Empfangsmitarbeiter bei Bloomberg. Als ich meine Fuß in die Tür bekam, sagte ich meinen Kollegen, dass ich schnell lernen könne, wenn sie mich unterrichten würden. Im vierten Studienjahr war ich Vollzeitmitarbeiter und hatte alle meine Kurse auf Abendkurse umgestellt, damit ich beides tun konnte. Anstelle meiner College-Abschlussfeier im Alter von 21 Jahren verbrachte ich diese Zeit damit, mein erstes Team zu leiten. Von da an hatte ich das Glück, in einer Leistungsgesellschaft zu arbeiten und wurde mehrmals befördert. Mit 25 Jahren leitete ich mein eigenes Department. Von dort aus wechselte ich in die regionale Leitung und dann in die Produktentwicklung, bis ich schließlich den Vertrieb in allen Amerikas leitete. Im Jahr 2013 begann ich, mich zu fragen, ob ich etwas Größeres tun könne. Ich ging auf einige Vorstellungsgespräche bei jungen Technologieunternehmen und ein Gründer sagte mir: “Wir wissen nicht, ob Sie gut sind oder ob Bloomberg gut ist.” Da wusste ich, dass ich etwas ändern musste, und sechs Monate später war ich der VP of Sales bei meinem ersten Start-up, Datahug. Kurz darauf wurde ich von einer Gruppe von Investoren rekrutiert, die Yelp stürzen wollten. Im Jahr 2016 einigten wir uns auf eine neue Vision und ich gründete Satisfi Labs mit denselben Investoren.

Können Sie die Entstehungsgeschichte hinter Satisfi Labs teilen?

Ich war bei einem Baseballspiel im Citi Field mit Randy, dem aktuellen CTO und Mitgründer von Satisfi, als ich von einem ihrer Spezialitäten, Bacon auf einem Stock, hörte. Wir gingen durch die Promenade und fragten das Personal danach, aber konnten es nirgendwo finden. Es stellte sich heraus, dass es in einem Ende des Stadions versteckt war, was mich zu der Erkenntnis führte, dass es viel einfacher gewesen wäre, direkt mit dem Team über Chat zu fragen. Hier wurde unsere erste Idee geboren. Randy und ich kommen beide aus dem Finanz- und algorithmischen Handelsbereich, was uns dazu führte, das Konzept des Abgleichens von Anfragen mit Antworten zu entwickeln, um unsere eigene NLP für hyper-spezifische Anfragen zu bauen, die an Orten gestellt werden. Die ursprüngliche Idee bestand darin, individuelle Bots zu bauen, die jeweils Experten in einem bestimmten Wissensbereich sein würden, insbesondere in Bereichen, die nicht leicht auf einer Website zugänglich sind. Von dort aus würde unser System einen “Dirigenten” haben, der jeden Bot bei Bedarf ansprechen könnte. Dies ist die ursprüngliche Systemarchitektur, die noch heute verwendet wird.

Satisfi Labs hatte sein eigenes NLP-System entworfen und stand kurz davor, eine Pressemitteilung zu veröffentlichen, als OpenAI den Tech-Stack mit der Veröffentlichung von ChatGPT durcheinanderbrachte. Können Sie diese Zeit und wie dies Satisfi Labs gezwungen hat, sein Geschäftsmodell anzupassen, diskutieren?

Wir hatten eine geplante Pressemitteilung, um unsere patentierten Context-basierten NLP-Upgrade-Ankündigung für den 6. Dezember 2022 zu verkünden. Am 30. November 2022 kündigte OpenAI ChatGPT an. Die Ankündigung von ChatGPT änderte nicht nur unseren Fahrplan, sondern auch die Welt. Zunächst waren wir, wie alle anderen, damit beschäftigt, die Macht und Grenzen von ChatGPT zu verstehen und zu verstehen, was dies für uns bedeutete. Wir erkannten bald, dass unser kontextuelles NLP-System nicht mit ChatGPT konkurrierte, sondern die LLM-Erfahrung tatsächlich verbessern konnte. Dies führte zu einer schnellen Entscheidung, OpenAI-Unternehmenspartner zu werden. Da unser System ursprünglich mit der Idee entstand, Fragen auf granularer Ebene zu verstehen und zu beantworten, konnten wir das “Bot-Dirigenten”-System-Design und sieben Jahre Intent-Daten nutzen, um das System zu aktualisieren und LLMs zu integrieren.

Satisfi Labs hat kürzlich ein Patent für ein Context-LLM-Response-System eingereicht, was ist dies speziell?

Im Juli haben wir unser patentiertes Context-LLM-Response-System vorgestellt. Das neue System kombiniert die Macht unseres patentierten kontextuellen Antwortsystems mit den Fähigkeiten von Large Language Models, um das gesamte Answer-Engine-System zu stärken. Die neue Context-LLM-Technologie integriert Large Language Model-Fähigkeiten in die gesamte Plattform, von der Verbesserung der Intent-Weiterleitung bis zur Antwortgenerierung und Intent-Indexierung, was auch die einzigartigen Berichtsfunktionen antreibt. Die Plattform geht über den traditionellen Chatbot hinaus, indem sie die Macht von LLMs wie GPT-4 nutzt. Unsere Plattform ermöglicht es Marken, mit generativen AI-Antworten oder vorab geschriebenen Antworten zu antworten, je nach Bedarf an Kontrolle in der Antwort.

Können Sie die derzeitige Diskrepanz zwischen den meisten Unternehmens-Websites und LLM-Plattformen bei der Lieferung von markenkonformen Antworten diskutieren?

ChatGPT ist darauf trainiert, ein breites Spektrum an Informationen zu verstehen und verfügt daher nicht über das Maß an granularer Schulung, das erforderlich ist, um branchenspezifische Fragen mit dem Maß an Spezifität zu beantworten, das die meisten Marken erwarten. Darüber hinaus ist die Genauigkeit der von LLMs bereitgestellten Antworten nur so gut wie die bereitgestellten Daten. Wenn Sie ChatGPT verwenden, bezieht es Daten aus dem gesamten Internet, was ungenau sein kann. ChatGPT priorisiert die Daten von einem Marken nicht über andere Daten. Wir haben in den letzten sieben Jahren verschiedene Branchen bedient und wertvolle Einblicke in die Millionen von Fragen gewonnen, die Kunden jeden Tag stellen. Dies ermöglicht es uns, das System mit größerem Kontext pro Branche zu justieren und robuste und granulare Intent-Berichtsfunktionen bereitzustellen, die angesichts des Aufkommens von Large Language Models von entscheidender Bedeutung sind. Während LLMs effektiv darin sind, Intent und Antworten zu generieren, können sie nicht über die gestellten Fragen berichten. Mit Hilfe von Jahren umfassender Intent-Daten haben wir effizient standardisierte Berichterstattung durch unser Intent-Index-System erstellt.

Welche Rolle spielen Linguisten bei der Verbesserung der Fähigkeiten von LLM-Technologien?

Die Rolle des Prompt-Engineers ist mit dieser neuen Technologie entstanden, die eine Person erfordert, die Prompts entwirft und verfeinert, um eine spezifische Antwort von der KI zu erhalten. Linguisten haben ein großes Verständnis für Sprachstrukturen wie Syntax und Semantik. Eine unserer erfolgreichsten AI-Engineerinnen hat einen linguistischen Hintergrund, der es ihr ermöglicht, neue und nuancierte Wege zu finden, um die KI zu prompten. Subtile Änderungen im Prompt können tiefgreifende Auswirkungen auf die Genauigkeit und Effizienz der generierten Antwort haben, was einen großen Unterschied ausmacht, wenn wir Millionen von Fragen für mehrere Kunden bearbeiten.

Wie sieht die Feinabstimmung auf der Backend-Seite aus?

Wir haben unser eigenes proprietäres Datenmodell, das wir verwenden, um die LLM in Schach zu halten. Dies ermöglicht es uns, unsere eigenen “Zäune” zu bauen, um die LLM zu kontrollieren, anstatt nach Zäunen suchen zu müssen. Zweitens können wir Tools und Funktionen nutzen, die andere Plattformen verwenden, um sie auf unseren Plattformen zu unterstützen.

Die Feinabstimmung der Trainingsdaten und die Verwendung von Reinforcement Learning (RL) in unserer Plattform können dazu beitragen, das Risiko von Fehlinformationen zu mindern. Die Feinabstimmung, im Gegensatz zur Abfrage der Wissensbasis für spezifische Fakten, um sie hinzuzufügen, erstellt eine neue Version der LLM, die auf diesem zusätzlichen Wissen trainiert wird. Andererseits trainiert RL einen Agenten mit menschlicher Rückmeldung und lernt eine Richtlinie, um Fragen zu beantworten. Dies hat sich als erfolgreich erwiesen, um kleinere Fußabdruck-Modelle zu bauen, die zu Experten in spezifischen Aufgaben werden.

Können Sie den Prozess für die Onboarding eines neuen Kunden und die Integration von Conversational-AI-Lösungen diskutieren?

Da wir uns auf Ziele und Erfahrungen wie Sport, Unterhaltung und Tourismus konzentrieren, profitieren neue Kunden von denen, die bereits in der Community sind, was das Onboarding sehr einfach macht. Neue Kunden identifizieren, wo ihre aktuellen Datenquellen leben, wie z. B. eine Website, Mitarbeiterhandbücher, Blogs usw. Wir nehmen die Daten auf und trainieren das System in Echtzeit. Da wir mit Hunderten von Kunden in derselben Branche arbeiten, kann unser Team schnell Empfehlungen geben, welche Antworten am besten für vorab geschriebene Antworten oder generierte Antworten geeignet sind. Darüber hinaus richten wir geführte Flows wie unseren dynamischen Food & Beverage Finder ein, damit Kunden nie mit einem Bot-Builder zu tun haben.

Satisfi Labs arbeitet derzeit eng mit Sportteams und Unternehmen zusammen, was ist Ihre Vision für die Zukunft des Unternehmens?

Wir sehen eine Zukunft, in der mehr Marken mehr Aspekte ihrer Chat-Erfahrung kontrollieren möchten. Dies wird zu einem erhöhten Bedarf an unserem System führen, um mehr Entwickler-Level-Zugang zu bieten. Es macht keinen Sinn, dass Marken Entwickler einstellen, um ihre eigenen Conversational-AI-Systeme zu bauen, da die erforderliche Expertise knapp und teuer sein wird. Mit unserem System, das die Backend-Seite speist, können ihre Entwickler sich mehr auf die Kundenerfahrung und den Kundenweg konzentrieren, indem sie eine größere Kontrolle über die Prompts haben, proprietäre Daten verbinden, um eine größere Personalisierung zu ermöglichen, und das Chat-UI für spezifische Benutzerbedürfnisse verwalten. Satisfi Labs wird das technische Rückgrat der Conversational-Erfahrungen von Marken sein.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Satisfi Labs besuchen.