Yandong Liu, Mitgründer und CTO bei Connectly – Interviewreihe

Yandong Liu ist der Mitgründer und CTO von Connectly.ai. Er arbeitete zuvor bei Strava als CTO. Yandong Liu besuchte die Carnegie Mellon University.

Gegründet im Jahr 2021 ist Connectly der Marktführer im Bereich der konversationellen künstlichen Intelligenz (KI). Mit Hilfe von proprietären KI-Modellen automatisiert Connectlys Plattform, wie Unternehmen mit ihren Kunden kommunizieren und ihre Produkte auf verschiedenen Messaging-Plattformen verkaufen. Connectly ermöglicht es, den gesamten Kundenlebenszyklus – von Vertrieb und Marketing bis hin zu Kundenerfahrung und Support – innerhalb der bevorzugten Messaging-Plattform des Kunden durchzuführen.

Können Sie die Entstehungsgeschichte hinter Connectly teilen?

Connectly wurde aus der Vision geboren, der Marktführer im Bereich der konversationellen KI zu werden. Mein Mitgründer, Stefanos, und ich trafen uns durch einen gemeinsamen Freund in der Gründergemeinschaft und verbanden uns über unsere gemeinsame Leidenschaft für die Zukunft der Messaging-Dienste. Mit meinem Hintergrund bei der Leitung von Technikteams bei Strava und Uber und Stefanos’ Erfahrung bei der Überwachung von Facebook (META ) Messenger machten wir uns daran, die KI-gestützte Infrastruktur der Zukunft zu schaffen, um Unternehmen zu helfen, das Beste aus ihren Kundenmitteilungen in einem zunehmend komplexen Ökosystem zu machen.

Was sind genau Small Language Models (SLMs), und wie unterscheiden sie sich von Large Language Models (LLMs)?

SLMs sind KI-Modelle, die darauf ausgelegt sind, menschliche Sprache zu verstehen und zu generieren, aber mit weniger Parametern und Rechenanforderungen im Vergleich zu Large Language Models. Im Kontext von KI-Marketinglösungen für Messaging-Plattformen wie WhatsApp und Instagram bieten SLMs schnellere Antwortzeiten und können leicht auf verschiedenen Geräten bereitgestellt werden, was sie ideal für Echtzeit-Kundeninteraktionen macht. Ihre geringere Größe ermöglicht eine effiziente Leistung ohne Kompromisse bei der Qualität der Antworten.

Können Sie erläutern, wie SLMs die Wahrscheinlichkeit von Halluzinationen reduzieren und die Zuverlässigkeit von KI-Antworten verbessern?

SLMs reduzieren die Wahrscheinlichkeit von Halluzinationen – Fällen, in denen KI falsche oder unsinnige Informationen generiert – indem sie sich auf einen kleineren, handhabbaren Satz von Parametern konzentrieren. Für KI-gestützte Marketinglösungen für Messaging-Plattformen stellt dieser fokussierte Ansatz sicher, dass die Antworten vorhersehbarer und zuverlässiger sind, was das Kundentrust und die Kundenzufriedenheit erhöht. Die geringere Komplexität von SLMs minimiert die Chancen, dass off-topic oder fehlerhafte Inhalte generiert werden, was die Gesamtzuverlässigkeit von KI-Interaktionen verbessert.

Können Sie erklären, warum SLMs besonders nützlich für Einzelhändler sind, insbesondere im Kontext von Chatbots?

Da LLMs mit großen Mengen an Daten gefüttert werden, sind sie oft langsam. Messaging und konversationeller Handel erfordern jedoch eine schnellere Antwortzeit, um Kunden besser und genauer bedienen zu können. Für Einzelhändler sind SLMs aufgrund ihres Detaillierungsgrads im Einzelhandel nützlicher. Darüber hinaus sind SLMs oft günstiger, da sie agiler sind, was bedeutet, dass jedes Einzelhandelsunternehmen, von kleinen Start-ups bis hin zu großen Online-Händlern, sie nutzen kann.

Wie bieten SLMs im Vergleich zu LLMs personalisierte Erfahrungen für Kunden?

SLMs bieten personalisierte Erfahrungen für Kunden, indem sie leichter für spezifische Aufgaben und Domänen feinjustiert werden können. Ihre geringere Größe ermöglicht eine schnellere und effizientere Anpassung, sodass Unternehmen die Modelle an die einzigartigen Bedürfnisse und Vorlieben ihrer Kunden anpassen können. Diese fokussierte Anpassung führt zu relevanten und personalisierten Interaktionen, was die Kundenerfahrung verbessert.

Wie integriert Connectly SLMs in seine Plattform, um E-Commerce-Fähigkeiten zu verbessern?

Wir integrieren SLMs in unsere Plattform, um E-Commerce-Fähigkeiten zu verbessern, indem wir ihre Effizienz und Anpassungsfähigkeit nutzen. Diese Modelle ermöglichen schnelle und genaue Kundeninteraktionen auf Messaging-Plattformen wie WhatsApp und Instagram, wodurch personalisierte Produktvorschläge und sofortiger Kundensupport bereitgestellt werden. Die leichte Natur von SLMs stellt sicher, dass Antworten schnell und relevant sind, was die Kundenerfahrung verbessert und die Bindung fördert.

Können Sie einige spezifische Beispiele nennen, wie Einzelhändler SLMs in ihren Betrieb erfolgreich integriert haben?

Unsere Kunden haben großen Erfolg mit SLMs. Ein Modeeinzelhändler nutzt SLMs, um auf WhatsApp personalisierte Styling-Tipps anzubieten, basierend auf den vorherigen Käufen und Vorlieben des Kunden. Ähnlich setzte ein Elektronikeinzelhändler SLMs auf Instagram ein, um Kundenanfragen zu Produktfunktionen und Verfügbarkeit in Echtzeit zu beantworten, was die Einkaufserfahrung verbessert und die Belastung der Kundenservice-Teams reduziert.

Warum sollten Einzelhändler den Wechsel von LLMs zu SLMs für ihre spezifischen Geschäftsanwendungen in Betracht ziehen?

Einzehändler sollten den Wechsel von LLMs zu SLMs für ihre spezifischen Geschäftsanwendungen in Betracht ziehen, da SLMs effizienter und kostengünstiger sind. SLMs sind schneller, benötigen weniger Rechenleistung und können leicht für spezifische Aufgaben feinjustiert werden, was sie ideal für Echtzeit-Kundeninteraktionen auf Messaging-Plattformen wie WhatsApp und Instagram macht. Dieser Wechsel kann zu responsiverem und personalisiertem Kundenservice führen, während die Betriebskosten reduziert werden.

Welche zukünftigen Fortschritte in der SLM-Technologie sind Sie am meisten begeistert?

Ich bin am meisten begeistert von Fortschritten in der SLM-Technologie, die ihre Effizienz und Genauigkeit weiter verbessern werden. Zum Beispiel werden Verbesserungen in der Transferlernen- und Feinabstimmungstechnik es SLMs ermöglichen, noch besser auf spezifische Aufgaben mit minimalen Daten zu reagieren. Darüber hinaus wird die Integration von SLMs mit multimodalen Fähigkeiten – die Kombination von Text-, Sprach- und Bilddaten – reichere und interaktivere Kundenerfahrungen auf Plattformen wie WhatsApp und Instagram ermöglichen. Diese Fortschritte werden SLMs noch wertvoller für Einzelhändler machen, die personalisierte und ansprechende Kundeninteraktionen bieten möchten.

Wie sehen Sie die Adoption von SLMs in den nächsten Jahren in der Einzelhandelsbranche?

 Ich sehe die Adoption von SLMs in der Einzelhandelsbranche deutlich ansteigen. Da Einzelhändler nach effizienteren und kostengünstigeren Möglichkeiten suchen, um mit Kunden zu interagieren, werden die Geschwindigkeit und Anpassungsfähigkeit von SLMs immer wertvoller. SLMs werden in Kunden-Service-Plattformen, Marketing-Kampagnen und personalisierten Einkaufserfahrungen auf Messaging-Apps wie WhatsApp und Instagram, sogar auf TikTok, integrierter werden. Dieser Wechsel wird es Einzelhändlern ermöglichen, schnellere und personalisierte Interaktionen zu bieten, was die Kundenzufriedenheit und -bindung erhöht.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Connectly besuchen.