Yandong Liu, Co-Founder & CTO at Connectly – Interview Series

Yandong Liu ist der Co-Founder und CTO bei Connectly.ai. Er arbeitete zuvor bei Strava als CTO. Yandong Liu besuchte die Carnegie Mellon University.

Gegründet im Jahr 2021, ist Connectly der Marktführer im Bereich conversationaler künstlicher Intelligenz (KI). Durch die Verwendung von proprietären KI-Modellen automatisiert Connectlys Plattform, wie Unternehmen mit ihren Kunden kommunizieren und ihre Produkte auf jeder Messaging-Plattform verkaufen. Connectly ermöglicht es, den gesamten Kundenlebenszyklus – von Vertrieb und Marketing bis hin zu Kundenerfahrung und Support – innerhalb der bevorzugten Messaging-Plattform des Kunden abzuwickeln.

Können Sie die Entstehungsgeschichte hinter Connectly teilen?

Connectly ist aus der Vision entstanden, Marktführer im Bereich conversationaler KI zu werden. Mein Co-Founder, Stefanos, und ich trafen uns durch einen gemeinsamen Freund in der Gründergemeinschaft und verbanden uns über eine gemeinsame Leidenschaft für die Zukunft der Messaging-Dienste. Mit meiner Erfahrung bei der Leitung von Technologie-Teams bei Strava und Uber und Stefanos’ Erfahrung bei der Überwachung von Facebook Messenger, machten wir uns daran, die KI-basierte Infrastruktur der Zukunft zu schaffen, um Unternehmen dabei zu helfen, das Beste aus ihren Kundenmitteilungen in einem zunehmend komplexen Ökosystem zu machen.

Was sind genau Small Language Models (SLMs), und wie unterscheiden sie sich von Large Language Models (LLMs)?

SLMs sind KI-Modelle, die darauf ausgelegt sind, menschliche Sprache zu verstehen und zu generieren, aber mit weniger Parametern und Rechenanforderungen im Vergleich zu Large Language Models. Im Kontext von KI-Marketinglösungen für Messaging-Plattformen wie WhatsApp und Instagram bieten SLMs schnellere Antwortzeiten und können leicht auf verschiedenen Geräten bereitgestellt werden, was sie ideal für Echtzeit-Kundeninteraktionen macht. Ihre geringere Größe ermöglicht eine effiziente Leistung ohne Kompromisse bei der Qualität der Antworten.

Können Sie erläutern, wie SLMs die Wahrscheinlichkeit von Halluzinationen reduzieren und die Zuverlässigkeit von KI-Antworten verbessern?

SLMs reduzieren die Wahrscheinlichkeit von Halluzinationen – Fällen, in denen KI falsche oder unsinnige Informationen generiert – indem sie sich auf einen kleineren, überschaubaren Satz von Parametern konzentrieren. Für KI-basierte Marketinglösungen für Messaging-Plattformen stellt dieser fokussierte Ansatz sicher, dass die Antworten vorhersehbarer und zuverlässiger sind, was das Kundenvertrauen und die Kundenbindung erhöht. Die geringere Komplexität von SLMs minimiert die Chancen, unthematische oder fehlerhafte Inhalte zu generieren, was die Gesamtzuverlässigkeit von KI-Interaktionen verbessert.

Können Sie erklären, warum SLMs besonders nützlich für Einzelhändler sind, insbesondere im Kontext von Chatbots?

Aufgrund der großen Mengen an Daten, die LLMs gefüttert werden, sind sie oft langsam. Messaging und conversationaler Handel erfordern jedoch eine schnellere Antwortzeit, um Kunden besser und genauer bedienen zu können. Für Einzelhändler sind SLMs aufgrund des Detaillierungsgrads, den sie im Einzelhandel bieten können, praktischer und nützlicher. Darüber hinaus sind SLMs oft günstiger, da sie agiler sind, was bedeutet, dass jedes Einzelhandelsunternehmen, von kleinen Start-ups bis hin zu großen Online-Händlern, sie nutzen kann.

Wie bieten SLMs im Vergleich zu LLMs personalisierte Erfahrungen für Kunden?

SLMs bieten personalisierte Erfahrungen für Kunden, indem sie einfacher für spezifische Aufgaben und Domänen fein abgestimmt werden können. Ihre geringere Größe ermöglicht eine schnellere und effizientere Anpassung, sodass Unternehmen die Modelle an die spezifischen Bedürfnisse und Vorlieben ihrer Kunden anpassen können. Diese fokussierte Anpassung führt zu relevanten und personalisierten Interaktionen, was die Kundenerfahrung verbessert.

Wie integriert Connectly SLMs in seine Plattform, um die E-Commerce-Fähigkeiten zu verbessern?

Wir integrieren SLMs in unsere Plattform, um die E-Commerce-Fähigkeiten durch ihre Effizienz und Anpassungsfähigkeit zu verbessern. Diese Modelle ermöglichen schnelle und genaue Kundeninteraktionen auf Messaging-Plattformen wie WhatsApp und Instagram, bieten personalisierte Produktvorschläge und instantanen Kundensupport. Die geringe Größe von SLMs stellt sicher, dass die Antworten schnell und relevant sind, was die Kundenerfahrung verbessert und die Kundenbindung fördert.

Welche spezifischen Beispiele gibt es dafür, wie Einzelhändler SLMs in ihren Betrieb erfolgreich integriert haben?

Unsere Kunden haben großen Erfolg mit SLMs. Ein Modeeinzelhändler nutzt SLMs, um auf WhatsApp personalisierte Styling-Tipps zu geben, basierend auf den vorherigen Käufen und Vorlieben des Kunden. Ebenso setzte ein Elektronik-Einzelhändler SLMs auf Instagram ein, um Kundenanfragen zu Produktfunktionen und Verfügbarkeit in Echtzeit zu beantworten, was die Einkaufserfahrung verbessert und die Belastung der Kundenservice-Teams reduziert.

Warum sollten Einzelhändler den Wechsel von LLMs zu SLMs für ihre spezifischen Geschäftsanwendungen in Betracht ziehen?

Einzelhändler sollten den Wechsel von LLMs zu SLMs für ihre spezifischen Geschäftsanwendungen in Betracht ziehen, aufgrund der erhöhten Effizienz und Kosteneffektivität von SLMs. SLMs sind schneller, erfordern weniger Rechenleistung und können leicht für spezifische Aufgaben fein abgestimmt werden, was sie ideal für Echtzeit-Kundeninteraktionen auf Messaging-Plattformen wie WhatsApp und Instagram macht. Dieser Wechsel kann zu einer responsiveren und personalisierten Kundenbetreuung führen, während die Betriebskosten reduziert werden.

Welche zukünftigen Fortschritte in der SLM-Technologie sind Sie am meisten begeistert?

Ich bin am meisten begeistert von Fortschritten in der SLM-Technologie, die ihre Effizienz und Genauigkeit weiter verbessern werden. Zum Beispiel werden Verbesserungen in der Transfer-Lern- und Feinabstimmungstechnik es SLMs ermöglichen, noch besser auf spezifische Aufgaben mit minimalen Daten zu reagieren. Darüber hinaus wird die Integration von SLMs mit multimodalen Fähigkeiten – Kombination von Text-, Sprach- und Bildaten – eine reichere und interaktivere Kundenerfahrung auf Plattformen wie WhatsApp und Instagram ermöglichen. Diese Fortschritte werden SLMs noch wertvoller für Einzelhändler machen, die personalisierte und ansprechende Kundeninteraktionen anbieten möchten.

Wie sehen Sie die Adoption von SLMs in den nächsten Jahren in der Einzelhandelsbranche?

Ich sehe die Adoption von SLMs in der Einzelhandelsbranche deutlich ansteigen. Da Einzelhändler weiterhin nach effizienteren und kosteneffektiveren Möglichkeiten suchen, um mit Kunden zu interagieren, werden die Geschwindigkeit und Anpassungsfähigkeit von SLMs immer wertvoller. SLMs werden in Kunden-Service-Plattformen, Marketing-Kampagnen und personalisierten Einkaufserfahrungen auf Messaging-Apps wie WhatsApp und Instagram, sogar auf TikTok, immer mehr integriert. Diese Veränderung wird Einzelhändlern helfen, schnellere und personalisierte Interaktionen zu bieten, was die Kundenzufriedenheit und -bindung erhöht.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Connectly besuchen.