Interviews
Nikola Mrksic, Mitgründer und CEO von PolyAI – Interview-Serie

Nikola Mrksic ist Mitgründer und CEO von PolyAI, einem führenden Anbieter von unternehmensreifen Sprachassistenten für automatisierten Kundenservice.
Was hat Sie ursprünglich zum Thema KI hingezogen?
Ich habe mich bereits in sehr jungen Jahren für Mathematik und Informatik interessiert. Während meines Studiums in Cambridge hatte ich die Gelegenheit, mit mehreren führenden Machine-Learning-Forschern zusammenzuarbeiten, darunter Steve Young und Zoubin Ghahramani. Steve überzeugte mich, seinem Startup VocalIQ beizutreten, um an der Entwicklung von Sprachdialogsystemen zu arbeiten. Später promovierte ich bei Steve und arbeitete an der Entwicklung von datengetriebenen Sprachverständigungsmodellen, die in verschiedenen Anwendungsbereichen und Sprachen funktionieren. Konversationelle KI ist ein sehr schwieriges und komplexes Arbeitsfeld mit vielen wissenschaftlichen und technischen Durchbrüchen, die noch vor uns liegen, und es hat mich seitdem beschäftigt.
Im Jahr 2017 gründeten Sie PolyAI, ein Unternehmen für konversationelle KI. Können Sie die Geschichte hinter PolyAI erzählen?
Meine Mitgründer, Shawn Wen, Eddy Su und ich haben unsere Promotionen in Cambridge zur gleichen Zeit absolviert. Wir hatten jahrelang an Dialogsystemen gearbeitet, aber wir erkannten bald, dass die Art von komplexen Systemen, an denen wir gearbeitet hatten, sehr wenige kommerzielle Anwendungen hatte. Also kamen wir zusammen, um eine konversationelle KI-Lösung zu entwickeln, die in der realen Welt nützlich sein würde. Wir sahen eine Chance für wirklich konversationelle, mehrstufige, transaktionale Dialogsysteme, die mit realen Menschen im Alltag interagieren könnten.
Wir konzentrierten uns auf den Kundenservice, da wir der Meinung waren, dass die aktuellen technologischen Fähigkeiten und die Anforderungen der Kunden gut übereinstimmten.
Können Sie einige der Machine-Learning- und Natural-Language-Processing-Technologien erläutern, die verwendet werden?
Unser Hauptgeheimnis ist unsere Reihe von proprietären Encoder-Modellen. Wir haben sie auf Milliarden von natürlichen Konversationen trainiert, so dass sie auch dann Intentionen erkennen können, wenn die Eingabesprache Slang oder Idiome verwendet. Dies ist unglaublich wichtig für die Kommunikation über das Telefon. Kunden sprechen nicht in Schlüsselwörtern; sie erzählen Geschichten, unterbrechen, stellen Fragen und wollen im Allgemeinen die Kontrolle über das Gespräch übernehmen.
Wir haben kürzlich unser ConVEx-Modell angekündigt, einen extrem dateneffizienten Entitäts-Extractor, der es uns ermöglicht, Werte aus Konversationen genau zu extrahieren.
Unser ASR-Orchestrierungsprozess umfasst die Verwendung von Feinabstimmungsspracherkennungsplattformen, um das Rauschen zu neutralisieren, das durch verschiedene Akzente verursacht wird, sowie die Feinabstimmung für verschiedene Kontexte.
Wir haben auch eine ziemlich robuste Dialogpolitik-Bibliothek mit vordefinierten Anwendungsfällen entwickelt, die alle gängigen Kundenservice-Transaktionen umfassen, so dass wir für Kunden sehr schnell einen neuen Sprachassistenten aufsetzen können.
Was unterscheidet Ihrer Meinung nach ein gutes konversationelles KI-Produkt von einem schlechten?
Ein gutes Produkt wird immer verstehen, was Benutzer meinen, und wird Benutzer nie dazu zwingen, sich zu wiederholen. Anrufe erfolgen oft in lauten Umgebungen, so dass Produkte robust gegenüber unordentlichen Eingaben sein müssen. Da Marken große Märkte ansprechen, müssen Produkte eine Vielzahl von Akzenten und Ausdrucksweisen von Intentionen verstehen. Beides erfordert, dass Produkte robuste Spracherkennungsfähigkeiten, widerstandsfähige Intentionenklassifizierung und Entitätsextraktion garantieren.
Ein großartiges Produkt wird aktiv für Benutzer sein. Es wird dem Benutzer folgen und in der Lage sein, komplexe, alltägliche Fälle zu handhaben, in denen Benutzer möglicherweise mehrere Intentionen und Informationen gleichzeitig teilen, und sie können zwischen verschiedenen Kontexten wechseln. Dazu ist eine robuste Multi-Label-Klassifizierung und Kontextverwaltung erforderlich.
Ein engagierendes Produkt wird menschliche Eigenschaften zeigen, ohne unheimlich oder zu roboterhaft zu sein. Dies bedeutet schnelle Interaktionen, echte Stimmen, kontinuierliche Feedback-Signale und einen gewissen Zufall und Unvollkommenheiten.
Schließlich wird ein großartiges konversationelles KI-Produkt mit Benutzern interagieren, wo immer sie sind, und eine nahtlose, plattformspezifische Erfahrung bieten, die sich über Sprache, SMS, Chat oder soziale Messaging-Plattformen erstrecken kann. Das Interaktionsparadigma sollte die Spezifität jeder Kommunikationsplattform umfassen.
Was sind einige der Vorteile, die Unternehmen durch die Verwendung von konversationeller KI anstelle des Versuchs, Anfragen an Chat-Bots umzuleiten, haben?
Die Kundenerfahrung ist entscheidend und wurde zu einem wichtigen Treiber für die Kundenbindung. Die oberste Priorität sollte darin bestehen, es Kunden leicht zu machen, das zu tun, was sie tun müssen.
Das Telefon ist immer noch der bevorzugte Kanal für die meisten Kunden, um ein Unternehmen zu kontaktieren. Bis zu 65% aller Kundeninteraktionen finden immer noch über das Telefon statt. Während der COVID-19-Pandemie wurden die Kontaktcenter an ihre Grenzen gebracht, da mehr Kunden als je zuvor Unterstützung anforderten.
Natürlich ermöglicht eine großartige Erfahrung es Kunden, auf die Art und Weise zu kommunizieren, die sie bevorzugen, also machen wir es für Marken einfach, den gleichen Level an Erfahrung über textbasierte Kanäle anzubieten.
Wie groß ist die Herausforderung, die Intention dessen zu erkennen, was ein Kunde sagen will?
Es gibt mehrere Herausforderungen bei der Verständnis von Kunden über Sprachkanäle. Das genaue und konsistente Verstehen der Bedeutung von Benutzern erfordert, dass zahlreiche Komponenten gut zusammenarbeiten.
Zunächst ist die Spracherkennung schwierig, insbesondere wenn Menschen aus lauten Umgebungen anrufen, wie z.B. wenn sie auf dem Lautsprecher sind oder durch den Verkehr oder Tunnel fahren. Die Spracherkennung kann auch in Regionen mit verschiedenen Akzenten und Dialekten schwierig sein. Wir haben eine effektive Methode entwickelt, um Spracherkennungsmodelle für den gegebenen Kontext zu biasen, um die Spracherkennung zu optimieren.
Weil unser ConveRT-Modell auf einer so großen Menge an Konversationsdaten trainiert wurde, kann es Intentionen auf schwachen Signalen erkennen, ähnlich wie es Menschen im Allgemeinen können, auch wenn sie ein oder zwei Wörter verpassen.
Ein weiterer Aspekt ist das Verständnis, wenn Benutzer mehrere Aktionen auf einmal ausführen möchten. Zum Beispiel könnte jemand sagen: “Ich habe meine Karte verloren. Können Sie mir sagen, ob sie verwendet wurde und sie sperren?” In diesem Fall muss das Modell zwei Intentionen erkennen und in einer sinnvollen Reihenfolge darauf reagieren.
Das Modell muss auch in der Lage sein, die von Kunden bereitgestellten Entitäten zu extrahieren und zu verstehen. Zum Beispiel: “Haben Sie einen Tisch für mich, meine Frau und unsere 2 Kinder am Samstag zum Mittagessen?” Die oberflächliche Intention hier ist, die Verfügbarkeit eines Tisches zu überprüfen, aber das Modell muss das Datum (Samstag) und die Anzahl der Personen (4) sowie jede andere potenziell relevante Information erkennen (vielleicht sind Kinder nur im Restaurantbereich erlaubt und können nicht an der Bar platziert werden).
Schließlich ist die Konversation nicht immer linear. Kunden können mit Fragen unterbrechen, die nichts mit dem Prompt des Sprachassistenten zu tun haben, also muss der Assistent in der Lage sein, “zuzuhören”, um eine Art von Eingabe zu erkennen, während er gleichzeitig offen für verschiedene Auslöser wie FAQs oder Änderungen der vom Benutzer zuvor bereitgestellten Informationen ist.
Was ist der Prozess und die Zeitspanne, die für ein Unternehmen erforderlich sind, das mit PolyAI einen konversationellen KI-Bot starten will?
Wir sind hier, um Sprachassistenten mit greifbarem Geschäftsnutzen bereitzustellen. Also beginnen wir jedes Engagement mit einer Entdeckung, bei der wir Kunden helfen, ihre CX-Ziele, Schlüsselmetriken und Supportprozesse zu identifizieren und zu artikulieren. Dies ist der Bereich, in dem wir die Reisen definieren, die der Sprachassistent den Kunden durchführen muss. Dies, plus unser vorab trainiertes ConveRT-Modell, bedeutet, dass wir keine großen Mengen an Konversationsdaten von Kunden benötigen.
Danach können wir einen Sprachassistenten mit sehr wenig Input von Seiten des Kunden entwickeln, also ist es nicht sehr anspruchsvoll für die internen IT-Teams.
Je nach Komplexität können wir in nur 2 Wochen einen Proof-of-Value aufsetzen und eine vollständige Bereitstellung in 2 Monaten durchführen.
Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten PolyAI besuchen: PolyAI.












