Ντόνι Γουάιτ, Διευθύνων Σύμβουλος και Συνιδρυτής της Satisfi Labs – Σειρά Συνεντεύξεων

Ιδρυθείσα το 2016, η Satisfi Labs είναι μια ηγέτιδα εταιρεία συντακτικής AI. Η πρώτη της επιτυχία ήρθε από τη συνεργασία της με τους Νιου Γιορκ Μέτς, το Macy’s (M ) και το Αμερικανικό Όπεν, επιτρέποντας την εύκολη πρόσβαση σε πληροφορίες που συχνά δεν είναι διαθέσιμες στις ιστοσελίδες.

Ο Ντόνι πέρασε 15 χρόνια στη Bloomberg πριν εισέλθει στον κόσμο των start-ups και κατέχει MBA από το Πανεπιστήμιο Κορνέλ και BA από το Κολέγιο Μπάρουτς. Υπό την ηγεσία του Ντόνι, η Satisfi Labs έχει δει σημαντική ανάπτυξη στους τομείς των αθλημάτων, ψυχαγωγίας και τουρισμού, λαμβάνοντας επενδύσεις από τη Google (GOOGL ), το MLB και τη Red Light Management.

Βρισκόσασταν στη Bloomberg για 14 χρόνια όταν πρώτα νιώσατε την επιχειρηματική ιδέα. Γιατί ήταν η επιχειρηματικότητα ξαφνικά στο ραντάρ σας;

Κατά τη διάρκεια του τρίτου έτους μου στο κολέγιο, υπέβαλα αίτηση για δουλειά ως υποδοχή στη Bloomberg. Μόλις μπήκα στην πόρτα, είπα στους συναδέλφους μου ότι αν ήταν διατεθειμένοι να με διδάξουν, θα μπορούσα να μάθω γρήγορα. Μέχρι το τέλος του έτους, ήμουν πλήρης υπάλληλος και είχα μεταφέρει όλες τις τάξεις μου σε νυχτερινές τάξεις, ώστε να μπορώ να κάνω και τα δύο. Αντί να παραστούμαι στην αποφοίτησή μου στο κολέγιο σε ηλικία 21 ετών, πέρασα εκείνο το χρόνο διαχειριζόμενος την πρώτη μου ομάδα. Από εκείνη τη στιγμή, είχα τη τύχη να εργαστώ σε μια μεριτοκρατία και ανέβηκα πολλές φορές. Μέχρι τα 25, διηύθυνα την δική μου υπηρεσία. Από εκεί, μετακινήθηκα στη διεύθυνση περιφέρειας και στη συνέχεια στην ανάπτυξη προϊόντων, μέχρι που τελικά ήμουν υπεύθυνος για τις πωλήσεις σε όλη την Αμερική. Μέχρι το 2013, άρχισα να σκέφτομαι αν θα μπορούσα να κάνω κάτι μεγαλύτερο. Πήγα σε quelques συνεντεύξεις σε νεα tech εταιρείες και ένας ιδρυτής μου είπε: «Δεν ξέρουμε αν είσαι καλός ή αν η Bloomberg είναι καλή». Τότε knew ότι κάτι έπρεπε να αλλάξει και έξι μήνες αργότερα ήμουν ο VP των πωλήσεων στη πρώτη μου start-up, Datahug. Λίγο αργότερα, μου ζητήθηκε από μια ομάδα επενδυτών που ήθελαν να διαταράξουν το Yelp. Ενώ το Yelp είναι ακόμα καλό και καλά, το 2016 συμφωνήσαμε σε μια νέα όραση και συνίδρυσα την Satisfi Labs με τους ίδιους επενδυτές.

Μπορείτε να μοιραστείτε την ιστορία της γέννησης της Satisfi Labs;

Βρισκόμουν σε ένα παιχνίδι μπέιζμπολ στο Citi Field με τον Ράντι, τον τρέχοντα CTO και συνιδρυτή της Satisfi, όταν άκουσα για ένα από τα ειδικά του, το μπέικον στο μπαστουνάκι. Περπατήσαμε γύρω από το concourse και ρωτήσαμε το προσωπικό γι’ αυτό, αλλά δεν μπορούσαμε να το βρούμε πουθενά. Αποδείχθηκε ότι ήταν κρυμμένο σε ένα άκρο του σταδίου, το οποίο προκάλεσε την σκέψη ότι θα ήταν πολύ πιο βολικό να ρωτήσουμε直接 την ομάδα μέσω chat. Αυτό είναι το σημείο όπου γεννήθηκε η πρώτη μας ιδέα. Ο Ράντι και εγώ προέρχομαι από το χρηματοοικονομικό και το υπόβαθρο των αλγορίθμων, το οποίο μας οδήγησε να πάρουμε την έννοια της αντιστοίχισης αιτημάτων με απαντήσεις για να χτίσουμε το δικό μας NLP για υπερ-ειδικές ερωτήσεις που θα ζητηθούν σε τοποθεσίες. Η αρχική ιδέα ήταν να χτίσουμε ατομικά bots που θα ήταν εξειδικευμένα σε ένα συγκεκριμένο πεδίο γνώσης, ιδιαίτερα γνώσης που δεν είναι εύκολα προσβάσιμη σε μια ιστοσελίδα. Από εκεί, το σύστημά μας θα είχε einen “διευθυντή” που θα μπορούσε να καλέσει κάθε bot όταν χρειαζόταν. Αυτή είναι η αρχική αρχιτεκτονική του συστήματος που χρησιμοποιείται ακόμα σήμερα.

Η Satisfi Labs είχε σχεδιάσει το δικό της μηχανισμό NLP και ήταν στο στάδιο της δημοσίευσης ενός δελτίου τύπου όταν η OpenAI διατάραξε το τεχνολογικό σας στάκ με την κυκλοφορία του ChatGPT. Μπορείτε να συζητήσετε αυτή τη περίοδο και πώς αυτό ανάγκασε την Satisfi Labs να αλλάξει την επιχειρηματική της στρατηγική;

Είχαμε προγραμματίσει να δημοσιεύσουμε ένα δελτίο τύπου για να ανακοινώσουμε την αναβάθμιση του Context-based NLP μας, που ήταν σε αναμονή για δημοσίευση στις 6 Δεκεμβρίου 2022. Στις 30 Νοεμβρίου 2022, η OpenAI ανακοίνωσε το ChatGPT. Η ανακοίνωση του ChatGPT άλλαξε όχι μόνο το δρόμο μας, αλλά και τον κόσμο. Αρχικά, εμείς, όπως όλοι οι άλλοι, τρέχαμε να κατανοήσουμε τη δύναμη και τα όρια του ChatGPT και να κατανοήσουμε τι σημαίνει αυτό για εμάς. Σύντομα συνειδητοποιήσαμε ότι το σύστημα NLP μας δεν ανταγωνίζεται το ChatGPT, αλλά μπορεί να το ενισχύσει. Αυτό οδήγησε σε μια γρήγορη απόφαση να γίνουμε εταιρικοί партνέροι της OpenAI. Καθώς το σύστημά μας ξεκίνησε με την ιδέα της κατανόησης και της απάντησης σε ερωτήσεις σε ένα λεπτομερές επίπεδο, μπορούσαμε να συνδυάσουμε το σύστημα “bot conductor” και επτά χρόνια δεδομένων intent για να αναβαθμίσουμε το σύστημα και να ενσωματώσουμε τα LLMs.

Η Satisfi Labs έχει κυκλοφορήσει πρόσφατα ένα δελτίο τύπου για ένα Context LLM Response System, τι είναι αυτό συγκεκριμένα;

Τον Ιούλιο, ανακοινώσαμε το δελτίο τύπου για το Context LLM Response System. Το νέο σύστημα συνδυάζει τη δύναμη του συστήματος NLP μας με τις ικανότητες των LLMs για να ενισχύσει το σύστημα Answer Engine. Η νέα τεχνολογία Context LLM ενσωματώνει τις ικανότητες των LLMs σε όλο το πλαίσιο, από τη βελτίωση της διαδρομής intent έως την παραγωγή απαντήσεων και την ευρετηρίαση intent, η οποία οδηγεί επίσης τις μοναδικές ικανότητες αναφοράς. Το πλαίσιο επιτρέπει στις μάρκες να απαντούν με γενετικές απαντήσεις AI ή προ-γραμμένες απαντήσεις, ανάλογα με την ανάγκη για έλεγχο στην απάντηση.

Μπορείτε να συζητήσετε την τρέχουσα αποσύνδεση μεταξύ των περισσότερων ιστοσελίδων εταιρειών και των πλατφορμών LLM στη παράδοση απαντήσεων με το στυλ της εταιρείας;

Το ChatGPT έχει εκπαιδευτεί για να κατανοήσει ένα ευρύ φάσμα πληροφοριών και επομένως δεν έχει το επίπεδο λεπτομέρειας που απαιτείται για να απαντήσει σε ερωτήσεις που αφορούν συγκεκριμένες βιομηχανίες με το επίπεδο συγκεκρικότητας που οι μάρκες περιμένουν. Επιπλέον, η ακρίβεια των απαντήσεων που παρέχουν τα LLMs είναι μόνο τόσο καλή όσο τα δεδομένα που παρέχονται. Όταν χρησιμοποιείτε το ChatGPT, αναζητά δεδομένα από όλο το διαδίκτυο, τα οποία μπορεί να είναι ανακριβή. Το ChatGPT δεν προτιμά τα δεδομένα από μια μάρκα έναντι άλλων δεδομένων. Έχουμε εξυπηρετήσει διάφορες βιομηχανίες τα τελευταία επτά χρόνια, αποκτώντας πολύτιμη ενημέρωση σχετικά με τις εκατομμύρια ερωτήσεων που ζητούνται από τους πελάτες κάθε μέρα. Αυτό μας έχει επιτρέψει να κατανοήσουμε πώς να ρυθμίσουμε το σύστημα με μεγαλύτερη συμφραζόμενα ανά βιομηχανία και να παρέχουμε ισχυρές και λεπτομερείς ικανότητες αναφοράς intent, οι οποίες είναι απαραίτητες με την άνοδο των μεγάλων μοντέλων γλώσσας. Ενώ τα LLMs είναι αποτελεσματικά στην κατανόηση της πρόθεσης και την παραγωγή απαντήσεων, δεν μπορούν να αναφέρουν τις ερωτήσεις που ζητούνται.

Τι ρόλο παίζουν οι γλωσσολόγοι στην ενίσχυση των ικανοτήτων των τεχνολογιών LLM;

Ο ρόλος του μηχανικού προώθησης έχει出现 με αυτή τη νέα τεχνολογία, η οποία απαιτεί一个人 να σχεδιάσει και να βελτιώσει τις προωθήσεις που προκαλούν μια συγκεκριμένη απάντηση από το AI. Οι γλωσσολόγοι έχουν μια μεγάλη κατανόηση της δομής της γλώσσας, όπως η σύνταξη και η σημασιολογία, μεταξύ άλλων. Ένας από τους πιο επιτυχημένους μηχανικούς μας έχει ένα υπόβαθρο στη γλωσσολογία, το οποίο του επιτρέπει να είναι πολύ αποτελεσματικός στην εύρεση νέων και νюανς τρόπων για να προωθήσει το AI. Οι μικρές αλλαγές στις προωθήσεις possono να έχουν βαθιές επιπτώσεις στην ακρίβεια και την αποτελεσματικότητα της απάντησης που παράγεται, η οποία κάνει όλη τη διαφορά όταν χειριζόμαστε εκατομμύρια ερωτήσεις σε πολλαπλούς πελάτες.

Τι μοιάζει η εξειδίκευση στην πίσω πλευρά;

Έχουμε το δικό μας ιδιόκτητο μοντέλο δεδομένων που χρησιμοποιούμε για να κρατήσουμε το LLM σε γραμμή. Αυτό μας επιτρέπει να χτίσουμε τα δικά μας φράγματα για να κρατήσουμε το LLM υπό έλεγχο, αντί να ψάχνουμε για φράγματα. Δεύτερον, μπορούμε να χρησιμοποιήσουμε εργαλεία και χαρακτηριστικά που άλλες πλατφόρμες χρησιμοποιούν, τα οποία μας επιτρέπουν να τις υποστηρίξουμε στις δικές μας πλατφόρμες.

Η εξειδίκευση των δεδομένων εκπαίδευσης και η χρήση του Reinforcement Learning (RL) στο πλαίσιο μας μπορεί να βοηθήσει στην μείωση του κινδύνου των λανθασμένων πληροφοριών. Η εξειδίκευση, αντί να ζητάτε την προσθήκη συγκεκριμένων γεγονότων για να προσθέσετε, δημιουργεί μια νέα έκδοση του LLM που έχει εκπαιδευτεί σε αυτήν την πρόσθετη γνώση. Από την άλλη πλευρά, το RL εκπαιδεύει έναν πράκτορα με ανθρώπινη ανατροφοδότηση και μαθαίνει μια πολιτική για να απαντήσει σε ερωτήσεις. Αυτό έχει αποδειχθεί επιτυχημένο στην κατασκευή μικρότερων μοντέλων που γίνονται εμπειρογνώμονες σε συγκεκριμένες εργασίες.

Μπορείτε να συζητήσετε τη διαδικασία για την ενσωμάτωση μιας νέας πελάτης και την ενσωμάτωση λύσεων συντακτικής AI;

Καθώς εστιάζουμε σε προορισμούς και εμπειρίες όπως τα αθλήματα, η ψυχαγωγία και ο τουρισμός, οι νέες πελάτες επωφελούνται από αυτές που ήδη βρίσκονται στην κοινότητα, καθιστώντας την ενσωμάτωση πολύ απλή. Οι νέες πελάτες αναγνωρίζουν που ζουν οι τρέχουσες πηγές δεδομένων τους, όπως μια ιστοσελίδα, εγχειρίδια εργαζομένων, blogs, κ.λπ. Εμείς καταναλώνουμε τα δεδομένα και εκπαιδεύουμε το σύστημα σε πραγματικό χρόνο. Καθώς εργαζόμαστε με εκατοντάδες πελάτες στην ίδια βιομηχανία, η ομάδα μας μπορεί να προτείνει γρήγορα ποιες απαντήσεις είναι καλύτερες για προ-γραμμένες απαντήσεις ή για γενετικές απαντήσεις. Επιπλέον, ρυθμίζουμε δυναμικές ροές όπως ο Food & Beverage Finder, ώστε οι πελάτες να μην χρειάζεται να ασχοληθούν με το bot-builder.

Η Satisfi Labs εργάζεται στενά με αθλητικές ομάδες και εταιρείες, ποια είναι η όρασή σας για το μέλλον της εταιρείας;

Βλέπουμε ένα μέλλον όπου περισσότερες μάρκες θα θέλουν να ελέγχουν περισσότερους аспектους της εμπειρίας chat. Αυτό θα οδηγήσει σε μια αυξημένη ανάγκη για το σύστημά μας να παρέχει περισσότερη πρόσβαση σε επίπεδο προγραμματιστή. Δεν έχει νόημα για τις μάρκες να προσλάβουν προγραμματιστές για να χτίσουν το δικό τους σύστημα συντακτικής AI, καθώς η εμπειρία που απαιτείται θα είναι σπάνια και ακριβή. Ωστόσο, με το σύστημά μας να τροφοδοτεί την πίσω πλευρά, οι προγραμματιστές τους μπορούν να εστιάσουν περισσότερο στην εμπειρία του πελάτη και στο ταξίδι, έχοντας μεγαλύτερο έλεγχο των προωθήσεων, συνδέοντας ιδιόκτητα δεδομένα για να επιτρέψουν περισσότερη προσωποποίηση και διαχείριση της διεπαφής chat για συγκεκριμένες ανάγκες χρηστών. Η Satisfi Labs θα είναι η τεχνική σπονδυλική στήλη των εμπειριών συντακτικής AI των μαρκών.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Satisfi Labs.