Δρ. Νιλ Γιάγκερ, Συνιδρυτής και Επικεφαλής Επιστημονικός Υπεύθυνος της Phrasee – Σειρά Συνεντεύξεων

Ο Δρ. Νιλ Γιάγκερ είναι ο Επικεφαλής Επιστημονικός Υπεύθυνος της Phrasee, και ο αρχιτέκτονας του μεθόδου Phrasee, ενός εργαλείου copywriting που βασίζεται στο AI και έχει βοηθήσει να βελτιωθεί η.copywriting για einige από τις πιο αναγνωρισμένες μάρκες του κόσμου, συμπεριλαμβανομένων των eBay, Groupon και Virgin – plus πολλές άλλες, από την Αυστραλία στην Αμερική, σε πάνω από 20 γλώσσες, από τα αγγλικά στα ιαπωνικά.

Ο Δρ. Γιάγκερ έχει γράψει πάνω από một δωδεκάδα ακαδημαϊκών δημοσιεύσεων, έχει συγγράψει ένα βιβλίο για την ανάλυση δεδομένων, και κατέχει πολλά πατέντα. Jako ένας από τους κορυφαίους εμπειρογνώμονες στον κόσμο για την εμπορική εκμετάλλευση της τεχνητής νοημοσύνης, κατέχει διδακτορικό τίτλο στην Επιστήμη των Υπολογιστών από το Πανεπιστήμιο της Νέας Νότιας Ουαλίας στην Αυστραλία.

Είσαι βετεράνος 20 ετών της τεχνολογικής βιομηχανίας, ποια ήταν κάποια από τα προηγούμενα σου ρόλους που σχετίζονταν με το AI;

Έχω εμπλακεί σε δραστηριότητες που σχετίζονται με το AI από την εποχή του διδακτορικού μου το μεσοδιάστημα του 2000. Ωστόσο, το πεδίο έχει περάσει από πολλές επανα品牌ώσεις από τότε. Για παράδειγμα, 15 χρόνια πριν μελετούσα “στατιστική αναγνώριση προτύπων”. Λίγα χρόνια αργότερα, αυτό ήταν πιο γνωστό ως “μηχανική μάθηση”, το οποίο είναι ένα πολύ πιο ελκυστικό όνομα. Πιο πρόσφατα, η μηχανική μάθηση (και η “βαθιά μάθηση” ειδικότερα) έχει γίνει συνώνυμη με την “τεχνητή νοημοσύνη” γενικά. Έχω μεικτά συναισθήματα γι’ αυτό. Από τη μια πλευρά, η δουλειά μου με την Phrasee με taught την σημασία του branding. Από την άλλη πλευρά, ο όρος “τεχνητή νοημοσύνη” φέρνει bagage μαζί του και μπορεί να οδηγήσει σε λανθασμένες αντιλήψεις για την τεχνολογία. Θαύμασα πού θα ήμασταν αν ακόμη ονομάζαμε όλα αυτά “στατιστική αναγνώριση προτύπων”.

Η περισσότερη από την προηγούμενη δουλειά μου ήταν στα πεδία της επεξεργασίας σήματος και της υπολογιστικής όρασης. Δεν είχα πολύ έκθεση στην επεξεργασία φυσικής γλώσσας πριν από την Phrasee. Έχω μάθει από τότε ότι η γλώσσα είναι πιθανώς το πιο δύσκολο πρόβλημα στο AI.

Το 2008 συγγράψατε ένα βιβλίο με τίτλο ‘Βιομετρικό Σύστημα και Ανάλυση Δεδομένων: Σχεδιασμός, Αξιολόγηση και Ανάλυση Δεδομένων’, το οποίο συνδυάζει аспектους στατιστικής και μηχανικής μάθησης για να παρέχει một ολοκληρωμένη οδηγία για την αξιολόγηση, την ερμηνεία και την κατανόηση βιομετρικών δεδομένων. Εκτός από την πρόσβαση σε περισσότερους υπολογιστικούς πόρους, πιστεύετε ότι αυτό το πεδίο έχει εξελιχθεί από τότε που δημοσιεύθηκε το βιβλίο; Μπορείτε να περιγράψετε πώς;

Η βαθιά μάθηση έχει επηρεάσει τα πεδία της υπολογιστικής όρασης, της επεξεργασίας γλώσσας και της μηχανικής μάθησης από τότε που έγραψα το βιβλίο. Δεν θα ήταν δυνατό να γράψω αυτό το βιβλίο σήμερα χωρίς ένα κεφάλαιο για την βαθιά μάθηση.

Η επανάσταση της βαθιάς μάθησης πραγματοποιήθηκε το 2012, όταν ένα μοντέλο βαθιάς μάθησης κέρδισε έναν διαγωνισμό ονόματι ImageNet. Το ImageNet είναι ένα σύνολο δεδομένων αναγνώρισης οπτικών αντικειμένων, όπου ο υπολογιστής καθορίζει τι είναι σε μια εικόνα (π.χ. “σκύλος” ή “μπαλόνι”). Για δεκαετίες, οι ερευνητές είχαν κάνει σταδιακές βελτιώσεις σε σύνολα δεδομένων like αυτό. Κάθε υποπεδίο λειτουργούσε ανεξάρτητα και βασιζόταν σε εξειδικευμένη εμπειρογνωσία. Σχεδόν από τη μια μέρα στην άλλη, όλα τα μοντέλα που είχαν χτιστεί με πολλή δυσκολία κατά τη διάρκεια πολλών ετών έγιναν απαρχαιωμένα. Αλγόριθμοι βαθιάς μάθησης που σχεδιάστηκαν από εξωτερικούς νικητές διαγωνισμών με σημαντικές διαφορές. Αυτό μετέβαλε την βιομηχανία AI.

Το πεδίο εξακολουθεί να είναι γρήγορο και έχει εξελιχθεί ακόμη και από τότε που ξεκινήσαμε την Phrasee πριν από quelques χρόνια. Για παράδειγμα, τα εργαλεία βαθιάς μάθησης που χρησιμοποιούμε τώρα δεν υπήρχαν όταν ιδρύθηκε η εταιρεία. Ο ρυθμός της καινοτομίας φέρνει τις δικές του προκλήσεις.

Μπορείτε να μοιραστείτε μαζί μας τι είναι αυτό που η Phrasee μπορεί να κάνει για τις επιχειρήσεις;

Η Phrasee λύνει δύο προβλήματα για τις επιχειρήσεις. Πρώτον, υπάρχει το πρόβλημα της γραφής marketing copy. Υπάρχουν περισσότερα κανάλια διαφήμισης τώρα παρά ποτέ trước (π.χ. email, AdWords, κοινωνικά, έντυπα, podcasts, κ.λπ.). Είναι δύσκολο να γράψεις copy για όλα αυτά που είναι υψηλής ποιότητας και συμμορφώνεται με το στυλ και την προφορά της μάρκας. Η Phrasee αντιμετωπίζει το πρόβλημα της κλίμακας με την αυτόματη γεννήτρια copy. Δεύτερον, είναι σημαντικό ότι όλη η γλώσσα που χρησιμοποιείται είναι αποτελεσματική. Όχι μόνο η Phrasee γεννάει γλώσσα, αλλά επίσης χρησιμοποιεί μηχανική μάθηση για να προβλέψει την επίδραση του μηνύματος και να το βελτιώσει ανάλογα.

Τι ήταν αυτό που σας έκανε να ενδιαφερθείτε για την ιδέα της χρήσης της επεξεργασίας φυσικής γλώσσας (NLP) και της βαθιάς μάθησης για να βελτιώσετε τη δύναμη της διαφήμισης;

Η χρήση του AI για να μεγιστοποιήσει την επίδραση των ψηφιακών marketing καμπανιών δεν είναι μια νέα ιδέα. Υπάρχουν ομάδες ανθρώπων με διδακτορικό τίτλο στη φυσική που έχουν προσληφθεί για να εργαστούν στην βελτίωση διαφήμισης. Ωστόσο, στις περισσότερες περιπτώσεις, εστιάζουν τις προσπάθειές τους σε πράγματα όπως η διαφοροποίηση του κοινού, η προσωποποίηση, η χρονική στιγμή της παράδοσης, η τοποθέτηση διαφήμισης, οι γραμματοσειρές, κ.λπ. Όταν αρχίσαμε να σκεφτόμαστε ιδέες για την Phrasee, παρατηρήσαμε ότι σχεδόν όλα για τις διαφημίσεις είναι βελτιωμένα εκτός από την ίδια τη γλώσσα που χρησιμοποιείται! Ταυτοποιήσαμε αυτό ως ένα κενό στην αγορά και μια τεράστια ευκαιρία.

Η Phrasee είναι σε θέση να βελτιώσει την marketing copy σε πάνω από 20 γλώσσες, συμπεριλαμβανομένων των ιαπωνικών. Μπορείτε να συζητήσετε κάποια από τα μοναδικά προβλήματα NLP που αντιμετωπίζονται με τις ξένες γλώσσες;

Η πιο πρόσφατη προσθήκη στο σύνολο των υποστηριζόμενων γλωσσών μας είναι η ρωσική. Αυτή είναι μια σλαβική γλώσσα και είναι αρκετά διαφορετική από άλλες ινδοευρωπαϊκές γλώσσες. Σε αυτή την περίπτωση, ήταν αναγκαίο να χτίσουμε νέες κανόνες στο σύστημα γεννήτριας γλώσσας μας, ώστε η έξοδος να είναι ροή και γραμματικά σωστή. Αυτό δεν είναι μόνο ένα γλωσσικό ζήτημα. Είναι επίσης ένα ζήτημα ανάπτυξης λογισμικού. Όταν η έξοδος του συστήματός μας είναι στη γλώσσα του προγραμματιστή, είναι σχετικά εύκολο να αναγνωρίσουμε σφάλματα και να επιβεβαιώσουμε ότι όλα λειτουργούν σωστά. Ωστόσο, όταν εργαζόμαστε για τη ρωσική ή την ιαπωνική, θα μπορούσαμε να βγάζουμε ανοησίες και να μην το καταλαβαίνουμε. Είναι σημαντικό να έχουμε έναν ιθαγενή ομιλητή που συμμετέχει στενά στη διαδικασία ελέγχου ποιότητας.

Η πρόκληση δεν είναι μόνο με τις ξένες γλώσσες. Υπάρχουν κάποιες ενδιαφέρουσες περιφερειακές διαφορές επίσης. Για παράδειγμα, η αγγλική γλώσσα έχει ποικιλίες ορθογραφίας για τις ΗΠΑ, το Ηνωμένο Βασίλειο, την Αυστραλία, τον Καναδά, κ.λπ. Επιπλέον, υπάρχουν γραμματικές διαφορές. Στη βρετανική αγγλική, “έχει μια ματιά”, ενώ στην αμερικανική αγγλική, “πάρτε μια ματιά”. Η σημασία των λέξεων μπορεί επίσης να διαφέρει από τόπο σε τόπο. Ένα “ρουμπέρ” είναι ένα σβήστρα στο Ηνωμένο Βασίλειο, αλλά ένα προφυλακτικό στη Βόρεια Αμερική! Για να χρησιμοποιηθούν οι NLG συστήματα για εμπορικές εφαρμογές, πρέπει να χειριστούν όλες αυτές τις υποtilties.

Μπορείτε επίσης να μοιραστείτε κάποια λεπτομέρειες σχετικά με τον τρόπο που χρησιμοποιείται η βαθιά μάθηση στην Phrasee;

Υπάρχουν 2 κύρια AI συστατικά στην τεχνολογία της Phrasee. Το πρώτο είναι η γεννήτρια φυσικής γλώσσας (NLG), η οποία παράγει γλώσσα. Το δεύτερο είναι η βαθιά μάθηση, και ο στόχος εδώ είναι η απόδοση. Η απόδοση μπορεί να σημαίνει διαφορετικά πράγματα ανάλογα με το контέxt. Για παράδειγμα, ο στόχος ενός email subject line είναι να προσελκύσει τον παραλήπτη να ανοίξει το email και να δει το περιεχόμενο μέσα. Για το Facebook (META ), ο στόχος μπορεί να είναι να μεγιστοποιήσει τα likes ή shares. Μεγάλα όγκοι ιστορικών δεδομένων, είναι δυνατό να βρεθούν λεπτές τάσεις και προτύπων που δεν θα είχαν ποτέ ανιχνευθεί από έναν άνθρωπο. Αυτό είναι ένα τυπικό πρόβλημα μηχανικής μάθησης.

Η βαθιά μάθηση προσφέρει κάποια πλεονεκτήματα έναντι της παραδοσιακής μηχανικής μάθησης. Με την παραδοσιακή μηχανική μάθηση, υπάρχει μια ισχυρή εστίαση στην “μηχανική ανάπτυξη”. Αυτό σημαίνει ότι ο προγραμματιστής πρέπει να αποφασίσει ποια πιστεύει ότι είναι τα πιο σημαντικά χαρακτηριστικά της γλώσσας. π.χ. λέξεις, μήκος, χρήση emoji, κ.λπ. Το πρόβλημα είναι ότι αυτό είναι περιορισμένο από την ικανότητα και την φαντασία του μηχανικού. Ωστόσο, με την βαθιά μάθηση, το ακατέργαστο κείμενο εισάγεται στο μοντέλο, και αυτό χτίζει τη δική του μηχανική αναπαράσταση της γλώσσας (αυτό ονομάζεται end-to-end μάθηση). Έτσι, είναι ελεύθερο από ανθρώπινη προκατάληψη και είναι μια ισχυρή προσέγγιση. Ωστόσο, η Nachteile είναι ότι μπορεί να είναι δύσκολο να κατανοηθεί γιατί το μοντέλο συμπεριφέρεται με τον τρόπο που το κάνει. “Εξήγηση” είναι ένα ενεργό πεδίο έρευνας στην κοινότητα της βαθιάς μάθησης. Ωστόσο, υπάρχει một θεμελιώδες εμπόδιο μεταξύ της πολυπλοκότητας του συστήματος και της ικανότητάς μας να το κατανοήσουμε. Η ανθρώπινη γλώσσα είναι ακατάστατη, οπότε οι επιτυχείς λύσεις NLP έχουν συνήθως υψηλό βαθμό πολυπλοκότητας.

Μια από τις λειτουργίες της Phrasee είναι η ικανότητα να γράφει σε ένα μοναδικό τόνο μάρκας. Μπορείτε να εξηγήσετε πώς αυτό γίνεται;

Όταν υπογράφουμε einen νέο πελάτη, το πρώτο που κάνουμε είναι να συλλέξουμε πληροφορίες σχετικά με το στυλ επικοινωνίας της μάρκας. Αυτό περιλαμβάνει οποιαδήποτε επίσημες οδηγίες μάρκας, ιστορικές marketing καμπάνιες, και μια σειρά ερωτηματολογίων που έχουμε αναπτύξει για αυτόν τον σκοπό. Όλες αυτές οι πληροφορίες χρησιμοποιούνται από μια εσωτερική ομάδα γλωσσικών τεχνικών για να χτίσουν ένα customer-ειδικό “γλωσσικό μοντέλο”. Τα γλωσσικά μοντέλα μας είναι γεννήτρια, που σημαίνει ότι μπορούν να παράγουν νέα, chưa見-before γλώσσα στο μοναδικό στυλ του πελάτη.

Τα γλωσσικά μοντέλα μπορούν να ενημερωθούν ανά πάσα στιγμή. Για παράδειγμα, αυτή τη στιγμή βρισκόμαστε στο αποκορύφωμα της κρίσης COVID-19. Η γλωσσική ομάδα μας αναθεωρεί τα μοντέλα μας για να βεβαιωθεί ότι δεν μπορεί να δημιουργηθεί ακατάλληλη γλώσσα. Μια φράση όπως “Αυτές οι προσφορές είναι ιογενείς!” θα ήταν αθώα πριν από quelques μήνες, αλλά είναι rõ ràng ακατάλληλη στη μέση μιας παγκόσμιας πανδημίας. Αυτό δείχνει την ευελιξία του συστήματός μας.

Τι είδους δεδομένα χρειάζεται μια εταιρεία που θέλει να ξεκινήσει με την Phrasee;

Για να είμαι ειλικρινής, δεν χρειάζονται πολλά δεδομένα για να ξεκινήσετε με εμάς. Το πρώτο βήμα είναι να αναγνωρίσετε ένα κατάλληλο project area. Για παράδειγμα, αυτό μπορεί να είναι τα subject lines για τα εβδομαδιαία promotion emails. Ιδανικά, αυτό θα έχει ένα σχετικά μεγάλο κοινό και τα μηνύματα θα είναι τακτά. Όταν έχει αναγνωριστεί το project, χρειαζόμαστε πληροφορίες σχετικά με το προτεινόμενο θέμα και τη φωνή της μάρκας για να χτίσουμε το γλωσσικό μοντέλο. Η Phrasee χρειάζεται αποτελέσματα απόδοσης σε συνεχείς βάσεις.既然 η λύση μας χρησιμοποιεί μηχανική μάθηση, είναι σημαντικό να μετράμε και να παρακολουθούμε κλειδιά μετρικά στο χρόνο. Αυτές οι πληροφορίες εισάγονται πίσω στο σύστημά μας, ώστε να μπορεί να συνεχίσει να βελτιώνεται για την εμπλοκή.

Υπάρχει κάτι άλλο που θα ήθελες να μοιραστείς σχετικά με την Phrasee;

Όταν ο Parry, η Victoria και εγώ ξεκινήσαμε την Phrasee πριν από πέντε χρόνια, ήμασταν σίγουροι ότι θα ήταν μόνο θέμα χρόνου πριν πολλές άλλες startups εμφανιστούν με παρόμοια προϊόντα. Ο στόχος μας ήταν να πάρουμε ένα άλμα μπροστά από την ανταγωνιστική αγορά και να παραμείνουμε ένα βήμα μπροστά. Ωστόσο, μας έχει εκπλήξει η έλλειψη εισόδων σε αυτόν τον χώρο. Πού είναι όλοι οι άλλοι; Νομίζω ότι υπάρχουν κάποιοι λόγοι για αυτό, αλλά ένας από τους κύριους λόγους είναι ότι η γλώσσα είναι τόσο δύσκολο πρόβλημα. Νομίζω ότι άλλοι έχουν προσπαθήσει να δημιουργήσουν παρόμοια προϊόντα, αλλά απέτυχαν νωρίς στα στάδια έρευνας και ανάπτυξης. Αυτό είναι ένα τεστάμενο πόσο μοναδική είναι η τεχνολογία μας.

Ευχαριστώ για τη συνέντευξη σχετικά με την επεξεργασία φυσικής γλώσσας, τη γεννήτρια φυσικής γλώσσας και τη βαθιά μάθηση. Για να μάθετε περισσότερα, οι επισκέπτες peuvent επισκεφθεί Phrasee.