Dr. Neil Yager, Co-Fondateur et Chef Scientifique de Phrasee – Série d’entretiens

Dr. Neil Yager est le Chef Scientifique de Phrasee, et l’architecte de la méthode Phrasee, un outil de rédaction de contenu alimenté par l’IA qui a aidé à optimiser les copies de marketing pour certaines des marques les plus reconnues au monde, notamment eBay, Groupon et Virgin – ainsi que de nombreuses autres, d’Australie à l’Amérique, dans plus de 20 langues, de l’anglais au japonais.

Dr. Yager a écrit plus d’une douzaine de publications universitaires, auteur d’un livre sur l’analyse de données, et détient plusieurs brevets. En tant l’un des principaux experts mondiaux dans la commercialisation de l’intelligence artificielle, il détient un doctorat en informatique de l’Université de Nouvelle-Galles du Sud en Australie.

Vous êtes un vétéran de 20 ans de l’industrie technologique, quels étaient certains de vos précédents rôles liés à l’IA ?

J’ai été impliqué dans des travaux liés à l’IA depuis mon doctorat au milieu des années 2000. Cependant, le domaine a subi plusieurs rebrandings depuis. Par exemple, il y a 15 ans, j’ai étudié la “reconnaissance de modèles statistiques”. Quelques années plus tard, cela était plus couramment connu sous le nom de “apprentissage automatique”, qui est un nom beaucoup plus captivant. Plus récemment, l’apprentissage automatique (et le “deep learning” en particulier) est devenu synonyme d'”intelligence artificielle” en général. J’ai des sentiments mitigés à ce sujet. D’une part, mon travail avec Phrasee m’a enseigné l’importance du branding. D’autre part, le terme “intelligence artificielle” apporte des bagages avec lui et peut conduire à des malentendus sur la technologie. Je me demande où nous serions si nous appelions toujours cela “reconnaissance de modèles statistiques”.

La plupart de mon travail précédent était dans les domaines du traitement du signal et de la vision par ordinateur. Je n’avais pas beaucoup d’exposition à la traitement automatique des langues avant Phrasee. J’ai depuis appris que le langage est probablement le problème le plus difficile en IA.

En 2008, vous avez co-écrit un livre intitulé ‘Système biométrique et analyse de données : conception, évaluation et extraction de données‘, qui combine des aspects de statistiques et d’apprentissage automatique pour fournir un guide complet pour évaluer, interpréter et comprendre les données biométriques. En dehors de ressources informatiques plus importantes, croyez-vous que ce domaine a évolué depuis la publication de ce livre ? Pouvez-vous décrire comment ?

Le deep learning a bouleversé les domaines de la vision par ordinateur, du traitement automatique des langues et de l’apprentissage automatique depuis que j’ai écrit ce livre. Il ne serait pas possible d’écrire ce livre aujourd’hui sans une section sur le deep learning.

La révolution du deep learning a vraiment pris son essor en 2012, lorsque un modèle de deep learning a remporté un concours appelé ImageNet. ImageNet est un ensemble de données de reconnaissance d’objets visuels où l’ordinateur détermine ce qui se trouve dans une image (par exemple “chien” ou “ballon”). Pendant des décennies, les chercheurs ont fait des progrès incrémentaux sur des ensembles de données de référence comme celui-ci. Chaque sous-domaine opérait de manière indépendante et reposait lourdement sur l’expertise propre au domaine. Presque du jour au lendemain, tous les modèles soigneusement construits au fil des ans sont devenus obsolètes. Des algorithmes de deep learning conçus par des outsiders ont remporté des concours avec des marges importantes. Cela a transformé l’industrie de l’IA.

Le domaine est toujours en évolution rapide et a évolué même depuis le lancement de Phrasee il y a quelques années. Par exemple, les outils de deep learning sur lesquels nous comptons maintenant n’existaient pas lorsque nous avons fondé l’entreprise. Le rythme de l’innovation apporte ses propres défis.

Pouvez-vous partager avec nous ce que Phrasee est capable de faire pour les entreprises ?

Phrasee résout deux problèmes pour les entreprises. Premièrement, il y a le problème de rédiger des copies de marketing. Il y a plus de canaux publicitaires que jamais auparavant (par exemple, e-mail, AdWords, réseaux sociaux, imprimé, podcasts, etc.). Il est difficile d’écrire des copies pour tous ces canaux qui soient de haute qualité et qui respectent le style et le ton de voix de la marque. Phrasee répond au problème de l’échelle en générant automatiquement des copies. Deuxièmement, il est important que tout le langage utilisé soit efficace. Non seulement Phrasee génère du langage, mais il utilise également l’apprentissage automatique pour prédire l’impact des messages et optimiser en conséquence.

Qu’est-ce qui vous a attiré dans l’idée d’utiliser le traitement automatique des langues (TAL), la génération de langage naturel et le deep learning pour améliorer le pouvoir des copies publicitaires ?

Utiliser l’IA pour maximiser l’impact des campagnes de marketing numérique n’est pas une idée nouvelle. Il y a des équipes de personnes ayant des doctorats en physique qui ont été recrutées pour travailler sur l’optimisation des annonces. Cependant, dans la plupart des cas, ils se concentrent sur des choses comme la segmentation de la clientèle, la personnalisation, la planification de la livraison, la mise en page, les polices de caractères, etc. Lorsque nous avons commencé à lancer des idées pour Phrasee, nous avons remarqué que presque tout dans les annonces est optimisé, sauf le langage réel utilisé ! Nous avons identifié cela comme un écart dans le marché et une énorme opportunité.

Phrasee est capable d’améliorer les copies de marketing dans plus de 20 langues, y compris le japonais. Pouvez-vous discuter de certains problèmes uniques de traitement automatique des langues que l’on rencontre avec les langues étrangères ?

La dernière langue que nous avons ajoutée à notre ensemble de langues prises en charge est le russe. Il s’agit d’une langue slave et elle est assez distincte des autres langues indo-européennes. Dans ce cas, il a été nécessaire de construire de nouvelles règles dans notre système de génération de langage afin que la sortie soit fluide et grammaticalement correcte. Ce n’est pas seulement un problème de langue. C’est également un problème de développement logiciel. Lorsque la sortie de notre système est dans la langue maternelle du développeur, il est relativement facile de repérer les erreurs et de vérifier que tout fonctionne correctement. Cependant, lorsqu’on travaille sur le russe ou le japonais, on pourrait produire des nonsens et ne pas s’en rendre compte. Il est important d’avoir un locuteur natif étroitement impliqué dans le processus de contrôle qualité.

Le défi n’est pas seulement lié aux langues étrangères. Il y a également des différences régionales intéressantes. Par exemple, l’anglais a des variations d’orthographe pour les États-Unis, le Royaume-Uni, l’Australie, le Canada, etc. De plus, il y a des différences grammaticales. En anglais britannique, on “a un regard”, tandis qu’en anglais américain, on “prend un regard”. Le sens des mots peut également varier d’un endroit à l’autre. Un “caoutchouc” est un effaceur au Royaume-Uni, mais un condom en Amérique du Nord ! Pour que les systèmes de génération de langage naturel soient utilisés pour des applications commerciales, ils doivent gérer toutes ces subtilités.

Pouvez-vous également partager certains détails sur la façon dont le deep learning est utilisé dans Phrasee ?

Il y a 2 principaux composants d’IA dans la technologie de Phrasee. Le premier est la génération de langage naturel (GLN), qui produit réellement du langage. Le second est le deep learning, et l’accent est mis sur les performances. Les performances peuvent signifier différentes choses selon le contexte. Par exemple, l’objectif d’un sujet de messagerie électronique est d’inciter le destinataire à ouvrir le message et à voir le contenu à l’intérieur. Pour Facebook (META ), l’objectif peut être de maximiser les likes ou les partages. Étant donné de grandes quantités de données historiques, il est possible de trouver des tendances et des modèles subtils qui ne seraient jamais remarqués par un humain. C’est un problème d’apprentissage automatique standard.

Le deep learning offre quelques avantages par rapport à l’approche d’apprentissage automatique traditionnel. Avec l’apprentissage automatique traditionnel, il y a un fort accent sur “l’ingénierie des fonctionnalités”. Cela signifie que le développeur doit décider quels sont les fonctionnalités les plus importantes du langage. par exemple, les mots, la longueur, l’utilisation d’émoticônes, etc. Le problème est que cela est limité par les compétences et l’imagination de l’ingénieur. Cependant, avec le deep learning, le texte brut est alimenté dans le modèle, et il construit sa propre représentation machine du langage (c’est ce qu’on appelle l’apprentissage de bout en bout). Par conséquent, il est libre de biais humain et c’est une approche puissante. Cependant, l’inconvénient est qu’il peut être difficile de comprendre pourquoi le modèle se comporte comme il le fait. “L’explicabilité” est un domaine de recherche actif au sein de la communauté du deep learning. Cependant, il y a un compromis fondamental entre la complexité d’un système et notre capacité à le comprendre. Le langage humain est désordonné, donc les solutions de traitement automatique des langues réussies ont généralement un degré élevé de complexité.

L’une des fonctionnalités de Phrasee est la capacité d’écrire dans le ton unique d’une marque. Pouvez-vous élaborer sur la façon dont cela est réalisé ?

Lorsque nous inscrivons un nouveau client, la première chose que nous faisons est de collecter des informations sur le style de communication de leur marque. Cela inclut les directives de marque formelles, les campagnes de marketing historiques et une série de questionnaires que nous avons élaborés à cet effet. Toutes ces informations sont utilisées par une équipe interne de techniciens de langage pour construire un modèle de langage spécifique au client. Nos modèles de langage sont génératifs, ce qui signifie qu’ils peuvent produire du langage jamais vu auparavant dans le style unique d’un client.

Les modèles de langage peuvent être mis à jour à tout moment. Par exemple, en ce moment, nous sommes au sommet de la crise du COVID-19. Notre équipe de langage examine nos modèles pour nous assurer que le langage inapproprié ne peut pas être créé. Une phrase comme “Ces offres sont virales !” aurait pu être inoffensive il y a quelques mois, mais est clairement inappropriée au milieu d’une pandémie mondiale. Cela démontre la flexibilité de notre système.

Quel type de données est nécessaire pour qu’une entreprise puisse commencer à utiliser Phrasee ?

Pour être honnête, peu de données sont nécessaires pour commencer avec nous. La première étape consiste à identifier un domaine de projet approprié. Par exemple, cela pourrait être les sujets de messagerie électronique de promotion hebdomadaire. Idéalement, cela aura un public relativement important et les communications seront régulières. Une fois le projet identifié, nous avons besoin d’informations sur le sujet et la voix de la marque pour construire le modèle de langage. Phrasee a besoin de résultats de performance de manière continue. Puisque notre solution utilise l’apprentissage automatique, il est important que nous mesurions et traçions les métriques clés au fil du temps. Ces informations sont intégrées à notre système afin qu’il puisse continuellement optimiser pour l’engagement.

Y a-t-il autre chose que vous aimeriez partager sur Phrasee ?

Lorsque Parry, Victoria et moi avons lancé Phrasee il y a cinq ans, nous étions sûrs que ce ne serait qu’une question de temps avant que de nombreux autres startups ne se lancent avec des produits similaires. Notre plan était de prendre les devants et de rester une longueur d’avance. Cependant, nous avons été surpris par le manque d’entrants dans cet espace. Où est tout le monde ? Je pense qu’il y a plusieurs raisons à cela, mais l’une des principales est que le langage est un problème si difficile. Je soupçonne que d’autres ont essayé de créer des produits similaires mais ont échoué tôt dans les étapes de R&D. C’est un témoignage de l’unicité de notre technologie.

Je vous remercie pour cet entretien instructif sur le traitement automatique des langues, la génération de langage naturel et le deep learning. Pour en savoir plus, les visiteurs peuvent visiter Phrasee.