OpenAI va publier une version commerciale de son célèbre modèle de génération de texte

Le laboratoire de recherche en intelligence artificielle OpenAI va rendre son outil de génération de texte GPT-3 disponible à l’achat, marquant ainsi le premier produit commercial produit par l’organisation à but non lucratif en apprentissage automatique.

En février de l’année dernière, OpenAI a rendu son modèle de génération de texte GPT-2 open source. GPT-2 était capable de générer du texte cohérent de manière impressionnante lorsqu’il recevait un court texte de démarrage, et le modèle a été considéré comme un grand pas en avant dans les domaines du traitement automatique des langues et de l’intelligence artificielle. En fait, OpenAI a initialement refusé de publier le modèle GPT-2, affirmant qu’il était trop dangereux pour une publication open source, craignant une utilisation abusive. Cependant, après qu’une version du modèle ait été disponible pendant un certain temps et que l’organisation à but non lucratif n’ait pas constaté de preuve d’utilisation abusive, la décision a été prise de rendre le modèle open source. Récemment, OpenAI a annoncé la suite de GPT-2, baptisée GPT-3.

Le modèle GPT-3 est environ 100 fois plus grand que son prédécesseur, et c’est ce modèle que l’entreprise propose comme produit commercial. Le modèle GPT-2 était composé d’environ 1,5 milliard de paramètres, tandis que GPT-3 est composé d’environ 175 milliards de paramètres. La sophistication et la fiabilité de la série de modèles GPT ont conduit ces modèles à devenir la norme pour les projets d’apprentissage automatique impliquant du texte. De même que les réseaux de neurones convolutionnels sont devenus le modèle par défaut pour les projets liés aux images, les projets liés au texte utilisent de plus en plus GPT-2, et peut-être bientôt GPT-3.

Selon The Verge, OpenAI semble vouloir promouvoir l’adoption d’une norme GPT en rendant son modèle GPT-3 commercialement disponible. Actuellement, l’accès à l’API GPT-3 est réservé aux invités. Cependant, il s’agit probablement d’un test et il est probable que GPT-3 sera rendu plus largement disponible plus tôt que plus tard. OpenAI a déclaré qu’il allait vérifier les clients de ses modèles pour empêcher l’utilisation abusive de la technologie à des fins contraires à l’éthique, telles que le spam, la création de fausses informations ou le harcèlement.

Il n’est pas tout à fait clair comment GPT-3 est destiné à être utilisé par les clients. Cela est probablement dû au fait que GPT-3 est très flexible et a de nombreuses applications potentielles. Les modèles basés sur GPT peuvent être affinés au besoin pour générer du texte adapté à des tâches spécifiques. Le modèle est capable de s’adapter à une grande variété de textes de démarrage et de styles d’entrée, ce qui signifie qu’il pourrait être utilisé pour créer des outils de résumé de texte, répondre à des questions simples ou servir de base pour un chatbot sophistiqué. Comme l’a expliqué Greg Brockman, directeur technique d’OpenAI, à Wired :

« Le grand changement mental, c’est qu’il est beaucoup plus comme parler à un humain que de formater des choses pour une machine », déclare Greg Brockman, directeur technique d’OpenAI. « Vous lui donnez quelques questions et réponses et soudain, il est en mode Q&A. »

Il n’est pas encore clair à quel point les modèles commerciaux dérivés de GPT-3 seront fiables. Même si GPT-3 peut générer un langage naturel et syntaxiquement correct, il lui manque une compréhension intuitive du monde réel et de la façon dont les concepts se rapportent les uns aux autres. Cela pourrait s’avérer problématique pour les utilisations où la préservation du contexte est particulièrement importante, comme les chatbots conçus pour le support client.

Joe Davison, ingénieur de recherche chez Hugging Face, a déclaré à Digital Trends que la taille de GPT-3 pourrait limiter ses utilisations potentielles. Davison a fait valoir que même si OpenAI a considérablement amélioré l’état de l’art en matière de génération de texte, en démontrant que la création de modèles polyvalents peut réduire le besoin de données spécifiques à une tâche, les ressources de calcul nécessaires pour utiliser GPT-3 rendent son utilisation peu pratique pour de nombreuses entreprises.

OpenAI était initialement une entreprise à but non lucratif, mais depuis 2019, le laboratoire est passé à un modèle à but lucratif. GPT-3 est le premier produit commercial majeur produit par le laboratoire, et il reste à voir si le passage à un modèle à but lucratif modifiera les priorités de recherche d’OpenAI.