Le générateur de langage GPT-3 d’OpenAI attire beaucoup d’attention

La société de recherche en intelligence artificielle (IA) à but non lucratif OpenAI, qui est soutenue par des noms comme Peter Thiel, Elon Musk, Reid Hoffman, Marc Benioff et Sam Altman, a publié GPT-3, le troisième modèle de prédiction de langage de l’entreprise. La sortie de GPT-3 a été accueillie avec un enthousiasme extrême de la part de certains des premiers utilisateurs. 

Qu’est-ce que GPT-3

GPT-3 est le plus grand modèle de langage jamais créé et est capable de générer du texte qui est indiscernable du texte humain dans de nombreux cas. OpenAI a décrit la technologie de prédiction de langage pour la première fois dans un article de recherche en mai. La semaine dernière, certaines personnes ont eu un accès anticipé au logiciel via une version bêta privée. 

OpenAI compte sur les développeurs externes pour en apprendre davantage sur la technologie et sur ce qu’elle est capable de faire, et l’entreprise prévoit de passer à une version commerciale d’ici la fin de cette année. Les entreprises pourront payer un abonnement pour utiliser l’IA.

Modèle de langage le plus puissant

GPT-3 s’est avéré être le modèle de langage le plus puissant jamais créé. Évoluant à partir du modèle GPT-2 précédent, GPT-3 a été publié l’année dernière. GPT-2 était également extrêmement impressionnant, capable de créer des chaînes de texte compétentes après avoir reçu une phrase d’ouverture.

GPT-3 dispose de 175 milliards de paramètres, ce qui constitue une augmentation par rapport aux 1,5 milliard de GPT-2, et l’IA a été démontrée capable de créer des histoires courtes, des chansons, des communiqués de presse et des manuels techniques. Non seulement la technologie peut-elle créer des histoires, mais elle peut le faire en utilisant un langage qui est relatif à des écrivains spécifiques. La technologie n’exigeait que le titre, le nom de l’auteur et le mot initial. GPT-3 est également capable de générer d’autres textes tels que des tablatures de guitare et du code informatique. 

Le développeur web Sharif Shameem a pu utiliser GPT-3 pour créer des dispositions de pages Web, tandis que le célèbre codeur John Carmach, le CTO d’Oculus VR et un grand influenceur dans les graphiques informatiques, a déclaré ceci sur la nouvelle technologie : « La découverte récente, presque accidentelle, que GPT-3 peut écrire du code de manière approximative, me fait frissonner légèrement. »

Préoccupations concernant les préjugés et l’intelligence

Il existe encore certaines préoccupations concernant GPT-3 et le niveau de préjugés ou de langage sexiste et raciste qu’il pourrait produire. Ce type de problème a été abordé dans le modèle GPT-2, il ne s’agit donc pas d’un problème entièrement nouveau. 

GPT-3 n’est pas intelligent et fait de nombreuses erreurs que l’homme ne ferait pas, mais l’ingénierie est exceptionnelle. La technologie est extrêmement douée pour synthétiser le texte sur Internet et pour récupérer des millions de morceaux de texte qu’elle peut assembler. 

Pour cette raison, des personnes comme Sam Altman, co-fondateur d’OpenAI avec Elon Musk, ont été rapides pour atténuer une partie de l’attention que la technologie recevait. 

« L’hype autour de GPT-3 est beaucoup trop importante. C’est impressionnant (merci pour les compliments !) mais il présente encore de graves faiblesses et parfois commet des erreurs très stupides. L’IA va changer le monde, mais GPT-3 n’est qu’un aperçu très précoce. Nous avons encore beaucoup à découvrir », a-t-il tweeté le 19 juillet. 

OpenAI est loin d’être terminée, mais GPT-3 est un énorme pas en avant dans l’intelligence artificielle et la technologie de prédiction de langage.