Modelos e plataformas de IA
GPT-2, Gerador de Texto de Inteligência Artificial Está Sendo Lançado em Versão Completa
Como relata TheNextWeb (TNW), OpenAI, a organização sem fins lucrativos por trás de vários projetos de inteligência artificial, acaba de publicar o modelo final no lançamento planejado em etapas para o GPT-2, um gerador de texto que causou muito debate desde seu anúncio de lançamento em fevereiro.
Com base no artigo de pesquisa da OpenAI intitulado Language Models are Unsupervised Multitask Learners, “O GPT-2 usa aprendizado de máquina para gerar texto baseado em entrada limitada.” Isso significa que um usuário pode digitar uma ou duas frases sobre qualquer assunto e o gerador de texto da IA criará um texto que tem alguma relação com a entrada original. Em essência, como nota o TNW, diferente da maioria dos ‘geradores de texto’, ele não produz strings pré-escritas. O GPT-2 cria texto que não existia anteriormente.”
No seu tweet, Scott B. Weingart, diretor de programas da Biblioteca da Universidade Carnegie Mellon, dá um exemplo concreto:
What is a Panther but a young lion?
An entire corridor filled entirely with people screaming.
How’s this for a happy ending? pic.twitter.com/qvPTrs790N
— Scott B. Weingart (@scott_bot) 20 de agosto de 2019
If death, in some obscure and distant hour,
Strikes me still as I slept, if I yet dream:
Is that my peace with an eternity spent?
[…]
But I fear it will be no peace or rest
Until the stars give me the full glow of their light
To see all my cares and woes in an instant.Shit. pic.twitter.com/QRoi1C3rjj
— Scott B. Weingart (@scott_bot) 20 de agosto de 2019
A OpenAI inicialmente se preocupou com possíveis usos maliciosos de seu sistema, então, em fevereiro de 2019, decidiu lançar o GPT-2 em quatro partes ao longo de oito meses. Como explicaram em seu blog, “Devido às nossas preocupações sobre aplicações maliciosas da tecnologia, não estamos lançando o modelo treinado. Como um experimento em divulgação responsável, estamos lançando um modelo muito menor para que os pesquisadores experimentem, bem como um artigo técnico.”
Como explicado, o modelo completo contém 1,5 bilhão de parâmetros. “Quanto mais parâmetros um modelo é treinado, mais ‘inteligente’ ele parece – assim como os humanos, a prática leva à perfeição.”
O TNW nota que inicialmente a OpenAI lançou um modelo com 124 milhões de parâmetros, seguido por lançamentos com 355 e 774 milhões. De acordo com eles, após testar os modelos lançados, “cada iteração mostrou uma melhoria significativa em capacidade em relação às iterações anteriores.”
Para prevenir o mau uso, a OpenAI lançou modelos de detecção do GPT-2 que são supostos “combater o mau uso de forma preventiva.” Em seu próprio blog, admitiram que esses modelos de detecção ainda precisam de mais trabalho para atingir o nível de qualidade alcançado até agora no GPT-2 em si.
Quem estiver interessado pode baixar o modelo GPT-2 aqui no Github, verificar a ficha do modelo aqui e ler o post do blog da OpenAI aqui.












