Criando Turcos Mecânicos Artificiais Com Modelos de Linguagem Pré-Treinados

Uma grande parte do desenvolvimento de sistemas de aprendizado de máquina depende da rotulagem de dados, onde centenas, até milhares de perguntas (como Esta é uma foto de um gato? e Este texto é ofensivo?) devem ser resolvidas para desenvolver conjuntos de dados autoritativos nos quais os sistemas de IA serão treinados.

Embora todos contribuamos para este processo em algum momento, a maioria dessas tarefas de rotulagem é realizada por dinheiro por trabalhadores humanos em frameworks como o Amazon Mechanical Turk, onde os anotadores completam tarefas de classificação menores em uma economia de trabalho por peça.

O desenvolvimento de modelos seria mais barato se os modelos de linguagem pré-treinados (PLMs) pudessem em si mesmos realizar algumas das tarefas de Inteligência Humana (HITs) mais básicas atualmente sendo crowdsourcidas no AMT e plataformas semelhantes.

Recente pesquisa da Alemanha e da Huawei propõe isso, no artigo LMTurk: Aprendizes de Poucos Disparos como Trabalhadores de Crowdsourcing.

Modelos de Linguagem Realizando Aprendizado de Poucos Disparos

Os autores sugerem que as camadas mais simples de tarefas geralmente direcionadas a (trabalhadores humanos) Turk são análogas ao aprendizado de poucos disparos, onde um framework automatizado tem que decidir uma mini-tarefa com base em um pequeno número de exemplos dados a ele.

Eles propõem, portanto, que os sistemas de IA possam aprender efetivamente a partir de PLMs existentes que foram originalmente treinados por crowdworkers – que o conhecimento fundamental transmitido das pessoas para as máquinas foi efetivamente realizado e que, onde tal conhecimento é relativamente imutável ou empírico de alguma forma, os frameworks de modelo de linguagem automatizados podem potencialmente realizar essas tarefas em si mesmos.

‘Nossa ideia básica é que, para uma tarefa de PLN T, tratamos os aprendizes de poucos disparos como trabalhadores não especializados, semelhantes a trabalhadores de crowdsourcing que anotam recursos para tecnologia de linguagem humana. Estamos inspirados no fato de que podemos ver um trabalhador de crowdsourcing como um tipo de aprendiz de poucos disparos.’

As implicações incluem a possibilidade de que muitas das verdades fundamentais das quais os sistemas de IA do futuro dependem terão sido derivadas de humanos há muitos anos, e subsequentemente tratadas como informações pré-validadas e exploráveis que não requerem mais intervenção humana.

Empregos para Modelos de Linguagem de Faixa Média, Semi-Performáticos

Além da motivação para cortar o custo dos humanos no loop, os pesquisadores sugerem que o uso de PLMs de “faixa média” como verdadeiros Turcos Mecânicos fornece trabalho útil para esses sistemas “também corridos”, que estão sendo cada vez mais ofuscados por modelos de linguagem de grande escala e caros, como o GPT-3, que são muito caros e superespecificados para tais tarefas.

‘Nosso objetivo neste artigo é criar métodos que façam um uso mais eficaz dos aprendizes de poucos disparos atuais. Isso é crucial porque um número crescente de aprendizes de poucos disparos gigantescos está sendo treinado; como usá-los efetivamente é, portanto, uma questão importante. Em particular, queremos uma alternativa para modelos grandes difíceis de implantar.

‘Ao mesmo tempo, queremos aproveitar ao máximo as forças dos PLMs: Sua versatilidade garante uma aplicabilidade ampla em tarefas; seu vasto conhecimento sobre a linguagem e o mundo (aprendido no pré-treinamento) se manifesta na eficiência de dados dos aprendizes de poucos disparos, reduzindo o consumo de trabalho e tempo na anotação de dados.’

Até o momento, os autores argumentam que os aprendizes de poucos disparos em PLN foram tratados como estágios intersticiais descartáveis no caminho para sistemas de linguagem natural de alto nível que são muito mais intensivos em recursos, e que tal trabalho foi realizado de forma abstrata e sem consideração para a possível utilidade desses sistemas.

Método

Os autores oferecem LMTurk (Modelo de Linguagem como turco mecânico), em um fluxo de trabalho onde a entrada desse HIT automatizado fornece rótulos para um modelo de PLN de nível médio.

Um modelo de conceito básico para LMTurk. Fonte: https://arxiv.org/pdf/2112.07522.pdf

Esta primeira iteração depende de dados “ouro” rotulados por humanos em poucos disparos, onde os turcos de carne têm anotado rótulos para um número limitado de tarefas, e os rótulos foram pontuados bem, seja por meio de supervisão humana direta ou por meio de votação por consenso. A implicação para este esquema é que bifurcações ou desenvolvimentos a partir deste ponto de partida baseado no humano podem não precisar de entrada humana adicional no futuro.

Embora os autores sugiram experimentos adicionais com modelos híbridos posteriores (onde a entrada humana estaria presente, mas grandemente reduzida), eles não competiram, para os fins de sua pesquisa, os modelos LMTurk com resultados equivalentes de trabalhadores de HIT gerados por humanos, considerando que os dados rotulados com “ouro” são eles mesmos “entrada humana”.

O PLM projetado para realizar operações de Turk foi adaptado para a tarefa por P-Tuning, um método publicado por pesquisadores da China em 2021, que propôs embeddings de prompt contínuos treináveis para melhorar o desempenho de modelos do estilo GPT-3 em tarefas de Compreensão de Linguagem Natural (NLU).

P-Tuning tenta aprofundar o poder de previsão de um modelo do estilo GPT, e sua aparência de compreensão conceitual da linguagem, incorporando embeddings de pseudo-prompt. Neste caso, a consulta de início é ‘A capital da Grã-Bretanha é uma [x]’. Fonte: https://arxiv.org/pdf/2103.10385.pdf

Dados e Arquitetura

LMTurk foi avaliado em cinco conjuntos de dados: dois do Stanford Sentiment Treebank; AG’s News Corpus; Reconhecimento de Implicação Textual (RTE); e Corpus de Aceitabilidade Linguística (CoLA).

Para seu modelo maior, LMTurk usa os PLMs públicos ALBERT-XXLarge-v2 (AXLV2) como o modelo de origem para conversão em um Turk automatizado. O modelo apresenta 223 milhões de parâmetros (em oposição aos 175 bilhões de parâmetros no GPT-3). AXLV2, os autores observam, provou ser capaz de superar modelos de maior escala, como o BERT-Large de 334M.

Para um modelo mais ágil, leve e implantável em borda, o projeto usa TinyBERT-General-4L-312D (TBG), que apresenta 14,5 milhões de parâmetros com desempenho comparável ao BERT-base (que tem 110 milhões de parâmetros).

O treinamento com prompt habilitado ocorreu no PyTorch e HuggingFace para AXLV2 durante 100 etapas de lote em um tamanho de lote de 13, em uma taxa de aprendizado de 5e-4, usando decadência linear. Cada experimento foi originado com três sementes aleatórias diferentes.

Resultados

O projeto LMTurk executa modelos diversos contra muitos sub-setores específicos de PLN, de modo que os resultados complexos dos experimentos dos pesquisadores não são fáceis de reduzir a evidências empíricas de que LMTurk oferece em si uma abordagem viável para reutilizar cenários de aprendizado de poucos disparos históricos e originados por humanos.

No entanto, para fins de avaliação, os autores comparam seu método com dois trabalhos anteriores: Explorando Perguntas de Cloze para Classificação de Texto de Poucos Disparos e Inferência de Linguagem Natural por pesquisadores alemães Timo Schick e Hinrich Schutze; e resultados de Prompt-Based Auto, apresentados em Tornando os Modelos de Linguagem Pré-Treinados Melhores Aprendizes de Poucos Disparos por Gao, Chen e Fisch (respectivamente de Princeton e MIT).

Resultados dos experimentos LMTurk, com os pesquisadores relatando desempenho ‘comparável’.

Em resumo, LMTurk oferece uma linha de investigação relativamente promissora para pesquisadores que buscam incorporar e enshrinar dados rotulados com “ouro” de origem humana em modelos de linguagem de complexidade média que evoluem, onde sistemas automatizados substituem a entrada humana.

Como com a quantidade relativamente pequena de trabalhos anteriores neste campo, o conceito central depende da imutabilidade dos dados humanos originais, e da presunção de que fatores temporais – que podem representar obstáculos significativos para o desenvolvimento de PLN – não exigirão intervenção humana adicional à medida que a linhagem de máquina apenas evolui.

Publicado originalmente em 30 de dezembro de 2022