A Alibaba Desenvolve Simulação de Motor de Busca AI que Usa Dados Ao Vivo

Em colaboração com pesquisadores acadêmicos na China, a Alibaba desenvolveu uma simulação de motor de busca AI que usa dados do mundo real da infraestrutura ao vivo do gigante do comércio eletrônico para desenvolver novos modelos de classificação que não são limitados por informações “históricas” ou desatualizadas.

O mecanismo, chamado AESim, representa o segundo grande anúncio em uma semana para reconhecer a necessidade de sistemas de IA serem capazes de avaliar e incorporar dados ao vivo e atuais, em vez de apenas abstrair os dados disponíveis no momento em que o modelo foi treinado. O anúncio anterior foi do Facebook, que na semana passada lançou o modelo de linguagem BlenderBot 2.0, uma interface de NLP que apresenta pesquisas ao vivo de resultados de busca na internet em resposta a consultas.

O objetivo do projeto AESim é fornecer um ambiente experimental para o desenvolvimento de novas soluções de Aprendizado para Classificar (LTR) em sistemas de recuperação de informações comerciais. Ao testar a estrutura, os pesquisadores descobriram que ela refletia com precisão o desempenho online dentro de parâmetros úteis e ações.

Os autores do artigo, incluindo quatro representantes da Universidade de Nanjing e da divisão de pesquisa da Alibaba, afirmam que uma nova abordagem para simulações de LTR foi necessária por duas razões: a falha de iniciativas recentes semelhantes em aprendizado profundo para criar técnicas reproduzíveis, com uma série de algoritmos falhando em se traduzir em sistemas reais aplicáveis; e a falta de transferibilidade, em termos de desempenho dos dados de treinamento versus dados novos em casos em que os sistemas foram inicialmente mais eficazes.

Colocando em Produção

O artigo afirma que o AESim é a primeira plataforma de simulação de comércio eletrônico baseada em dados de usuários e atividades ao vivo e atuais, e que ele pode refletir com precisão o desempenho online por meio do uso unilateral de dados ao vivo, fornecendo um ambiente de treinamento para que pesquisadores posteriores avaliem metodologias e inovações de LTR.

O modelo incorpora uma nova abordagem para um esquema típico de motores de busca industriais: a primeira etapa é a recuperação de itens relacionados à consulta do usuário, que não são inicialmente apresentados ao usuário, mas sim classificados por um modelo de LTR ponderado. Em seguida, os resultados classificados são passados por um filtro que considera os objetivos da empresa ao fornecer os resultados – metas que podem incluir fatores de publicidade e diversidade.

Arquitetura do AESim

No AESim, as consultas são substituídas por índices de categoria, permitindo que o sistema recupere itens de um índice de categoria antes de passá-los para um reclassificador personalizável que produz a lista final. Embora a estrutura permita que os pesquisadores estudem os efeitos da classificação conjunta em vários modelos, esse aspecto está sendo deixado para trabalhos futuros, e a implementação atual procura automaticamente a avaliação ideal com base em um único modelo.

A arquitetura do AESim. Fonte: https://arxiv.org/pdf/2107.07693.pdf

O AESim cria embeddings (representações virtuais na arquitetura de aprendizado de máquina) que encapsulam o “usuário virtual” e sua consulta, e utiliza uma abordagem de Rede Generativa Adversária de Wasserstein com Penalidade de Gradiente (WGAN-GP).

A arquitetura compreende um banco de dados de milhões de itens disponíveis classificados por categoria, um sistema de classificação personalizável, um módulo de feedback e conjuntos de dados sintéticos gerados pelos componentes baseados em GAN. O módulo de feedback é a etapa final no fluxo de trabalho, capaz de avaliar o desempenho da última iteração de um modelo de classificação.

Aprendizado de Imitação Adversário Generativo

Para modelar a lógica de decisão do “Módulo de Usuário Virtual”, o módulo de feedback (que fornece os resultados finais) é treinado por meio do Aprendizado de Imitação Adversário Generativo (GAIL), uma teoria proposta por pesquisadores de Stanford em 2016. O GAIL é um paradigma sem modelo que permite que um sistema desenvolva uma política diretamente a partir de dados por meio de aprendizado de imitação.

Os conjuntos de treinamento desenvolvidos pelo AESim são essencialmente os mesmos que os conjuntos de dados estáticos e históricos usados em modelos de aprendizado supervisionado anteriores para sistemas semelhantes. A diferença com o AESim é que ele não depende de um conjunto de dados estático para feedback e não é limitado pelas ordens de itens geradas no momento em que os dados de treinamento antigos foram compilados.

O aspecto gerativo do AESim centra-se na criação de um usuário virtual por meio do WGAN-GP, que produz “falsos” características de usuário e consulta, e então tenta discernir esses dados falsos de dados de usuário reais fornecidos pelas redes ao vivo às quais o AESim tem acesso.

Uma representação em nuvem de usuários falsos e reais em uma simulação de motor de busca industrial típica.

Testes

Os pesquisadores testaram o AESim implantando uma instância par-a-par e ListMLE no sistema, cada um dos quais teve que atender a uma fatia aleatória não intersectante de consultas de busca no contexto de um algoritmo de reclassificação.

Neste ponto, o AESim é desafiado pelos dados ao vivo rapidamente mudando e diversificados de maneira semelhante à do novo modelo de linguagem do Facebook. Portanto, os resultados foram considerados à luz do desempenho geral.

Testado por dez dias, o AESim demonstrou uma notável consistência em três modelos, embora os pesquisadores tenham observado que um teste adicional de um módulo de Modelo de Contexto de Documento (DLCM) se saiu mal no ambiente offline, mas muito bem no ambiente ao vivo, e admitem que o sistema demonstrará lacunas com seus equivalentes ao vivo, dependendo da configuração e dos modelos sendo testados.