Connect with us

Líderes de pensamento

A Empresa Inteligente: Tornando a IA Geradora Pronta para Empresas

mm

Vamos começar aqui: Sim, as oportunidades para IA Geradora (GenAI) são imensas. Sim, ela está transformando o mundo como o conhecemos (e mais rápido do que a maioria de nós previu). E sim, a tecnologia está ficando mais inteligente. No entanto, as implicações para GenAI, com sua capacidade de gerar texto, imagens e narrativas, sobre empresas e negócios são muito diferentes do impacto sobre o público em geral — afinal, a maioria das empresas não escreve poemas ou histórias (o que é popular entre os usuários do ChatGPT), elas servem aos seus clientes.

Muitas empresas têm experiência com processamento de linguagem natural (NLP) e chatbots de baixo nível, mas GenAI está acelerando como os dados podem ser integrados, interpretados e convertidos em resultados de negócios. Portanto, elas precisam determinar rapidamente quais casos de uso de GenAI resolverão seus desafios de negócios mais urgentes e impulsionarão o crescimento. Para entender como as empresas podem tornar GenAI pronta para empresas com seus dados, é importante revisar como chegamos a este ponto.

A Jornada de NLP para Large Language Model (LLM)

A tecnologia tem tentado dar sentido às linguagens naturais por décadas. Embora a linguagem humana em si seja uma forma evoluída de expressão humana, o fato de que os humanos evoluíram para muitos dialetos em todo o mundo — desde símbolos e sons em sílabas, fonética e linguagens — deixou a tecnologia dependente de métodos de comunicação digital mais simples com bits e bytes, etc., até relativamente recentemente.

Eu comecei a trabalhar em programas de NLP quase uma década atrás. Naquela época, era tudo sobre taxonomia e ontologia de linguagem, extração de entidades e uma forma primitiva de banco de dados gráfico (em grande parte em XML) para tentar manter relacionamentos complexos e contexto entre várias entidades, dar sentido a consultas de pesquisa, gerar uma nuvem de palavras e entregar resultados. Não havia nada matemático sobre isso. Havia muito Humano no Loop para construir bancos de dados de taxonomia, muita análise de XML e, o mais importante, muita computação e memória em jogo. Não é necessário dizer, alguns programas foram bem-sucedidos e a maioria não foi. O aprendizado de máquina veio em seguida com várias abordagens de aprendizado profundo e redes neurais, etc., acelerando a compreensão de linguagem natural (NLU) e inferência de linguagem natural (NLI). No entanto, havia três fatores limitantes — poder de computação para processar modelos complexos, acesso a volumes de dados que possam ensinar máquinas e, principalmente, um modelo que possa se autoaprender e se autocorrigir, formando relacionamentos temporais entre frases.

Avançando duas décadas depois, e os GPUs entregam um poder de computação maciço, redes neurais autoensinantes e evolutivas são a norma, modelos de aprendizado supervisionado/ não supervisionado/semi-supervisionado existem, e, acima de tudo, há um maior acesso a enormes quantidades de dados em vários idiomas, incluindo várias plataformas de mídia social, que esses modelos podem treinar. O resultado são motores de IA que podem se conectar com você em sua linguagem natural, entender a emoção e o significado por trás de suas consultas, soar como um ser humano e responder como um.

Nós todos, por meio de nossa presença nas mídias sociais, temos sido, sem saber, um ‘Humano’ no ‘Loop’ para treinar esses motores. Agora temos motores que alegam ser treinados em trilhões de parâmetros, capazes de tomar centenas e milhares de parâmetros de entrada, que são multi-modais e responder a nós em nossa linguagem. Seja o GPT4/5, PaLM2, Llama ou qualquer outro LLM que tenha sido publicado até agora, eles estão surgindo como solucionadores de problemas verticais mais contextualizados.

Sistemas de Engajamento e Sistemas de Registro

Enquanto a jornada de NLPs para LLMs foi grande, graças à Evolução do Silício, modelos de dados e a disponibilidade de enormes quantidades de dados de treinamento que todos geramos, as empresas — fornecedores de varejo, fabricantes, bancos, etc. — cada uma precisa de aplicações muito diferentes dessa tecnologia. Primeiramente, as empresas não podem se dar ao luxo de alucinação da IA — elas precisam de 0% de alucinação e 100% de precisão para os usuários que interagem com a IA. Há uma variedade de consultas que exigem precisão absoluta para ter algum uso comercial — por exemplo, Quantos quartos estão disponíveis no seu hotel? Você tem um bilhete de primeira classe disponível?

Para contrariar a alucinação da IA, entra a concepção antiga de Sistemas de Engajamento e Sistemas de Registro. Os Sistemas de Engajamento, seja com seus clientes, fornecedores ou funcionários, podem aproveitar uma plataforma conversacional baseada em GenAI fora da caixa, após ser treinada para prompts de negócios específicos — essa é a parte “mais fácil”. O desafio é incorporar os Sistemas de Registro na cadeia de valor. Muitas empresas ainda estão em um mundo estático de tabelas e entidades baseadas e permanecerão assim porque a maioria das empresas é estática em um nível organizacional ou corporativo, enquanto eventos e fluxos de trabalho as tornam dinâmicas em um nível transacional.

Aqui é onde falamos sobre plataformas conversacionais de próxima geração que não apenas abordam conversas, interfaces e consultas, mas também levam as jornadas do cliente até o cumprimento. Há diferentes abordagens arquitetônicas para essas plataformas conversacionais. Uma opção imediata é usar middleware híbrido que atua como um consolidador entre dados de empresa vetoriais e rotulados e prompts conversacionais impulsionados por LLM e entrega um resultado de 0% de alucinação para os consumidores.

Há uma enorme quantidade de trabalho de preparação de dados necessário pelas empresas para torná-lo inteligível para um motor LLM. Nós o chamamos de achatamento dos modelos de dados tradicionais baseados em tabelas e entidades. Bancos de dados gráficos, que representam e armazenam dados de uma maneira que os bancos de dados relacionais não podem, estão encontrando um novo propósito nessa jornada. O objetivo é converter bancos de dados de empresas em bancos de dados gráficos mais inteligíveis com relacionamentos que definem contexto e significado, tornando mais fácil para os motores LLM aprenderem e, portanto, responderem a prompts de clientes finais por meio de uma combinação de consultas conversacionais e em tempo real. Essa tarefa de habilitar os dados de empresa para serem prontos para LLM é a chave para fornecer uma experiência de ponta a ponta de Sistemas de Engajamento para Sistemas de Registro e levar as experiências do usuário até o cumprimento.

O que Vem a Seguir

Neste ponto, com esses avanços em dados e IA, o impacto mais imediato vem na área de geração de código de software — como evidenciado pelo surgimento do Microsoft Copilot, Amazone CodeWhisperer e outras ferramentas entre os desenvolvedores. Essas ferramentas estão impulsionando programas de modernização de legado, muitos dos quais estão paralisados devido a preocupações de tempo e custo. Com ferramentas de geração de código impulsionadas por GenAI, estamos vendo projetos de modernização acelerarem seus cronogramas em 20-40%. Em projetos de desenvolvimento de código verde, essas ferramentas permitirão que os desenvolvedores mudem o tempo e a produtividade para o pensamento de design e projetos mais inovadores.

Além do desenvolvimento de código de software, as ferramentas de GenAI estão levando à criação de novos casos de uso verticais e cenários que visam resolver os desafios mais urgentes das empresas, e estamos apenas começando a arranhar a superfície do que precisa ser feito para aproveitar ao máximo essa tendência. No entanto, já estamos resolvendo vários problemas e perguntas no setor de varejo e logística, aproveitando GenAI:

Quantos estoques tenho no armazém e quando devo acionar o reabastecimento? É lucrativo estocar com antecedência? O meu preço de aterrissagem está correto ou vai aumentar? Quais itens posso embalar ou que tipo de personalização posso fornecer para elevar meu lucro?

Responder a esse tipo de pergunta exige uma combinação de interfaces conversacionais de frente, consultas de dados impulsionadas por alta precisão na parte de trás e um modelo de aprendizado de máquina pesado em domínio que fornece previsões e orientação futura. Portanto, meu conselho para as empresas seria, seja você um explorador de IA ou um disruptor de IA Geradora, parcele com fornecedores de serviços que tenham expertise comprovada em IA e robustas capacidades de dados e análise que possam armá-lo para capitalizar em modelos de GenAI adequados às suas necessidades de negócios e ajudá-lo a ficar à frente da curva.

Padmanabhan (Paddy) é um líder de plataforma e engenharia de produtos nativos de nuvem com foco em plataformas impulsionadas por dados, microsserviços e engenharia nativa de nuvem, e modernizando tecnologia e produtos legados. Ele é Vice-Presidente Sênior e Gerente Geral que lidera o vertical Global Consumer Tech na Persistent Systems, e sua equipe habilita Engenharia de Produtos Digitais para seus clientes em varejo, CPG, viagens e logística.