Microdosing em AI de Baixa Alucinação

O Agentforce está aqui. A Salesforce (CRM ) encerrou mais uma edição de sua conferência anual Dreamforce em setembro. Juntando-se às multidões de participantes — e às multidões de Waymos que os levavam em um San Francisco extra-limpo — agora temos uma multidão de agentes ao nosso alcance para transformar o trabalho, controlados de forma elegante dentro do ecossistema da Salesforce. Embora a Dreamforce seja sempre um espetáculo por suas declarações de marketing sobre o futuro, este ano forneceu uma visão inesperadamente convincente de como os agentes baseados em IA estão prestes a revolucionar o local de trabalho e a experiência do cliente.

Vamos moderar nossas expectativas por um pouco mais de tempo. Benioff ponderou em sua palestra, “Por que nossos agentes seriam tão de baixa alucinação?” Sim, eles têm os dados, os metadados, os fluxos de trabalho e uma vasta gama de serviços para se conectar; e desde que seus sistemas vivam apenas dentro da Salesforce, soa bastante ideal. A Salesforce pode ou não ter inventado a engenharia de prompt, uma afirmação que Benioff também fez na palestra, evocando talvez o monólogo do Dr. Evil de “Austin Powers” sobre seu pai ter inventado o ponto de interrogação. Mas a Salesforce pode atender à visão do Agentforce? Se fizerem, será um grande negócio para como o trabalho é feito.

Sejamos realistas, no entanto: nossos sistemas e dados não vivem todos dentro da Salesforce. Se o futuro do trabalho for definido por grupos de agentes trabalhando juntos, até onde os jardins murados e os ecossistemas fechados podem nos levar na entrega de resultados em nossos negócios? Certamente, a Apple (AAPL ), a Microsoft (MSFT ), a Amazon (AMZN ) e uma série de outras empresas querem abraçar a enorme oportunidade de agentes à nossa frente. Mas, à medida que cada onda de avanço técnico trouxe diferentes sabores de debates abertos versus fechados, eventualmente precisaremos de um padrão para que os agentes trabalhem juntos uns com os outros além das fronteiras. Caso contrário, apenas partes de seu negócio atenderão a essa oportunidade.

Como muitas vezes fazemos quando enfrentamos o dilema aberto/fechado, vamos olhar para a web aberta como uma forma de avançar. Assim como os aplicativos no seu telefone precisam de uma visualização da web para permitir uma infinidade de resultados de aplicativos móveis, o mesmo será necessário na próxima fronteira de multiagentes. Ferramentas como o Slack fornecem estruturas de UI como o Block Kit que podem alimentar a interface do usuário para uma interação de agente simples, mas não está preparado para lidar com a profundidade das experiências do usuário modernas. Pegue o Clockwise Prism como exemplo. Construímos um agente de programação de próxima geração para encontrar tempo para uma reunião, mesmo que não haja “espaço em branco” no calendário de amanhã. Quando você o conecta a outros agentes para garantir aquela reunião impossível com seus prospectos de vendas mais quentes, você precisará de uma forma de confirmar ou explorar uma miríade de opções de programação sofisticadas e poderosas. Fornecer uma visualização da web para fazer isso é o caminho claro para o futuro.

Ao longo de sua palestra, Benioff repetiu o mantra de que você não quer agentes DIY dentro de sua empresa. E ele está certo. As empresas querem fluxos de trabalho controlados e simplificados que forneçam valor repetível. E, no entanto, elas não querem ficar presas em um silo. É por isso que precisamos de um padrão aberto para o futuro de multiagentes. Precisamos de uma maneira confiável para que os agentes interajam uns com os outros, cruzem fronteiras entre aplicativos e ecossistemas e façam isso de uma maneira que mantenha os negócios no controle da experiência do produto.

Você pode ser tão provável de iniciar um conjunto de agentes de trabalho de dentro de um ticket do Atlassian (TEAM ) Jira conectado a um caso do cliente da Salesforce quanto querer iniciar um conjunto de agentes em reverso, originando-se dentro da Salesforce conectado ao Atlassian. Para que os agentes trabalhem juntos, independentemente de onde um pedido de trabalho origina e em qualquer número de direções com uma experiência do usuário consistente, novamente, um padrão para fazer isso é necessário.

O que mais deve ser representado nesse padrão? Fora da Salesforce, o ecossistema de multiagentes de hoje é um oeste selvagem emocionante. Diariamente, vemos novas inovações e maneiras de conectar e construir sistemas de IA e fluxos de trabalho de agentes. Um recente vínculo entre o framework de IA LangChain e uma ferramenta chamada Assitant-UI trouxe essa insight:

“A UX é crucial para os agentes. Todos querem agentes com streaming, UI gerativa e humano-no-loop em seu aplicativo.”

De fato, já cobrimos como a experiência do usuário é crucial para os agentes. E, claramente, os agentes devem ser capazes de transmitir rapidamente suas respostas ao trabalhar com outros agentes. Mas o que dizer da UI gerativa e do humano-no-loop em seu aplicativo?

Vamos começar com o humano-no-loop; outra área de amplo acordo. Embora a Salesforce e outras empresas falem sobre automação, sempre está fundamentada na necessidade de ser capaz de trazer um humano de volta ao centro quando necessário. Aprendemos essa lição também no Clockwise e construímos nossa experiência de agente de programação em torno de um conceito central de ser capaz de verificar novamente com o usuário com um conjunto proposto de opções de programação. Quando você está fazendo um trabalho complexo, é incrível chegar à automação total, mas começa com a espinha dorsal de envolver o usuário e mantê-lo no loop. Qualquer padrão deve ser construído em torno de uma capacidade opcional de verificar e confirmar com o usuário antes de prosseguir e, eventualmente, permitir a automação total quando a confiança for suficientemente alta.

E o que dizer da UI gerativa? Aqui eu proporia que o que é necessário não é necessariamente a UI gerativa, mas a “UI nativa”. O que é importante é que o agente está produzindo uma UI que é nativa e controlada pelo serviço/agente que responde ao pedido. Somente o serviço nativo terá o contexto e a compreensão necessários para renderizar uma interface do usuário que se liga ao pedido do agente. Seja qual for a UI renderizada usando IA gerativa ou algum outro mecanismo não IA, é deixado ao serviço respondente como um detalhe de implementação. E, portanto, aqui, pensamos que o padrão aberto deve permitir que o serviço respondente controle e forneça UI nativa para um pedido de agente.

O que vem a seguir? Estamos animados para continuar a examinar como um futuro de multiagentes aberto pode parecer. Criamos um rascunho de algo que estamos chamando de Protocolo Aberto de Multiagentes (OMAP) e estamos animados para continuar impulsionando a conversa. Não será longo antes que haja completamente novos tipos de empregos lá fora onde as pessoas usam agentes para fazer o trabalho de maneiras poderosas e otimizadas. A era da descrição de trabalho do Orquestrador de Agentes está sobre nós, e, embora a Salesforce pinte um caminho convincente à frente, precisaremos de uma maneira padrão para que os agentes se conectem além das fronteiras.