3 Considerações para Agentes de IA Seguros e Confiáveis para Empresas

De acordo com a Gartner, 30% dos projetos de GenAI provavelmente serão abandonados após a prova de conceito até o final de 2025. A adoção precoce da GenAI revelou que a maioria das infraestruturas de dados e práticas de governança das empresas não estavam preparadas para a implantação eficaz da IA. A primeira onda de productização da GenAI enfrentou obstáculos consideráveis, com muitas organizações lutando para ir além das etapas de prova de conceito para alcançar um valor comercial significativo.

À medida que entramos na segunda onda de productização da GenAI, as empresas estão percebendo que a implementação bem-sucedida dessas tecnologias requer mais do que simplesmente conectar um LLM aos seus dados. A chave para desbloquear o potencial da IA reside em três pilares fundamentais: preparar os dados e garantir que estejam prontos para integração com a IA; reformular as práticas de governança de dados para abordar os desafios únicos introduzidos pela GenAI; e implantar agentes de IA de maneira que o uso seguro e confiável seja natural e intuitivo, para que os usuários não sejam forçados a aprender habilidades especializadas ou padrões de uso precisos. Juntos, esses pilares criam uma base sólida para agentes de IA seguros e eficazes em ambientes empresariais.

Preparando Adequadamente Seus Dados para a IA

Embora os dados estruturados possam parecer organizados à vista desarmada, estando arranjados em tabelas e colunas, os LLMs frequentemente lutam para entender e trabalhar com esses dados estruturados de forma eficaz. Isso ocorre porque, na maioria das empresas, os dados não são rotulados de uma maneira semanticamente significativa. Os dados frequentemente têm rótulos crípticos, por exemplo, “ID” sem nenhuma indicação clara de se trata de um identificador para um cliente, um produto ou uma transação. Com dados estruturados, também é difícil capturar o contexto apropriado e as relações entre diferentes pontos de dados interconectados, como as etapas de uma jornada do cliente estão relacionadas entre si. Assim como precisamos rotular cada imagem em aplicações de visão computacional para permitir interação significativa, as organizações agora devem empreender a tarefa complexa de rotular semanticamente seus dados e documentar relações em todos os sistemas para permitir interações significativas com a IA.

Além disso, os dados estão espalhados por muitos lugares diferentes – desde servidores tradicionais até vários serviços de nuvem e diferentes aplicações de software. Essa colcha de retalhos de sistemas leva a problemas críticos de interoperabilidade e integração que se tornam ainda mais problemáticos ao implantar soluções de IA.

Outro desafio fundamental reside na inconsistência das definições de negócios em diferentes sistemas e departamentos. Por exemplo, as equipes de sucesso do cliente podem definir “upsell” de uma maneira, enquanto a equipe de vendas o define de outra. Quando você conecta um agente de IA ou chatbot a esses sistemas e começa a fazer perguntas, você obterá respostas diferentes porque as definições de dados não estão alinhadas. Essa falta de alinhamento não é uma inconveniência menor – é uma barreira crítica para a implantação de soluções de IA confiáveis.

A má qualidade dos dados cria um cenário clássico de “lixo para dentro, lixo para fora” que se torna exponencialmente mais sério quando as ferramentas de IA são implantadas em toda a empresa. Dados incorretos ou desordenados afetam muito mais do que uma análise – espalham informações incorretas para todos que usam o sistema por meio de suas perguntas e interações. Para construir confiança nos sistemas de IA para decisões comerciais reais, as empresas devem garantir que suas aplicações de IA tenham dados que sejam limpos, precisos e entendidos em um contexto comercial apropriado. Isso representa uma mudança fundamental na forma como as organizações devem pensar sobre seus ativos de dados na era da IA – onde a qualidade, a consistência e a clareza semântica se tornam tão cruciais quanto os próprios dados.

Fortalecendo Abordagens de Governança

A governança de dados tem sido um foco importante para as organizações nos últimos anos, principalmente centrada em gerenciar e proteger os dados usados na análise. As empresas vêm fazendo esforços para mapear informações sensíveis, aderir a padrões de acesso, cumprir leis como o GDPR e o CCPA, e detectar dados pessoais. Essas iniciativas são vitais para criar dados prontos para a IA. No entanto, à medida que as organizações introduzem agentes de IA genérica em seus fluxos de trabalho, o desafio de governança se estende além dos próprios dados para abranger a experiência de interação do usuário com a IA.

Agora enfrentamos a necessidade imperativa de governar não apenas os dados subjacentes, mas também o processo pelo qual os usuários interagem com esses dados por meio de agentes de IA. Legislações existentes, como o AI Act da União Europeia, e mais regulamentações no horizonte enfatizam a necessidade de governar o próprio processo de resposta a perguntas. Isso significa garantir que os agentes de IA forneçam respostas transparentes, explicáveis e rastreáveis. Quando os usuários recebem respostas de caixa preta – como perguntar “Quantos pacientes com gripe foram admitidos ontem?” e obter apenas “50” sem contexto – é difícil confiar nessa informação para decisões críticas. Sem saber de onde veio o dado, como foi calculado ou as definições de termos como “admitido” e “ontem”, a saída da IA perde confiabilidade.

Ao contrário das interações com documentos, onde os usuários podem rastrear respostas de volta a documentos específicos ou políticas para verificar a precisão, as interações com dados estruturados por meio de agentes de IA frequentemente carecem desse nível de rastreabilidade e explicabilidade. Para abordar essas questões, as organizações devem implementar medidas de governança que não apenas protejam dados sensíveis, mas também tornem a experiência de interação com a IA governada e confiável. Isso inclui estabelecer controles de acesso robustos para garantir que apenas pessoal autorizado possa acessar informações específicas, definir responsabilidades claras de propriedade e gestão de dados e garantir que os agentes de IA forneçam explicações e referências para suas saídas. Ao reformular as práticas de governança de dados para incluir essas considerações, as empresas podem aproveitar com segurança o poder dos agentes de IA enquanto cumprem com regulamentações em evolução e mantêm a confiança do usuário.

Pensando Além da Engenharia de Prompt

À medida que as organizações introduzem agentes de IA genérica em uma tentativa de melhorar a acessibilidade dos dados, a engenharia de prompt surgiu como uma nova barreira técnica para os usuários de negócios. Embora promovida como uma carreira promissora, a engenharia de prompt é essencialmente recriar as mesmas barreiras com as quais lutamos na análise de dados. Criar prompts perfeitos não é diferente de escrever consultas SQL especializadas ou construir filtros de painel – é transferir expertise técnica de um formato para outro, ainda exigindo habilidades especializadas que a maioria dos usuários de negócios não tem e não deve precisar.

As empresas há muito tentam resolver a acessibilidade dos dados treinando os usuários para entender melhor os sistemas de dados, criando documentação e desenvolvendo papéis especializados. Mas essa abordagem é invertida – pedimos que os usuários se adaptem aos dados em vez de fazer com que os dados se adaptem aos usuários. A engenharia de prompt ameaça continuar esse padrão, criando ainda outra camada de intermediários técnicos.

A verdadeira democratização dos dados exige sistemas que entendam a linguagem dos negócios, não usuários que entendam a linguagem dos dados. Quando os executivos perguntam sobre a retenção de clientes, eles não devem precisar de terminologia perfeita ou prompts. Os sistemas devem entender a intenção, reconhecer dados relevantes em diferentes rótulos (seja “churn”, “retenção” ou “ciclo de vida do cliente”) e fornecer respostas contextuais. Isso permite que os usuários de negócios se concentrem em decisões em vez de aprender a fazer perguntas tecnicamente perfeitas.

Conclusão

Os agentes de IA trarão mudanças importantes para a forma como as empresas operam e tomam decisões, mas vêm com seu próprio conjunto único de desafios que devem ser abordados antes de serem implantados. Com a IA, cada erro é amplificado quando os usuários não técnicos têm acesso de autoatendimento, tornando crucial obter as fundações certas.

As organizações que abordam com sucesso os desafios fundamentais da qualidade dos dados, alinhamento semântico e governança, enquanto ultrapassam as limitações da engenharia de prompt, estarão posicionadas para democratizar com segurança o acesso a dados e a tomada de decisões. A melhor abordagem envolve criar um ambiente colaborativo que facilite a equipe e alinhe interações humanas e de máquina, bem como interações de máquina para máquina. Isso garante que as percepções impulsionadas pela IA sejam precisas, seguras e confiáveis, incentivando uma cultura organizacional que gerencia, protege e maximiza os dados ao seu pleno potencial.