Por que o GenAI fica preso no piloto

À medida que as empresas lutam para mover projetos de Inteligência Artificial Gerativa da experimentação para a produção, muitas empresas permanecem presas no modo de piloto. Como nossa pesquisa recente destaca, 92% das organizações estão preocupadas que os pilotos de GenAI estão acelerando sem antes abordar questões fundamentais de dados. Ainda mais revelador: 67% não conseguiram escalar nem metade de seus pilotos para produção. Essa lacuna de produção é menos sobre maturidade tecnológica e mais sobre a prontidão dos dados subjacentes. O potencial do GenAI depende da força do terreno em que se baseia. E hoje, para a maioria das organizações, esse terreno é, no mínimo, instável.

Por que o GenAI fica preso no piloto

Embora as soluções de GenAI sejam certamente poderosas, elas são apenas tão eficazes quanto os dados que as alimentam. O velho adágio de “lixo que entra, lixo que sai” é mais verdadeiro hoje do que nunca. Sem dados confiáveis, completos, intitulados e explicáveis, os modelos de GenAI frequentemente produzem resultados que são imprecisos, tendenciosos ou inadequados para o propósito.

Infelizmente, as organizações correram para implantar casos de uso de baixo esforço, como chatbots de IA que oferecem respostas personalizadas de diferentes documentos internos. E embora esses melhorem as experiências do cliente em certa medida, eles não exigem mudanças profundas na infraestrutura de dados de uma empresa. Mas para escalar o GenAI estrategicamente, seja em saúde, serviços financeiros ou automação de cadeia de suprimentos, é necessária uma diferente niveau de maturidade de dados.

De fato, 56% dos Diretores de Dados citam a confiabilidade dos dados como uma barreira-chave para a implantação de IA. Outros problemas incluem dados incompletos (53%), questões de privacidade (50%) e lacunas de governança de IA mais amplas (36%).

Não há governança, não há GenAI

Para levar o GenAI além da fase de piloto, as empresas devem tratar a governança de dados como um imperativo estratégico para seus negócios. Elas precisam garantir que os dados estejam à altura do desafio de alimentar modelos de IA e, para isso, as seguintes questões precisam ser abordadas:

• Os dados usados para treinar o modelo vêm dos sistemas certos?
• Removemos informações de identificação pessoal e seguimos todas as regulamentações de dados e privacidade?
• Somos transparentes e podemos provar a linhagem dos dados que o modelo usa?
• Podemos documentar nossos processos de dados e estar preparados para mostrar que os dados não têm viés?

A governança de dados também precisa ser incorporada à cultura de uma organização. Para fazer isso, é necessário construir literacia em IA em todas as equipes. O Ato de IA da UE formaliza essa responsabilidade, exigindo que tanto os fornecedores quanto os usuários de sistemas de IA façam esforços para garantir que os funcionários sejam suficientemente literados em IA, entendendo como esses sistemas funcionam e como usá-los de forma responsável. No entanto, a adoção eficaz de IA vai além do conhecimento técnico. Também exige uma base sólida em habilidades de dados, desde a compreensão da governança de dados até a formulação de questões analíticas. Tratar a literacia em IA de forma isolada da literacia em dados seria míope, considerando quão estreitamente elas estão relacionadas.

Em termos de governança de dados, ainda há trabalho a ser feito. Entre as empresas que desejam aumentar seus investimentos em gerenciamento de dados, 47% concordam que a falta de literacia em dados é uma barreira principal. Isso destaca a necessidade de construir apoio de alto nível e desenvolver as habilidades certas em toda a organização. Sem esses fundamentos, mesmo os LLMs mais poderosos lutarão para entregar.

Desenvolvendo IA que deve ser responsável

No atual ambiente regulatório, já não é suficiente que a IA “simplesmente funcione”; ela também precisa ser responsável e explicada. O Ato de IA da UE e o plano de ação de IA proposto pelo Reino Unido exigem transparência em casos de uso de IA de alto risco. Outros estão seguindo o exemplo, e 1.000+ projetos de lei relacionados estão na agenda em 69 países.

Esse movimento global em direção à responsabilidade é um resultado direto das crescentes demandas dos consumidores e partes interessadas por justiça nos algoritmos. Por exemplo, as organizações devem ser capazes de dizer os motivos pelos quais um cliente foi rejeitado para um empréstimo ou cobrado um prêmio de seguro. Para fazer isso, elas precisariam saber como o modelo tomou essa decisão, e isso, por sua vez, depende de ter um rastro claro e auditável dos dados usados para treinar o modelo.

A menos que haja explicabilidade, os negócios arriscam perder a confiança dos clientes, além de enfrentar repercussões financeiras e legais. Como resultado, a rastreabilidade da linhagem de dados e a justificativa dos resultados não são apenas “bons para ter”, mas um requisito de conformidade.

E à medida que o GenAI se expande além de ser usado para ferramentas simples para agentes totalmente desenvolvidos que podem tomar decisões e agir sobre elas, as apostas para uma forte governança de dados aumentam ainda mais.

Etapas para construir IA confiável

Então, o que é considerado “bom”? Para escalar o GenAI de forma responsável, as organizações devem adotar uma estratégia de dados única em três pilares:

• Personalizar IA para o negócio: Catalogar seus dados em torno de objetivos comerciais-chave, garantindo que reflitam o contexto, desafios e oportunidades únicos específicos do seu negócio.
• Estabelecer confiança na IA: Estabelecer políticas, padrões e processos para conformidade e supervisão da implantação ética e responsável de IA.
• Construir pipelines de dados prontos para IA: Combinar suas fontes de dados diversificadas em uma base de dados resiliente para uma robusta “assadeira” de IA, incorporando conectividade pré-construída de GenAI.

Quando as organizações fazem isso corretamente, a governança acelera o valor da IA. Por exemplo, nos serviços financeiros, os fundos hedge estão usando GenAI para superar analistas humanos na previsão de preços de ações enquanto reduzem significativamente os custos. Na fabricação, a otimização da cadeia de suprimentos impulsionada por IA permite que as organizações reajam em tempo real a mudanças geopolíticas e pressões ambientais.

E essas não são apenas ideias futuristas; elas estão acontecendo agora, impulsionadas por dados confiáveis.

Com bases de dados sólidas, as empresas reduzem a deriva do modelo, limitam os ciclos de retreinamento e aumentam a velocidade para obter valor. É por isso que a governança não é um obstáculo; é um facilitador da inovação.

O que vem a seguir?

Depois da experimentação, as organizações estão se movendo além dos chatbots e investindo em capacidades transformacionais. Desde a personalização de interações de clientes até acelerar a pesquisa médica, melhorar a saúde mental e simplificar processos regulatórios, o GenAI está começando a demonstrar seu potencial em várias indústrias.

No entanto, esses ganhos dependem inteiramente dos dados que os sustentam. O GenAI começa com a construção de uma base de dados sólida, por meio de uma forte governança de dados. E embora o GenAI e a IA agente continuem a evoluir, ele não substituirá a supervisão humana tão cedo. Em vez disso, estamos entrando em uma fase de criação de valor estruturada, onde a IA se torna um co-piloto confiável. Com os investimentos certos em qualidade de dados, governança e cultura, as empresas finalmente podem transformar o GenAI de um piloto promissor em algo que realmente decola.