Efrain Ruh, CTO da EMEA na Digitate – Série de Entrevistas

Efrain Ruh é o Diretor de Tecnologia da EMEA na Digitate, onde lidera a estratégia de tecnologia regional com foco forte em inteligência artificial empresarial, automação e transformação operacional em larga escala. Ele trabalha em estreita colaboração com clientes em toda a Europa, Oriente Médio e África para ajudar as organizações a implantar a IA de forma responsável, enfatizando a execução prática, governança e resultados mensuráveis. Ruh é um contribuinte frequente para discussões da indústria sobre IA agente, maturidade de MLOps e as realidades de migrar de pilotos de IA para sistemas de produção.

Digitate é uma empresa de software empresarial e uma subsidiária da Tata Consultancy Services que se especializa em automação impulsionada por IA para IT e operações de negócios. Sua plataforma principal, ignio, permite operações autônomas combinando aprendizado de máquina, grafos de conhecimento e automação inteligente para detectar problemas, prever resultados e auto-curarem sistemas em ambientes empresariais complexos. A Digitate atende a grandes organizações globais que buscam reduzir a complexidade operacional enquanto melhoram a resiliência e a eficiência por meio da IA aplicada.

Considerando seus extensos papéis de liderança técnica na Digitate e sua experiência prática anterior em operações de TI, arquitetura e sistemas empresariais, como sua visão sobre a importância da IA explicável evoluiu em comparação com os modelos de automação de caixa preta que muitas organizações ainda dependem hoje?

As gerações anteriores de automação eram amplamente reativas e baseadas em regras, o que tornava o comportamento de caixa preta mais tolerável, pois os resultados eram muito previsíveis. À medida que os sistemas de IA agora se movem em direção a agentes proativos que podem raciocinar e gerar suas próprias respostas, a tolerância à opacidade desaparece. Os líderes de TI são responsáveis por manter os sistemas críticos disponíveis 24 horas por dia, e essa responsabilidade deixa muito pouco espaço para experimentação com sistemas cujo raciocínio não pode ser validado. A explicabilidade, portanto, passou de uma característica técnica para um requisito operacional que permite confiança em escala. Para confiar nesses novos agentes de IA, é importante que eles compartilhem sua linha de pensamento (basicamente, como chegaram à solução) e seus resultados de raciocínio.

Por que a confiança e a explicabilidade estão surgindo como os principais obstáculos para a adoção mais ampla de automação avançada impulsionada por IA em TI empresarial?

O TI empresarial opera sob contínua responsabilidade e risco. Quando os sistemas de IA tomam decisões de forma autônoma, especialmente em modelos de operação preventiva ou auto-curativa, as equipes de supervisão devem ser capazes de entender por que uma ação específica foi tomada. Sem visibilidade sobre evidências, contexto e lógica de decisão, a IA introduz incerteza em vez de reduzi-la. Essa falta de transparência e incerteza impacta a confiança, portanto, desacelera a adoção entre as equipes de TI mais do que a precisão do modelo ou o desempenho poderia.

O que a explicabilidade verdadeira realmente significa em operações de TI impulsionadas por IA, e como pode ajudar as equipes a validar decisões antes que os sistemas atuem de forma autônoma?

A explicabilidade verdadeira é prática e focada no operador. Isso significa que a tecnologia deve claramente mostrar os dados usados para o raciocínio, validar que o sistema entende o contexto operacional correto e explicar o curso de ação recomendado em termos legíveis por humanos. Isso também inclui validação histórica, como se decisões semelhantes foram tomadas antes e quais foram os resultados. Isso permite que as equipes validem ações rapidamente e expandam a execução autônoma onde o risco é baixo. Se as pessoas não conseguem digerir e agir rapidamente sobre a saída, então uma ferramenta de explicabilidade falha em cumprir seu propósito.

Como a falta de explicabilidade se traduz em riscos operacionais, financeiros ou de negócios reais para grandes organizações?

Se você operasse uma fábrica e uma peça vital de equipamento carecesse de alertas para sinalizar um problema de manutenção, eventualmente começaria a falhar sem alertar a equipe – levando a produtos de má qualidade ou tempo de inatividade não planejado. Da mesma forma, a IA sem explicabilidade pode transformar pequenos problemas de dados em incidentes de negócios importantes. Um sistema de previsão de capacidade baseado em IA operando com dados incompletos pode reduzir a capacidade de infraestrutura para economizar custos, apenas para causar degradação severa de desempenho durante períodos de processamento de pico. No caso de sistemas de IA empresariais, você frequentemente vê o impacto da explicabilidade ruim por meio de SLAs perdidos, penalidades financeiras e impacto no cliente. Da mesma forma, a supressão agressiva de alertas pode ocultar falhas críticas, permitindo que as interrupções passem despercebidas até se tornarem uma verdadeira emergência.

Na sua perspectiva, qual papel as plataformas de IA devem desempenhar para tornar seu raciocínio auditable e compreensível para as equipes de TI que operam sistemas críticos de missão?

Um agente de IA ou plataforma bem projetada tem explicabilidade incorporada, simplesmente. Os sistemas autônomos devem documentar os dados usados, a lógica aplicada, as ações recomendadas ou tomadas e os resultados que se seguiram. Essas informações precisam ser apresentadas na linguagem operacional que as equipes de TI usam, como dependências, incidentes históricos e impacto nos negócios, em vez de pontuações de IA abstratas. A auditoria é essencial para responsabilidade, aprendizado e confiança a longo prazo.

Quais abordagens arquitetônicas ou de design estão ajudando as empresas a se afastarem da automação opaca em direção a uma tomada de decisão mais transparente, de “caixa de vidro”?

As empresas estão adotando arquiteturas que fundamentam as decisões de IA em dados operacionais de alta qualidade e claramente separam a validação de dados da lógica de decisão. Os sistemas transparentes garantem que a IA esteja trabalhando com as entradas e suposições certas antes de agir. Muitas organizações também usam autonomia em estágios, começando com recomendações e progredindo para execução autônoma restrita à medida que a confiança cresce. O acesso aberto a dados e camadas de política claras são críticos para evitar o comportamento de caixa preta à medida que a autonomia aumenta. Ainda há muito espaço para a indústria crescer em termos de explicabilidade, e acho que vamos ver um boom em recursos de explicabilidade este ano.

Como as organizações encontram o equilíbrio certo entre ação autônoma de IA e supervisão humana sem desacelerar as operações?

O equilíbrio é alcançado por meio de controles baseados em risco, em vez de supervisão em branco. Tarefas de baixo risco e alta frequência podem ser automatizadas de ponta a ponta com guardiões, enquanto decisões de maior impacto permanecem validadas por humanos até que os sistemas demonstrem confiabilidade. À medida que a explicabilidade melhora e a IA consistentemente prova julgamento sólido, a autonomia se expande naturalmente sem introduzir fricção operacional.

Qual conselho você daria aos CIOs e CTOs que desejam escalar a IA por toda a operação de TI, mas enfrentam resistência interna devido a preocupações de visibilidade e responsabilidade?

Comece com transparência, não autonomia. Envie suas equipes de TI cedo e priorize a visibilidade tanto no design quanto no lançamento para construir confiança. A resistência normalmente deriva de uma falta de visão nas decisões de IA, não da oposição à inovação em si. Em seguida, foque nos casos de uso que reduzem o ruído, eliminam a fadiga de alertas e claramente explicam como as decisões são tomadas antes de permitir que os sistemas atuem de forma independente.

À medida que os sistemas de IA assumem mais responsabilidade por tomar decisões, como as equipes de liderança devem repensar os modelos de governança, validação e confiança?

A governança deve mudar de processos de aprovação estáticos para validação contínua. As equipes de liderança precisam definir onde a autonomia é permitida, quais evidências são necessárias e quando a intervenção humana é necessária. A confiança deve ser conquistada por meio de resultados mensuráveis, como precisão, incidentes reduzidos e tempos de resolução mais rápidos, em vez de suposições sobre a sofisticação do modelo.

Olhando para o futuro, como você vê a IA explicável e transparente remodelando o futuro das operações de TI autônomas nos próximos anos?

A IA explicável será uma peça fundamental do quebra-cabeça ao construir operações de TI proativas e autônomas para escalar com segurança, sem perder a confiança vital da equipe de TI. A IA gerativa já está melhorando a transparência, permitindo que os sistemas superficiem evidências, validem fatos e expliquem decisões em termos legíveis por humanos. Nos próximos anos, esse nível de explicabilidade se tornará padrão, permitindo que as organizações avancem além da experimentação e incorporem a IA profundamente nas operações, governança e fluxos de trabalho como um parceiro confiável, em vez de um tomador de decisões opaco. Nos próximos anos, os agentes de IA estarão no lugar para gerenciar diferentes atividades de uma organização; eles se tornarão parte do nosso dia a dia, mas para isso precisamos ser capazes de confiar neles, e a precisão e a transparência são aspectos-chave para alcançar esse objetivo.

Obrigado pela grande entrevista; os leitores que desejam aprender mais devem visitar Digitate.