Repensando a Resiliência da IA: Por que é Hora de Abandonar o Modelo ‘Configure e Esqueça’

Uma pesquisa recente da Gallup aponta uma tendência de crescente adoção de IA, já que mais da metade dos adultos empregados afirma usar a tecnologia pelo menos algumas vezes por ano. Esses dados são apenas um indício da rápida adoção de IA que ocorre em ambientes corporativos. Embora vários líderes empresariais tenham começado a questionar o ROI da IA, isso não impediu as organizações de contar com a tecnologia para simplificar tarefas manuais e maximizar a produtividade.

À medida que essa adoção avança, as organizações podem ser tentadas a ignorar erros prejudiciais nos fluxos de trabalho automatizados. Elas veem a IA como uma solução pronta para uso, exigindo que as equipes de TI apenas configurem a tecnologia, a deixem em operação e “esqueçam” que ela existe. Algumas equipes de segurança tentam combater essa mentalidade, criando playbooks de automação destinados a promover o uso seguro e protegido da IA. Ainda assim, mesmo as melhores equipes de TI e segurança deixam pouco espaço para ajustes nesses playbooks. Consequentemente, as empresas não conseguem evoluir com segurança junto à IA, assim como a própria tecnologia evolui.

À medida que as empresas concedem à IA mais autoridade em fluxos de trabalho críticos para os negócios, a agilidade operacional deve se tornar o novo mandato das organizações atuais. Para que isso se torne uma prática universal, os líderes de segurança corporativa precisam abandonar a mentalidade de “configure e esqueça” e projetar a resiliência.

Compreendendo o Paradoxo da Automação

A automação impulsionada por IA está proporcionando ganhos massivos de produtividade em diversas funções corporativas. Vamos usar a cibersegurança como exemplo. Ferramentas de IA permitem que analistas realizem etapas adicionais que nunca tiveram tempo de fazer em centros de operações de segurança sobrecarregados e sobrecarregados. Isso inclui tarefas como priorização de alertas, revisão de eventos, detecção de ameaças, validação cruzada e obtenção de uma segunda opinião. Ao contrário de alguns líderes de C‑suite, os CISOs permanecem geralmente otimistas quanto ao valor que a IA proporcionará no futuro. Segundo dados do O Relatório CISO: Do Risco à Resiliência na Era da IA, 83% dos CISOs acreditam que a automação é o investimento com maior probabilidade de superar as expectativas.

Apesar desses benefícios, um paradoxo persiste. O mesmo relatório destaca o ceticismo que os CISOs têm em relação à IA, temendo as consequências de erros autônomos. 83% dos CISOs classificam os impactos das alucinações, como alertas perdidos ou falsos positivos, como sua maior preocupação com a IA agente. Há evidências suficientes que sustentam essas preocupações sobre alucinações. Uma grande companhia aérea comercial foi considerada legalmente responsável e condenada a pagar indenizações após o chatbot de atendimento ao cliente alucinar uma política de reembolso de tarifa por falecimento. Uma empresa de inteligência de ameaças está enfrentando problemas legais porque supostamente divulgou um relatório que ligava uma startup a hackers de uma potência estrangeira. Quando a IA erra, as consequências podem se estender além dos sistemas internos, afetando tanto o capital quanto a reputação.

O Problema dos Playbooks Obsoletos

Playbooks de segurança focados em IA são a base para uma adoção bem‑sucedida e segura da IA. No entanto, surgem problemas quando esses playbooks nunca mudam. Ameaças, a infraestrutura de TI e os ambientes de negócios estão em constante evolução. A IA permite que agentes de ameaça escalem ataques, enquanto ambientes de TI cada vez maiores e mais complexos dificultam a detecção. Ao mesmo tempo, à medida que as empresas concedem maior responsabilidade à IA, as consequências dos erros se tornam mais significativas.

Se todos esses fatores continuarem a evoluir, a lógica de automação deve evoluir junto. Playbooks de automação congelados impedem que isso aconteça. Eles deixam as equipes de segurança enfrentando problemas atuais com lógica desatualizada. Em alguns casos, esse cenário pode ser ainda pior do que se a equipe de segurança não tivesse nenhum playbook.

Para que os playbooks se tornem organismos vivos adequados à implementação atual de IA, promovendo assim a resiliência interna, eles precisam ser:

• Testados continuamente contra inteligência de ameaças atualizada
• Atualizados após a ocorrência de incidentes reais
• Descontinuados quando não forem mais eficazes ou úteis

Essa mentalidade está com orientação de a Cybersecurity and Infrastructure Security Agency (CISA) e de outras agências globais de cibersegurança, que promovem o monitoramento contínuo de sistemas de IA e a intervenção humana constante.

Implementando a Fórmula da Resiliência

A era da IA exige que as empresas abandonem a mentalidade de enxergar a IA como uma solução pontual, ou simplesmente aplicar automação a casos de uso existentes. As organizações precisam, em vez disso, construir uma cultura de resiliência que permita tanto ao pessoal de TI quanto aos sistemas aprimorar o que a IA acerta — e responder de forma eficiente quando a tecnologia erra.

Uma fórmula prática em três partes pode ajudar a incorporar essa resiliência nas ações automatizadas.

• Confiança: Para cada fluxo de trabalho automatizado, as equipes devem se perguntar: Quão confiantes estamos no gatilho que iniciou a resposta automatizada?
• Reversibilidade: A ação é reversível? Em caso afirmativo, quão rápida e seguramente podemos realizá‑la?
• Raio de Impacto: Quão extensas são as consequências se um erro se propagar, e quão crítico para o negócio é o ativo afetado?

As ferramentas adequadas de observabilidade e monitoramento são essenciais para responder a essas perguntas. As equipes devem aproveitar uma plataforma unificada de observabilidade e gerenciamento de dados para compreender completamente onde, em um ambiente de TI, uma resposta automatizada pode ocorrer, quais outros ativos ela afeta e as consequências de negócios associadas. Realizar esse exercício regularmente permitirá que as equipes de segurança mantenham os playbooks de IA atualizados. Além disso, possibilitará práticas adequadas de human‑in‑the‑loop, pois as equipes de TI saberão onde e como intervir para evitar que ações automatizadas inadequadas causem efeitos generalizados e custosos.

Chega de Configurar e Esquecer

É importante que o CISO e os líderes de TI modernos percebam que a responsabilidade recai sobre eles quando se trata do comportamento da IA. Quanto mais a IA interfere em trabalhos críticos da empresa, maior é o peso sobre os diretores de cibersegurança. Uma boa regra prática a lembrar é: “A automação muda quem aperta o botão. Não muda quem é responsável por o botão ter sido apertado.”

Os riscos e a responsabilidade do CISO atual são altos demais para manter playbooks de “configure e esqueça”. Em vez disso, a resiliência deve ser tanto uma prática quanto uma cultura que permeia a empresa e lhe permite se recuperar após um erro da IA. Quando as equipes incorporam monitoramento contínuo, reversibilidade, contenção e responsabilidade humana ao playbook de automação, as empresas podem impedir que uma decisão automatizada se torne um problema em toda a organização.