Inteligência Artificial contra Inteligência Artificial: A Nova Realidade da Cibersegurança

Os ciberataques impulsionados por inteligência artificial chegaram, confirmando o que era apenas um risco teórico, mas antecipado, e estão anunciando uma nova era no cenário de ameaças. Com agentes de inteligência artificial agora capazes de lançar campanhas complexas, de ponta a ponta, em minutos, os cibercriminosos podem identificar e explorar vulnerabilidades de empresas a uma velocidade impressionante. As regras de engajamento mudaram: a defesa cibernética de ontem não pode mais acompanhar a ofensiva impulsionada por inteligência artificial de hoje.

À medida que a inteligência artificial supercarrega as ameaças cibernéticas, as empresas precisam implantar suas próprias capacidades defensivas impulsionadas por inteligência artificial para manter o ritmo em termos de velocidade, escala e precisão. Por agora, os adversários cibernéticos ainda seguem táticas, técnicas e procedimentos (TTPs) familiares, mas a inteligência artificial está acelerando e atualizando seu playbook. Além disso, os próprios modelos de inteligência artificial das empresas também são um novo alvo por meio do envenenamento de modelos e engenharia social baseada em linguagem, exigindo que as equipes de segurança protejam adequadamente suas capacidades de inteligência artificial. Portanto, a segurança deve ser uma parte fundamental da estratégia de inteligência artificial de uma organização.

O que Diferencia os Ciberataques Impulsionados por Inteligência Artificial?

Em um mundo digital já saturado por tentativas de intrusão cibernética quase constantes, a barreira de entrada para um ator mal-intencionado foi reduzida, aumentando não apenas o volume, mas também a complexidade dos ataques. Os ataques impulsionados por inteligência artificial podem agora aproveitar a inteligência artificial ou o aprendizado de máquina (ML) para automatizar, acelerar ou melhorar qualquer fase do ciclo de vida do ataque, desde a reconhecimento e coleta de informações até a exploração e exfiltração de dados sensíveis.

Depender exclusivamente de processos e tecnologias de segurança existentes sem implantar a mesma tecnologia avançada que os adversários estão utilizando concede ao adversário uma vantagem que é quase impossível de escalar sem a inteligência artificial defensiva. As organizações já estão sobrecarregadas com o monitoramento de suas empresas por meio de atores tradicionais. Os ataques impulsionados por inteligência artificial irão exacerbam a fadiga de alertas. Isso exige uma evolução dos processos gerenciados por humanos para uma força de trabalho cibernética híbrida humano-digital.

Mapeie Todos os Ativos Digitais

No mundo de hoje, entender os possíveis pontos de entrada em todo o ambiente da empresa é fundamental, mas ainda está fora do alcance de muitas grandes empresas. Além dos sistemas e ativos digitais, há a necessidade de um mapeamento abrangente de todas as identidades e acessos dentro de uma organização. A identidade digital, que liga as características físicas e comportamentais a um indivíduo, é bem compreendida com os controles existentes necessários para gerenciar o acesso digital.

No entanto, entender o cenário geral das identidades não humanas (NHIs) é essencial para proteger os ativos digitais. Realizar o potencial valor da inteligência artificial dentro de uma organização significa dar aos agentes de inteligência artificial acesso e permissão para completar autonomamente um processo de negócios. Assim como os ambientes de nuvem da era de segurança anterior, os fluxos de trabalho impulsionados por agentes de hoje giram para cima e para baixo as NHIs em escala, exigindo uma capacidade avançada de gerenciar e rastrear onde no ambiente elas operam e como elas estão alcançando missões ou papéis pretendidos.

As empresas devem estender a governança de identidade em todo o ciclo de vida da identidade do agente e monitorar as ações do agente, assim como monitoram o acesso do usuário humano hoje para comportamentos de risco interno ou comprometimento de conta por atores ameaçadores. À medida que as capacidades de agente ganham mais autonomia e trabalho crítico de negócios, entender o que seu perfil de identidade e padrão de acesso parece é crucial para implementar os controles de acesso e monitoramento necessários para protegê-los e a empresa contra mau uso.

Bloqueie os Modelos de Inteligência Artificial

As capacidades de inteligência artificial têm a promessa de desbloquear eficiência e produtividade, mas também o potencial de serem viradas contra as organizações. Introduzir a inteligência artificial em todos os aspectos das operações de negócios não é mais um “querer” – é um requisito para o sucesso no cenário competitivo de hoje. Portanto, implantar a inteligência artificial de forma segura é um componente necessário para realizar com segurança o pleno potencial e resultados de negócios.

A transição para a defesa cibernética impulsionada por inteligência artificial está em andamento, enquanto os próprios modelos de inteligência artificial se tornaram alvos. Os adversários podem tentar envenenar os dados que alimentam esses modelos e manipulá-los para tomar ações não intencionais ou mesmo divulgar informações sensíveis.

Os ataques adversários contra a inteligência artificial podem vir em diferentes formas, como ataques de envenenamento, ataques de injeção de prompts e outros. Para proteger adequadamente a inteligência artificial contra a manipulação potencial, as organizações devem aproveitar a filosofia da Agência de Infraestrutura e Segurança Cibernética (CISA) de Projetado com Segurança. Isso começa com os dados que alimentam o treinamento do modelo. Bloquear as entradas no início do processo de desenvolvimento estabelece a base para saídas confiáveis na implantação.

Entender as entradas que são usadas para desenvolver os modelos e capacidades é possível por meio da governança de dados intencional, juntamente com o controle de acesso aos próprios modelos. Controles críticos que permitem validar as saídas desejadas vêm na forma de prevenção de perda de dados (DLP); aplicação de política e segurança; fundamentação por meio de fontes verificáveis; e controles de aprovação estritos para ações de alto impacto, auditoria e testes contínuos, incluindo testes de penetração de modelos para endurecê-los.

Integre a Inteligência Artificial nas Operações de Segurança

Até agora, aplicar a inteligência artificial à defesa cibernética tem sido tático, com muitas organizações acoplando a inteligência artificial a processos humanos centricos legados, em vez de repensar estrategicamente como construir processos centrados na inteligência artificial. Isso é como tentar colocar um motor V8 em uma bicicleta. A próxima evolução do enablement da inteligência artificial será projetar processos do zero, com inteligência artificial e automação nativas no design. Métodos e processos de operações de segurança testados e aprovados, como detecção de ameaças, caça de ameaças e engenharia de detecção, ainda são os itens críticos que são imperativos para a segurança organizacional na era da inteligência artificial. Transformar os processos de segurança atuais para habilitar a inteligência artificial pode layar uma base sólida para o futuro centro de operações de segurança (SOC) impulsionado por inteligência artificial.

Além disso, a automação não é um conceito novo e exclusivo do surgimento da inteligência artificial; os fluxos de trabalho e processos de segurança têm sido automatizados por anos, com organizações maduras tendo capacidades de orquestração e automação muito sofisticadas. No entanto, a inteligência artificial melhora a automação baseada em regras existente e a evolui ainda mais, permitindo fluxos de trabalho automatizados dinâmicos, adaptáveis e ricos em contexto que podem ajudar a abordar a velocidade e a agilidade necessárias para esses riscos emergentes de inteligência artificial.

O que Vem a Seguir?

A segurança precisa continuar a ser uma prioridade para os negócios e a TI para manter seus ativos críticos e usuários seguros contra a exploração maliciosa. A inteligência artificial projetada com segurança é uma necessidade, dado o ritmo com que os modelos de inteligência artificial podem ser implantados e solicitados a realizar atividades mais críticas. As equipes de segurança devem pensar estrategicamente sobre transformar processos do zero para implementar adequadamente as novas capacidades de inteligência artificial e manter o ritmo no jogo de gato e rato cibernético.

Os líderes de segurança podem tomar várias medidas concretas no curto prazo: realizar uma revisão abrangente dos processos de segurança atuais para identificar lacunas, oportunidades de modernização e áreas propensas à transformação. Mantenha-se por dentro das ameaças, tendências e tecnologias emergentes de inteligência artificial. Acima de tudo, permaneça ancorado no princípio fundamental de segurança de defesa em profundidade que comprovou ser eficaz ao longo do tempo – proteção em camadas e validação desde a identidade, o endpoint, a rede, os dados, com capacidades de monitoramento e resposta robustas que estão sempre sendo testadas.

O potencial transformador da inteligência artificial promete um benefício muito grande para que se evite sua adoção, e o gênio está fora da garrafa para os atores ameaçadores. Portanto, o papel dos líderes de segurança nesta próxima era é o mesmo que sempre foi: apoiar as organizações no alcance de seus objetivos de negócios com mitigação de riscos reflexiva – agora à velocidade da máquina com o uso da inteligência artificial.