Líderes de pensamento
Inteligência Artificial contra Inteligência Artificial: A Nova Realidade da Cibersegurança

Pontos-chaveAtaques baseados em IA automatizam todo o ciclo de vida do ataque na velocidade das…
Ver mais
- Ataques baseados em IA automatizam todo o ciclo de vida do ataque na velocidade das máquinas, sobrecarregando as defesas tradicionais gerenciadas por humanos.
- As empresas devem mapear e proteger identidades de agentes de IA não humanos, à medida que esses sistemas autônomos obtêm acesso crítico aos negócios.
- As organizações devem proteger os modelos de IA com princípios de Segurança por Design para evitar envenenamento de dados e manipulação adversária.
Os ciberataques impulsionados por inteligência artificial chegaram, confirmando o que era apenas um risco teórico, mas antecipado, e estão anunciando uma nova era no cenário de ameaças. Com agentes de inteligência artificial agora capazes de lançar campanhas complexas, de ponta a ponta, em minutos, os cibercriminosos podem identificar e explorar vulnerabilidades de empresas à velocidade das máquinas. As regras de engajamento mudaram: a defesa cibernética de ontem não pode mais acompanhar a ofensiva impulsionada por inteligência artificial de hoje.
À medida que a inteligência artificial supercarrega as ameaças cibernéticas, as empresas precisam implantar suas próprias capacidades defensivas impulsionadas por inteligência artificial para manter o ritmo em termos de velocidade, escala e precisão. Por agora, os adversários cibernéticos ainda seguem táticas, técnicas e procedimentos (TTPs) familiares, mas a inteligência artificial está acelerando e atualizando seu playbook. Além disso, os próprios modelos de inteligência artificial das empresas também são um novo alvo por meio do envenenamento de modelos e engenharia social baseada em linguagem, exigindo que as equipes de segurança protejam adequadamente suas capacidades de inteligência artificial. Portanto, a segurança deve ser uma parte fundamental da estratégia de inteligência artificial de uma organização.
O que Diferencia os Ciberataques Impulsionados por Inteligência Artificial?
Em um mundo digital já saturado por tentativas de intrusão cibernética quase constantes, a barreira de entrada para um ator mal-intencionado foi reduzida, aumentando não apenas o volume, mas também a complexidade dos ataques. Os ataques impulsionados por inteligência artificial podem agora aproveitar a inteligência artificial ou o aprendizado de máquina (ML) para automatizar, acelerar ou melhorar qualquer fase do ciclo de vida do ataque, desde o reconhecimento e coleta de informações até a exploração e exfiltração de dados sensíveis.
Depender exclusivamente de processos e tecnologias de segurança existentes sem implantar a mesma tecnologia avançada que os adversários estão utilizando concede ao adversário uma vantagem que é quase impossível de escalar sem a inteligência artificial defensiva. As organizações já estão sobrecarregadas ao monitorar suas empresas contra agentes de ameaça tradicionais. Os ataques impulsionados por inteligência artificial irão exacerbar a fadiga de alertas. Isso exige uma evolução dos processos gerenciados por humanos para uma força de trabalho cibernética híbrida humano-digital.
Mapeie Todos os Ativos Digitais
No mundo de hoje, entender os possíveis pontos de entrada em todo o ambiente da empresa é fundamental, mas ainda está fora do alcance de muitas grandes empresas. Além dos sistemas e ativos digitais, há a necessidade de um mapeamento abrangente de todas as identidades e acessos dentro de uma organização. A identidade digital, que liga as características físicas e comportamentais a um indivíduo, é bem compreendida com os controles existentes necessários para gerenciar o acesso digital.
No entanto, entender o cenário geral das identidades não humanas (NHIs) é essencial para proteger os ativos digitais. Concretizar o valor potencial da inteligência artificial dentro de uma organização significa dar aos agentes de inteligência artificial acesso e permissão para completar autonomamente um processo de negócios. Assim como os ambientes de nuvem da era de segurança anterior, os fluxos de trabalho impulsionados por agentes de hoje criam e desativam NHIs em escala, exigindo uma capacidade avançada de gerenciar e rastrear onde no ambiente elas operam e como elas estão alcançando missões ou papéis pretendidos.
As empresas devem estender a governança de identidade em todo o ciclo de vida da identidade do agente e monitorar as ações do agente, assim como monitoram o acesso do usuário humano hoje para comportamentos de risco interno ou comprometimento de conta por atores ameaçadores. À medida que as capacidades de agente ganham mais autonomia e trabalho crítico de negócios, compreender como se apresentam sua presença de identidades e seus padrões de acesso é crucial para implementar os controles de acesso e monitoramento necessários para protegê-los e a empresa contra mau uso.
Bloqueie os Modelos de Inteligência Artificial
As capacidades de inteligência artificial têm a promessa de desbloquear eficiência e produtividade, mas também o potencial de serem viradas contra as organizações. Introduzir a inteligência artificial em todos os aspectos das operações de negócios não é mais apenas algo desejável – é um requisito para o sucesso no cenário competitivo de hoje. Portanto, implantar a inteligência artificial de forma segura é um componente necessário para realizar com segurança o pleno potencial e resultados de negócios.
A transição para a defesa cibernética impulsionada por inteligência artificial está em andamento, enquanto os próprios modelos de inteligência artificial se tornaram alvos. Os adversários podem tentar envenenar os dados que alimentam esses modelos e manipulá-los para tomar ações não intencionais ou mesmo divulgar informações sensíveis.
Os ataques adversários contra a inteligência artificial podem vir em diferentes formas, como ataques de envenenamento, ataques de injeção de prompts e outros. Para proteger adequadamente a inteligência artificial contra a manipulação potencial, as organizações devem aproveitar a filosofia da Agência de Infraestrutura e Segurança Cibernética (CISA) de Projetado com Segurança. Isso começa com os dados que alimentam o treinamento do modelo. Bloquear as entradas no início do processo de desenvolvimento estabelece a base para saídas confiáveis na implantação.
Entender as entradas que são usadas para desenvolver os modelos e capacidades é possível por meio da governança de dados intencional, juntamente com o controle de acesso aos próprios modelos. Controles críticos que permitem validar as saídas desejadas vêm na forma de prevenção de perda de dados (DLP); aplicação de política e segurança; fundamentação por meio de fontes verificáveis; e controles de aprovação estritos para ações de alto impacto, auditoria e testes contínuos, incluindo testes de penetração de modelos para endurecê-los.
Integre a Inteligência Artificial nas Operações de Segurança
Até agora, aplicar a inteligência artificial à defesa cibernética tem sido tático, com muitas organizações acoplando a inteligência artificial a processos legados centrados no ser humano, em vez de repensar estrategicamente como construir processos centrados na inteligência artificial. Isso é como tentar colocar um motor V8 em uma bicicleta. A próxima etapa da habilitação pela inteligência artificial será projetar processos do zero, com inteligência artificial baseada em agentes e automação incorporadas desde a concepção. Métodos e processos de operações de segurança testados e aprovados, como detecção de ameaças, caça de ameaças e engenharia de detecção, ainda são os itens críticos que são imperativos para a segurança organizacional na era da inteligência artificial. Transformar os processos de segurança atuais para permitir a ampliação das capacidades por inteligência artificial pode estabelecer uma base sólida para o futuro centro de operações de segurança (SOC) impulsionado por inteligência artificial.
Além disso, a automação não é um conceito novo e exclusivo do surgimento da inteligência artificial; os fluxos de trabalho e processos de segurança têm sido automatizados por anos, com organizações maduras tendo capacidades de orquestração e automação muito sofisticadas. No entanto, a inteligência artificial melhora a automação baseada em regras existente e a evolui ainda mais, permitindo fluxos de trabalho automatizados dinâmicos, adaptáveis e ricos em contexto que podem ajudar a abordar a velocidade e a agilidade necessárias para esses riscos emergentes de inteligência artificial.
O que Vem a Seguir?
A segurança precisa continuar a ser uma prioridade para os negócios e a TI para manter seus ativos críticos e usuários seguros contra a exploração maliciosa. A inteligência artificial projetada com segurança é uma necessidade, dado o ritmo com que os modelos de inteligência artificial podem ser implantados e solicitados a realizar atividades mais críticas. As equipes de segurança devem pensar estrategicamente sobre transformar processos do zero para implementar adequadamente as novas capacidades de inteligência artificial e manter o ritmo no jogo de gato e rato cibernético.
Os líderes de segurança podem tomar várias medidas concretas no curto prazo: realizar uma revisão abrangente dos processos de segurança atuais para identificar lacunas, oportunidades de modernização e áreas propensas à transformação. Mantenha-se por dentro das ameaças, tendências e tecnologias emergentes de inteligência artificial. Acima de tudo, permaneça ancorado no princípio fundamental de segurança de defesa em profundidade que comprovou ser eficaz ao longo do tempo – proteção em camadas e validação desde a identidade, o endpoint, a rede, os dados, com capacidades de monitoramento e resposta robustas que estão sempre sendo testadas.
O potencial transformador da inteligência artificial promete um benefício muito grande para que se evite sua adoção, e os agentes de ameaça já têm essa tecnologia à disposição. Portanto, o papel dos líderes de segurança nesta próxima era é o mesmo que sempre foi: apoiar as organizações no alcance de seus objetivos de negócios com mitigação de riscos criteriosa – agora à velocidade da máquina com o uso da inteligência artificial.













