O Futuro da Cibersegurança: IA, Automação e o Fator Humano

Na última década, juntamente com o crescimento explosivo da tecnologia da informação, a sombria realidade das ameaças de cibersegurança também evoluiu dramaticamente. Os ciberataques, que antes eram impulsionados principalmente por hackers travessos em busca de notoriedade ou ganho financeiro, tornaram-se muito mais sofisticados e direcionados. Desde a espionagem patrocinada pelo Estado até o roubo de identidade e corporativo, os motivos por trás do cibercrime são cada vez mais sinistros e perigosos. Mesmo que o ganho financeiro continue sendo um motivo importante para o cibercrime, ele foi ofuscado por objetivos mais nefastos de roubar dados e ativos críticos. Os ciberatacantes aproveitam extensivamente as tecnologias de ponta, incluindo a inteligência artificial, para infiltrar sistemas e realizar atividades maliciosas. Nos EUA, o Federal Bureau of Investigation (FBI) relatou mais de 800.000 queixas relacionadas a cibercrimes arquivadas em 2022, com perdas totais superando $10 bilhões, superando o total de $6,9 bilhões de 2021, de acordo com o centro de queixas de crimes de internet do bureau.

Com a paisagem de ameaças evoluindo rapidamente, é hora de as organizações adotarem uma abordagem multifacetada para a cibersegurança. A abordagem deve abordar como os atacantes ganham entrada; prevenir a comprometção inicial; detectar rapidamente as incursões; e permitir uma resposta e remediação rápidas. Proteger os ativos digitais exige aproveitar o poder da IA e da automação, garantindo que os analistas humanos qualificados permaneçam integrais à postura de segurança.

Proteger uma organização requer uma estratégia em camadas que leve em conta os diversos pontos de entrada e vetores de ataque empregados pelos adversários. Em geral, esses se enquadram em quatro categorias principais: 1) Ataques web e de rede; 2) Ataques baseados em comportamento e identidade do usuário; 3) Ataques de entidade que visam ambientes de nuvem e híbridos; e 4) Malware, incluindo ransomware, ameaças persistentes avançadas e outros códigos maliciosos.

Aproveitando a IA e a Automação

Implantar modelos de IA e aprendizado de máquina (ML) personalizados para cada uma dessas classes de ataques é crucial para a detecção e prevenção proativa de ameaças. Para ataques web e de rede, os modelos devem identificar ameaças como phishing, exploração de navegador e ataques de negação de serviço distribuída (DDoS) em tempo real. A análise de comportamento e entidade do usuário que aproveita a IA pode detectar atividades anômalas indicativas de comprometimento de conta ou mau uso de recursos e dados do sistema. Finalmente, a análise de malware impulsionada por IA pode triar rapidamente novas cepas, apontar comportamento malicioso e mitigar o impacto de ameaças baseadas em arquivos. Ao implementar modelos de IA e ML em todo o espectro de superfícies de ataque, as organizações podem aprimorar significativamente sua capacidade de identificar ataques autonomamente nos estágios iniciais, antes que eles se tornem incidentes de grande escala.

Uma vez que os modelos de IA/ML tenham identificado atividade de ameaça potencial em vários vetores de ataque, as organizações enfrentam outro desafio crucial – dar sentido às frequentes alertas e separar incidentes críticos do ruído. Com tantos pontos de dados e detecções gerados, aplicar outra camada de IA/ML para correlacionar e priorizar os alertas mais graves que merecem investigação e resposta adicionais se torna crucial. A fadiga de alerta é uma questão cada vez mais crítica que precisa ser resolvida.

A IA pode desempenhar um papel fundamental nesse processo de triagem de alertas, ingerindo e analisando grandes volumes de telemetria de segurança, fundindo insights de múltiplas fontes de detecção, incluindo inteligência de ameaças, e expondo apenas os incidentes de maior fidelidade para resposta. Isso reduz a carga sobre os analistas humanos, que de outra forma seriam inundados com falsos positivos generalizados e alertas de baixa fidelidade que carecem de contexto adequado para determinar a gravidade e os próximos passos.

Embora os atores de ameaça tenham estado ativamente implantando IA para alimentar ataques como DDoS, phishing direcionado e ransomware, o lado defensivo ficou atrás na adoção de IA. No entanto, isso está mudando rapidamente, à medida que os fornecedores de segurança competem para desenvolver modelos de IA/ML avançados capazes de detectar e bloquear essas ameaças impulsionadas por IA.

O futuro para a IA defensiva reside no implante de modelos de linguagem pequenos e especializados personalizados para tipos de ataques e casos de uso específicos, em vez de confiar apenas em modelos de IA generativos grandes. Os grandes modelos de linguagem, por outro lado, mostram mais promessa para operações de cibersegurança, como a automação de funções de help desk, a recuperação de procedimentos operacionais padrão e a assistência a analistas humanos. O trabalho pesado da detecção e prevenção de ameaças precisas será melhor tratado pelos modelos de IA/ML altamente especializados.

O Papel da Expertise Humana

É crucial utilizar a IA/ML ao lado da automação de processos para permitir a remediação e contenção rápidas de ameaças verificadas. Nesta etapa, provisionados com incidentes de alta confiança, os sistemas de IA podem iniciar respostas automatizadas personalizadas para cada tipo de ataque específico – bloqueando IPs maliciosos [internet protocol], isolando hosts comprometidos, aplicando políticas adaptativas e mais. No entanto, a expertise humana permanece integral, validando as saídas da IA, aplicando pensamento crítico e supervisionando as ações de resposta autônoma para garantir proteção sem interrupção dos negócios.

A compreensão sutil é o que os humanos trazem para a mesa. Além disso, analisar novas e complexas ameaças de malware requer criatividade e habilidades de resolução de problemas que podem estar além do alcance das máquinas.

A expertise humana é essencial em várias áreas-chave:

• Validação e Contextualização: Os sistemas de IA, apesar de sua sofisticação, às vezes podem gerar falsos positivos ou mal interpretar dados. Os analistas humanos são necessários para validar as saídas da IA e fornecer o contexto necessário que a IA pode ter perdido. Isso garante que as respostas sejam apropriadas e proporcionais à ameaça real.
• Investigação de Ameaças Complexas: Algumas ameaças são muito complexas para a IA lidar sozinha. Os especialistas humanos podem mergulhar mais fundo nesses incidentes, utilizando sua experiência e intuição para descobrir aspectos ocultos da ameaça que a IA pode ter perdido. Essa percepção humana é crucial para entender o escopo completo de ataques sofisticados e elaborar contramedidas eficazes.
• Tomada de Decisões Estratégicas: Embora a IA possa lidar com tarefas rotineiras e processamento de dados, as decisões estratégicas sobre a postura de segurança geral e as estratégias de defesa de longo prazo requerem julgamento humano. Os especialistas podem interpretar as percepções geradas pela IA para tomar decisões informadas sobre alocação de recursos, mudanças de política e iniciativas estratégicas.
• Melhoria Contínua: Os analistas humanos contribuem para a melhoria contínua dos sistemas de IA, fornecendo feedback e dados de treinamento. Suas percepções ajudam a aprimorar os algoritmos de IA, tornando-os mais precisos e eficazes com o tempo. Essa relação simbiótica entre a expertise humana e a IA garante que ambos evoluam juntos para lidar com ameaças emergentes.

Equipe Humano-Máquina Otimizada

Subjacente a essa transição está a necessidade de sistemas de IA que possam aprender com dados históricos (aprendizado supervisionado) e se adaptar continuamente para detectar novos ataques por meio de abordagens de aprendizado não supervisionado/reforço. Combinar esses métodos será fundamental para manter a dianteira sobre as capacidades de IA dos atacantes em evolução.

Em geral, a IA será crucial para os defensores escalarem suas capacidades de detecção e resposta. A expertise humana deve permanecer estreitamente integrada para investigar ameaças complexas, auditar as saídas do sistema de IA e orientar estratégias defensivas estratégicas. Um modelo de equipe humano-máquina otimizado é ideal para o futuro.

À medida que volumes maciços de dados de segurança se acumulam ao longo do tempo, as organizações podem aplicar análise de IA a esse tesouro de telemetria para derivar insights para caça de ameaças proativa e endurecimento de defesas. Aprender continuamente com incidentes anteriores permite a modelagem preditiva de novos padrões de ataque. À medida que as capacidades de IA avançam, o papel dos modelos de linguagem pequenos e especializados, personalizados para casos de uso de segurança específicos, crescerá. Esses modelos podem ajudar a reduzir ainda mais a ‘fadiga de alerta’ ao triar com precisão os alertas mais essenciais para análise humana. A resposta autônoma, impulsionada por IA, também pode expandir para lidar com mais tarefas de segurança de nível 1.

No entanto, o julgamento e o pensamento crítico humanos permanecerão indispensáveis, especialmente para incidentes de alta gravidade. Sem dúvida, o futuro é um de equipe humano-máquina otimizada, onde a IA lida com o processamento de dados em volume e tarefas rotineiras, permitindo que os especialistas humanos se concentrem em investigar ameaças complexas e estratégia de segurança de alto nível.