O Futuro da Segurança Cibernética: IA, Automação e o Fator Humano

Nos últimos dez anos, juntamente com o crescimento explosivo da tecnologia da informação, a realidade sombria das ameaças de segurança cibernética também evoluiu dramaticamente. Os ataques cibernéticos, que antes eram impulsionados principalmente por hackers travessos em busca de notoriedade ou ganho financeiro, tornaram-se muito mais sofisticados e direcionados. Desde a espionagem patrocinada pelo Estado até o roubo de identidade e corporativo, os motivos por trás do cibercrime estão cada vez mais sinistros e perigosos. Embora o ganho financeiro ainda seja uma razão importante para o cibercrime, ele foi ofuscado por objetivos mais nefastos de roubar dados e ativos críticos. Os atacantes cibernéticos utilizam extensivamente tecnologias de ponta, incluindo inteligência artificial, para infiltrar sistemas e realizar atividades maliciosas. Nos EUA, o Federal Bureau of Investigation (FBI) relatou mais de 800.000 reclamações relacionadas a cibercrimes arquivadas em 2022, com perdas totais superando US$ 10 bilhões, ultrapassando o total de US$ 6,9 bilhões de 2021, de acordo com o centro de reclamações de crimes cibernéticos do bureau.

Com a paisagem de ameaças evoluindo rapidamente, é hora de as organizações adotarem uma abordagem multifacetada para a segurança cibernética. A abordagem deve abordar como os atacantes ganham entrada; prevenir a comprometimento inicial; detectar incursões rapidamente; e permitir uma resposta e remediação rápidas. Proteger ativos digitais exige aproveitar o poder da IA e da automação, garantindo que analistas humanos habilidosos permaneçam integrais à postura de segurança.

Proteger uma organização requer uma estratégia em camadas que leve em conta os diversos pontos de entrada e vetores de ataque utilizados por adversários. Em geral, esses se enquadram em quatro categorias principais: 1) Ataques à web e à rede; 2) Ataques baseados em comportamento do usuário e identidade; 3) Ataques a entidades que visam ambientes de nuvem e híbridos; e 4) Malware, incluindo ransomware, ameaças persistentes avançadas e outros códigos maliciosos.

Utilizando IA e Automação

Implantar modelos de IA e aprendizado de máquina (ML) personalizados para cada uma dessas classes de ataques é crucial para a detecção e prevenção proativa de ameaças. Para ataques à web e à rede, os modelos devem identificar ameaças como phishing, exploração de navegador e ataques de negação de serviço (DDoS) em tempo real. Análises de comportamento de usuário e entidade que utilizam IA podem detectar atividades anômalas indicativas de comprometimento de conta ou mau uso de recursos e dados do sistema. Finalmente, a análise de malware impulsionada por IA pode triar rapidamente novas cepas, identificar comportamento malicioso e mitigar o impacto de ameaças baseadas em arquivos. Ao implementar modelos de IA e ML em todo o espectro de superfícies de ataque, as organizações podem melhorar significativamente sua capacidade de identificar ataques autonomamente nos estágios iniciais, antes que eles se tornem incidentes de grande escala.

Uma vez que os modelos de IA/ML tenham identificado atividade de ameaça potencial em vários vetores de ataque, as organizações enfrentam outro desafio-chave: dar sentido às frequentes alertas e separar incidentes críticos do ruído. Com tantos pontos de dados e detecções gerados, aplicar outra camada de IA/ML para correlacionar e priorizar os alertas mais graves que merecem investigação e resposta adicionais se torna crucial. A fadiga de alerta é uma questão cada vez mais crítica que precisa ser resolvida.

A IA pode desempenhar um papel fundamental neste processo de triagem de alertas, ingerindo e analisando grandes volumes de telemetria de segurança, fundindo insights de múltiplas fontes de detecção, incluindo inteligência de ameaças, e expondo apenas os incidentes de maior fidelidade para resposta. Isso reduz a carga sobre os analistas humanos, que de outra forma seriam inundados com falsos positivos generalizados e alertas de baixa fidelidade que carecem de contexto adequado para determinar a gravidade e os próximos passos.

Embora os atores de ameaças tenham estado ativamente implantando IA para alimentar ataques como DDoS, phishing direcionado e ransomware, o lado defensivo ficou atrás na adoção de IA. No entanto, isso está mudando rapidamente à medida que os fornecedores de segurança correm para desenvolver modelos de IA/ML avançados capazes de detectar e bloquear essas ameaças impulsionadas por IA.

O futuro para a IA defensiva reside no implante de modelos de linguagem pequenos e especializados personalizados para tipos de ataques e casos de uso específicos, em vez de confiar apenas em modelos de IA generativos grandes. Os grandes modelos de linguagem, por outro lado, mostram mais promessa para operações de segurança cibernética, como a automação de funções de help desk, a recuperação de procedimentos operacionais padrão e a assistência a analistas humanos. O trabalho pesado da detecção e prevenção de ameaças precisas será melhor tratado por modelos de IA/ML altamente especializados.

O Papel da Especialização Humana

É crucial utilizar IA/ML ao lado da automação de processos para permitir a remediação e contenção rápidas de ameaças verificadas. Nesta etapa, provisionados com incidentes de alta confiança, os sistemas de IA podem iniciar respostas automatizadas personalizadas para cada tipo de ataque específico — bloqueando IPs maliciosos, isolando hosts comprometidos, aplicando políticas adaptativas e mais. No entanto, a especialização humana permanece integral, validando as saídas da IA, aplicando pensamento crítico e supervisionando as ações de resposta autônoma para garantir proteção sem interrupção dos negócios.

A compreensão sutil é o que os humanos trazem à mesa. Além disso, analisar novas e complexas ameaças de malware requer criatividade e habilidades de resolução de problemas que podem estar além do alcance das máquinas.

A especialização humana é essencial em várias áreas-chave:

• Validação e Contextualização: Os sistemas de IA, apesar de sua sofisticação, às vezes podem gerar falsos positivos ou interpretar mal os dados. Os analistas humanos são necessários para validar as saídas da IA e fornecer o contexto necessário que a IA pode ter perdido. Isso garante que as respostas sejam apropriadas e proporcionais à ameaça real.
• Investigação de Ameaças Complexas: Algumas ameaças são demasiado complexas para a IA lidar sozinha. Os especialistas humanos podem mergulhar mais profundamente nesses incidentes, utilizando sua experiência e intuição para descobrir aspectos ocultos da ameaça que a IA pode ter perdido. Essa percepção humana é crítica para entender o escopo completo de ataques sofisticados e desenvolver contramedidas eficazes.
• Tomada de Decisões Estratégicas: Embora a IA possa lidar com tarefas rotineiras e processamento de dados, decisões estratégicas sobre a postura de segurança geral e estratégias de defesa de longo prazo requerem julgamento humano. Os especialistas podem interpretar insights gerados pela IA para tomar decisões informadas sobre alocação de recursos, alterações de políticas e iniciativas estratégicas.
• Melhoria Contínua: Os analistas humanos contribuem para a melhoria contínua dos sistemas de IA, fornecendo feedback e dados de treinamento. Suas percepções ajudam a refinar algoritmos de IA, tornando-os mais precisos e eficazes com o tempo. Essa relação simbiótica entre especialização humana e IA garante que ambos evoluam juntos para enfrentar ameaças emergentes.

Equipe de Humanos e Máquinas Otimizada

Por trás dessa transição está a necessidade de sistemas de IA que possam aprender com dados históricos (aprendizado supervisionado) e continuamente se adaptar para detectar ataques novos por meio de abordagens de aprendizado não supervisionado/reforço. Combinar esses métodos será fundamental para manter a dianteira sobre as capacidades de IA dos atacantes em evolução.

No geral, a IA será crucial para os defensores escalarem suas capacidades de detecção e resposta. A especialização humana deve permanecer intimamente integrada para investigar ameaças complexas, auditar as saídas do sistema de IA e orientar estratégias defensivas estratégicas. Um modelo de equipe de humanos e máquinas otimizado é ideal para o futuro.

À medida que volumes maciços de dados de segurança se acumulam ao longo do tempo, as organizações podem aplicar análise de IA a esse tesouro de telemetria para derivar insights para caça de ameaças proativa e endurecimento de defesas. Aprender continuamente com incidentes anteriores permite a modelagem preditiva de novos padrões de ataque. À medida que as capacidades de IA avançam, o papel de modelos de linguagem pequenos e especializados, personalizados para casos de uso de segurança específicos, crescerá. Esses modelos podem ajudar a reduzir ainda mais a ‘fadiga de alerta’ ao triar com precisão os alertas mais essenciais para análise humana. A resposta autônoma, impulsionada por IA, também pode expandir para lidar com mais tarefas de segurança de nível 1.

No entanto, o julgamento humano e o pensamento crítico permanecerão indispensáveis, especialmente para incidentes de alta gravidade. Sem dúvida, o futuro é um de equipe de humanos e máquinas otimizada, onde a IA lida com o processamento de dados volumosos e tarefas rotineiras, permitindo que os especialistas humanos se concentrem em investigar ameaças complexas e estratégia de segurança de alto nível.