Como Abordar os Desafios de Segurança de Rede Relacionados à Inteligência Artificial Agêntica

A inteligência artificial agêntica (IA) representa a próxima fronteira da IA, prometendo ir além das capacidades da inteligência artificial geradora (GenAI). Ao contrário da maioria dos sistemas GenAI, que dependem de prompts ou supervisão humanos, a IA agêntica é proativa porque não requer entrada do usuário para resolver problemas complexos e multietapas. Ao aproveitar um ecossistema digital de grandes modelos de linguagem (LLM), aprendizado de máquina (ML) e processamento de linguagem natural (NLP), a IA agêntica executa tarefas de forma autônoma em nome de um humano ou sistema, melhorando massivamente a produtividade e as operações.

Embora a IA agêntica ainda esteja em seus estágios iniciais, especialistas destacaram alguns casos de uso inovadores. Considere um ambiente de atendimento ao cliente de um banco onde um agente de IA faz mais do que simplesmente responder às perguntas do usuário quando solicitado. Em vez disso, o agente efetivamente completa transações ou tarefas como mover fundos quando solicitado pelo usuário. Outro exemplo pode ser em um ambiente financeiro onde os sistemas de IA agêntica assistem os analistas humanos, analisando autonomamente e rapidamente grandes quantidades de dados para gerar relatórios prontos para auditoria para tomada de decisões informadas.

As possibilidades incríveis da IA agêntica são inegáveis. No entanto, como qualquer nova tecnologia, há preocupações de segurança, governança e conformidade. A natureza única desses agentes de IA apresenta vários desafios de segurança e governança para as organizações. As empresas devem abordar esses desafios para não apenas colher os benefícios da IA agêntica, mas também garantir a segurança e eficiência da rede.

Quais Desafios de Segurança de Rede a IA Agêntica Cria para as Organizações?

Os agentes de IA têm quatro operações básicas. A primeira é percepção e coleta de dados. Esses agentes, que podem ser centenas, milhares ou até milhões, coletam e reúnem dados de vários lugares, seja na nuvem, no local, na borda, etc., e esses dados podem ser físicos ou de qualquer lugar, em vez de uma localização geográfica específica. A segunda etapa é a tomada de decisões. Uma vez que esses agentes coletaram os dados, eles usam modelos de IA e ML para tomar decisões. A terceira etapa é a ação e execução. Tendo decidido, esses agentes agem de acordo para executar essa decisão. A última etapa é o aprendizado, onde esses agentes usam os dados coletados antes e depois de sua decisão para ajustar e adaptar-se correspondente.

Nesse processo, a IA agêntica requer acesso a enormes conjuntos de dados para funcionar de forma eficaz. Os agentes normalmente se integram a sistemas de dados que lidam ou armazenam informações sensíveis, como registros financeiros, bancos de dados de saúde e outras informações de identificação pessoal (PII). Infelizmente, a IA agêntica complica os esforços para garantir a segurança da infraestrutura de rede contra vulnerabilidades, particularmente com a conectividade entre nuvens. Ela também apresenta desafios de segurança de saída, tornando difícil para as empresas proteger-se contra a extração de dados e violações de comando e controle. Se um agente de IA for comprometido, dados sensíveis podem ser facilmente vazados ou roubados. Da mesma forma, os agentes podem ser sequestrados por atores mal-intencionados e usados para gerar e distribuir desinformação em larga escala. Quando ocorrem violações, não há apenas penalidades financeiras, mas também consequências de reputação.

Capacidades-chave como observabilidade e rastreabilidade podem ser frustradas pela IA agêntica, pois é difícil rastrear quais conjuntos de dados os agentes de IA estão acessando, aumentando o risco de exposição ou acesso não autorizado a dados. Da mesma forma, o aprendizado dinâmico e a adaptação da IA agêntica podem impedir auditorias de segurança tradicionais, que dependem de logs estruturados para rastrear o fluxo de dados. A IA agêntica também é efêmera, dinâmica e em constante execução, criando uma necessidade 24/7 de manter a visibilidade e segurança ótimas. A escala é outro desafio. A superfície de ataque cresceu exponencialmente, estendendo-se além do centro de dados no local e da nuvem para incluir a borda. De fato, dependendo da organização, a IA agêntica pode adicionar milhares a milhões de novos pontos de extremidade na borda. Esses agentes operam em numerosas localizações, seja em diferentes nuvens, no local, na borda, etc., tornando a rede mais vulnerável a ataques.

Uma Abordagem Abrangente para Abordar os Desafios de Segurança da IA Agêntica

As organizações podem abordar os desafios de segurança da IA agêntica aplicando soluções de segurança e melhores práticas em cada uma das quatro etapas operacionais básicas:

1. Percepção e Coleta de Dados: As empresas precisam de conectividade de rede de alta largura de banda que seja criptografada de ponta a ponta para permitir que seus agentes colem a enorme quantidade de dados necessários para funcionar. Lembre-se de que esses dados podem ser sensíveis ou de grande valor, dependendo do caso de uso. As empresas devem implantar uma solução de conectividade criptografada de alta velocidade para executar entre todas essas fontes de dados e proteger dados sensíveis e PII.
2. Tomada de Decisões: As empresas devem garantir que seus agentes de IA tenham acesso aos modelos e infraestrutura de IA e ML certos para tomar as decisões certas. Ao implementar um firewall de nuvem, as empresas podem obter a conectividade e segurança que seus agentes de IA precisam para acessar os modelos certos de forma auditável.
3. Execução de Ações: Os agentes de IA tomam ações com base na decisão. No entanto, as empresas devem identificar qual agente, dentre os centenas ou milhares deles, tomou aquela decisão. Elas também precisam saber como seus agentes se comunicam entre si para evitar conflitos ou “robôs lutando contra robôs”. Portanto, as organizações precisam de observabilidade e rastreabilidade das ações tomadas por seus agentes de IA. Observabilidade é a capacidade de rastrear, monitorar e entender os estados internos e comportamentos dos agentes de IA em tempo real. Rastreabilidade é a capacidade de rastrear e documentar dados, decisões e ações tomadas por um agente de IA.
4. Aprendizado e Adaptação: As empresas gastam milhões, se não centenas de milhões ou mais, para ajustar seus algoritmos, o que aumenta o valor e a precisão desses agentes. Se um ator mal-intencionado obtiver esses modelos e os exfiltrar, todos esses recursos poderão estar em suas mãos em minutos. As empresas podem proteger seus investimentos por meio de recursos de segurança de saída que protegem contra a extração e violações de comando e controle.

Aproveitando a IA Agêntica de Forma Segura e Responsável

A IA agêntica tem um potencial notável, capacitando as empresas a alcançar novas alturas de produtividade e eficiência. Mas, como qualquer tecnologia emergente no espaço de IA, as organizações devem tomar precauções para proteger suas redes e dados sensíveis. A segurança é especialmente crucial hoje, considerando os atores mal-intencionados altamente sofisticados e bem organizados, financiados por nações, como Salt Typhoon e Silk Typhoon, que continuam a realizar ataques em larga escala.

As organizações devem se associar a especialistas em segurança de nuvem para desenvolver uma estratégia de segurança robusta, escalável e futura, capaz de abordar os desafios únicos da IA agêntica. Esses parceiros podem permitir que as empresas rastreiem, gerenciem e protejam seus agentes de IA; além disso, eles ajudam a fornecer às empresas a conscientização necessária para atender aos padrões relacionados à conformidade e governança.