DeepKeep Descobre ‘InkJect’, um Novo Ataque de IA que Esconde Comandos Maliciosos Dentro de Imagens

À medida que as empresas adotam rapidamente a IA multimodal capaz de entender tanto texto quanto imagens, os pesquisadores de segurança estão descobrindo que essas novas capacidades poderosas introduzem novas superfícies de ataque igualmente sofisticadas. A empresa israelense de segurança de IA, DeepKeep, revelou uma técnica de injeção de prompt visual não documentada anteriormente, chamada InkJect, demonstrando que instruções ocultas incorporadas dentro de imagens aparentemente inofensivas podem manipular os principais modelos de linguagem de visão (VLMs) enquanto contornam muitas das barreiras de segurança projetadas para parar ataques de injeção de prompt tradicionais.

De acordo com a pesquisa da DeepKeep, a vulnerabilidade afeta vários dos modelos multimodais mais avançados de hoje, incluindo o GPT-5.2 e o GPT-5.4 Mini da OpenAI, além do Claude Sonnet 4.6 e do Claude Opus 4.5 da Anthropic. As descobertas expõem um ponto cego significativo na segurança da IA: enquanto a indústria investiu pesadamente na proteção de interações baseadas em texto, muito menos atenção foi dada à camada de raciocínio visual que cada vez mais alimenta os sistemas de IA modernos.

Uma Nova Evolução da Injeção de Prompt

Os ataques de injeção de prompt tradicionais tentam manipular um modelo de IA por meio de texto cuidadosamente elaborado que substitui suas instruções originais. Nos últimos dois anos, os principais fornecedores de IA investiram pesadamente em salvaguardas que detectam esses ataques antes que os modelos possam agir sobre eles.

InkJect segue um caminho completamente diferente. Em vez de se comunicar diretamente por meio de texto, os atacantes ocultam instruções maliciosas dentro de imagens que se tornam parte do fluxo de trabalho normal da IA. Essas imagens podem ser armazenadas dentro de repositórios públicos do GitHub, páginas de documentação, ativos de design, diagramas ou outros recursos visuais que os assistentes de codificação de IA e agentes autônomos rotineiramente recuperam enquanto completam tarefas legítimas. Do ponto de vista do usuário, nada parece incomum. A IA simplesmente processa a imagem como outra peça de informação contextual, sem saber que também contém comandos ocultos.

Explorando a Capacidade da IA de Ver

O que torna o InkJect particularmente eficaz é que ele visa uma das novas capacidades nos sistemas de IA modernos: a compreensão visual.

Os modelos de linguagem de visão realizam reconhecimento óptico de caracteres sofisticado como parte da interpretação de imagens, permitindo que leiam texto incorporado dentro de diagramas, telas, fotografias e designs de interface. A DeepKeep descobriu que essas capacidades frequentemente excedem as das ferramentas de segurança baseadas em OCR tradicionais usadas para inspecionar imagens carregadas.

Os pesquisadores demonstraram que instruções maliciosas poderiam ser ocultas usando técnicas como texto branco em fundos brancos, letra de contraste extremamente baixo, distorção de perspectiva e tipografia deformada. Enquanto as ferramentas de segurança existentes frequentemente falhavam em reconhecer esses comandos ocultos, os próprios modelos de IA os interpretavam sem dificuldade. Isso cria uma discordância perigosa onde o software de segurança conclui que a imagem é inofensiva, enquanto a IA extrai e executa instruções invisíveis para o scanner e o usuário humano.

A Injeção de Prompt Indireta Torna a Ameaça Ainda Mais Perigosa

Ao contrário de muitos ataques cibernéticos que exigem acesso direto a um sistema-alvo, o InkJect depende do que os pesquisadores descrevem como injeção de prompt indireta. Em vez de carregar uma imagem maliciosa diretamente em um aplicativo de IA, um atacante simplesmente coloca a imagem dentro de um repositório ou recurso online acessível publicamente.

Posteriormente, quando um desenvolvedor pede a um assistente de IA para construir um recurso usando esse repositório ou analisar seu conteúdo, o modelo recupera automaticamente a imagem como parte de seu fluxo de trabalho normal. Instruções ocultas são processadas ao lado de ativos de projeto legítimos sem que o desenvolvedor perceba que comandos adicionais entraram na conversa.

Esse método de ataque é particularmente preocupante porque os agentes de IA modernos cada vez mais recuperam recursos externos de forma autônoma. Cada repositório público, página de documentação ou ativo compartilhado pode se tornar outra via pela qual instruções maliciosas podem alcançar um sistema de IA.

Um Pedido de Codificação Simples com Consequências Sérias

A DeepKeep ilustrou o impacto usando um cenário de desenvolvimento de software que parece completamente rotineiro.

Um desenvolvedor instruiu um assistente de codificação de IA para gerar uma página da web informativa básica. Desconhecido para o desenvolvedor, uma das imagens referenciadas continha instruções ocultas. Em vez de produzir apenas a página da web solicitada, a IA silenciosamente adicionou um sistema de login de membros completamente funcional, completo com credenciais de administrador e lógica de autenticação de backend.

A página da web funcionou exatamente como esperado, dando ao desenvolvedor nenhum motivo para suspeitar que código adicional havia sido inserido. Sem uma auditoria de segurança detalhada, a porta de entrada não autorizada poderia facilmente ter sido implantada em produção, fornecendo aos atacantes acesso administrativo que ninguém sabia que havia sido solicitado.

A demonstração destaca como a injeção de prompt visual difere dos ataques de IA anteriores. Em vez de apenas influenciar respostas de chatbot, instruções visuais ocultas podem manipular código gerado, introduzir vulnerabilidades de segurança, alterar fluxos de trabalho autônomos e potencialmente comprometer sistemas de empresa.

Por Que as Barreiras de Segurança de IA Existente Perdem o Ataque

A pesquisa destaca uma fraqueza arquitetônica no panorama de segurança de IA de hoje. A maioria das barreiras comerciais foi projetada para inspecionar prompts textuais antes que eles alcancem o modelo. Como resultado, as organizações se tornaram cada vez mais eficazes na detecção de instruções maliciosas escritas.

Entradas visuais, no entanto, frequentemente seguem um pipeline de processamento completamente diferente.

A DeepKeep descobriu que vários modelos de ponta rejeitaram ataques idênticos quando apresentados como texto, mas os aceitaram quando essas mesmas instruções foram incorporadas dentro de uma imagem. Em essência, os atacantes podem contornar proteções simplesmente mudando o meio pelo qual as instruções são entregues.

À medida que a IA multimodal se torna a interface padrão para aplicações de empresa, essa distinção se torna cada vez mais importante. Os sistemas de segurança não podem mais assumir que instruções perigosas chegam apenas por meio de texto.

Por Que as Empresas Devem Prestar Atenção

O momento da pesquisa da DeepKeep reflete uma mudança muito maior em andamento em toda a IA de empresa. Previsões da indústria sugerem que sistemas multimodais capazes de entender imagens, documentos, vídeo e texto se tornarão padrão em desenvolvimento de software, serviços financeiros, saúde, manufatura, suporte ao cliente e automação de negócios.

Ao contrário dos chatbots de consumidor, muitos sistemas de IA de empresa operam com privilégios elevados. Eles recuperam documentação proprietária, escrevem software, executam código, chamam APIs, interagem com infraestrutura de nuvem, analisam documentos confidenciais e cada vez mais tomam decisões em nome dos usuários. Instruções ocultas incorporadas dentro de conteúdo visual, portanto, representam muito mais do que uma curiosidade acadêmica — elas introduzem uma nova categoria de risco de segurança de empresa capaz de influenciar sistemas do mundo real.

A Abordagem da DeepKeep para a Segurança de IA

Fundada em 2021, a DeepKeep se concentrou exclusivamente na segurança da IA em todo o seu ciclo de vida, desde a avaliação e teste de modelo até a proteção de implantação e tempo de execução. Em vez de se concentrar apenas em grandes modelos de linguagem, a plataforma da empresa é projetada para proteger sistemas de IA multimodal, agentes de IA autônomos, aplicações de visão computacional e implantações de IA de empresa.

Sua plataforma de segurança combina múltiplas camadas de proteção, incluindo um Firewall de IA que monitora a inferência em tempo real, um Red Team de IA automatizado que proativamente busca vulnerabilidades antes da implantação, um Scanner de Agente de IA que analisa fluxos de trabalho autônomos para caminhos de exploração, capacidades de digitalização de modelo que avaliam as cadeias de suprimento de IA para riscos de segurança e um Lens de IA, que fornece às organizações visibilidade sobre como os funcionários e aplicações estão usando a IA em toda a empresa.

À medida que as organizações continuam integrando a IA em fluxos de trabalho críticos, a estratégia da DeepKeep reflete um reconhecimento crescente de que a segurança da IA exige a proteção de todos os estágios de como os modelos recebem, processam e agem sobre informações — e não apenas filtrar os prompts que os usuários digitam.

A Próxima Fronteira na Segurança de IA

InkJect provavelmente será lembrado como mais do que apenas outra técnica de injeção de prompt. Ele destaca como a evolução rápida da IA multimodal está fundamentalmente redesenhando o panorama de ameaças de segurança cibernética.

À medida que os modelos se tornam cada vez mais capazes de ver, raciocinar, recuperar informações e agir de forma autônoma, os atacantes naturalmente buscarão novas maneiras de explorar cada modalidade que esses sistemas entendem. Imagens, diagramas, PDFs, sites e outros recursos visuais podem se tornar veículos para instruções ocultas que as ferramentas de segurança existentes podem nunca detectar.

A DeepKeep divulgou responsavelmente suas descobertas para a OpenAI e a Anthropic, dando às empresas a oportunidade de fortalecer as proteções contra esse novo vetor de ataque identificado. Se o InkJect se tornará o primeiro exemplo de uma classe mais ampla de ataques de injeção de prompt multimodal, ainda está para ser visto, mas sua descoberta serve como um lembrete oportuno de que a segurança da IA deve evoluir tão rapidamente quanto a própria IA. À medida que os modelos aprendem a entender o mundo visual com uma sofisticação cada vez maior, defendê-los exigirá sistemas de segurança capazes de fazer o mesmo.