Os “Dobros Digitais Pessoais” do Agentic AI exigirão uma Evolução na Verificação de Identidade

O anúncio da Amazon sobre sua funcionalidade “Compre para mim” foi uma medida ousada que sinalizou o potencial real da inteligência artificial agente no comércio eletrônico. Ao permitir que agentes de IA comprem produtos diretamente de outros sites quando esses itens não estão disponíveis na Amazon, a empresa está se posicionando como a principal provedora de experiências de compra convenientes e gratificantes.

A inteligência artificial agente – onde agentes autônomos atuam em nome de usuários reais – está no caminho para uma adoção rápida nas empresas, particularmente em um contexto B2B. Imagine um mundo onde “agentes de IA B2B” operando em várias capacidades (como atendimento ao cliente, vendas, cadeia de suprimentos, operações de TI, finanças e RH) possam tomar ações em tarefas empresariais mais mundanas sem intervenção humana.

A inteligência artificial agente também é uma notícia bem-vinda no âmbito do consumidor, com “agentes de IA B2C” oferecendo oportunidades significativas para os consumidores economizarem tempo e esforço em suas vidas diárias. Considere um “agente comprador” que possa ajudar os compradores online a encontrar os melhores negócios, monitorar quedas de preços, automatizar compras, lidar com devoluções e fazer reservas de viagem. As possibilidades em várias indústrias parecem ser infinitas:

• Finanças pessoais e gestão de patrimônio – Pense em agentes de IA que possam executar estratégias financeiras de forma autônoma, reequilibrar carteiras, encontrar taxas de juros ótimas para economias e até mesmo gerenciar declarações de impostos.
• Atendimento ao cliente e suporte (para indivíduos) – Em vez de ligar para uma linha de ajuda ou conversar com um bot, um Agente de IA pessoal pode se comunicar diretamente com o Agente de IA de uma empresa para resolver problemas, esclarecer pedidos ou fazer alterações. Isso remove a necessidade de os indivíduos repetirem informações ou navegar em sistemas de IVR complexos.
• Saúde – Agentes de IA poderão gerenciar consultas, pedir prescrições, apresentar reclamações de seguro e até mesmo buscar segundas opiniões ou analisar pesquisas médicas em nome dos pacientes.

Adotar a inteligência artificial agente oferece às empresas a oportunidade de se destacar por meio de experiências de usuário excepcionais e conveniências. No entanto, do outro lado da moeda, a inteligência artificial agente é altamente vulnerável a fraudes. Pesquisas mostram que bots compõem entre 40 e 50 por cento de todo o tráfego da web, com cerca de 65 por cento desses bots considerados mal-intencionados. A inteligência artificial agente é essencialmente uma maneira pela qual os consumidores comuns usam bots, e os fraudadores – que muitas vezes usam bots em grande volume para habilitar operações em escala – agora terão um tempo muito mais fácil para se esconderem à vista de tráfego legítimo.

Em um nível fundamental, a capacidade de distinguir entre esses bots mal-intencionados e legítimos em escala será um fator-chave para distinguir os líderes na corrida de inteligência artificial agente. Em um mundo de inteligência artificial agente, as máquinas serão dotadas de agência e caminharão pelos mesmos “corredores cibernéticos” que os humanos.

Mas o cenário do comércio eletrônico está preparado?

A inteligência artificial agente exigirá uma reavaliação ou uma expansão do quadro de verificação de identidade online como é conhecido hoje, o que, por sua vez, exigirá que os provedores de soluções continuem a melhorar no que já fazem. Até o momento, esse quadro foi centrado em três perguntas:

• Essa pessoa é real? A proliferação rápida de deepfakes está exigindo verificações de vivacidade para todas as transações de alto risco, garantindo que sejam iniciadas por uma pessoa real e viva. No contexto da inteligência artificial agente, a resposta pode ser, “não, eu não sou uma pessoa”, mas isso não significa que a vivacidade é irrelevante. A detecção de vivacidade deve sempre fazer parte das verificações biométricas que ocorrem em pontos de alto risco em uma jornada do usuário, para garantir que um humano esteja no loop – como quando uma conta é criada, dinheiro é transferido ou a recuperação de conta é solicitada (“Esqueci minha senha”).
• Essa pessoa é confiável? Isso é a capacidade de determinar se o usuário é um fraudador, um futuro cliente VIP ou algo entre esses, o que muitas vezes envolve a verificação contra bases de dados públicas. Por exemplo, alguém que tenta reservar um alojamento em um mercado de aluguel online seria marcado como alto risco se tiver um histórico criminal conhecido de invasão de propriedade ou destruição de propriedade.
• Ainda é a pessoa por trás da conta? Isso se refere à autenticação contínua e perpétua – ou garantir que, em intervalos regulares, a pessoa cuja identidade foi verificada no login ainda esteja lá, impedindo a tomada de conta por outros humanos.

A inteligência artificial agente acrescenta uma quarta pergunta – esse agente tem autoridade para agir como proxy do usuário real? Essa questão de autoridade é crítica, confirmando o escopo e duração da autorização do humano para que o agente de IA atue como seu proxy, de acordo com o contexto. Isso não é apenas sobre um humano delegar uma tarefa; é sobre garantir que um agente de IA possua permissões humanas específicas, revogáveis e cientes do contexto. Todas as ações do agente de IA devem ser rastreáveis a um humano real e legítimo; essa é a chave para que os sites B2C implantem a inteligência artificial agente de forma segura e responsável.

De acordo com uma estimativa recente, a IA foi responsável por cerca de 20 por cento das fraudes cometidas em 2024 em todos os setores, e esse número deve crescer à medida que os hackers implantam novas técnicas. Além de agentes de IA mal-intencionados que imitam agentes legítimos, outro exemplo é o sequestro de agentes, ou quando um atacante interfere com como um agente percebe informações ou toma decisões. Portanto, além de verificar a legitimidade e a autoridade dos agentes de IA, verificar a integridade dos agentes também é fundamental para garantir que eles não tenham sido manipulados.

A Gartner temperou suas fortes previsões para o crescimento da inteligência artificial agente com uma importante ressalva: mais de 40 por cento dos projetos de inteligência artificial agente serão cancelados até o final de 2027. Isso foi um despertar – um sinal de que muitas organizações estão subestimando a complexidade das implementações de inteligência artificial agente, particularmente a necessidade de garantir controles de risco adequados. Embora haja muitas maneiras pelas quais os agentes de IA agente possam ser explorados para causar danos, a capacidade de verificar a legitimidade e a autoridade é um passo fundamental e básico para minimizar o risco. Felizmente, o que é necessário não é uma reinvenção, mas uma evolução – uma ampliação dos quadros de verificação de identidade online comprovados que existem hoje.