Três Formas de Construir ‘Infraestrutura Emocional’ em Produtos de GenAI e Ganhar a Confiança do Consumidor

Em uma conversa recente com um possível investidor, fui perguntado se sabia qual era o segredo mais eficaz para escalar. Para mim, isso foi óbvio – é a emoção. O investidor, no entanto, zombou. Como muitos no mundo da tecnologia, ele acreditava que a lógica era escalável, mas a emoção não era.

Embora tenhamos discutido por um tempo, não mudei a mente dele (ou ganhei seu investimento). Mas passei mais de uma década trabalhando no marketing esportivo – você nunca me convencerá de que a lógica é o que preenche estádios com fãs histéricos. Isso é tudo emoção.

Enquanto alguns podem argumentar que comparar tecnologia com esportes é como comparar maçãs com laranjas, eu diria que a tecnologia pode aprender uma ou duas lições com a indústria esportiva. Porque, quando se trata de muitos produtos de tecnologia, não levar em conta a emoção humana é trabalhar contra nós. Essa perspectiva míope é o que levou aos piores aspectos das mídias sociais no passado e o que está atualmente alimentando os mais prejudiciais manchetes sobre inteligência artificial gerativa hoje.

Se os empreendedores de tecnologia querem ganhar a confiança do consumidor na promessa e no potencial da IA, precisamos projetar produtos que sejam construídos com o que eu gosto de chamar de “infraestrutura emocional”. Aqui está como.

Use a Memória para Apoiar, Não Explorar

As vastas funções prometidas por agentes de IA serão tornadas possíveis graças às capacidades de memória aprimoradas – mas isso também envolve armazenar mais dados pessoais, e infelizmente, os dados do usuário foram historicamente utilizados para tentar manipulá-los a gastar dinheiro.

Construir a IA com infraestrutura emocional, no entanto, utilizaria a memória dos dados do usuário para preencher as lacunas de conhecimento que o usuário pode não perceber que está faltando.

Por exemplo, se um usuário perguntar a um agente de IA quais praias locais são amigáveis para cães, como está agora, a maioria dos agentes retornará uma lista de praias e talvez pergunte se o usuário também estaria interessado em uma lista de restaurantes próximos que sejam amigáveis para pets.

No entanto, um agente projetado com infraestrutura emocional incorpora uma camada adicional de inteligência emocional. Nesse caso, lembraria que a consulta de vacinação do cão foi no dia anterior e notificaria o usuário de que levar o cão para a água muito cedo pode levar a infecção, exaustão ou efeitos colaterais inesperados.

Dessa forma, os agentes de IA se comportariam mais como consultores confiáveis que estão dispostos a questionar quando seguir ordens simplesmente pode levar a resultados menos do que ótimos. Fazer isso também é mais provável de construir uma maior confiança do usuário, gerando um uso aumentado.

Construir Receita por meio da Confiança, Não do Direcionamento

Os primeiros adotantes de genAI já tiveram acesso aos principais jogadores do mercado por anos, gratuitamente. Isso pode tentar os fundadores de startups de IA B2C a pensar que o único caminho para a rentabilidade é um produto gratuito que ganha dinheiro vendendo dados para vendedores de terceiros ou por meio de vendas de anúncios.

Mas recorrer a esse modelo de negócios pode colocar em perigo a confiança do consumidor já precária se os usuários não forem tratados com um nível muito mais alto de respeito, cuidado e responsabilidade. Pegue a última história do aplicativo de IA da Meta, no qual os usuários pareciam estar postando consultas altamente pessoais em uma feed pública.

Não todos os produtos têm elementos sociais, mas esse exemplo ilustra o nível de detalhes pessoais que os usuários estão dispostos a compartilhar com agentes de IA. E considerando pesquisas mostram que chatbots são capazes de persuadir contrapartes humanas quando equipados com detalhes pessoais, a publicidade dentro dessas plataformas pode ser feita de maneiras eticamente questionáveis – como relatos da Meta servindo anúncios de produtos de beleza após usuários adolescentes excluírem selfies.

Em vez disso, a infraestrutura emocional otimizaría o cuidado sobre os cliques. Isso não precisa vir à custa da receita, também.

A IA poderia tornar essas experiências ainda mais eficazes apenas servindo anúncios que atendam às necessidades reais do usuário: um casaco de chuva quando o tempo ruim está a caminho, planos de seguro para pets dentro do orçamento para um novo filhote, suplementos de vitamina C nos primeiros sinais de sintomas de resfriado.

Mas o verdadeiro cuidado não é apenas sobre direcionamento preciso – assim como o exemplo da praia acima, o verdadeiro cuidado preenche as lacunas que os usuários não percebem que estão faltando. Por exemplo, um rastreador de saúde para pets pode alertar o usuário de que a raça específica do seu cão é propensa a deficiências de vitamina B12 e, portanto, recomendar uma marca de ração que atenda melhor às necessidades do seu cão. Descobrir esses tipos de detalhes esquecidos é onde a IA pode realmente brilhar e trazer valor real para os usuários finais.

Cerca de metade dos consumidores globais está disposta a compartilhar dados pessoais se isso significar melhores experiências do usuário, mas esse número caiu para apenas 15% no mercado dos EUA. Os empreendedores de IA têm uma oportunidade real de mudar essa percepção por meio do design emocionalmente inteligente.

Projetar Guardiões Emocionais que Colocam as Pessoas em Primeiro Lugar

O aspecto mais crucial da infraestrutura emocional é construir guardiões que protejam os melhores interesses dos usuários. Isso envolve selecionar cuidadosamente o tipo de conteúdo que pode ser gerado por IA, rotular claramente o material gerado por IA e projetar intervenções claras quando os usuários estão entrando em território emocionalmente arriscado.

Por exemplo, ao construir um aplicativo de cuidado com pets, minha equipe e eu decidimos que não recorreríamos à IA para qualquer conteúdo relacionado à saúde ou nutrição. O risco de alucinações ou informações erradas era muito grande, então decidimos pagar a um veterinário profissional para escrever e curar esses artigos. Obviamente, essa foi uma escolha mais cara, mas quando vidas literais estão em jogo, é um investimento digno.

Não apenas isso empresta credibilidade ao nosso produto, mas também mantém nossos usuários e seus pets seguros. É também o que os consumidores querem – 79% concordam que o uso de IA deve ser divulgado pelas empresas.

Finalmente, é do melhor interesse das empresas de IA projetar seus produtos para comunicar suas limitações claramente e apontar os usuários para intervenções humanas quando apropriado. Já houve histórias de usuários emocionalmente vulneráveis se voltando para autolesão ou suicídio devido à falta de guardiões adequados em chatbots, e compreensivelmente, essas levaram a processos judiciais.

Embora eu acredite que o futuro da IA em nossas vidas é brilhante, temos que ser honestos sobre onde suas fraquezas atualmente se encontram e não permitir que as pressões de velocidade e concorrência tenham prioridade sobre a segurança. Se fizermos isso, perderemos a confiança dos consumidores que afirmamos querer servir. Ignorar essa responsabilidade prejudica todo o ecossistema.