A Corrida Armamentista de Comunicações de Crise de IA: Quando Seu Chatbot Sai do Controle, Qual é o Novo Livro de Instruções?

Com a internet como existe agora, as marcas estão competindo para integrar chatbots alimentados por IA para otimizar a interação com os clientes e os negócios. No entanto, com maior inteligência vem um perigo sem precedentes. Quando um chatbot de IA falha, publicando material ofensivo, enganoso ou difamatório, o dano pode ser feito rapidamente e de forma egoísta. A questão é: Como as marcas reagem quando sua IA dá errado?

A Nova Fronteira do Risco de Marca

Eventos recentes apontam para essa ameaça potencial. Em fevereiro de 2024, a Air Canada (AC.TO ) enfrentou consequências legais quando seu chatbot alimentado por IA forneceu a um cliente informações incorretas sobre a política de tarifa de luto da companhia aérea. O chatbot informou erroneamente ao passageiro que ele poderia solicitar um desconto de luto retroativamente, o que contradizia a política real da companhia aérea. Quando o cliente solicitou o desconto após a viagem, a Air Canada negou o pedido, levando a uma disputa. O Tribunal de Resolução Civil da Colúmbia Britânica decidiu a favor do passageiro, ordenando que a Air Canada o compensasse e mantivesse o desconto. Esse caso destaca as possíveis responsabilidades que as empresas enfrentam quando os sistemas de IA disseminam informações imprecisas, enfatizando a necessidade de mecanismos robustos de supervisão e responsabilidade.

Da mesma forma, a Meta está enfrentando críticas sobre seus companheiros digitais baseados em IA. Uma investigação do The Wall Street Journal descobriu que alguns de seus chatbots estavam tendo discussões baseadas em sexo com usuários que se passavam por crianças. Essa revelação resultou em sérios problemas de reputação para a empresa, levantando questões éticas e a necessidade de guardrails relacionados à IA.

O ChatGPT da OpenAI também não esteve sem controvérsia. Uma atualização recente tornou o chatbot excessivamente amigável, mesmo confirmando pensamentos prejudiciais ou delirantes que os usuários expressavam. Esse excesso de concordância, destinado a aumentar a interação, levantou questões éticas sobre a IA afetando o comportamento do usuário e a validação emocional. A OpenAI tomou conhecimento do problema e reverteu a atualização, mas o incidente destaca a linha fina entre engajamento do usuário e comportamento ético da IA.

Responsabilidade na Era da IA

Esses eventos levantam questões básicas sobre responsabilidade. Quando um embaixador humano comete um erro, o caminho para a redenção é simples: peça desculpas, peça desculpas e esqueça. No entanto, quando um sistema de IA é responsável, as coisas se tornam confusas. Quem é o culpado, os criadores, a organização que emprega a IA ou a IA em si?

As marcas devem ser cuidadosas e reconhecer que a aplicação de IA não as isenta de responsabilidade. Os consumidores equiparam a voz do chatbot à voz da marca. Portanto, qualquer pequeno erro da IA é refletido na reputação da marca. É importante que as empresas tenham diretrizes rigorosas para monitorar a IA e estejam preparadas para tomar medidas rápidas quando a situação se torna negativa.

As expectativas de transparência em torno da IA estão evoluindo rapidamente. Consumidores, reguladores e jornalistas estão exigindo clareza sobre como os sistemas automatizados são treinados, implantados e governados. Nesse ambiente, o silêncio ou a deflexão não são opções. As marcas precisam comunicar proativamente suas práticas de governança de IA e estar preparadas para fornecer uma resposta humana quando um erro de IA ocorre. Os protocolos de crise agora devem incluir contingências específicas relacionadas à IA, como estabelecer linhas claras de propriedade para saídas geradas por IA e garantir que a supervisão humana faça parte do processo. Apenas culpar “o algoritmo” não é uma estratégia; é uma desculpa que erode a confiança.

Além disso, as empresas devem reconhecer que os erros de IA muitas vezes se espalham mais rápido do que os tradicionais, impulsionados pela amplificação viral das mídias sociais e pelo fascínio do público por erros tecnológicos. Uma única captura de tela de uma interação de chatbot rebelde pode alcançar milhões em questão de horas. Isso aumenta a necessidade de monitoramento constante da IA e de caminhos de escalada rápidos. As equipes de comunicação devem realizar planejamento de cenários específicos para falhas de IA, desenvolver respostas modeladas e alinhar equipes legais, de conformidade e de engenharia em torno de uma compreensão compartilhada de responsabilidade. Nesse novo cenário, a resiliência reputacional depende não apenas de como uma marca responde a crises de IA, mas também de como se prepara para elas de forma transparente desde o início.

Passos Preventivos para Gerenciamento de Crise de IA

Para prosperar em um cenário de IA complexo, as marcas podem empregar os seguintes passos:

• Implementar Sistemas de Monitoramento Robustos: Auditorar regularmente a saída da IA para identificar e corrigir conteúdo objetável em tempo hábil. Por exemplo, a SeekOut, uma plataforma de inteligência de talentos, realiza auditorias regulares de seus sistemas de IA para garantir resultados justos e imparciais. Em resposta a regulamentações em evolução e como parte de seu compromisso com a IA responsável, a SeekOut contratou a auditora terceirizada Credo AI para avaliar seus algoritmos. A auditoria avaliou o desempenho das funcionalidades de IA em vários grupos demográficos, verificando que os resultados de busca para títulos de emprego eram representativos e equitativos. Essa abordagem proativa permite que a SeekOut identifique e corrija possíveis vieses prontamente, mantendo a integridade e a justiça de seus serviços impulsionados por IA.
• Criar Quadros de Responsabilidade Claros: Determinar quem na organização irá lidar com o monitoramento e o gerenciamento de crises de IA. Por exemplo, o Escritório de Contabilidade do Governo dos EUA lançou um quadro de responsabilidade de IA que enfatiza governança, dados, desempenho e monitoramento. Ele fornece práticas para que as agências federais garantam o uso responsável da IA, incluindo a definição de metas claras e a participação de stakeholders diversificados.
• Criar Planos de Resposta a Crises Específicos de IA: Planos genéricos de gerenciamento de crises podem não ser adequados. Personalize planos para responder a crises específicas de IA, como desligar sistemas de IA quando necessário. O Programa de Desenvolvimento das Nações Unidas utiliza painéis de risco de crise impulsionados por IA para monitorar e prever crises potenciais, como discurso de ódio e violência. Esses painéis permitem respostas proativas analisando dados em tempo real e prevendo riscos.
• Praticar Comunicação Honestra: Quando um erro de IA é cometido, pratique honestidade na comunicação com as partes interessadas sobre o erro, as ações tomadas para corrigi-lo e os procedimentos estabelecidos para evitar incidentes repetidos. Por exemplo, em 2018, a Amazon (AMZN ) descontinuou sua ferramenta de recrutamento de IA após descobrir que ela era tendenciosa contra candidatas do sexo feminino. A empresa reconheceu o problema e parou de usar a ferramenta, demonstrando transparência ao abordar as deficiências da IA.
• Investir no Treinamento Moral da IA: Certifique-se de que os modelos de IA sejam treinados com conjuntos de dados diversificados e inclusivos para suprimir vieses e ofensividade. Nesse sentido, pesquisadores da Universidade de Washington e do Instituto Allen para IA desenvolveram o Delphi, um sistema de IA projetado para tomar decisões éticas. Embora mostre promessa, o Delphi às vezes reflete vieses sociais, destacando os desafios de treinar a IA com conjuntos de dados diversificados e inclusivos.

À medida que a inteligência artificial se torna mais profundamente integrada às comunicações de marca, o risco de erros aumenta. Embora a IA ofereça eficiências valiosas, também introduz desafios únicos que as marcas devem estar preparadas para gerenciar. Implementando proativamente medidas de controle e planos de resposta a crises personalizados, as organizações podem proteger sua reputação e manter a confiança do consumidor nesse cenário digital em evolução.