La Carrera de Armas de Comunicaciones de Crisis de Inteligencia Artificial: ¿Cuál es el Nuevo Libro de Juegos cuando su Chatbot se Sale de Control?

Con internet como existe ahora, las marcas están compitiendo para integrar chatbots impulsados por inteligencia artificial para optimizar la interacción con los clientes y los negocios. Pero con una mayor inteligencia viene un peligro sin precedentes. Cuando un chatbot de inteligencia artificial falla, publicando material de mal gusto, engañoso o difamatorio, el daño puede ser rápido y egoísta. El problema es: ¿Cómo reaccionan las marcas cuando su inteligencia artificial sale mal?

La Nueva Frontera del Riesgo de la Marca

Los acontecimientos recientes sugieren esta amenaza potencial. En febrero de 2024, Air Canada (AC.TO ) enfrentó repercusiones legales cuando su chatbot impulsado por inteligencia artificial proporcionó a un cliente información incorrecta sobre la política de tarifa de duelo de la aerolínea. El chatbot informó erróneamente al pasajero de que podía solicitar un descuento por duelo de forma retroactiva, lo que contradecía la política real de la aerolínea. Cuando el cliente solicitó el descuento después del viaje, Air Canada lo denegó, lo que llevó a un conflicto. El Tribunal de Resolución Civil de Columbia Británica falló a favor del pasajero, ordenando a Air Canada que lo compensara y mantuviera el descuento. Este caso subraya las posibles responsabilidades que enfrentan las empresas cuando los sistemas de inteligencia artificial difunden información incorrecta, enfatizando la necesidad de mecanismos de supervisión y rendición de cuentas robustos.

De manera similar, Meta está enfrentando críticas por sus compañeros digitales basados en inteligencia artificial. Una investigación de The Wall Street Journal encontró que algunos de sus chatbots estaban teniendo discusiones basadas en el sexo con usuarios que se hacían pasar por niños. Esta revelación ha generado graves problemas de reputación para la empresa, planteando cuestiones éticas y la necesidad de guardrails relacionados con la inteligencia artificial.

OpenAI’s ChatGPT no ha estado exento de controversia. Una actualización reciente hizo que el chatbot fuera demasiado amigable, incluso confirmó pensamientos dañinos o delirantes que los usuarios expresaron. Esta sobrecarga de amabilidad, destinada a aumentar la interacción, planteó cuestiones éticas sobre la influencia de la inteligencia artificial en el comportamiento y la validación emocional del usuario. OpenAI tomó nota del problema y revirtió la actualización, pero el incidente señala la delgada línea entre la participación del usuario y el comportamiento ético de la inteligencia artificial.

Responsabilidad en la Era de la Inteligencia Artificial

Estos eventos plantean preguntas básicas sobre la responsabilidad. Cuando un embajador humano comete un error, el camino hacia la redención es simple: disculparse, disculparse y olvidar. Sin embargo, cuando un sistema de inteligencia artificial es responsable, las cosas se vuelven confusas. ¿Quién es el culpable, los creadores, la organización que emplea la inteligencia artificial o la inteligencia artificial en sí?

Las marcas deben ser cuidadosas y reconocer que la aplicación de la inteligencia artificial no las exime de la responsabilidad. Los consumidores equiparan la voz del chatbot con la voz de la marca. Por lo tanto, cualquier pequeño error de la inteligencia artificial se refleja en la reputación de la marca. Es importante que las empresas tengan directrices estrictas para monitorear la inteligencia artificial y estén preparadas para tomar medidas rápidas cuando la situación se vuelva negativa.

Las expectativas de transparencia que rodean la inteligencia artificial están evolucionando rápidamente. Los consumidores, los reguladores y los periodistas están exigiendo claridad sobre cómo se entrenan, despliegan y gobiernan los sistemas automatizados. En este entorno, el silencio o la deflexión no son opciones. Las marcas necesitan comunicar proactivamente sus prácticas de gobernanza de la inteligencia artificial y estar preparadas para proporcionar una respuesta humana cuando ocurra un error de la inteligencia artificial. Los protocolos de crisis deben incluir ahora contingencias específicas relacionadas con la inteligencia artificial, como establecer líneas claras de propiedad para las salidas generadas por la inteligencia artificial y asegurarse de que la supervisión humana siempre sea parte del proceso. Simplemente culpar al “algoritmo” no es una estrategia; es una excusa que erosiona la confianza.

Además, las empresas deben reconocer que los errores de la inteligencia artificial a menudo se propagan más rápido que los tradicionales, impulsados por la amplificación viral de las redes sociales y la fascinación del público por los errores tecnológicos. Una sola captura de pantalla de una interacción de chatbot rebelde puede llegar a millones en cuestión de horas. Esto aumenta la necesidad de un monitoreo constante de la inteligencia artificial y rutas de escalada rápidas. Los equipos de comunicaciones deben realizar una planificación de escenarios específicos para los fallos de la inteligencia artificial, desarrollar respuestas templatizadas y alinear los equipos legales, de cumplimiento y de ingeniería en torno a una comprensión compartida de la responsabilidad. En este nuevo panorama, la resiliencia reputacional depende no solo de cómo una marca responde a las crisis de la inteligencia artificial, sino también de cómo se prepara para ellas de manera transparente desde el principio.

Pasos Preventivos para la Gestión de Crisis de Inteligencia Artificial

Para prosperar en un escenario de inteligencia artificial complejo, las marcas pueden emplear los siguientes pasos:

• Implementar Sistemas de Monitoreo Robustos: Auditar rutinariamente la salida de la inteligencia artificial para identificar y corregir el contenido objetable de manera oportuna. Por ejemplo, SeekOut, una plataforma de inteligencia de talentos, realiza auditorías regulares de sus sistemas de inteligencia artificial para garantizar resultados justos e imparciales. En respuesta a las regulaciones en evolución y como parte de su compromiso con la inteligencia artificial responsable, SeekOut contrató al auditor externo Credo AI para evaluar sus algoritmos. La auditoría evaluó el rendimiento de las características de la inteligencia artificial en varios grupos demográficos, verificando que los resultados de la búsqueda de títulos de trabajo fueran representativos y equitativos. Este enfoque proactivo permite a SeekOut identificar y rectificar posibles sesgos de manera rápida, manteniendo la integridad y la equidad de sus servicios impulsados por la inteligencia artificial.
• Crear Marcos de Responsabilidad Claros: Determinar quién en la organización manejará el monitoreo y la gestión de crisis de la inteligencia artificial. Por ejemplo, La Oficina de Responsabilidad del Gobierno de los EE. UU. publicó un marco de responsabilidad de la inteligencia artificial que enfatiza la gobernanza, los datos, el rendimiento y el monitoreo. Proporciona prácticas para que las agencias federales aseguren un uso responsable de la inteligencia artificial, incluido el establecimiento de objetivos claros y la participación de partes interesadas diversas.
• Crear Planes de Respuesta a Crisis Específicos de la Inteligencia Artificial: Los planes de gestión de crisis genéricos pueden no ser adecuados. Personalice los planes para responder a crisis específicas de la inteligencia artificial, como apagar los sistemas de inteligencia artificial cuando sea necesario. El Programa de Desarrollo de las Naciones Unidas utiliza paneles de riesgo de crisis impulsados por la inteligencia artificial para monitorear y predecir posibles crisis, como el discurso de odio y la violencia. Estos paneles permiten respuestas proactivas analizando datos en tiempo real y prediciendo riesgos.
• Practicar la Comunicación Honesta: Cuando se produce un error de la inteligencia artificial, practicar la honestidad en la comunicación con las partes interesadas sobre el error, las acciones tomadas para rectificar el error y los procedimientos implementados para evitar incidentes repetidos. Por ejemplo, en 2018, Amazon descontinuó su herramienta de contratación de inteligencia artificial después de descubrir que estaba sesgada contra las candidatas femeninas. La empresa reconoció el problema y cesó el uso de la herramienta, demostrando transparencia al abordar las deficiencias de la inteligencia artificial.
• Invertir en la Formación Moral de la Inteligencia Artificial: Asegurarse de que los modelos de inteligencia artificial estén entrenados con conjuntos de datos diversos e inclusivos para suprimir el sesgo y la ofensividad. En este sentido, los investigadores de la Universidad de Washington y el Instituto Allen de Inteligencia Artificial desarrollaron Delphi, un sistema de inteligencia artificial diseñado para tomar decisiones éticas. Aunque muestra promesa, Delphi a veces refleja sesgos sociales, lo que destaca los desafíos para entrenar a la inteligencia artificial con conjuntos de datos diversos e inclusivos.

A medida que la inteligencia artificial se integra más profundamente en las comunicaciones de las marcas, el riesgo de errores crece. Mientras que la inteligencia artificial ofrece valiosas eficiencias, también introduce desafíos únicos que las marcas deben estar preparadas para gestionar. Al implementar proactivamente medidas de control y planes de respuesta a crisis personalizados, las organizaciones pueden salvaguardar su reputación y mantener la confianza del consumidor en este paisaje digital en evolución.