Tres formas de construir ‘infraestructura emocional’ en productos de GenAI y ganar la confianza del consumidor

En una conversación reciente con un posible inversor, me preguntó si sabía cuál era el secreto más efectivo para escalar. Para mí, esto no tenía ninguna duda – es la emoción. El inversor, sin embargo, se burló. Al igual que muchos en el mundo de la tecnología, creía que la lógica era escalable, pero la emoción no.

Aunque discutimos durante un tiempo, no cambié su mente (ni gané su inversión). Pero pasé más de una década trabajando en marketing deportivo – nunca me convencerás de que la lógica es lo que llena los estadios con fanáticos histéricos. Eso es toda emoción.

Algunos podrían argumentar que comparar la tecnología con los deportes es como comparar manzanas con naranjas, pero diría que la tecnología podría aprender una o dos lecciones de la industria deportiva. Porque cuando se trata de muchos productos tecnológicos, no tomar en cuenta la emoción humana es trabajar en nuestra contra. Esta perspectiva miope es lo que llevó a los peores aspectos de las redes sociales en el pasado y lo que está alimentando los titulares más dañinos sobre la inteligencia artificial generativa de hoy.

Si los empresarios de tecnología quieren ganar la confianza del consumidor en la promesa y el potencial de la IA, necesitamos diseñar productos que estén construidos con lo que me gusta llamar “infraestructura emocional”. Aquí está cómo.

Utilice la memoria para apoyar, no explotar

Las vastas funciones prometidas por los agentes de IA serán posibles gracias a las mejoradas capacidades de memoria – pero eso también implica almacenar más datos personales, y desafortunadamente, los datos de los usuarios han sido históricamente utilizados en gran medida para tratar de manipular a los usuarios para que gasten dinero.

Construir la IA con infraestructura emocional, sin embargo, utilizaría la memoria de los datos del usuario para llenar los vacíos de conocimiento que el usuario puede no darse cuenta de que está perdiendo.

Por ejemplo, si un usuario le pregunta a un agente de IA qué playas locales son aptas para perros, como está ahora, la mayoría de los agentes devolverán una lista de playas y tal vez preguntarán si el usuario también estaría interesado en una lista de restaurantes para mascotas cerca.

Sin embargo, un agente diseñado con infraestructura emocional incorpora una capa adicional de inteligencia emocional. En este caso, recordaría que la cita de vacunación del perro fue el día anterior y notificaría al usuario que llevar a su perro al agua demasiado pronto podría provocar infección, agotamiento o efectos secundarios inesperados.

De esta manera, los agentes de IA se comportarían más como consultores de confianza que están dispuestos a oponerse cuando simplemente seguir órdenes podría llevar a resultados menos que óptimos. Hacerlo también es más probable que genere una mayor confianza del usuario, lo que genera un mayor uso.

Construya ingresos a través de la confianza, no la segmentación

Los adoptantes tempranos de la genAI ya han tenido acceso a los principales jugadores del mercado durante años, de forma gratuita. Esto puede tentar a los fundadores de startups de IA B2C a pensar que el único camino hacia la rentabilidad es un producto gratuito que gana dinero vendiendo datos a vendedores de terceros o mediante ventas de anuncios.

Pero recurrir a este modelo de negocio podría poner en peligro la confianza del consumidor ya precaria si los usuarios no son tratados con un nivel mucho más alto de respeto, cuidado y responsabilidad. Tomar la última historia de la aplicación de Meta AI en la que los usuarios parecían publicar consultas muy personales en una fuente pública.

No todos los productos tienen elementos sociales, pero este ejemplo ilustra el nivel de detalle personal que los usuarios están dispuestos a compartir con los agentes de IA. Y considerando la investigación muestra que los chatbots son mejores para persuadir a los seres humanos cuando están equipados con detalles personales, la publicidad dentro de estas plataformas se puede hacer de manera éticamente cuestionable – como los informes de Meta que sirven anuncios de productos de belleza después de que los usuarios adolescentes eliminaron selfies.

En cambio, la infraestructura emocional optimizaría para el cuidado sobre los clics. Esto no tiene que venir a expensas de los ingresos, tampoco.

La IA podría hacer que estas experiencias sean aún más efectivas solo sirviendo anuncios que auténticamente satisfagan las necesidades reales del usuario: un abrigo de lluvia cuando el mal tiempo está en camino, planes de seguro para mascotas dentro del presupuesto para un nuevo gatito, suplementos de vitamina C en los primeros signos de síntomas de resfriado.

Pero el verdadero cuidado no se trata solo de segmentación precisa – al igual que el ejemplo de la playa anterior, el verdadero cuidado llena los espacios en blanco que los usuarios no se dan cuenta de que están perdiendo. Por ejemplo, un rastreador de salud para mascotas puede alertar a un usuario de que su raza en particular es propensa a deficiencias de vitamina B12 y, por lo tanto, recomendar una marca de comida que mejor satisfaga las necesidades de su perro. Descubrir este tipo de detalles pasados por alto es donde la IA puede brillar realmente y aportar valor real a los usuarios finales.

Acerca de la mitad de los consumidores globales están dispuestos a compartir datos personales si eso significa mejores experiencias de usuario, pero este número se redujo a solo el 15% en el mercado estadounidense. Los empresarios de IA tienen una oportunidad real de cambiar esa percepción a través del diseño emocionalmente inteligente.

Diseñe barreras emocionales que ponen a las personas primero

El aspecto más crucial de la infraestructura emocional es construir barreras que protejan los mejores intereses de los usuarios. Esto implica seleccionar cuidadosamente el tipo de contenido que se puede generar con IA, etiquetar claramente el material generado por IA y diseñar intervenciones claras cuando los usuarios se aventuran en un territorio emocionalmente riesgoso.

Por ejemplo, cuando construí una aplicación de cuidado de mascotas, mi equipo y yo decidimos que no recurriríamos a la IA para ningún contenido relacionado con la salud o la nutrición. El riesgo de alucinaciones o información incorrecta era demasiado grande, así que decidimos pagar a un veterinario profesional para que escribiera y curara estos artículos. Obviamente, esta fue una elección más costosa, pero cuando las vidas literales están en juego, es una inversión digna.

No solo presta credibilidad a nuestro producto, sino que también mantiene a nuestros usuarios y sus mascotas a salvo. Es también lo que los consumidores quieren – el 79% está de acuerdo en que el uso de la IA debe ser revelado por las empresas.

Finalmente, es del mejor interés de las empresas de IA diseñar sus productos para comunicar sus limitaciones de manera clara y dirigir a los usuarios hacia intervenciones humanas cuando sea apropiado. Ya han habido historias de usuarios emocionalmente vulnerables que se vuelven hacia el daño autoinfligido o el suicidio debido a la falta de barreras adecuadas en los chatbots, y comprensiblemente, estos han generado demandas.

Aunque creo que el futuro de la IA en nuestras vidas es brillante, debemos ser honestos sobre dónde se encuentran actualmente sus debilidades y no permitir que las presiones de la velocidad y la competencia tengan prioridad sobre la seguridad. Si lo hacemos, perderemos la confianza de los consumidores a los que afirmamos querer servir. Ignorar esa responsabilidad perjudica a todo el ecosistema.