Tre Modi per Costruire “Infrastrutture Emotive” nei Prodotti di GenAI e Guadagnare la Fiducia dei Consumatori

In una recente conversazione con un potenziale investitore, mi è stato chiesto se conoscevo il segreto più efficace per scalare. Per me, era una cosa scontata – si tratta di emozione. L’investitore, tuttavia, ha riso. Come molti nel mondo della tecnologia, credeva che la logica fosse scalabile, ma l’emozione no.

Sebbene abbiamo discusso per un po’, non sono riuscito a cambiare la sua mente (o a ottenere il suo investimento). Ma ho lavorato per oltre un decennio nel marketing sportivo – non mi convincerai mai che la logica è ciò che riempie gli stadi di tifosi isterici. Quello è tutto emozione.

Mentre alcuni potrebbero obiettare che paragonare la tecnologia allo sport è come paragonare mele e arance, direi che la tecnologia potrebbe imparare una o due lezioni dall’industria dello sport. Perché quando si tratta di molti prodotti tecnologici, non prendere in considerazione l’emozione umana è lavorare contro di noi. Questa prospettiva miopica è ciò che ha portato ai peggiori aspetti dei social media nel passato e ciò che attualmente alimenta i titoli più dannosi riguardanti l’intelligenza artificiale generativa di oggi.

Se gli imprenditori tecnologici vogliono guadagnare la fiducia dei consumatori nella promessa e nel potenziale dell’IA, dobbiamo progettare prodotti che siano costruiti con ciò che io amo chiamare “infrastrutture emotive”. Ecco come.

Utilizzare la Memoria per Sostenere, non Sfruttare

Le funzioni vastissime promesse dagli agenti di IA saranno rese possibili grazie a capacità di memoria migliorate – ma ciò comporta anche l’archiviazione di più dati personali e, purtroppo, i dati degli utenti sono stati storicamente utilizzati in gran parte per cercare di manipolare gli utenti per spendere denaro.

Costruire l’IA con infrastrutture emotive, tuttavia, utilizzerebbe invece la memoria dei dati degli utenti per colmare le lacune di conoscenza che l’utente potrebbe non rendersi conto di stare cercando.

Ad esempio, se un utente chiede a un agente di IA quali spiagge locali sono adatti ai cani, come stanno le cose, la maggior parte degli agenti restituirà un elenco di spiagge e forse chiederà all’utente se è anche interessato a un elenco di ristoranti vicini che ammettono cani.

Tuttavia, un agente progettato con infrastrutture emotive incorpora un ulteriore livello di intelligenza emotiva. In questo caso, ricorderebbe che l’appuntamento di vaccinazione del cane era il giorno precedente e notificherebbe all’utente che portare il cane in acqua troppo presto potrebbe portare a infezioni, affaticamento o effetti collaterali inaspettati.

In questo modo, gli agenti di IA si comporterebbero più come consulenti di fiducia che sono disposti a opporsi quando seguire semplicemente gli ordini potrebbe portare a risultati meno che ottimali. Ciò è anche più probabile che costruisca una maggiore fiducia dell’utente, generando un uso aumentato.

Costruire Ricavi attraverso la Fiducia, non il Targeting

I primi adottanti di genAI hanno già avuto accesso ai principali player del mercato per anni, gratuitamente. Ciò potrebbe indurre i fondatori di startup di IA B2C a pensare che l’unico percorso verso la redditività sia un prodotto gratuito che guadagna denaro vendendo dati a fornitori di terze parti o attraverso la vendita di annunci.

Ma ricorrere a questo modello di business potrebbe mettere in pericolo la fiducia dei consumatori già precaria se gli utenti non sono trattati con un livello molto più alto di rispetto, cura e responsabilità. Prendiamo l’ultima storia dell’app di Meta AI in cui gli utenti sembravano postare involontariamente query molto personali

Non tutti i prodotti hanno elementi sociali, ma questo esempio illustra il livello di dettagli personali che gli utenti sono disposti a condividere con gli agenti di IA. E considerando la ricerca mostra che i chatbot sono in grado di persuadere meglio i loro interlocutori umani quando dotati di dettagli personali, la pubblicità all’interno di queste piattaforme potrebbe essere effettuata in modi eticamente discutibili – come i resoconti di Meta che servono annunci per prodotti di bellezza dopo che gli utenti teenager hanno eliminato selfie.

Invece, le infrastrutture emotive ottimizzerebbero la cura rispetto ai clic. Ciò non deve avvenire a spese dei ricavi.

L’IA potrebbe rendere queste esperienze ancora più efficaci solo servendo annunci che incontrano autenticamente i reali bisogni degli utenti: un impermeabile quando il tempo è brutto, piani di assicurazione per animali domestici entro budget per un nuovo cucciolo, integratori di vitamina C ai primi segni di sintomi di raffreddore.

Ma la vera cura non è solo questione di targeting accurato – proprio come l’esempio della spiaggia sopra, la vera cura riempie le lacune che gli utenti non si rendono conto di avere. Ad esempio, un tracker di salute per animali domestici potrebbe avvisare un utente che la sua specifica razza è propensa a carenze di vitamina B12 e quindi raccomandare un marchio di croccette che meglio soddisfi le esigenze del suo cane. Scoprire questo tipo di dettagli trascurati è dove l’IA può veramente brillare e portare valore reale agli utenti finali.

Circa la metà dei consumatori globali è disposta a condividere dati personali se significa esperienze utente migliori, ma questo numero è sceso al 15% nel mercato statunitense. Gli imprenditori di IA hanno una vera opportunità di cambiare questa percezione attraverso un design emotivamente intelligente.

Progettare Paraurti Emotivi che Mettono le Persone al Primo Posto

L’aspetto più cruciale delle infrastrutture emotive è costruire paraurti che proteggono gli interessi migliori degli utenti. Ciò comporta la selezione attenta del tipo di contenuto che può essere generato dall’IA, l’etichettatura chiara del materiale generato dall’IA e la progettazione di interventi chiari quando gli utenti si avventurano in territorio emotivamente a rischio.

Ad esempio, quando abbiamo costruito un’app di cura per animali domestici, il mio team e io abbiamo deciso che non avremmo mai utilizzato l’IA per alcun contenuto relativo alla salute o alla nutrizione. Il rischio di allucinazioni o disinformazione era troppo grande, quindi abbiamo deciso di pagare un veterinario professionista per scrivere e curare questi articoli. Ovviamente, è stata una scelta più costosa, ma quando sono in gioco vite reali, è un investimento degno.

Non solo ciò presta credibilità al nostro prodotto, ma tiene anche al sicuro i nostri utenti e i loro animali domestici. È anche ciò che i consumatori vogliono – il 79% è d’accordo che l’uso dell’IA dovrebbe essere dichiarato dalle aziende.

Infine, è nell’interesse migliore delle aziende di IA progettare i loro prodotti per comunicare chiaramente i loro limiti e indirizzare gli utenti verso interventi umani quando appropriato. Ci sono già state storie di utenti emotivamente vulnerabili che si sono rivolti all’autodistruzione o al suicidio a causa della mancanza di paraurti adeguati nei chatbot, e comprensibilmente, ciò ha portato a cause legali.

Sebbene creda che il futuro dell’IA nelle nostre vite sia luminoso, dobbiamo essere onesti riguardo alle sue debolezze attuali e non permettere che le pressioni della velocità e della concorrenza abbiano la priorità sulla sicurezza. Se lo facciamo, perderemo la fiducia dei consumatori che affermiamo di voler servire. Ignorare quella responsabilità danneggia l’intero ecosistema.