Trei moduri de a construi “infrastructură emoțională” în produsele GenAI și de a câștiga încrederea consumatorilor

Într-o conversație recentă cu un potențial investitor, mi s-a cerut dacă știu care este cel mai eficient secret pentru a scala. Pentru mine, acesta a fost un răspuns clar – este vorba de emoție. Investitorul, însă, a râs. La fel ca mulți din lumea tehnologiei, el credea că logica este scalabilă, dar emoția nu.

Deși am discutat pentru o perioadă, nu i-am schimbat părerea (sau nu am câștigat investiția lui). Dar am lucrat peste un deceniu în marketingul sportiv – nu mă vei convinge niciodată că logica este cea care umple stadioanele cu fani isterici. Acesta este tot emoția.

Unii ar putea spune că compararea tehnologiei cu sportul este ca și cum ai compara merele cu portocalele, dar eu spun că tehnologia poate învăța câteva lecții de la industria sportivă. Pentru că, atunci când vine vorba de atâtea produse tehnologice, nu luarea în considerare a emoțiilor umane este ceva care lucrează împotriva noastră. Această perspectivă miopică este cea care a condus la cele mai rele aspecte ale rețelelor sociale în trecut și cea care alimentează în prezent cele mai dăunătoare știri referitoare la inteligența artificială generativă de astăzi.

Dacă antreprenorii din tehnologie vor să câștige încrederea consumatorilor în promisiunea și potențialul inteligenței artificiale, trebuie să proiecteze produse care sunt construite cu ceea ce eu numesc “infrastructură emoțională”. Iată cum.

Folosiți memoria pentru a sprijini, nu pentru a exploata

Funcțiile vaste promise de agenții de inteligență artificială vor fi posibile datorită capacităților de memorie îmbunătățite – dar acest lucru implică și stocarea mai multor date personale, și, din nefericire, datele utilizatorilor au fost istoric utilizate în mare măsură pentru a încerca să manipuleze utilizatorii pentru a cheltui bani.

Construirea inteligenței artificiale cu infrastructură emoțională, însă, ar utiliza memoria datelor utilizatorilor pentru a completa lacunele de cunoștințe pe care utilizatorul poate nu și le dă seama că le are.

De exemplu, dacă un utilizator întreabă un agent de inteligență artificială care plaje locale sunt prietenoase cu câinii, așa cum stau lucrurile în prezent, majoritatea agenților vor returna o listă de plaje și, poate, vor întreba dacă utilizatorul ar fi interesat și de o listă de restaurante prietenoase cu animale de companie din apropiere.

Cu toate acestea, un agent proiectat cu infrastructură emoțională incorporează un strat suplimentar de inteligență emoțională. În acest caz, el ar reține că programarea de vaccinare a câinelui a fost în ziua precedentă și ar anunța utilizatorul că introducerea câinelui în apă prea curând ar putea duce la infecții, epuizare sau efecte secundare neașteptate.

În acest fel, agenții de inteligență artificială s-ar comporta mai mult ca consultanți de încredere care sunt dispuși să se opună atunci când urmarea simplă a ordinelor ar putea duce la rezultate suboptimale. Acest lucru este, de asemenea, mai probabil să construiască o încredere mai mare a utilizatorului, determinând o utilizare mai mare.

Construiți venituri prin încredere, nu prin țintire

Adoptatorii timpurii ai inteligenței artificiale generative au avut deja acces la principalii jucători de pe piață de ani de zile, gratuit. Acest lucru ar putea îndemna fondatorii de startup-uri B2C de inteligență artificială să creadă că singura cale către profitabilitate este un produs gratuit care face bani vânzând date către furnizori terți sau prin vânzări de publicitate.

Dar a recurge la acest model de afaceri ar putea pune în pericol încrederea consumatorilor deja precară, dacă utilizatorii nu sunt tratați cu un nivel mult mai ridicat de respect, grijă și responsabilitate. Luați, de exemplu, cea mai recentă poveste despre aplicația Meta AI, în care utilizatorii păreau să posteze întrebări foarte personale pe un flux public.

Nu toate produsele au elemente sociale, dar acest exemplu ilustrează nivelul de detalii personale pe care utilizatorii sunt dispuși să le împărtășească cu agenții de inteligență artificială. Și, având în vedere cercetările care arată că chatbot-urile sunt mai bune la a convinge omologii umani atunci când sunt echipate cu detalii personale, publicitatea în cadrul acestor platforme ar putea fi făcută în moduri etic discutabile – ca, de exemplu, conturile Meta care serveau reclame pentru produse de frumusețe după ce utilizatorii adolescenți ștergeau selfie-uri.

În schimb, infrastructura emoțională ar optimiza pentru grijă, nu pentru clicuri. Acest lucru nu trebuie să se facă cu prejudiciul veniturilor, însă.

Inteligența artificială ar putea face aceste experiențe și mai eficiente, numai servind reclame care îndeplinesc în mod autentic nevoile reale ale utilizatorilor: un palton de ploaie atunci când vremea rea este pe drum, planuri de asigurare pentru animale de companie în buget pentru o pisică nouă, suplimente de vitamina C la primul semn de simptome de răceală.

Dar o adevărată grijă nu este doar despre țintirea precisă – la fel ca exemplul plajei de mai sus, o adevărată grijă completează lacunele pe care utilizatorii nu și le dau seama că le au. De exemplu, un urmăritor de sănătate pentru animale de companie ar putea alerta un utilizator că rasa sa de câine este predispusă la deficiențe de vitamină B12 și, prin urmare, ar recomanda o marcă de hrană care ar satisface mai bine nevoile câinelui. A descoperi astfel de detalii trecute cu vederea este unde inteligența artificială poate străluci cu adevărat și aduce valoare reală utilizatorilor finali.

Despre jumătate dintre consumatorii globali sunt dispuși să împărtășească date personale dacă acest lucru înseamnă experiențe mai bune ale utilizatorilor, dar acest număr a scăzut la doar 15% pe piața din SUA. Antreprenorii de inteligență artificială au o oportunitate reală de a schimba această percepție prin proiectarea emoțională inteligentă.

Proiectați garduri emoționale care pun oamenii pe primul loc

Aspectul cel mai crucial al infrastructurii emoționale este construirea de garduri care protejează interesele utilizatorilor. Acest lucru implică selectarea atentă a tipului de conținut care poate fi generat de inteligența artificială, etichetarea clară a materialului generat de inteligența artificială și proiectarea unor intervenții clare atunci când utilizatorii se aventurează în teritoriu emoțional riscant.

De exemplu, atunci când am construit o aplicație de îngrijire a animalelor de companie, eu și echipa mea am decis că nu vom recurge la inteligența artificială pentru niciun conținut legat de sănătate sau nutriție. Riscul de halucinații sau informații greșite a fost prea mare, așa că am luat decizia de a plăti un medic veterinar pentru a scrie și a curata aceste articole. Desigur, aceasta a fost o alegere mai scumpă, dar atunci când viețile sunt în joc, este o investiție demnă.

Nu numai că îi conferă credibilitate produsului nostru, dar îi ține și pe utilizatorii noștri și pe animalele lor de companie în siguranță. Acesta este și ceea ce doresc consumatorii – 79% sunt de acord că utilizarea inteligenței artificiale ar trebui să fie dezvăluită de companii.

În cele din urmă, este în interesul companiilor de inteligență artificială să-și proiecteze produsele astfel încât să comunice clar limitele lor și să îi îndrume pe utilizatori către intervenții umane atunci când este cazul. Au existat deja povești despre utilizatori emoțional vulnerabili care s-au întors către auto-vătămare sau sinucidere din cauza lipsei de garduri adecvate în chatbot-uri, și, în mod înțeles, acestea au condus la procese.

Deși cred că viitorul inteligenței artificiale în viețile noastre este strălucit, trebuie să fim onești cu privire la slăbiciunile sale actuale și să nu permitem presiunilor de viteză și concurență să aibă prioritate față de siguranță. Dacă facem acest lucru, vom pierde încrederea consumatorilor pe care pretindem că îi servim. Ignorarea acestei responsabilități afectează întregul ecosistem.