Drie manieren om ’emotionele infrastructuur’ op te bouwen in GenAI-producten en consumentenvertrouwen te winnen

In een recent gesprek met een potentiële investeerder, werd me gevraagd of ik wist wat het meest effectieve geheim was om te schalen. Voor mij was dit geen moeilijke vraag – het is emotie. De investeerder was het echter niet met me eens en dacht dat logica schaalbaar was, maar emotie niet.

Hoewel we een tijdje hebben gediscussieerd, kon ik zijn mening niet veranderen (of zijn investering winnen). Maar ik heb meer dan tien jaar gewerkt in de sportmarketing – je zult me nooit kunnen overtuigen dat logica de reden is dat stadions vol zitten met hysterische fans. Dat is allemaal emotie.

Sommigen zouden kunnen tegenwerpen dat het vergelijken van technologie met sport hetzelfde is als appels met peren vergelijken, maar ik zou zeggen dat technologie een les of twee kan leren van de sportindustrie. Omdat wanneer het gaat om zo veel technologieproducten, niet rekening houden met menselijke emotie, tegen ons werkt. Dit kortzichtige perspectief is wat heeft geleid tot de slechtste aspecten van sociale media in het verleden en wat nu de meest schadelijke koppen over generatieve AI vandaag.

Als technologie-ondernemers consumentenvertrouwen willen winnen in de belofte en het potentieel van AI, moeten we producten ontwerpen die zijn gebouwd met wat ik ’emotionele infrastructuur’ noem. Hier is hoe.

Geheugen gebruiken om te ondersteunen, niet om uit te buiten

De uitgebreide functionaliteiten die door AI-agents worden beloofd, zullen mogelijk worden gemaakt door verbeterde geheugencapaciteiten – maar dat houdt ook in dat meer persoonlijke gegevens worden opgeslagen, en helaas zijn gebruikersgegevens historisch gezien voornamelijk gebruikt om gebruikers te manipuleren om geld uit te geven.

Het bouwen van AI met emotionele infrastructuur zou echter het geheugen van gebruikersgegevens gebruiken om de kennislacunes te vullen die de gebruiker zich mogelijk niet realiseert.

Bijvoorbeeld, als een gebruiker een AI-agent vraagt welke lokale stranden hondvriendelijk zijn, zal de agent, zoals het nu is, een lijst met stranden geven en mogelijk vragen of de gebruiker ook geïnteresseerd is in een lijst met nabijgelegen hondvriendelijke restaurants.

Echter, een agent die is ontworpen met emotionele infrastructuur, omvat een extra laag van emotionele intelligentie. In dit geval zou het zich herinneren dat de vaccinatieafspraak van de hond de vorige dag was en de gebruiker waarschuwen dat het meenemen van de hond naar het water te snel kan leiden tot infectie, uitputting of onverwachte bijwerkingen.

Op deze manier zouden AI-agents zich gedragen als vertrouwde adviseurs die bereid zijn om terug te pushen wanneer het simpelweg volgen van instructies tot minder dan optimale resultaten kan leiden. Dit is ook waarschijnlijker om grotere gebruikersvertrouwen op te bouwen, waardoor het gebruik toeneemt.

Omzet opbouwen door vertrouwen, niet door doelgericht te zijn

Vroege genAI-adoptanten hebben al toegang gehad tot de grootste spelers op de markt voor een aantal jaar, zonder kosten. Dit kan B2C AI-startup-oprichters ertoe brengen te denken dat de enige weg naar winstgevendheid een gratis product is dat geld verdient door gegevens te verkopen aan derde partijen of via advertentieverkopen.

Maar standaardiseren naar dit bedrijfsmodel kan consumentenvertrouwen in gevaar brengen als gebruikers niet worden behandeld met een veel hoger niveau van respect, zorg en verantwoordelijkheid. Neem het laatste verhaal van Meta AI’s app, waarin gebruikers onbewust zeer persoonlijke vragen op een openbare feed plaatsten.

Niet alle producten hebben sociale elementen, maar dit voorbeeld illustreert het niveau van persoonlijke details dat gebruikers bereid zijn te delen met AI-agents. En gezien onderzoek aantoont dat chatbots beter in staat zijn om menselijke tegenhangers te overtuigen wanneer ze zijn uitgerust met persoonlijke details, kan advertentie binnen deze platforms op ethisch twijfelachtige manieren worden gedaan – zoals accounts van Meta die advertenties voor schoonheidsproducten naast tienergebruikers die selfies hadden verwijderd.

In plaats daarvan zou emotionele infrastructuur optimaliseren voor zorg in plaats van klikken. Dit hoeft niet ten koste van omzet te gaan.

AI kan deze ervaringen nog effectiever maken door alleen advertenties te serveren die authentiek voldoen aan echte gebruikersbehoeften: een regenjas als het slecht weer is, hondverzekeringen binnen budget voor een nieuwe puppy, vitamine C-supplementen bij de eerste tekenen van verkoudheidsverschijnselen.

Maar echte zorg is niet alleen over accurate targeting – net als in het strandvoorbeeld hierboven, echte zorg vult de lacunes in die gebruikers zich niet realiseren. Bijvoorbeeld, een hondengezondheidstracker kan een gebruiker waarschuwen dat hun specifieke ras gevoelig is voor vitamine B12-gebrek en daarom een merk van hondenvoer aanbevelen dat beter voldoet aan de behoeften van hun hond. Het ontdekken van dit soort over het hoofd gezien details is waar AI echt kan schitteren en echte waarde kan bieden aan eindgebruikers.

Ongeveer de helft van de mondiale consumenten is bereid om persoonlijke gegevens te delen als het betekent dat ze betere gebruikerservaringen krijgen, maar dit aantal daalde tot slechts 15% in de Amerikaanse markt. AI-ondernemers hebben een echte kans om deze perceptie om te keren door emotioneel intelligente ontwerp.

Emotionele veiligheidshekken ontwerpen die mensen voorop stellen

Het meest cruciale aspect van emotionele infrastructuur is het bouwen van veiligheidshekken die de belangen van gebruikers beschermen. Dit omvat het zorgvuldig selecteren van het type inhoud dat door AI kan worden gegenereerd, het duidelijk labelen van AI-gegenereerde materialen en het ontwerpen van duidelijke interventies wanneer gebruikers emotioneel risicovol terrein betreden.

Bijvoorbeeld, toen we een hondenzorg-app bouwden, besloten mijn team en ik dat we niet zouden terugvallen op AI voor enige gezondheids- of voedingsgerelateerde inhoud. Het risico op hallucinaties of misinformatie was te groot, dus besloten we om een professionele dierenarts te betalen om deze artikelen te schrijven en te cureren. Dit was natuurlijk een duurdere keuze, maar wanneer letterlijke levens op het spel staan, is het een waardige investering.

Niet alleen leent dit geloofwaardigheid aan ons product, maar het houdt onze gebruikers en hun honden veilig. Het is ook wat consumenten willen – 79% is het er mee eens dat AI-gebruik door bedrijven moet worden onthuld.

Tenslotte is het in het beste belang van AI-bedrijven om hun producten zo te ontwerpen dat ze hun beperkingen duidelijk communiceren en gebruikers naar menselijke interventies verwijzen wanneer dat nodig is. Er zijn al verhalen over emotioneel kwetsbare gebruikers die zich tot zelfbeschadiging of zelfmoord wendden vanwege het ontbreken van adequate veiligheidshekken in chatbots, en terecht hebben dit geleid tot rechtszaken.

Hoewel ik geloof dat de toekomst van AI in ons leven helder is, moeten we eerlijk zijn over waar de zwakheden van AI nu liggen en niet toelaten dat de druk van snelheid en concurrentie prioriteit heeft boven veiligheid. Als we dat wel doen, zullen we het vertrouwen van de consumenten verliezen die we claimen te willen bedienen. Het negeren van die verantwoordelijkheid schaadt het hele ecosysteem.