Drei Wege, um “emotionale Infrastruktur” in GenAI-Produkten aufzubauen und das Vertrauen der Verbraucher zu gewinnen

In einem kürzlichen Gespräch mit einem potenziellen Investor wurde ich gefragt, ob ich wusste, was das effektivste Geheimnis für das Skalieren sei. Für mich war das keine Frage – es ist die Emotion. Der Investor jedoch lachte. Wie viele in der Tech-Welt glaubte er, dass Logik skalierbar sei, aber Emotion nicht.

Obwohl wir uns eine Weile stritten, konnte ich seine Meinung nicht ändern (oder seine Investition gewinnen). Aber ich habe über ein Jahrzehnt in der Sportmarketing-Branche gearbeitet – man wird mich nie davon überzeugen, dass Logik das ist, was Stadien mit hysterischen Fans füllt. Das ist alles Emotion.

Einige könnten einwenden, dass der Vergleich zwischen Tech und Sport wie der Vergleich zwischen Äpfeln und Orangen sei, aber ich würde sagen, dass die Tech-Branche ein oder zwei Lektionen von der Sportindustrie lernen könnte. Denn wenn es um so viele Tech-Produkte geht, ist es nicht berücksichtigen von menschlichen Emotionen, was gegen uns arbeitet. Diese kurzsichtige Perspektive ist es, die zu den schlimmsten Aspekten von sozialen Medien in der Vergangenheit geführt hat und was derzeit die schädlichsten Schlagzeilen über generative KI antreibt.

Wenn Tech-Unternehmer das Vertrauen der Verbraucher in das Versprechen und das Potenzial von KI gewinnen wollen, müssen wir Produkte entwerfen, die mit dem aufgebaut sind, was ich “emotionale Infrastruktur” nenne. Hier ist, wie es geht.

Verwenden Sie Gedächtnis, um zu unterstützen, nicht auszunutzen

Die umfassenden Funktionen, die von KI-Agenten versprochen werden, werden dank verbesserter Gedächtnisfähigkeiten möglich sein – aber das bedeutet auch, dass mehr persönliche Daten gespeichert werden, und leider wurde Benutzerdaten historisch größtenteils genutzt, um Benutzer zu manipulieren, Geld auszugeben.

Das Aufbauen von KI mit emotionaler Infrastruktur würde jedoch stattdessen die Erinnerung an Benutzerdaten nutzen, um die Wissenslücken zu füllen, die der Benutzer möglicherweise nicht realisiert.

Zum Beispiel, wenn ein Benutzer einen KI-Agenten fragt, welche lokalen Strände hundefreundlich sind, würde der Agent normalerweise eine Liste von Stränden zurückgeben und vielleicht fragen, ob der Benutzer auch an einer Liste von nahegelegenen hundefreundlichen Restaurants interessiert ist.

Ein Agent, der jedoch mit emotionaler Infrastruktur entworfen wurde, würde eine zusätzliche Ebene von emotionaler Intelligenz einbeziehen. In diesem Fall würde er sich daran erinnern, dass der Impftermin des Hundes am Vortag war und den Benutzer benachrichtigen, dass das Baden des Hundes zu früh zu Infektionen, Erschöpfung oder unerwarteten Nebenwirkungen führen könnte.

Auf diese Weise würden KI-Agenten wie vertrauenswürdige Berater handeln, die bereit sind, zurückzustoßen, wenn das Befolgen von Anweisungen zu weniger als optimalen Ergebnissen führen könnte. Dies ist auch wahrscheinlicher, um das Vertrauen der Benutzer zu stärken und ihre Nutzung zu erhöhen.

Bauen Sie Umsatz durch Vertrauen auf, nicht durch Zielgruppen

Die frühen Adoptierer von GenAI haben bereits seit Jahren Zugang zu den größten Spielern auf dem Markt, kostenlos. Dies könnte B2C-KI-Gründer dazu verleiten, zu denken, dass der einzige Weg zur Rentabilität ein kostenloses Produkt ist, das Geld durch den Verkauf von Daten an Drittanbieter oder durch Werbeverkäufe verdient.

Aber auf dieses Geschäftsmodell zurückzugreifen, könnte das bereits prekäre Vertrauen der Verbraucher gefährden, wenn Benutzer nicht mit einem viel höheren Maß an Respekt, Sorgfalt und Verantwortung behandelt werden. Nehmen Sie die neueste Geschichte von Meta-AIs-App, in der Benutzer scheinbar unbeabsichtigt sehr persönliche Anfragen auf einen öffentlichen Feed posteten.

Nicht alle Produkte haben soziale Elemente, aber dieses Beispiel zeigt, welches Maß an persönlichen Details Benutzer bereit sind, mit KI-Agenten zu teilen. Und unter Berücksichtigung von Forschungsergebnissen, die zeigen, dass Chatbots besser darin sind, menschliche Gegenüber zu überzeugen, wenn sie mit persönlichen Details ausgestattet sind, könnte die Werbung in diesen Plattformen auf ethisch fragwürdige Weise durchgeführt werden – wie Berichte über Meta, die Werbung für Schönheitsprodukte an Teenager-Benutzer ausgab, nachdem diese Selfies gelöscht hatten.

Stattdessen würde emotionale Infrastruktur für Sorgfalt optimieren, nicht für Klicks. Dies muss nicht auf Kosten von Umsatz geschehen.

KI könnte diese Erfahrungen noch effektiver machen, indem sie nur Werbung anzeigt, die authentisch den realen Bedürfnissen der Benutzer entspricht: ein Regenmantel, wenn schlechtes Wetter vorhergesagt ist, Haustier-Versicherungspläne im Budget für ein neues Kitten, Vitamin-C-Supplemente bei den ersten Anzeichen von Erkältungssymptomen.

Aber wahre Sorgfalt ist nicht nur daran zu erkennen, ob Werbung genau getroffen ist – ähnlich wie im Beispiel mit dem Strand oben, wahre Sorgfalt füllt die Lücken, die Benutzer nicht realisieren, dass sie fehlen. Zum Beispiel könnte ein Gesundheitstracker für Haustiere den Benutzer warnen, dass seine spezifische Rasse an Vitamin-B12-Mangeln leidet und daher eine Marke von Futter empfehlen, die besser den Bedürfnissen seines Hundes entspricht. Das Aufdecken dieser Art von übersehenen Details ist, wo KI wirklich glänzen und echten Wert für Endbenutzer bringen kann.

Etwa die Hälfte der globalen Verbraucher sind bereit, persönliche Daten zu teilen, wenn es bedeutet, bessere Benutzererfahrungen zu haben, aber diese Zahl sank auf nur 15% im US-Markt. KI-Unternehmer haben eine echte Chance, diese Wahrnehmung durch emotional intelligenten Design zu ändern.

Entwerfen Sie emotionale Schutzvorkehrungen, die Menschen in den Vordergrund stellen

Der wichtigste Aspekt von emotionaler Infrastruktur ist das Aufbauen von Schutzvorkehrungen, die die Interessen der Benutzer schützen. Dies beinhaltet die sorgfältige Auswahl der Art von Inhalten, die von KI generiert werden können, die klare Kennzeichnung von KI-generierten Materialien und das Entwerfen von klaren Eingriffen, wenn Benutzer in emotional riskantes Gebiet vordringen.

Zum Beispiel, als ich ein Haustier-Pflege-App aufbaute, entschied mein Team und ich, dass wir nicht auf KI für Gesundheits- oder Ernährungsinhalte zurückgreifen würden. Das Risiko von Halluzinationen oder Fehlinformationen war zu groß, also entschieden wir, einen professionellen Tierarzt zu bezahlen, um diese Artikel zu schreiben und zu kuratieren. Natürlich war dies eine teurere Wahl, aber wenn buchstäblich Leben auf dem Spiel stehen, ist es eine lohnende Investition.

Nicht nur verleiht dies unserem Produkt Glaubwürdigkeit, es hält auch unsere Benutzer und ihre Haustiere sicher. Es ist auch, was Verbraucher wollen – 79% stimmen zu, dass die Verwendung von KI von Unternehmen offengelegt werden sollte.

Schließlich ist es im besten Interesse von KI-Unternehmen, ihre Produkte so zu entwerfen, dass sie ihre Grenzen klar kommunizieren und Benutzer auf menschliche Eingriffe hinweisen, wenn angebracht. Es gab bereits Geschichten von emotional verletzlichen Benutzern, die sich wegen des Fehlens von ausreichenden Schutzvorkehrungen in Chatbots zum Selbstmord oder zu Selbstverletzungen wandten, und verständlicherweise haben diese zu Klagen geführt.

Obwohl ich glaube, dass die Zukunft von KI in unserem Leben hell ist, müssen wir ehrlich sein, wo ihre Schwächen derzeit liegen, und dürfen nicht zulassen, dass die Druck von Geschwindigkeit und Wettbewerb Vorrang vor Sicherheit haben. Wenn wir das tun, werden wir das Vertrauen der Verbraucher verlieren, die wir behaupten, bedienen zu wollen. Das Ignorieren dieser Verantwortung schadet dem gesamten Ökosystem.