感情インフラストラクチャーをGenAI製品に構築する3つの方法

最近、潜在的な投資家と会話した際に、スケーリングの最も効果的な秘訣を知っているかどうか尋ねられました。私にとっては、感情がそれであることは明らかでした。しかし、投資家は嘲笑しました。テクノロジー界の人々のように、論理がスケーラブルであるのに対し、感情はそうではないと考えていました。

私たちはしばらく議論しましたが、私は彼の考えを変えることができませんでした（そして投資も得られませんでした）。しかし、10年以上スポーツマーケティングで働いてきました。論理がスタジアムを満員にしているのではなく、感情がそうしていることは明らかです。

テクノロジーとスポーツを比較することはリンゴとオレンジを比較するようなものだという人もいるかもしれませんが、テクノロジーはスポーツ業界から多くを学ぶことができます。なぜなら、多くのテクノロジー製品では、人間の感情を考慮していないことが私たちに反対することになるからです。この狭量な視点が、過去のソーシャルメディアの最悪の側面を引き起こし、現在のジェネレーティブAIに関する最も有害なヘッドラインを生み出しています。

テクノロジー起業家がAIの約束と潜在性に対する消費者の信頼を獲得したいのであれば、私が「感情インフラストラクチャー」と呼ぶものを備えた製品を設計する必要があります。以下にその方法を示します。

記憶を支援するために使う、搾取するために使うのではなく

AIエージェントの多くの機能は、改善された記憶能力によって可能になりますが、それにはより多くの個人データを保存することも含まれます。不幸にも、ユーザーデータは歴史的にユーザーを操作してお金を費やさせるために利用されてきました。

しかし、感情インフラストラクチャーを備えたAIを構築することで、ユーザーデータの記憶を利用して、ユーザーが気づいていない知識のギャップを埋めることができます。

例えば、ユーザーがAIエージェントに犬に優しい近くのビーチを尋ねたとします。現在のエージェントはビーチの一覧を返し、近くのペットフレンドリーレストランの一覧も尋ねるかもしれません。

しかし、感情インフラストラクチャーを備えたエージェントは、感情の知能を追加した層を備えています。この場合、エージェントは犬のワクチン接種が前日に行われたことを思い出し、ユーザーに犬を水に入れると感染症、疲労、または予期せぬ副作用を引き起こす可能性があることを通知します。

このように、AIエージェントは、単に命令に従うのではなく、ユーザーの最善の利益を考慮する信頼できるコンサルタントのように動作します。これにより、ユーザーの信頼が高まり、使用頻度も増加します。

信頼を通じて収益を構築する、ターゲティングを通じて構築するのではなく

ジェネレーティブAIの初期採用者は、すでに市場の大手企業に無料でアクセスできるようになっています。これにより、B2C AIスタートアップの創業者は、収益を上げる唯一の方法は、データを第三者ベンダーに販売したり広告を販売したりする無料製品を提供することであると考えるかもしれません。

しかし、このビジネスモデルに頼ることは、ユーザーが高レベルの尊重、ケア、責任で扱われていない場合、すでに危うい消費者の信頼を危険にさらす可能性があります。Meta AIのアプリの最新の話は、ユーザーが意図せずに非常に個人的な質問を公開フィードに投稿しているようです。

すべての製品にソーシャル要素があるわけではありませんが、この例は、ユーザーがAIエージェントと共有する個人的な詳細のレベルを示しています。また、研究によると、個人的な詳細を備えたチャットボットは、人間の対話者を説得することができます。したがって、これらのプラットフォーム内での広告は、美容製品の広告をティーンエイジャーに表示する場合のように、倫理的に疑問のある方法で行われる可能性があります。

代わりに、感情インフラストラクチャーはクリックよりもケアを優先します。これは、収益を得ることと相反する必要はありません。

AIは、ユーザーの実際のニーズを満たす広告のみを提供することで、これらの体験をさらに効果的にすることができます。雨が近づいているときにレインコート、予算内で新しい子犬のペット保険、風邪の初期症状の際にビタミンCサプリメントなどです。

しかし、真のケアは正確なターゲティングだけではありません。ビーチの例のように、真のケアはユーザーが気づいていないギャップを埋めます。例えば、ペットヘルストラッカーは、特定の犬種がビタミンB12欠乏症に陥りやすいことをユーザーに通知し、犬のニーズをよりよく満たすドッグフードのブランドを勧めることができます。こうした見落とされた詳細を明らかにすることが、AIが真に価値を提供し、エンドユーザーに貢献できる場所です。

約半数のグローバル消費者は、より良いユーザーエクスペリエンスを得るために個人データを共有する用意があると回答しています。しかし、アメリカ市場ではこの数字は15%まで低下しています。AI起業家には、感情的に知的な設計を通じてこの認識を変える実際の機会があります。

人を優先する感情的なガードレールを設計する

感情インフラストラクチャーの中で最も重要な側面は、ユーザーの最大の利益を守るガードレールを構築することです。これには、AIによって生成されるコンテンツの種類を慎重に選択し、AI生成コンテンツを明確にラベル付けし、ユーザーが感情的にリスクの高い領域に踏み込もうとしているときに明確な介入を設計することが含まれます。

例えば、ペットケアアプリを構築していたとき、私のチームと私は、健康や栄養に関するコンテンツについてはAIに頼らないことにしました。幻覚や誤情報のリスクが大きすぎたからです。代わりに、専門の獣医に記事を書いてキュレーションすることを決めました。当然、これはより高価な選択でしたが、実際の命が懸かっている場合、これは価値のある投資です。

これは私たちの製品に信頼性をもたらします。また、ユーザーと彼らのペットを安全に保ちます。これは消費者が望むものでもあります。実際、79%の人が、企業がAIの使用を公開する必要があると同意しています。

最後に、AI企業には、製品をその限界を明確に伝えるように設計し、適切な場合には人間の介入をユーザーに示すことが最善の利益です。すでに、感情的に脆弱なユーザーが、チャットボットの不十分なガードレールのために自傷行為や自殺を引き起こすという話があり、当然、これらは訴訟を引き起こしています。

私はAIの将来が明るいと信じていますが、現在の弱点を認識し、安全よりもスピードと競争の圧力を優先しないようにしなければなりません。そうしないと、我々が奉仕したいと主張する消費者の信頼を失うことになります。その責任を無視すると、全体のエコシステムに損害を与えることになります。