GenAI 제품에 '감성 인프라'를 구축하고 소비자 신뢰를 얻는 세 가지 방법

최근 한 잠재적 투자자와 이야기를 나누던 중, 확장의 가장 효과적인 비결이 무엇인지 아느냐는 질문을 받았습니다. 저에게는 당연한 대답이었습니다. 바로 감정이었습니다. 하지만 그 투자자는 비웃었습니다. 기술 업계의 많은 사람들처럼, 그도 논리는 확장 가능하지만 감정은 그렇지 않다고 믿었기 때문입니다. 

한동안 말다툼을 하긴 했지만, 저는 그의 마음을 돌리지 못했습니다. (투자금을 따내지도 못했습니다.) 하지만 저는 10년 넘게 스포츠 마케팅 업계에 종사했습니다. 경기장을 열광적인 팬들로 가득 채우는 게 논리 때문이라는 걸 누가 납득시킬 수 있겠습니까? 그건 다 감정일 뿐입니다. 

어떤 사람들은 기술과 스포츠를 비교하는 것은 사과와 오렌지를 비교하는 것과 같다고 반박할 수도 있지만, 저는 기술 업계가 스포츠 산업으로부터 한두 가지 교훈을 얻을 수 있다고 생각합니다. 왜냐하면 수많은 기술 제품과 관련해서 지원 인간의 감정을 고려하는 것은 우리에게 불리하게 작용합니다. 이러한 근시안적인 관점이 과거 소셜 미디어의 최악의 측면을 초래했고, 현재 가장 심각한 문제를 야기하고 있습니다. 해로운 헤드라인 오늘날의 생성적 AI에 관하여.

기술 기업가들이 AI의 약속과 잠재력에 대한 소비자의 신뢰를 얻고 싶다면, 제가 "감성 인프라"라고 부르는 것을 기반으로 제품을 설계해야 합니다. 방법은 다음과 같습니다. 

메모리를 악용이 아닌 지원에 사용하세요

AI 에이전트가 약속한 광범위한 기능은 향상된 메모리 기능 덕분에 가능해지지만 여기에는 더 많은 개인 데이터를 저장해야 하며 불행히도 사용자 데이터는 역사적으로 사용자를 조작하기 위해 주로 활용되었습니다. 돈을 쓰다. 

하지만 감정적 인프라를 갖춘 AI를 구축하면 사용자 데이터의 메모리를 활용하여 사용자가 인지하지 못하는 지식 격차를 메울 수 있습니다.

예를 들어, 사용자가 AI 에이전트에게 반려견과 함께 갈 수 있는 지역 해변이 어디인지 묻는다면, 현재 대부분의 에이전트는 해변 목록을 내놓고, 사용자에게 인근의 반려견 친화적인 레스토랑 목록에도 관심이 있는지 묻습니다. 

하지만 감정 인프라를 기반으로 설계된 에이전트는 감정 지능을 한층 더 강화합니다. 이 경우, 반려견의 예방 접종 예약이 전날이었다는 사실을 기억하고, 반려견을 너무 일찍 물에 데려가면 감염, 탈진, 또는 예상치 못한 부작용이 발생할 수 있다는 사실을 사용자에게 알려줍니다.

이렇게 되면 AI 에이전트는 단순히 명령을 따르는 것이 최적의 결과를 가져오지 못할 경우 기꺼이 반발하는 신뢰받는 컨설턴트처럼 행동하게 될 것입니다. 또한, 그렇게 하면 사용자 신뢰도가 높아져 사용률이 증가할 가능성도 높아집니다. 

타겟팅이 아닌 신뢰를 통해 수익을 창출하세요

초기 세대 AI 도입자들은 이미 수년 전부터 시장의 주요 기업들과 무료로 소통해 왔습니다. 이러한 상황은 B2C AI 스타트업 창업자들에게 수익성을 확보하는 유일한 방법은 데이터를 제XNUMX자 공급업체에 판매하거나 광고 판매를 통해 수익을 창출하는 무료 제품이라고 생각하게 만들 수 있습니다. 

하지만 이러한 비즈니스 모델을 그대로 따른다면, 사용자에게 훨씬 더 높은 수준의 존중, 배려, 그리고 책임감을 부여하지 않는다면 이미 위태로운 소비자 신뢰가 더욱 위태로워질 수 있습니다. Meta AI 앱의 최근 사례를 살펴보면, 사용자들이 의도치 않게 매우 개인적인 질문을 게시함 공개 피드에 올리기. 

모든 제품에 소셜 요소가 있는 것은 아니지만, 이 사례는 사용자가 AI 에이전트와 얼마나 많은 개인 정보를 공유하고 싶어 하는지를 보여줍니다. 연구 보여줍니다 개인 정보를 제공하면 채팅봇이 인간 상대방을 더 잘 설득할 수 있기 때문에 이러한 플랫폼 내 광고는 Meta 서비스 계정과 같이 윤리적으로 의심스러운 방식으로 수행될 수 있습니다. 미용 제품 광고 10대 사용자가 셀카를 삭제한 후. 

대신, 감성 인프라는 클릭 수보다 진료에 최적화될 것입니다. 그렇다고 해서 수익이 줄어들 필요는 없습니다. 

AI는 이러한 경험을 더욱 효과적으로 만들 수 있습니다. 만 실제 사용자의 요구를 충족하는 광고를 게재합니다. 악천후에 필요한 비옷, 새끼 고양이를 위한 예산에 맞는 반려동물 보험 상품, 감기 증상이 처음 나타났을 때 필요한 비타민 C 보충제 등입니다. 

하지만 진정한 케어는 단순히 정확한 타겟팅에만 국한되지 않습니다. 위의 해변 사례처럼, 진정한 케어는 사용자가 인지하지 못하는 부분까지 채워줍니다. 예를 들어, 반려동물 건강 추적기는 사용자에게 특정 품종이 비타민 B12 결핍에 취약하다는 사실을 알려주고, 그에 따라 반려견의 필요를 더 잘 충족하는 사료 브랜드를 추천할 수 있습니다. 이처럼 간과되는 세부 정보를 찾아내는 것이 바로 AI가 진정으로 빛을 발하고 최종 사용자에게 진정한 가치를 제공할 수 있는 부분입니다. 

소개 전 세계 소비자의 절반 더 나은 사용자 경험을 위해 개인 정보를 공유할 의향이 있는 기업은 많지만, 미국 시장에서는 이 수치가 15%로 떨어졌습니다. AI 기업가들은 감성 지능 디자인을 통해 이러한 인식을 바꿀 수 있는 절호의 기회를 가지고 있습니다. 

사람을 우선시하는 감성적 가드레일을 디자인하세요

감정 인프라에서 가장 중요한 측면은 사용자의 최선의 이익을 보호하는 가드레일을 구축하는 것입니다. 여기에는 AI가 생성할 수 있는 콘텐츠 유형을 신중하게 선택하고, AI가 생성한 콘텐츠에 명확한 라벨을 붙이고, 사용자가 감정적으로 위험한 영역에 접근할 때 명확한 개입 방안을 설계하는 것이 포함됩니다. 

예를 들어, 애완동물 관리 앱을 구축할 때 저와 제 팀은 다음과 같이 결정했습니다. 지원 건강이나 영양 관련 콘텐츠는 AI를 활용하세요. 환각이나 잘못된 정보의 위험이 너무 컸기에, 전문 수의사에게 비용을 지불하여 기사를 작성하고 큐레이션하기로 결정했습니다. 물론 비용이 더 많이 드는 선택이었지만, 말 그대로 생명이 위태로운 상황에서는 가치 있는 투자입니다. 

이는 제품의 신뢰성을 높여줄 뿐만 아니라 사용자와 반려동물의 안전을 지켜줍니다. 또한 소비자들이 원하는 바이기도 합니다. 79 % 동의 기업은 AI 활용 내역을 공개해야 합니다. 

마지막으로, AI 기업들은 제품을 설계할 때 제품의 한계를 명확하게 전달하고, 필요한 경우 사용자에게 인간의 개입을 유도하는 것이 최선의 이익입니다. 챗봇의 적절한 안내 부재로 인해 감정적으로 취약한 사용자들이 자해나 자살로 이어지는 사례가 이미 보고되었으며, 이러한 사례는 당연합니다. 소송으로 이어지다. 

우리 삶에서 AI의 미래는 밝다고 생각하지만, 현재 AI의 약점이 어디에 있는지 솔직하게 인정하고, 속도와 경쟁의 압박이 안전보다 우선시되어서는 안 됩니다. 만약 그렇게 한다면, 우리가 서비스를 제공하고자 한다고 주장하는 소비자들의 신뢰를 잃게 될 것입니다. 이러한 책임을 무시하는 것은 전체 생태계에 해를 끼치는 일입니다.