AI가 무엇을 할 수 있는지 묻지 마세요. 사용자가 정말 무엇을 필요로 하는지 물어보세요.

대부분의 회사가 AI 제품을 개발할 때 처음 묻는 질문은 “AI가 할 수 있는 것은 무엇인가?”입니다. 하지만 이것은 잘못된 질문입니다.

기술은 이제 널리 접근할 수 있습니다. 누구나 API를 연결하거나, 모델을 학습시키거나, 기존 제품에 생성형 AI를 추가할 수 있습니다. 기술에 대한 접근이 문제가 아닙니다. 사용자들을 충분히 이해하여 실제로 어떤 문제를 해결하고 있는지 알 수 있는 것이 중요합니다.

이러한 교훈은 플랫폼을 구축하면서 얻었습니다. 이것은 크리에이터, 헬스케어 직원, 엔터프라이즈 판매 팀 또는 신뢰를 얻어야 하는 사용자를 위해 구축하는지 여부와 상관없이 적용됩니다.

기술이 아니라 사람들부터 시작하세요

사용자에게 무엇 때문에 가장 불편을 느끼는지 묻으면, 일반적으로 도구 자체에 대한 불평을 듣지 않습니다. 보통은 더 근본적인 문제입니다. 고객 서비스 팀은 처리 속도보다 빠르게 들어오는 지원 요청에 시달립니다. 판매 팀은 대규모 개인화된 아웃리치를 필요로 하지만, 인력이 제한되어 있습니다. 크리에이터들은 발견되어야 하지만, 알고리즘은 이미 확보된 독자층을 선호합니다.

업계를 가로지르는 패턴은 동일합니다. 아무도 AI가 자신을 대체하기를 원하지 않습니다. 그들은 AI가 반복적인 작업을 처리하여 실제로 중요한 일에 집중할 수 있기를 원합니다.

예를 들어, 크리에이터들이 팔로워를 구축하려고 할 때, 54%가 “내 콘텐츠를 발견하도록 하는 것”을 최상위 도전으로 인용하며, 첫 달러를 벌기까지 평균 6.5개월이 걸립니다. 기존 AI 도구는 개인의 목소리나 미학을 반영하지 않는 일반적인 콘텐츠를 생성합니다. 그들이 필요한 것은 더 많은 콘텐츠 생성이 아니었습니다. 그들이 실제로 하는 일을 중심으로 설계되고 그 일의 세부 사항까지 이해하는 AI가 필요했습니다. 그래야 AI가 반복적인 일을 처리하고, 가장 중요한 작업은 그들에게 맡길 수 있기 때문입니다.

만약 당신이 기술 자체보다는 이러한 통찰력에서 시작한다면, 제품은 다르게 보입니다. 고객과 사용자는 실제로 직면하는 문제를 해결하는 AI를 찾고 있습니다. 단순히 자동화하기 가장 쉬운 문제가 아닙니다.

기술부터 시작해 거꾸로 접근하면 이런 결과는 나오지 않습니다. 가장 좋은 질문은 “AI가 할 수 있는 것은 무엇인가?”가 아닙니다. “사용자가 실제로 필요로 하지만 아직 존재하지 않는 것은 무엇인가?”입니다.

투명성은 기능이 아니라 인프라입니다

신뢰가 최전선에 있는 비즈니스에서 AI를 구축할 때, 같은 두려움이 나타납니다. “우리가 알리지 않은 채 AI와 상호작용했다는 사실을 사용자가 알게 된다면, 신뢰를 잃을 것입니다.”

이것은 크리에이터의 편집증이 아닙니다. 이것은 소비자가 기대하는 것입니다. 소비자의 약 75%는 자신이 AI 고객 서비스 담당자와 소통하고 있는지 알고 싶어합니다. 금융 서비스, 헬스케어, 법률 또는 개인 관계를 기반으로 구축된 모든 플랫폼과 같은 신뢰가 사업 모델의 전부인 산업에서는 위험이 훨씬 더 높습니다.

많은 회사의 본능은 AI 상호작용을 숨기고, 매끄럽게 만들고, 주의를 끌지 않도록 하는 것입니다. 투명성이 참여를 줄이거나 경험의 고급스러움을 떨어뜨릴 것이라고 가정합니다.

반대가 사실입니다. 투명성이 후반부에 추가되는 것이 아니라 기초에서 구축될 때, 실제로 편안함과 신뢰를 증가시킵니다. 크리에이터들은 AI 사용이 나중에 드러나는 순간의 위험 없이 AI를 더 자유롭게 사용하며, 팬들은 일어나는 일을 알고 있는 것을 고마워합니다.

문제는 AI가 작동하는 방식을 제어할 수 있어야만 투명성을 확보할 수 있다는 것입니다. 제3자 도구는 무엇이 일어나는지 보여주지 않습니다. 그것이 어떻게 작동하는지 또는 어떤 데이터로 훈련되었는지 설명할 수 없습니다. 그것을 설명할 수 없다면, 그것에 대해 진정으로 투명할 수 없습니다.

신뢰가 귀하의 사업에 중요하다면, 투명성이 후반부에 추가되는 것이 아니라 인프라에 구축되어야 합니다.

언제 직접 구축하고 언제 구매해야 할까

기본적으로 이미 존재하는 것을 사용하는 것이 더 빠르고 저렴하기 때문에 사용합니다. 이것은 AI가 좋은 추가 기능일 때는 잘 작동하지만, AI가 구축하는 것의 핵심일 때는 작동하지 않습니다.

가치 있는 세 가지 질문이 있습니다.

1. 사용자별 맞춤 설정이 필요합니까? 각 사용자가 자신의 개인적인 스타일, 목소리 또는 선호도에 따라 다르게 행동하는 AI가 필요하다면, 기성 도구는 작동하지 않습니다.
2. 사용자에게 실제로 어떻게 작동하는지 설명할 수 있습니까? 제3자 도구의 경우, 사용자에게 무엇이 일어나는지 또는 어떤 데이터로 훈련되었는지 말할 수 없습니다.
3. 데이터의 안전성과 개인 정보를 제어합니까? 민감한 콘텐츠 또는 사용자 정보를 처리하는 경우, 이 책임을 아웃소싱할 수 없습니다.

이 세 가지 질문에 모두 예라고 대답한다면, 아마도 구축해야 합니다.

2025년에 AI 이니셔티브를 폐기한 42%의 회사는, 2024년의 17%에서 증가한 것으로, 기성 도구가 종종 특정 요구에 대한 성과를 내지 못한다는 것을 힘들게 배웠습니다. 속도는 제품이 작동하지 않는다면 거의 가치가 없습니다.

이것은 모든 사람에게 올바른 선택이 아닙니다. 그러나 AI가 귀하의 사업에서 중심이고 사용자들이 귀하를 신뢰해야 한다면, 구매는 속도를 제공합니다. 구축은 제어를 제공합니다.

가장 중요한 것

신뢰가 모든 것인 공간에서 AI 도구를 구축한 후, 몇 가지 원칙이 명확해졌습니다.

• 기술을 구동하는 것이 아니라 사용하는 사람들부터 시작하세요. 구축하기 전에 실제로 사용자들의 문제를 이해하기 위해 실제 시간을 보내세요.
• 첫날부터 투명성을 설계하세요. 나중에 추가할 수 없습니다. 신뢰가 귀하의 사업에 중요하다면, 그것을 구조의 일부로 만드세요.

AI가 구축하는 것의 핵심이고, 맞춤 설정과 개인정보 보호, 작동 방식을 설명할 수 있는 능력이 필요하다면 직접 구축하세요. 사용자들이 실제로 필요한 것을 제공할 수 없는 기성 도구에 만족하지 마세요.

사용자들을 위해 AI를 구축할 때, 기술은 결코 가장 어려운 부분이 아닙니다. 사용자들을 이해하는 것이 가장 어려운 부분입니다.