Lokdeep Singh, Unily CEO – 인터뷰 시리즈

Lokdeep Singh은 고성장 엔터프라이즈 소프트웨어 회사를 이끌어 온 20년 이상의 경험을 가지고 있습니다. 가장 최근에는 Providence Equity Partners에서 수석 고문으로 재직하며 포트폴리오 기업들의 AI 전략, 운영 우수성 및 시장 진입 가속을 지원했습니다. 그 이전에는 기업 소비자 인텔리전스 분야의 글로벌 리더인 Talkwalker의 CEO였으며, 지속 가능하고 수익성 있는 성장을 달성하기 위한 변혁을 주도했고, Synchronoss Technologies에서는 총괄 매니저로 근무했습니다.

Unily은 대규모 조직이 직원들을 연결하고, 내부 커뮤니케이션을 효율화하며, 작업 도구, 지식 및 서비스를 통합된 디지털 환경으로 가져오도록 설계된 엔터프라이즈 직원 경험 플랫폼입니다. 2006년에 설립된 이 회사는 분산된 사무실 및 현장 직원들을 보유한 글로벌 기업들을 대상으로 인트라넷 기능, 직원 커뮤니케이션, 검색, 분석, 통합 및 개인화를 단일 플랫폼에 결합하여 제공하고 있습니다. Unily는 점점 AI 네이티브 기술로 자리매김하고 있으며, 관리되는 인공지능을 활용해 콘텐츠 관리 자동화, 관련 정보 제공, 직원 경험 개인화, 그리고 대화형 인터페이스를 통한 연결된 엔터프라이즈 애플리케이션과의 상호작용을 가능하게 합니다. 이 플랫폼은 Microsoft 365와 Teams와 같은 널리 사용되는 업무 시스템과 통합되며, 복잡한 기술 환경, 규제 요구사항 및 대규모 다국어 인력을 보유한 조직을 위해 구축되었습니다.

당신은 텔레콤 엔지니어링 및 네트워크 인프라 분야에서 경력을 시작한 뒤 CTO, 제품, 일반 관리, CEO 역할을 거쳐 Talkwalker를 성공적인 매각으로 이끌었고 현재 Unily의 최고경영자를 맡고 있습니다. 이러한 경력 진행이 직원들이 AI와 같은 변혁 기술을 신뢰하고 채택하기 위해 실제로 필요한 것이 무엇인지에 대한 당신의 견해에 어떤 영향을 미쳤습니까?

제 경력은 기술과 이를 사용할 사람들 사이에 위치한 관점을 제공했습니다. 초기에는 인프라에 집중하여 시스템이 신뢰성 있게, 안전하게, 그리고 대규모로 작동하도록 했습니다. 제품, 일반 관리, 그리고 궁극적으로 CEO 역할로 옮겨가면서 기술적 역량이 기술 성공의 한 부분에 불과하다는 것을 배웠습니다.

직원들은 새로운 기술이 자신의 업무에 어떤 영향을 미치는지 이해하고, 도움이 될 것이라 믿으며, 해를 끼치지 않을 것이라고 확신할 때만 채택합니다.

리더가 저지를 수 있는 가장 큰 실수는 AI 채택을 소프트웨어 배포로 간주하는 것입니다. 세계 최고의 모델을 배포할 수 있더라도 직원들이 제공되는 정보에 신뢰를 갖지 못하고, AI가 허용된 작업을 이해하지 못하거나 경계가 어디인지 모르면 채택은 피상적으로 머물게 됩니다. 신뢰는 처음부터 직원 경험에 설계되어야 합니다.

AI 역량은 매우 빠르게 향상되고 있지만, 조직 내 신뢰는 훨씬 더 느리게 움직이는 것처럼 보입니다. AI가 기술적으로 할 수 있는 것과 직원들이 실제로 허용하는 것 사이의 격차를 확대시키는 요인은 무엇입니까?

신뢰 격차는 조직이 AI를 강력하게 만들기 위해 막대한 투자를 했지만, 이를 이해 가능하고 책임감 있게 만들며 신뢰할 수 있는 정보에 기반하도록 하는 데는 같은 속도로 투자하지 않았기 때문에 발생합니다.

AI는 이제 추론하고, 콘텐츠를 생성하며, 행동을 취할 수 있지만, 많은 조직은 여전히 지식 및 콘텐츠에 대한 권위 있는 기록 시스템이 부족합니다. 직원들이 AI가 답을 얻는 출처, 정보가 최신인지 여부, 혹은 누가 소유하고 있는지 모를 때 신뢰는 빠르게 약화됩니다.

격차를 해소하려면 더 나은 모델만으로는 부족합니다. 정확하고 안전하며 최신 정보를 기반으로 AI가 작동하도록 보장하는 강력한 콘텐츠 거버넌스와 신뢰할 수 있는 지식 기반이 필요합니다. 성공하는 조직은 신뢰를 AI 경험의 일부로 만들고, 사후에 생각하는 것이 아니라 처음부터 설계하는 조직이 될 것입니다.

기업들은 종종 엔터프라이즈 AI를 모델, 통합, 보안 및 인프라에 초점을 맞춘 기술 배포 문제로 접근합니다. 왜 더 어려운 과제가 궁극적으로 사람과 조직의 문제라고 생각하십니까?

AI는 사람과 기술 간의 관계를 변화시킵니다. 이전의 엔터프라이즈 기술은 주로 직원이 무엇을 해야 하는지 알려주기를 기다렸습니다. AI는 의도를 해석하고, 권고를 제공하며, 점점 더 행동을 취할 수 있습니다.

이로 인해 AI 채택은 단순히 기술적인 과제가 아니라 미래 업무의 과제가 됩니다. AI는 업무 수행 방식, 의사결정 방식, 팀 협업 방식을 변화시킵니다. 조직이 AI를 단순히 배포하고 변화를 기대할 수는 없습니다. 직원들은 AI가 자신의 업무 흐름에 어떻게 맞는지 이해하고, 효과적으로 활용할 수 있는 권한을 부여받아야 합니다.

가장 성공적인 AI 이니셔티브는 상향식 명령이 아니라 풀뿌리 채택에 의해 추진됩니다. 직원들이 일상 업무에서 명확한 가치를 발견하면 채택이 자연스럽게 가속화됩니다.

따라서 AI ROI 프레임워크는 신뢰, 권한 부여, 거버넌스에 초점을 맞춥니다. 투명성과 신뢰할 수 있는 지식을 통해 신뢰를 구축하고, 직원들에게 업무를 개선하는 도구를 제공하며, AI가 책임 있게 사용되도록 거버넌스를 수립합니다. 기술은 변화를 가능하게 하지만, 궁극적으로 사람, 프로세스, 문화가 성공을 결정합니다.

조직은 거버넌스가 필요하지만, 지나치게 제한적인 정책은 직원들을 허가되지 않은 도구로 몰아가거나 실험 자체를 억제할 수 있습니다. 신뢰와 채택을 동시에 높이는 것이 목표라면 효과적인 AI 거버넌스 프레임워크는 어떻게 생겨야 할까요?

좋은 거버넌스는 직원들이 보다 안전하게 빠르게 움직일 수 있도록 하는 가드레일처럼 느껴져야 합니다.

즉, 직원들이 AI를 어떤 용도로 사용할 수 있는지, AI 시스템에 어떤 정보를 제공할 수 있는지, AI가 수행하도록 허용된 행동이 무엇인지 명확히 해야 합니다. 이러한 규칙은 직원이 이해할 수 있어야 하며, 긴 정책 문서에 숨겨져서는 안 됩니다.

거버넌스는 또한 역동적이어야 합니다. AI가 초안을 생성하는 위험은 AI가 결제를 승인하거나 직원 기록을 변경하거나 고객과 소통하는 경우와 매우 다릅니다. 인간 감독 수준은 잠재적 결과에 맞추어야 합니다.

궁극적인 목표는 AI 사용을 최소화하는 것이 아니라, 책임감 있게 활용을 극대화하는 것입니다.

Unily 연구에 따르면, 직원의 52%가 조직에 AI 정책이 존재하지 않는다고 보고했으며, 일부 직원은 민감한 정보를 승인되지 않은 AI 도구에 입력한 사실을 인정했습니다. “섀도우 AI”의 증가는 직원 행동 문제라기보다 커뮤니케이션 및 거버넌스의 실패라고 볼 수 있는 정도는 어느 정도일까요?

섀도우 AI를 직원의 문제로만 보는 관점에 주의해야 합니다. 섀도우 AI 사용의 중요한 이유는 충족되지 않은 수요의 증상입니다. 직원들은 조직이 아직 승인한 도구를 제공하지 않은 문제를 스스로 해결하려는 방식을 찾고 있으며, 이는 자연스러운 인간 행동입니다.

업무 방식을 변화시키는 기술을 무시하도록 기대하기보다, 명확한 경계와 교육을 포함한 안전하고 승인된 실험 경로를 직원에게 제공하는 것이 해답입니다.

투명성과 설명 가능성은 신뢰할 수 있는 AI의 필수 요소로 자주 제시되지만, 직원이 대형 언어 모델의 내부 작동 방식을 반드시 이해할 필요는 없습니다. 직원이 답변이나 권고를 신뢰할지 여부를 판단하기 위해 AI 시스템이 제공해야 하는 정보는 무엇일까요?

기업 AI 시스템은 정보가 어디에서 왔는지, 마지막 업데이트 시점, 사용된 출처 또는 기업 시스템, 그리고 특정 권고가 내려진 이유를 명확히 밝혀야 합니다.

또한 불확실성에 대해 솔직해야 합니다. 가장 중요한 신뢰 신호 중 하나는 AI 시스템이 사실상 “그 질문에 자신 있게 답변할 충분한 정보가 없습니다”라고 말하는 것입니다.

신뢰는 AI가 확신하는 척 하는 데서 오는 것이 아니라, 직원에게 충분한 맥락을 제공해 스스로 판단할 수 있게 할 때 생깁니다.

Unily Glass는 기업 AI가 질문에 답하는 수준을 넘어 HR, IT, 고객 관계 관리 플랫폼 등 다양한 시스템에서 작업을 실행하도록 설계되었습니다. AI가 정보를 제공하는 단계에서 실제 행동을 수행하는 단계로 전환함에 따라, 조직은 어떤 의사결정을 에이전트가 자율적으로 내릴 수 있게 하고, 어떤 의사결정은 여전히 인간의 승인이 필요하도록 할지 어떻게 결정해야 할까요?

핵심 원칙은 위험 비례성이어야 합니다. AI 에이전트가 회의를 일정에 잡거나 정보를 찾는 경우, 잘못된 행동의 부정적 영향은 비교적 제한적입니다. 따라서 더 큰 자율성을 부여할 수 있습니다. 그러나 에이전트가 금융 거래를 승인하거나 직원 급여를 변경하거나 접근 권한을 종료하거나 중요한 고객 결정을 내리는 경우, 기준은 훨씬 높아야 합니다.

조직은 재무 영향, 규제 노출, 되돌릴 수 있음 여부, 사람에 대한 영향 등 요소를 기준으로 명확한 자율성 수준을 설정해야 합니다. 행동이 더 중대하거나 되돌릴 수 없을수록 인간 승인의 중요성이 커집니다.

목표는 중요한 영역에서 인간이 의미 있게 통제권을 유지하도록 하는 것입니다.

기업들은 기술 스택 전반에 걸쳐 다수의 코파일럿, 특화된 에이전트, 대형 언어 모델 및 AI 기반 애플리케이션을 점점 더 많이 배치하고 있습니다. 조직이 이것으로 인해 또 다른 파편화를 초래하지 않도록 하려면 어떻게 해야 할까요? 그리고 중앙 집중형 신뢰 또는 오케스트레이션 레이어가 필수적이 될 것으로 기대하십니까?

우리는 지난 수십 년간 기업 소프트웨어가 초래한 동일한 파편화를 다시 만들 위험에 처해 있습니다. 다만 이제는 모든 애플리케이션이 자체 AI 인터페이스와 자체 에이전트를 가질 수 있습니다.

직원들이 어떤 모델이 어느 애플리케이션 뒤에 있는지, 각 조직의 AI가 어디에 위치하는지 이해할 필요는 없습니다. 업무 맥락에서 AI와 상호작용하고, 필요한 정보와 기능이 적절히 제공되도록 해야 합니다.

바로 이 지점에서 오케스트레이션 및 신뢰 레이어가 점점 더 중요해집니다. 이는 다양한 AI 시스템 전반에 걸쳐 신원, 권한, 컨텍스트, 데이터 접근 및 행동을 일관되게 관리하는 방식을 제공할 수 있습니다.

모든 것을 장악하는 단일 모델이나 AI 플랫폼은 없겠지만, 조직은 이러한 시스템들을 책임 있게 함께 작동하도록 하는 공통 레이어가 점점 더 필요해질 것입니다.

많은 조직이 직원들이 AI 도구를 얼마나 자주 사용하는지 측정할 수 있지만, 사용량만으로는 투자가 가치를 창출하고 있다는 증명이 되지 않습니다. 리더들은 AI가 실제로 생산성, 의사결정, 직원 경험 또는 비즈니스 결과를 개선하고 있는지를 판단하기 위해 어떤 지표를 추적해야 할까요?

사용량은 흥미로운 출발점이지만 결과는 아닙니다. 리더들은 AI가 중요한 워크플로우를 완료하는 데 걸리는 시간을 단축하고, 반복 작업을 없애며, 의사결정의 품질이나 속도를 향상시키고, 직원들의 마찰을 줄이고 있는지를 물어야 합니다.

저는 워크플로우당 절감된 시간, 작업 완료율, 오류율, 직원 만족도, 해결 시간, 그리고 궁극적으로 AI를 도입한 특정 기능과 연계된 비즈니스 지표 등을 살펴볼 것입니다.

가장 강력한 조직은 활동 자체를 축하하기보다 AI 지표를 직접 비즈니스 결과와 연결합니다.

기업 AI가 콘텐츠를 생성하는 어시스턴트에서 점점 더 복잡한 워크플로우를 실행할 수 있는 에이전트로 진화함에 따라, 비즈니스 리더들이 AI 역량, 직원 신뢰, 성공적인 도입 사이의 관계에 대해 아직 과소평가하고 있는 부분은 무엇이라고 생각하십니까?

많은 리더들이 AI 도입의 한계를 결정하는 신뢰의 중요성을 아직 과소평가하고 있습니다.

기업들은 종종 AI 역량을 더 많은 가치가 자동으로 따라온다고 말합니다. 그렇지 않습니다. 직원들이 신뢰하지 않는 매우 뛰어난 시스템은, 직원들이 이해하고 자신 있게 사용할 수 있는 제한된 시스템보다 적은 가치를 창출할 수 있습니다.

이는 기업이 기술, 거버넌스, 직원 경험, 조직 변화를 하나의 시스템으로 생각해야 함을 요구합니다. 기업은 AI가 실제로 사람들의 업무 방식을 변화시킬 만큼 충분히 신뢰받도록 만드는 방법을 찾아야 합니다.

훌륭한 인터뷰에 감사드립니다, 더 알아보고 싶은 독자들은 Unily를 방문하십시오.