구글의 시니어 프린시펄 아키텍트, Sathya AG – 인터뷰 시리즈

Sathya AG는 기술 전도사, “Enterprise-Grade Hybrid and Multi-Cloud Strategies“의 저자이며, 구글의 시니어 프린시펄 아키텍트(소매 전략 산업 분야)로 19년 이상의 엔터프라이즈 아키텍처와 AI 경험을 가지고 있습니다. 글로벌 사고 리더로서 Top AI Influencer Award와 구글의 대통령 상을 수상하였으며, Enterprise-Grade Hybrid and Multi-Cloud Strategies의 저자이자 CAIO Circle의 자문위원회 멤버입니다. 그는 영국 컴퓨터 협회(FBCS)의 펠로우, IEEE의 시니어 멤버, 스탠퍼드 LEAD의 졸업생입니다. AI Forward, Google Next, NRF에서 인기 있는 연사이며, AI/ML을 소외된 공동체에 가르치기 위해 자원합니다.

면책 고지:아래에 공유된 생각과 의견은 저자의 것으로서, 그의 고용주 또는 관련된 조직의 견해, 위치, 의견을 반드시 나타내지 않습니다.

오라클에서 10년 넘게 근무한 뒤, 대형 소매기업과 협력하는 구글의 수석 아키텍트 역할로 옮기셨습니다. 기업들이 기존 데이터 현대화 프로젝트에서 생성형 AI와 에이전트형 AI로 전환하면서 기업 AI를 바라보는 관점은 어떻게 달라졌나요?

오라클 시절, 엔터프라이즈 아키텍트로서, 저의 핵심 관심사는 항상 조직이 의존하는 고도로 복잡한 시스템을 구축하는 것이었습니다. 우리는 대규모 통합, 거버넌스, 마스터 데이터 관리 챌린지를 해결하여 엔터프라이즈가 단일, 고도로 복원력 있는 진실의 원천을 가질 수 있도록 했습니다. 전통적인 데이터 현대화는 본질적으로 수동 관찰, 의미적 레이어와 데이터 파이프라인을 설계하여 인간의 의사결정자에게 신뢰할 수 있는 통찰력을 제공하는 것이었습니다.

생성적 AI와 에이전트 AI의 진화는 수동 관찰에서 자율 시스템의 행동으로 아키텍처 패러다임을 완전히 변경했습니다. 이제, 렌즈는 우리가 시스템이 대신 hành động을 취할 수 있는지 여부로 이동했습니다. 그것은 데이터 품질, 컨텍스트, 제어에 대해 훨씬 높은 기준을 의미합니다. 왜냐하면 이제 나쁨 데이터 가정은 단지 잘못된 대시보드를 생성하지 않고, 잘못된 행동을 생성하기 때문입니다. 재고 데이터를 잘못 읽는 에이전트는 누군가를 잘못 정보하지 않고, 잘못된 주문을 생성합니다.

바로 이 지점에서 엄밀한 엔터프라이즈 아키텍처가 AI 시스템의 핵심 기반이 됩니다. 자율 시스템을 안전하게 구축하려면 결정론적 기업 시스템과 확률적 AI 사이를 빈틈없이 연결해야 합니다. 제가 지금 이끄는 아키텍처 논의는 신뢰할 수 있는 데이터 패브릭을 구축하는 데 초점을 맞춥니다. 실시간 자율 추론이 엄격한 거버넌스, 탄탄한 관측 가능성, 그리고 기업 시스템에 늘 요구해 온 것과 같은 트랜잭션 무결성 안에서 이뤄지도록 하는 것입니다.

많은 AI 프로젝트는 모델이 아니라 데이터 및 아키텍처 결정으로 인해 실패합니다. 초기 아키텍처 선택 중에서 나중에 AI 프로젝트를 조용히 약화시키는 가장 일반적인 것은 무엇입니까?

가장 자주 보는 문제는 기업들이 데이터 웨어하우스나 데이터 레이크를 단일 기준 데이터의 원천으로 여기는 것입니다. 실제로는 데이터가 모이는 목적지만 하나일 수 있습니다. 모든 데이터를 한곳으로 보내면 기준이 하나로 통일된다고 생각하지만, 사실은 서로 다른 정의와 불일치가 한곳에 모일 뿐입니다. 원천 시스템 세 곳이 각각 활성 고객을 다르게 정의한다면, 하나의 웨어하우스로 통합해도 잘못된 답 세 개가 잘못된 답 하나로 바뀌는 데 그칩니다.

다음으로, 정확히 앞에 있는 것을 위해 구축하는 함정에 빠지는 것입니다. 파이프라인은 하나의 대시보드에 완벽하게 조정되고 잘 작동하지만, 6개월 후에 새로운 모델이 동일한 데이터를 더 빠르거나 신선하게 필요로 할 때, 모든 것을 다시 분해해야 하는 대신 확장하는 대신 분해해야 합니다.

그리고 결국 늘 문제가 되는 것은 데이터 계보와 메타데이터를 건너뛰는 일입니다. 아무도 요청하지 않은 부가 작업처럼 보이기 때문입니다. 당장은 효과가 없어 보일 수 있습니다. 하지만 누군가 모델이 왜 특정 판단을 했는지 묻는데 추적할 방법이 없는 날이 옵니다. 그러면 적은 비용으로 미리 설계할 수 있었던 일이 값비싼 수정 작업이 됩니다.

Fortune 500 기업과 협업할 때, 조직이 실제로 AI를 파일럿을 넘어 확장할 준비가 되었는지 나타내는 신호는 무엇입니까?

정확하게 말하면, 첫 번째 대화에서 알 수 있습니다. 조직이 AI를 실험하고 있는지 또는 엔터프라이즈 규모로 운영할 준비가 되었는지 여부는 몇 가지 특징적인 신호에 달려 있습니다. 저는 일반적으로 세 가지 주요 범주에서 준비를 확인합니다: 전략적 신념, 비즈니스 통합, 운영 성숙도.

여기서 확장할 준비가 된 신호가 있습니다:

1. 전략적 정렬 및 실행위원회 신념

유행을 부러워하는 데 그치지 않는 명확한 AI 전략: 조직의 경영진이 자사의 AI 전략에 확고한 믿음을 보입니다. AI가 비즈니스 목표에 어떻게 연결되는지 몇 가지 질문을 하면 쉽게 확인할 수 있습니다. 단순히 “생성형 AI를 쓰고 싶다”고 말하는 대신 매출 성장, 이익률 개선, 고객 경험처럼 구체적인 사업 가치를 설명할 수 있다면 준비가 된 것입니다.

확약된 전사 자금: 개별 연구개발 예산을 넘어, AI 프로젝트뿐 아니라 변화 관리, 인프라, 지속적인 MLOps까지 지원하는 전담 예산이 여러 부서에 걸쳐 배정돼 있습니다.

2. 문제-해결 적합성 및 비즈니스 통합

올바른 문제를 해결하는 것: 주요 적신호는 표준 워크플로 자동화 또는 로봇 프로세스 자동화(RPA)를 혼동하고, AI를 강제로 적용하여 이사에게 AI 채택을 보여주는 것입니다. 준비된 조직은 AI의 고유한 가치 제안을 이해합니다. 그들은 AI가 패러다임 전환을 제공하는 사용 사례에 중점을 둡니다. 즉, 단순히 기술 상자를 체크하는 것이 아니라, 기존 프로세스에 대한 것입니다.

비즈니스 유닛 소유권: 이것은 조용한 신호이지만, 종종 가장 큰 장애물입니다. AI의 흥분이 실제 비즈니스 유닛과 아무런 관련이 없는 “혁신 연구소” 내에서만 존재하는 경우, 파일럿은 이륙하지 못합니다. 진정한 준비는 비즈니스 이해관계자가 솔루션을 공동 개발하고 최종 비즈니스 결과를 소유한다는 것을 나타냅니다. 즉, 운영으로 넘어가는 것을 위한 검증된 개념을 넘겨주는 것이 아니라, 검증된 결과를 넘겨주는 것입니다.

3. 운영 성숙도 및 거버넌스

1일차 보안 및 규정 준수 참여: 보안 및 거버넌스 팀의 부족한 참여 또는 임시 AI 사용 사례를 그들로부터 분리하여 “더 빠르게 이동”하려고 하는 것은 배포 실패의 요인입니다. 성숙한 조직은 1일차부터 InfoSec, 법률, 데이터 거버넌스를 테이블에 가져옵니다. 그들은 이를 배포를 확장하기 위해 필요한 가드레일을 구축하는 데 중요한 활성화자로 봅니다. 즉, 이를 장애물로 보지 않습니다.

결국 AI를 성공적으로 확장하는 조직은 이를 IT 부서의 과학 실험으로 여기지 않습니다. 적절한 경영진 지원과 안전장치를 갖추고 사업 목표에 맞춰 운영하는, 비즈니스를 바꾸는 역량으로 대합니다.

실제로 AI-준비 데이터 재단은 무엇입니까? 특히 ERP, CRM, 커머스, 클라우드 및 레거시 시스템에 걸쳐 조각난 데이터를 가진 기업의 경우?

대부분의 기업은 데이터 볼륨 문제가 아니라 데이터 신뢰 문제를 가지고 있습니다. 이것은 AI가 얹어지는 경우에 더욱 악화됩니다. 이는 새로운 플랫폼이 아니라 몇 가지 평범한 속성이 시스템 전체에 걸쳐 참인 것입니다.

예를 들어, 동일한 고객, 제품 또는 매장은 레거시 ERP, 현대적인 CRM 또는 커머스 플랫폼에 있든 관계없이 동일한 엔티티로 인식되어야 합니다. 시스템이 고객이 누구인지에 동의할 수 없다면, 개인화 및 예측 모델은 파열된 데이터에서 작동하여 환상적인 이미지를 생성합니다. 고객의 수명 가치를 예측할 수 없습니다. AI가 한 고객을 세 명의 다른 사람으로 취급한다면.

둘째는 의사결정에 맞는 데이터 최신성입니다. 원천 시스템의 기본 갱신 주기를 그대로 따르는 것이 아니라 결정에 필요한 수준으로 데이터를 갱신해야 합니다. 야간 재고 갱신은 장기 계획에는 적합하지만 실시간 주문 이행에는 쓸모가 없습니다. 제대로 된 기반은 모든 데이터를 가장 느린 속도에 맞추지 않고 두 속도를 모두 지원합니다.

세 번째로, 정보가 어디에서 왔는지 몇 분 안에 알 수 있는 선구 레이어입니다. 대부분의 조각난 기업은 데이터가 부족하지 않지만, 데이터를 신뢰할 수 있고 추적 가능한 레이어가 부족합니다. 그것이 실제 재단입니다. 그것은 도구가 얹어지는 것이 아니라, 이미 가지고 있는 데이터를 신뢰할 수 있고 추적 가능한 것으로 만드는 것입니다.

데이터의 5가지 V(볼륨, 속도, 다양성, 신뢰성, 가치) 중에서, 기업 리더가 AI를 준비하기 위해 데이터를 준비할 때 가장 많이 과소평가하는 것은 무엇입니까?

데이터 신뢰성, 그리고 데이터 가치입니다.

볼륨은 오늘날의 빅 데이터 생태계에서 당연합니다. 모든 사람이 데이터에 빠져 있습니다. 다양성과 속도는 도로맵에 표시되므로 예산이 있습니다. 새로운 소스, 파이프라인 및 실시간 피드입니다.

데이터의 진실성과 정확성은 손실이 생길 때까지 눈에 띄지 않습니다. 보통 모델이 명백히 잘못된 결과를 내놓고 나서야, 누군가 그 원인이 중복 고객 레코드나 세 팀이 서로 다른 방식으로 입력한 필드임을 추적해 냅니다.

마지막으로, 가치는 다르게 과소평가됩니다. 리더들은 데이터가 존재한다면 가치가 있다고 가정하지만, 실제로 의사결정을 움직이는지 여부를 묻지 않습니다. 대부분의 기업은 실제로 일을 하는 데이터의 작은 부분을 가지고 있으며, 어느 부분인지 아무도 매핑하지 않았습니다.

특히 소매 업계에서, AI 사용 사례는 개인화, 예측, 재고, 공급망, 고객 서비스, 매장 운영을 포함할 수 있습니다. AI 야망과 데이터 준비 사이의 가장 큰 격차는 어디입니까?

AI에 대한 포부는 소매업 전반에 고르게 퍼져 있지만, 데이터 준비 수준은 매우 불균등합니다.

개인화와 예측은 비교적 준비가 되어 있습니다. 소매 업체들은 수년 동안 거래 및 브라우징 데이터를 수집해 왔습니다.

더 큰 격차는 공급망과 옴니채널, 특히 온라인과 오프라인 매장의 연결에 있습니다. 옴니채널은 소매업체가 매우 어려운 데이터 문제 두 가지, 즉 통합 고객 식별과 계속 변하는 재고를 실시간으로 해결해야 하므로 복잡합니다. 대부분의 소매업체는 전자상거래 재고를 실시간으로 파악하지만 매장 재고는 주기적으로, 때로는 하루가 끝난 뒤에야 확인할 수 있습니다.

고객 서비스와 매장 운영은 아직 초기 단계입니다. 포부는 크지만 인력 배치, 작업 완료 여부, 실시간 매장 상황 같은 기본 운영 데이터는 비즈니스에서 디지털화가 가장 덜 된 부분인 경우가 많습니다. 이런 활용 분야 전반에서 포부는 비슷하게 높지만 준비 수준은 그렇지 않습니다.

미션 크리티컬 시스템을 방해하지 않고 레거시 데이터 인프라를 현대화하는 방법은 무엇입니까?

레거시 데이터 플랫폼은 종종 운영 병목 현상, 심각한 데이터 품질 문제, 조직적 확장 제한을 겪습니다. 일일이 고위험 대규모 마이그레이션을 피하는 것이 가장 효과적인 방법입니다. 데이터 플랫폼 현대화의 주요 목표는 데이터를 조직의 의사결정에 더 유용하게 만드는 것입니다. 즉, 순수한 IT 플랫폼 교환으로 취급하지 않습니다.

AI 시대에 대비하여, 조직은 데이터 메달리온 및 데이터 메시 아키텍처를 채택해야 합니다. 이 전략은 데이터를 원시에서 비즈니스 준비까지 점진적으로 정련하는 구조화된 파이프라인을 생성하여, 데이터가 의사결정에 영향을 미치지 않도록 합니다. 데이터를 별개의 논리적 레이어로 분리함으로써, 조직은 명확한 선구를 설정하여 정보가 원본에서 목적지로 어떻게 변환되는지 쉽게 추적할 수 있습니다.

검증된 데이터를 접근 가능한 제품으로 패키징함으로써, 조직은 팀이 전략적, 증거 기반의 의사결정을 내릴 수 있도록 합니다. 즉, 직관에 의존하지 않습니다. 핵심적으로, 이 접근법은 엔터프라이즈 AI에 필요한 데이터 신뢰의 기초를 설정합니다. 큐레이팅된 데이터 제품 위에 AI 에이전트를 구축하면, 모델이 안전하고 정확한 정보에서 학습하는 것을 보장합니다. 즉, 지저분하고 검증되지 않은 데이터셋이 아니라, 모델이 학습하는 것을 보장합니다.

거버넌스, 개인 정보 보호, 보안, 데이터 품질이 1일차부터 아키텍처 요구 사항으로 취급될 때, 무엇이 변경됩니까?

모든 일이 더 빨라지고, 문제가 줄어들며, 확장도 더 잘됩니다. 생성형 AI는 확률적으로 작동하기 때문에 거버넌스가 매우 중요하지만, 많은 조직에서 가장 간과하는 부분이기도 합니다.

이러한 요소를 1일차부터 아키텍처 요구 사항으로 취급할 때, 즉, 마지막 순간의 감사 체크리스트가 아니라, 손상 제어에서 속도로 전환합니다. 여기서 변경되는 내용이 있습니다:

첫째, 고통스러운 “rip-and-replace” 단계를 피합니다. 즉, 완전히 구축된 AI 프로젝트가 준수 또는 개인 정보 보호 표준을 위반하기 때문에 폐기됩니다.

다음으로, 보안 및 데이터 품질이 패치되지 않고, 파이프라인에 내장됩니다. 모델은 신뢰할 수 있는 데이터에서 실행되어, 리더십과 사용자가 실제로 신뢰하는 출력을 생성합니다.

마지막으로, 개념 검증에서 실제 운영으로 옮길 때 규제 장벽에 부딪히는 대신 배포 경로가 이미 정비되고 자동화돼 있습니다.

간단히 말하면, 거버넌스는 혁신에 대한 브레이크가 아니라, 빠르고 안전하게 운전할 수 있는 스티어링 시스템입니다.

CAIO Circle의 자문위원회 멤버로서, Chief AI Officer 역할은 어떻게 발전해야 하며, CIO, CDO, 비즈니스 유닛 리더와 관련하여 그들의 책임은 어디에서 시작하고 끝나야 합니까?

CAIO Circle의 일부로서, 이 역할은 현재 많은 기업에서 반응적으로 생성되어, 명확한 운영 격차를 메우기보다 생성적 AI에 대한 호재에 반응하여 생성되었습니다. 따라서 이것은 빠르게 정착해야 합니다. 효과적으로 작동하려면, 집행적인 분리는 명확해야 합니다:

CIO는 인프라와 시스템 신뢰성을 소유합니다. CDO는 데이터를 엔터프라이즈 자산(품질, 거버넌스, 접근성)으로 소유합니다. CAIO는 원시 AI 능력과 실제 비즈니스 결과 사이의 번역 레이어를 소유합니다.

그 번역 레이어는 AI 포트폴리오를 명시적으로 소유하는 것을 의미합니다. 즉, 무엇을 구축할지, 비즈니스에서 개선되고 AI 기술을 통해 더 잘 제공될 수 있는 영역을 식별하는 것을 의미합니다. 또한, AI를 어디에 배포해야 하고, 어디에 배포해서는 안 되는지에 대한 최종 권위를 갖는 것을 의미합니다.

대부분의 기업에서 가장 큰 격차는 경쟁 비즈니스 유닛 간의 위험 및 가치 트레이드오프를 평가하는 것입니다. 단일 비즈니스 유닛이 절실히 원하는 고위험 AI 이니셔티브를 차단하는 것은, 단일 유닛의 단기 목표에 묶여 있지 않은, 기술적으로 위험을 직접 평가할 수 있는 독립적인, 기술적으로 근거한 게이트키퍼가 필요합니다. CAIO 역할이 되야 할 정확한 것입니다.

앞으로, 최신 AI 도구를 실험하는 것과 실제로 지속 가능한 AI 이점을 달성하는 것 사이에서 기업을 구분하는 것은 무엇일까요?

그것은 최고의 모델에 접근할 수 있는 기업이 아닙니다. 모델 기능은 빠르게 수렴되고, 원시 기술은 지속적인 차별화 요소가 될 것입니다.

대신, 장기적인 AI 성공의 핵심 테스트는 하나입니다: 신뢰.

신뢰는 조직의 AI-준비 재단과 새로운 능력을 테스트, 배포, 확장할 수 있는 환경을 구축하는 능력과 직접적으로 비례합니다. 구체적으로, 이것은 세 가지를 필요로 합니다:

신뢰할 수 있는 데이터 재단: 모델이 안전하고 정확한 정보에서 학습할 수 있도록 깨끗하고 신뢰할 수 있는 데이터입니다.

민첩한 거버넌스: 모델이 진화하는 속도에 따라 가는 규정 준수 및 위험 프로세스입니다.

결과 중심 지표: 비즈니스 가치로 AI를 측정하는 조직 문화, 즉 기술적 고도보다는 비즈니스 가치로 측정하는 문화입니다.

3년 후에도 여전히 “실험 모드”에 있는 기업은 AI 프로젝트마다 동일한 데이터 및 거버넌스 교훈을 계속 배우는 기업이 될 것입니다.

지속 가능한 이점을 가진 승자는 1일차부터 재단을 잘 구축하여 10번째 AI 사용 사례가 첫 번째보다 훨씬 더 빠르고 저렴하게 배포되는 기업이 될 것입니다.

감사합니다. 이 인터뷰는 훌륭했습니다. 독자들은 또한 그의 책 Enterprise-Grade Hybrid and Multi-Cloud Strategies를 읽어보는 것이 좋을 것입니다.