AI 역량에서 AI 제어로의 전환

첨단 AI 공급업체와 관련된 일련의 큰 사건은 기업들로 하여금 최근까지 진지하게 생각하지 않았던 질문을 던지게 했습니다. 운영의 기반으로 삼은 기술을 더 이상 온전히 통제할 수 없다면 어떻게 될까요?

먼저 미국 정부가 불과 90분 전에 통보하고 명령한 Anthropic의 가동 중단이 있었습니다. 이어 Grok Build의 개인정보 논란이 불거졌습니다. 최근에는 OpenAI가 에이전트의 자율적인 Hugging Face 침입을 인정하면서, AI 역량이 높아질수록 거버넌스에 어떤 문제가 생기는지 다시 질문하게 됐습니다.

사건 하나하나도 중요하지만 함께 보면 더 큰 의미가 드러납니다. AI는 조직이 거의 영향력을 행사하지 못하는 정치 체계, 상업적 관계, 규제 환경 안에 존재한다는 사실입니다.

AI 위험에 관한 논의가 개인정보 보호, 규정 준수, 데이터 저장 위치에 집중된 것은 이해할 만합니다. 이 문제들은 여전히 중요하지만 이제 전부는 아닙니다. 더 큰 질문은 의존성입니다.

주권의 의미와 범위 이해하기

저는 지난 1년 동안 주권에 관한 대화가 달라지는 것을 보았습니다. 고객들은 보통 데이터가 어디에 저장되는지 물었습니다. 요즘은 AI가 실행되는 시스템을 실제로 누가 통제하는지, 갑자기 접근할 수 없게 되면 어떻게 되는지를 훨씬 더 자주 묻습니다. 주권은 지리적 위치를 훨씬 넘어서는 문제이기에 답하기도 어렵습니다.

소버린 AI의 핵심은 소유와 통제입니다. 모델이 처음 어디에서 개발됐는지와 관계없이 회복력, 운영 연속성, 장기적 유연성을 위협하는 의존성을 만들지 않고 AI를 배포할 수 있어야 합니다. 저는 이를 AI 에이전트와 직원의 비교로 설명하곤 합니다. 에이전트는 점점 디지털 인력이 되어 사람이 하던 업무를 책임집니다. 단일 AI 공급자에게 이 인력을 빌린다면 조직의 중요한 운영 역량도 외부에 맡기는 셈입니다.

모든 조직이 AI 스택 전체를 소유해야 한다는 뜻은 아닙니다. 맨 아래에는 전력과 물리적 인프라가 있고 그 위에 컴퓨팅, 모델, 애플리케이션이 놓입니다. 각 계층의 소유자는 다를 수 있습니다. 통제 범위가 가장 좁은 쪽에서는 데이터만 국내에 있고 나머지는 외부에서 통제합니다. 그다음에는 모델이 현지에서 실행되지만 인프라는 다른 조직이 운영합니다. 더 나아가면 조직이 모델을 직접 운영하고, 가장 깊은 단계에서는 인프라까지 통제합니다. 어디에 자리할지는 무엇을 잃어서는 안 되는지에 달려 있습니다.

기밀 업무를 수행하는 정부는 자연히 대부분의 민간 기업보다 더 많은 통제가 필요합니다. 병원이 반드시 데이터센터를 소유할 필요는 없지만, 수천 마일 떨어진 제3자의 결정 때문에 환자 진료를 뒷받침하는 시스템이 갑자기 중단되지 않을 것이라는 확신은 필요합니다.

주권은 검증할 수 있어야 한다

소버린 AI를 이야기하는 조직이 늘수록 실제 통제권과 교묘한 마케팅을 구분하는 일이 중요해집니다. 모든 공급자가 자신이 실제로 통제하는 계층을 투명하게 밝히지는 않습니다. 많은 업체가 자사 제품을 소버린이라고 부르기 시작하면 다른 산업의 지속가능성 주장처럼 그 표현의 가치도 빠르게 떨어질 수 있습니다.

여기서 “소버린 워싱”이라는 문제가 생깁니다. 계약과 지원팀이 국내에 있고 데이터가 국경을 넘지 않는다는 이유로 현지 통제 솔루션이라고 홍보하지만, 그 아래 인프라는 여전히 외국 공급자가 운영하는 경우입니다. 영국 조직이 영국 업체의 소버린 AI 서비스를 사더라도 실제 의존하는 시스템은 결국 미국 인프라 위에 있을 수 있습니다.

그렇다고 자동으로 잘못된 선택이 되는 것은 아닙니다. 많은 조직에는 비용, 역량, 통제 사이의 적절한 균형일 수 있습니다. 다만 알고 내리는 결정이어야 합니다.

빌려 쓰는 방식의 과제와 소유의 이점

미국의 첨단 AI 공급업체가 기본 선택지가 된 이유는 이해하기 쉽습니다. 가장 뛰어난 모델을 제공하고 인프라에 막대한 투자를 하며 시장의 다른 업체보다 꾸준히 빠르게 움직였습니다. 중국 AI에 대한 지정학적 우려까지 커지면서 AI를 대규모로 배포하려는 조직에 자연스러운 선택이 됐습니다.

이 흐름은 초기 도입 기업을 훨씬 넘어 확산됐습니다. 신기술을 더 엄격히 검토하는 규제 산업에서도 도입이 빨라졌습니다. 금융 서비스 기업의 75% 가 AI를 적극적으로 사용하며 법률 전문가의 79%도 그렇습니다. 의료진의 65% 는 지난 1년간 소속 기관이 제공하는 AI 도구의 사용이 늘었다고 말합니다. 많은 조직에서 미국 공급자를 선택한 것은 상업적으로 합리적인 판단이었습니다.

AI가 일상 업무에 깊이 들어갈수록 논의도 더 세밀해집니다. 비용이 한 요소입니다. 토큰 가격은 계속 내려가지만 사용 증가가 가격 인하를 앞지르면서 기업 AI 지출은 늘고 있습니다. 이미 조직의 93% 가 AI 예산을 초과하고 있습니다. 회복력도 문제입니다. 외부 공급자가 장애를 겪거나 계약 조건을 바꾸거나 정부 개입을 받으면 핵심 업무를 운영하는 조직이 결과를 통제할 여지는 거의 없습니다.

AI 스택의 더 많은 부분을 소유하면 비용과 회복력 모두의 조건이 달라집니다. 사용량이 늘어도 비용을 더 예측하기 쉬워지고, 시스템 작동 방식에 대한 가시성이 높아지며 상황 변화에 대한 통제력도 훨씬 커집니다.

좋은 이탈 전략에 적절한 공급자 협력이 필요한 이유

주권은 하루아침에 확보할 수 없습니다. 규제 산업에서 AI 워크로드를 옮기는 데는 통상 3~4년이 걸리며 기술을 옮기는 데 쓰는 시간은 그중 아주 적습니다. 대부분은 거버넌스, 조달, 조직의 운영을 방해하지 않으면서 핵심 프로세스를 이전하는 데 필요한 실무에 들어갑니다.

따라서 공급자를 떠나야 할 일이 생기기 훨씬 전부터 계획해야 합니다. 기업의 72%가 2026년 로드맵에서 소버린 AI를 고려하지만 구체적인 전략, 예산, 이전 계획을 갖춘 곳은 약 10곳 중 3곳뿐입니다. 의존성을 줄이려는 의지는 분명하지만 실제 이전이 필요할 때 무엇을 해야 할지 검토한 조직은 훨씬 적습니다.

출발점은 가장 중요한 워크로드가 무엇인지, 이탈 비용은 실제로 얼마인지, 이전 계획을 필요해지기 전에 시험했는지 파악하는 것입니다. 이 과정은 공급자 평가 방식도 바꿉니다. 보통 세 가지 질문이 필요한 정보의 대부분을 알려 줍니다. 고객이 원할 때 언제든 주권 주장을 독립적으로 검증할 수 있는가? 검증이 계약에 적힌 계층만이 아니라 스택의 모든 계층을 아우르는가? 공급자가 마음먹으면 고객 데이터에 접근할 수 있는가? 마지막 질문의 답이 그렇다라면, 제공되는 것은 보장이 아니라 정책입니다.