사상 리더

주권형 AI를 구축할 가치가 있는 이유와 한계

Brian Rowe
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트삭제된 사용자 채팅은 당신이 참여하지 않은 소송에서 판사에 의해 보존될 수 있습니다.
더 보기
  • 삭제된 사용자 채팅은 당신이 참여하지 않은 소송에서 판사에 의해 보존될 수 있습니다.
  • 소버린 AI는 실제로 국경이나 국기가 아니라 통제에 관한 것입니다.
  • 운영 주권은 기업이 소버린 AI를 구축할 때 가장 놓치는 핵심 기둥입니다.

2025년 5월 13일, 맨해튼 연방 치안판사는 The New York Times와 OpenAI 간의 저작권 분쟁에서 증거개시 명령에 서명했다. 이 명령은 OpenAI에 “그렇지 않으면 삭제될 모든 출력 로그 데이터를 보존하고 분리해 둘 것”을 요구했다.

이는 사용자들이 이미 삭제를 요청한 대화까지 포함한다는 뜻이었다. ChatGPT Free, Plus, Pro, Team 계정은 물론, 데이터 보존 기간을 0일로 하는 계약을 맺지 않은 API 고객에게도 적용됐다. OpenAI는 이에 맞서 강하게 다퉜다. 최고운영책임자 Brad Lightcap은 이를 “지나친 조치”라고 불렀다. 포괄적 명령은 9월 말 종료됐지만, The New York Times가 지목한 계정의 데이터는 계속 법적 보존 조치의 대상이다.

기업 고객은 적용 대상에서 제외됐다. 하지만 Team 요금제와 일반 API 키를 사용하는 기업 팀 상당수는 제외되지 않았다. 이들 가운데 누구도 해당 소송의 당사자가 아니었다. 이들은 삭제 버튼을 눌렀다. 그런데 다른 사람의 소송을 맡은 판사가 삭제가 삭제를 뜻하지는 않는다고 결정했다.

OpenAI만 탓하려는 것은 아니다. OpenAI는 강하게 맞섰다. 바로 그 점이 중요하다. 데이터가 다른 사람의 플랫폼에 놓이면, 그 데이터를 어떻게 처리할지는 다른 사람의 법적 분쟁과 계약, 정책에 달려 있다.

이제 그 자리에 여러분의 회사를 대입해 보자. 여러분의 계약서와 보험금 청구 자료, 소스 코드, 고객의 건강 기록을 생각해 보라. 그중 점점 더 많은 데이터가 여러분이 소유하지 않은 인프라에서 돌아가고, 여러분이 작성하지 않은 약관의 적용을 받는 AI 모델을 거치고 있다.

주권형 AI의 핵심은 바로 여기에 있다. 국기나 국경이 아니라, 통제권이다.

이것이 일부의 우려가 아님을 보여주는 수치

McKinsey는 지난해 말 기업 임원과 투자자, 정부 관계자 300명을 대상으로 설문조사를 실시했다. 응답자의 71%는 주권형 AI를 “존립을 위협하는 우려” 또는 “전략적 필수 과제”라고 답했다. McKinsey는 이 시장이 2030년까지 6,000억 달러 규모에 이를 것으로 전망하며, AI 워크로드의 최대 40%가 주권형 환경으로 옮겨갈 가능성이 있다고 본다.

기업 관련 데이터도 같은 흐름을 보여준다.

  • 조직 중 거의 5곳 중 4곳이 주권형 AI를 전략적 우선순위로 꼽았다고 Linux Foundation에 답했다. 약 90%는 오픈 소스가 이를 실현하는 데 필수적이거나 매우 중요하다고 답했다.
  • 유럽·중동·아프리카 전역의 IT 리더 900명 이상 중 74%가 Red Hat에 AI 주권이 향후 18개월 동안 우선 과제라고 답했다. 92%는 엔터프라이즈 오픈 소스가 핵심이라고 답했다.
  • 41개국의 기술 리더 700명 이상을 대상으로 한 McKinsey와 Mozilla Foundation의 설문조사에 따르면, 이미 조직의 63%가 오픈 소스 AI 모델을 운영하고 있다. 76%는 앞으로 더 많이 사용할 것으로 예상한다.

여기서 반복되는 흐름을 눈여겨보라. 주권과 오픈 소스는 계속 함께 등장한다. 우연이 아니다.

내가 낙관하는 이유

전에도 말했듯이, 모델은 이미 충분히 쓸 만하다. 기업이 실제로 필요로 하는 일상 업무, 즉 요약과 조사, 지시 이행, 문서 처리에서는 최첨단 모델의 성능 향상이 큰 차이를 만들지 않는다. 올림피아드 수학 경시대회에서 우승하는 모델이 보험금 청구 처리를 더 빠르게 해 주는 것은 아니다.

나는 Qwen 같은 오픈 모델을 내 하드웨어에서 실행해 실제 애플리케이션 작업을 잘 처리하는 것을 확인했다. 단 한 건의 기록도 외부로 보내지 않고 내 데이터로 내 컴퓨터에서 모델을 미세 조정할 수 있다. 2년 전만 해도 이는 기업이 진지하게 고려할 만한 선택지가 아니었다. 지금은 가능하다.

이로써 주권형 AI의 경제성 계산이 달라진다. AI를 소유하기 위해 최첨단 모델을 직접 만들 필요는 없다. 성능이 뛰어난 오픈 웨이트 모델을 가져와 사내 환경이나 주권형 클라우드에서 실행하고, 자체 데이터로 조정한 뒤 가중치를 보유하면 된다.

공급 측면에서도 변화가 일어나고 있다. 8월, Nvidia는 Poolside에 모델 구축 플랫폼을 라이선스하기 위해 60억 달러를 지급하기로 합의했고, 엔지니어 100명 이상에게 일자리를 제안했다. 이 모든 조치는 자사의 Nemotron 오픈 웨이트 모델 제품군을 겨냥한 것이다. 곡괭이와 삽을 파는 회사가 오픈 모델에 그 정도로 막대한 자금을 쏟아부으면, 오픈 모델은 계속 발전할 수밖에 없다.

보안 도구도 뒤를 따라잡고 있다. 기밀 추론은 CPU나 GPU 내부의 신뢰 실행 환경을 사용해 데이터가 칩의 격리된 영역에 도달할 때까지 암호화된 상태로 유지한다. 클라우드 제공업체조차 데이터를 볼 수 없다. 이제는 데이터가 안전하기를 바라는 데서 그치지 않고, 안전하다는 사실을 확신할 수 있다.

그러니 주권형 AI는 정말, 정말 훌륭할 수 있다. 워크로드당 비용이 낮고, 예고 없는 가격 인상이 없으며, 사용 중인 모델이 갑자기 폐기될 일도 없다. 이사회가 데이터가 어디로 가는지 물을 때도 명확하게 답할 수 있다.

하지만 여기서 이야기를 끝낸다면 여러분에게 도움이 되지 않을 것이다.

서명하기 전에 작은 글씨까지 꼼꼼히 살펴라

컴퓨팅 자원은 소수에 집중돼 있으며, 비용도 저렴하지 않다. The Center for a New American Security의 Sovereign AI Index에 따르면 최첨단 AI 컴퓨팅 자원의 약 90%가 미국과 중국에 집중돼 있다. McKinsey는 고급 AI 워크로드를 처리할 수 있는 컴퓨팅 자원을 보유한 국가는 약 30개국뿐이라고 지적한다. 자체 AI 스택을 소유하려면 GPU와 전력, 냉각 설비, 그리고 이를 운영할 줄 아는 인력이 필요하다. 칩만이 아니라 이 모든 항목에 대한 예산을 마련해야 한다.

주권형이라고 해서 자급자족을 뜻하는 것은 아니다. CNAS는 정부 지원을 받는 주권형 AI 프로젝트 184개를 추적한다. 5분의 3이 넘는 프로젝트가 외국 파트너를 한 곳 이상 공개하며, 그 파트너 대부분은 미국 기업이다. 국가조차 혼자서는 이를 해낼 수 없다. World Economic Forum과 Bain은 주권이란 실제로 “전략적 상호의존성”이라고 주장한다. 나도 동의한다. 반드시 통제해야 할 계층과 안전하게 외부에 맡길 수 있는 계층을 결정하라.

오픈 모델은 가장 어려운 작업에서 여전히 뒤처진다. McKinsey는 현지화 모델이 최첨단 성능에 미치지 못할 수 있다고 지적한다. 일부 작업에서는 그 격차가 중요하다. 답은 전부 아니면 전무가 아니다. 민감하고 대량으로 처리해야 하는 작업은 직접 보유한 모델에 맡기고, 실제로 최첨단 API가 필요한 문제를 위해 관리 체계가 갖춰진 경로를 유지하라.

대부분의 프로그램은 운영 단계에서 무너진다. 인프라와 데이터, 모델 통제에는 관심이 쏠린다. 하지만 운영 주권, 즉 누가 시스템에 접근할 수 있는지, 누가 구성을 변경할 수 있는지, 누가 시스템이 수행한 일을 감사할 수 있는지는 대부분의 기업이 놓치는 핵심 요소다. AI 에이전트가 사용자를 대신해 행동하기 시작하면 문제는 빠르게 심각해진다. 외부 공급업체가 에이전트의 열쇠를 쥐고 있다면 주권형 AI를 갖춘 것이 아니다. 그저 이름을 그럴듯하게 붙인 호스팅 서비스일 뿐이다.

새로운 틀에 스스로를 가두지 말라. 주권의 핵심은 선택권이다. 주변의 모든 것을 다시 구축하지 않고도 모델을 교체할 수 있도록 설계하라. “주권형” 스택이 한 공급업체의 모델 하나만 실행한다면, 의존 대상을 옮겼을 뿐이다.

조달이 아니라 엔지니어링으로 접근하라

이 일을 제대로 해내는 조직은 각 요소를 담당자와 측정 지표가 있는 엔지니어링 요구사항으로 다룬다. 추론은 물리적으로 어디에서 이루어지는가? 프롬프트와 출력은 어디에, 얼마 동안 기록되는가? 어떤 모델이 어떤 데이터를 보는가? 누가 시스템을 끌 수 있는가?

어려움을 겪는 조직은 주권형 AI를 공급업체 설문지의 체크 항목으로 취급한다.

이는 Marlabs에서 우리가 하는 일을 통해 내가 보는 모든 것과 일치한다. 이제 모델이 문제인 경우는 드물다. 문제는 구현이다. 사람, 아키텍처, 거버넌스가 문제다. 주권형 AI도 이 점을 바꾸지 않는다. 제대로 해내는 일의 중요성을 한층 더 높일 뿐이다.

맨해튼의 그 법정 이야기로 돌아가면

Team 요금제 사용자들은 아무 잘못도 하지 않았다. 공급업체와 맺은 계약을 신뢰했을 뿐이다. 그들의 데이터에 관한 결정은 그들이 한 번도 들어가 본 적 없는 법정에서 내려졌다.

그 결정은 여러분이 직접 내릴 수 있다. 이사회나 규제 기관, 또는 최대 고객이 데이터 통제권을 누가 갖고 있으며 누가 더 볼 수 있는지 묻는다면, 주권형 AI를 제대로 구축했을 때 명확하게 답할 수 있다. 데이터가 정확히 어디에 있는지 가리켜라. 누가 열쇠를 갖고 있는지 보여줘라.

구축할 가치가 있다. 다만 현실을 똑바로 보고 구축하라.

여러분의 조직에서 주권형 AI 논의를 이끄는 요인은 무엇인가요? 의견을 들려주세요.

Brian Rowe는 Marlabs의 인공지능 및 머신러닝 부문 수석 부사장입니다. 30년의 경험과 직원 2,200명을 보유한 Marlabs는 뉴욕시에 본사를 둔 AI 혁신 파트너로, 포춘 500대 기업이 AI를 실제 업무에 적용하고 여러 산업 분야에서 지속적이고 측정 가능한 가치를 창출하도록 지원합니다.