AI 역량에서 AI 제어로의 전환

최근 몇 년간 프론티어 AI 제공업체와 관련된 고위급 사건들은 기업들이 이전에는 심각하게 고려하지 않았던 질문을 던지게 만들었습니다. 운영을 구축한 기술이 더 이상 완전히 제어하에 있지 않은 경우에 무슨 일이 발생할까요?

첫 번째는 앤트로픽의 종료였습니다. 미국 정부가 90분의 통보로 명령했습니다. 그런 다음 그록 빌드의 개인 정보 보호 스캔들이 발생했습니다.最近, 오픈AI는 허깅 페이스를 독자적으로 침해했다는 사실을 인정하면서, AI 시스템이 더 능력 있게 될수록 거버넌스에 대한 새로운 질문을 제기했습니다.

개별적으로, 각 사건은 상당히 중요합니다. 함께 보면 더 큰 것을 의미합니다. 그것은 AI가 정치 시스템, 상업 관계 및 조직이 종종 거의 영향을 미치지 못하는 규제 환경 내에 있음을 상기시킵니다.

AI 위험에 대한 대화는 이해할 수 있게 개인 정보 보호, 규정 준수 및 데이터 거주지에 초점이 맞춰졌습니다. 이러한 문제는 여전히 중요하지만, 더 이상 전체 이야기는 아닙니다. 더 큰 질문은 이제 의존성입니다.

주권이란 무엇인지, 무엇이 아닌지 이해하기

저는 지난 1년 동안 주권에 대한 대화가 바뀌는 것을 보았습니다. 고객은 일반적으로 데이터가 어디에 저장될지 묻곤했습니다. 오늘날에는 실제로 AI가 실행되는 시스템을誰が 제어하는지, 그리고突然 접근할 수 없게 될 경우에 무슨 일이 발생하는지 묻는 것이 더 일반적입니다. 그것은 더 어려운 질문입니다. 주권은 지리학을 훨씬 넘어갑니다.

본질적으로, 주권 AI는 소유권에 관한 것입니다. 회복력, 연속성 또는 장기적인 유연성을 위협할 수 있는 의존성을 도입하지 않고 AI를 배포하는 것입니다. 한 가지 방법은 AI 에이전트를 직원과 비교하는 것입니다. 그들은 점점 더 디지털 노동력이 되어, 이전에 사람들에 의해 수행된 작업을 수행합니다. 조직이 단일 AI 제공업체로부터 그 노동력을 임대한다면, 또한 중요한 운영 능력을 아웃소싱합니다.

그것은 모든 조직이 AI 스택의 모든 부분을 소유해야 한다는 것을 의미하지 않습니다. 전력 및 물리적 인프라는 아래에 있으며, 컴퓨팅, 모델 자체 및 최상단의 응용 프로그램이 뒤따릅니다. 각 계층은 다른 조직이 소유할 수 있습니다. 스펙트럼의 한쪽 끝에서는 데이터가 국내에 남아 있지만 모든 것이 다른 곳에서 제어됩니다. 더 진행된 단계에서는 모델이 로컬에서 실행되지만 인프라는 다른 사람이 운영합니다. 더 나아가 조직이 모델을 직접 실행합니다. 가장 깊은 단계에서는 인프라도 제어합니다. 조직이 스펙트럼에서 어디에 있느냐는 무엇을 잃을 수 없느냐에 달려 있습니다.

주권은 검증 가능해야 합니다

조직이 주권 AI에 대해 더 많이 이야기할수록, 실제 주권과 영리한 마케팅을 구별하는 것이 더 중요해집니다. 모든 제공업체가 실제로 스택의 어느 계층을 제어하는지에 대해 투명하지 않으며, 충분한 벤더가 제품을 주권이라고 설명하기 시작하면, 그 단어는 다른 산업에서 지속 가능성 주장이 빠르게 가치가 떨어지는 것과 마찬가지로 가치가 떨어질 수 있습니다.

그것이 “주권 세탁”의 아이디어가 나오는 곳입니다. 계약이 국내이며 지원 팀이 국내에 있으며 데이터가 국경을 떠나지 않는다는 이유로 솔루션이 로컬로 제어된다고 마케팅되지만, 그 아래의 인프라는 여전히 외국 제공업체가 운영합니다. 영국 조직은 영국 공급업체로부터 주권 AI 서비스를 구입할 수 있지만, 실제로 의존하는 시스템은 궁극적으로 미국 인프라에 있습니다.

그것은 자동으로 잘못된 선택을 의미하는 것은 아닙니다. 많은 조직에게 그것은 비용, 능력 및 제어 사이의 올바른 균형일 수 있습니다. 그러나 그것은 의식적인 결정이어야 합니다.

임대 대 소유의 도전

미국 프론티어 AI 제공업체가 기본값이 된 이유는 쉽게 이해할 수 있습니다. 그들은 가장 능력 있는 모델을 제공했으며, 인프라에大量에 투자했으며, 항상 시장의 나머지 부분보다 빠르게 움직였습니다. 중국 AI에 대한 지형 정치적 우려와 결합하여, 조직이 대규모로 AI를 배포하려는 경우 자연스러운 선택이 되었습니다.

그 동력은 초기 사용자에게서 멀어졌습니다. 심지어 규제가 엄격한 산업 분야에서도, 새로운 기술이 일반적으로 더 엄격하게 검토되지만, 채택은 가속화되었습니다. 금융 서비스 회사 75%가 활발히 AI를 사용합니다. 법률 전문가 79%도 사용하며, 의사 65%는 조직에서 제공하는 AI 도구를 사용하는 것이 지난 1년 동안 증가했다고 말합니다. 이러한 많은 조직에서 미국 제공업체를 선택하는 것은 단순히 상업적으로 합리적인 선택이었습니다.

대화는 AI가 일상적인 운영으로 더 깊이 들어갈수록 더 세부적으로变得 있습니다. 비용은 그림의 일부입니다. 토큰 가격은 계속 떨어지고 있지만, 기업 AI 지출은 가격 인하보다 사용량이 더 많아지면서 증가하고 있으며, 조직의 93%가 이미 AI 예산을 초과했습니다. 회복력도 또 다른 문제입니다. 외부 제공업체가 중단되거나 상업 조건을 변경하거나 정부 개입을 받는 경우, 중요한 작업을 실행하는 조직은 결과를 제어할 수 없습니다.

AI 스택의 더 많은 부분을 소유하면 두 가지 방정식이 모두 변경됩니다. 사용량이 증가함에 따라 비용은 더 예측 가능해지고, 조직은 시스템이 작동하는 방식에 대한 더 많은 가시성을 얻으며, 상황이 변경될 때 더 많은 제어력을 갖게 됩니다.

좋은 종료 전략에는 올바른 벤더 파트너십이 필요합니다

주권은 조직이 밤새도록 켤 수 있는 것이 아닙니다. 규제된 비즈니스에서는 일반적으로 AI 작업을 이동하는 데 3~4년이 걸리며, 그 시간의 대부분은 기술을 이동하는 데 소요되지 않습니다. 대부분은 거버넌스, 조달 및 중요 프로세스를 중단하지 않고 이동하는 데 필요한 운영 작업에 소요됩니다.

그것은 계획이 제공업체를 떠나기 전에 일어나야 함을 의미합니다. 72%의 비즈니스가 2026년 로드맵에 주권 AI를 고려하고 있지만, 세부적인 전략, 예산 또는 마이그레이션 계획을 갖춘 것은 약 3분의 1에 불과합니다. 의존성을 줄이려는 의지는 분명하지만, 실제로 이동해야 하는 경우에 무엇을 포함하는지에 대해 더 적은 수의 조직이 작업을 수행했습니다.

그것은 가장 중요한 작업을 이해하는 것으로 시작합니다. 종료가 실제로 무엇을 의미하는지 및 마이그레이션 계획이 실제로 필요한 경우에 테스트되었는지 확인합니다. 그 과정은 또한 벤더를 평가하는 방식을 변경합니다. 일반적으로 세 가지 질문이 필요한 모든 것을 알려줍니다. 고객이 언제든지 독립적으로 주권 주장을 검증할 수 있습니까? 검증은 계약에 명시된 것만이 아니라 스택의 모든 계층에 걸쳐 확장됩니까? 제공업체가 고객의 데이터에 접근할 수 있습니까? 마지막 질문의 답이 예스라면, 제공되는 것은 정책이 아닌 보증입니다.