기업용 AI를 빌린 접근 방식으로 구축하지 마십시오

모든 AI 애플리케이션과 기업 배포는 지금까지 프런티어 AI 모델에 대한 접근이 가능하고 거의 무제한적이라고 가정하여 구축되었습니다. 그것은 지금까지 올바른 마음가짐이었습니다. 프런티어 모델의 새로운 기능이 6개월 이내에 공통화되거나 오픈 소스로 제공되므로 미래의 기능을 가능한 한 빨리 이해하는 것에만 집중했습니다. 새로운 프런티어 기능을 가능한 한 빨리 이해하고 적응하여 제품을 구축할 수 있는 회사, 팀 또는 개인이 승리했습니다. 그러나 몇 가지 신호는 이 시대가 곧 끝날 수 있음을 나타내고 있습니다. 미국 상무부의 결정은 Anthropic의 Fable과 Mythos 모델에 대한 접근을 미국 국민으로 제한하는 것이었습니다. 그러나 이후 Anthropic과 협의를 통해 이 제한이 해제되었습니다. 이는 접근 조건이 얼마나 빠르게 변경될 수 있는지와 기업용 AI 시스템이 적응할 수 있어야 하는 필요성을 보여주었습니다.

프런티어 모델 접근이 보장되지 않는 4가지 이유

프런티어 모델만을 위해 구축하는 마음가짐은 그들의 가용성이 더 이상 보장되지 않는다면 멈출 수 있습니다. 그럴 수 있는 이유는至少 네 가지 있습니다. 첫째, 프런티어 AI의 경제는 지속되지 않는 보조금 가격에 기반하고 있습니다. OpenAI와 Anthropic의 최근 IPO 준비는 실제로 현재赞助 AI 서비스의 비용을 공개했습니다.Anthropic의 $200 개인 구독은 실제로 회사에 수천 달러의 비용이 될 수 있습니다. 따라서 토큰 가격은 계속 상승할 것으로 예상되며 인공적으로 저렴한 프런티어 모델 접근의 시대가 끝날 것입니다.

둘째, 프런티어 모델은 실행하기 위해 더 저렴하지 않습니다. 클래식 컴퓨팅과 달리, 여기서 Moore의 법칙은 시간이 지남에 따라 모든 연산의 비용을 지속적으로 줄였습니다. AI는 이러한 곡선을 따르지 않는 것으로 보입니다. 모델은 더 큰 모델이지만 더 많은 컴퓨팅 자원을 필요로 합니다. 모든 엔지니어가 Claude 크레딧을 10분 이내에 소진했습니다. 이는 다음 프런티어 모델이 더 많은 토큰, 더 많은 컴퓨팅 자원 및 더 많은 인프라를 필요로 할 수 있음을 시사합니다.

셋째, 실제로 프런티어 모델 경쟁에 참여하는 플레이어가 점점 더 적어지고 있습니다. Mistral, 유럽의 프런티어 모델 글로벌 아레나에서 경쟁하기 위한 희망은 이제 겸손한 후발주자로 목표를 수정했습니다. 중국 모델은 빠른 후발주자이지만 여전히 선도 연구소의 최고 모델에서 뒤처지고 있습니다.

넷째, 프런티어 모델은 너무 위험하여 모든 애플리케이션에서 사용할 수 없습니다. 우리는 미니어처 핵 원자로를 자동차에 사용하지 않습니다. Anthropic의 실험은 프런티어 모델을 통제하고 무해하게 유지하는 것이 매우 어려울 수 있음을 보여주었습니다. 이는 장기적으로 실제 교훈이 될 수 있으며 미국의 Fable 5 규제背後의 근본적인 이유일 수 있습니다. 어쨌든, 프런티어 모델은 국가에 의해 전략적 자산으로 취급될 가능성이 높으며 현재와 같이 자유롭게 사용할 수 없을 것입니다.

따라서 우리는 토큰 비용이 중요하고 프런티어 모델이 모든 애플리케이션과 모든 국가에서 사용할 수 없는 세계에 진입할 수 있습니다.

애플리케이션 레이어의 등장

프런티어 모델에 대한 접근이 더 이상 보장되지 않는 세계에서, 어떻게하면 모든 작업이 신뢰성 있게 수행되고 최상의 성능으로 수행되는 것을 보장할 수 있을까요? 답은 소위 “애플리케이션 레이어”에 있을 수 있습니다.

NVIDIA의 CEO인 Jensen Huang은 AI를 5층 케이크로 설명했습니다. 에너지, 칩, 데이터 센터, 모델 및 애플리케이션입니다. 그는 애플리케이션 레이어가 가장 중요한 레이어이면서도 아직 많이 부족하다고 주장합니다.

일부 애플리케이션의 경우, 채팅봇과 같은 경우, 이 레이어는 매우 얇습니다. 고급 산업 및 엔지니어링 애플리케이션과 같은 경우에는 더 중요하고 임팩트가 큽니다. 이는 가치 사슬에서 결정적인 레이어입니다. 프런티어 모델에 대한 접근이 더 이상 보장되지 않는 경우, 애플리케이션 레이어의 역할은 모델 간의 결과를 균일화하고 토큰 비용을 제어하는 것입니다.

구체적으로, 새로운 항공기 모델의 제조 체인을 재설계하는 복잡하고 임팩트가 큰 작업을 수행하려면, 나는 강력한 프런티어 모델을 사용하여 도움을 받을 것입니다. 모델은 혼자서 어떻게 할 수 있는지 알아내고, 계획 도구를 구축하고, 결과를 모든 팀에 전달할 수 있습니다. 그러나 모델을 변경하거나, 더 강력한 모델로 변경하거나, 다른 제공업체의 모델로 변경하면, 성능이나 일관성을 잃을 수 있습니다. 많은 실제 기업 환경에서, 이러한 예측 불가능성은 허용되지 않습니다. 여기서 애플리케이션 레이어의 역할이 중요합니다. 모델이 열린 공간에서 작동하고 원시적인 능력에 의존하여 결과를 생성하는 대신, 애플리케이션 레이어는明確한 캔버스, 제한된 동작 집합 및 작동할 수 있는 정의된 영역을 제공합니다. 모델은 더 이상 모든 것을 처음부터 알아내는 것이 아니라, 잘 정의된 캔버스를 제공받습니다. 이는 모델이 잘 작동할 가능성을 크게提高합니다.

비용 측면에서, 모델은 매우 저수준의 동작을 수행하여 목표를 달성할 수 있습니다. 모델은 계획 알고리즘을 새로 작성하거나, 새로운 인터페이스를 구축하거나, 새로운 최적화 솔버를 개발할 수 있습니다. 그러나 이는 매우 토큰 비용이 많이 들 수 있습니다. 좋은 지침이나 사전 구축된 도구를 사용하면 모델이 동일한 결과를 더 적은 토큰으로 달성할 수 있습니다. 이것이 애플리케이션 레이어의 역할입니다. 좋은 소식은 모델이 짧은 경로를 찾으려고 하므로, 모델에 올바른 집합의 기술, 도구 및 컴퓨팅 자원을 제공한다면, 모델을 너무 많이 제한할 필요가 없습니다.

간단히 말해, 좋은 애플리케이션 레이어는 모델이 신뢰성 있게 작동하고 비용 효율적으로 작동하는 데 필요한明確한 기술, 도구 및 지침을 제공합니다. 성능을 향상시키고 토큰 비용을 제어하는 것 외에도, 이는 특정 모델에 대한 의존도를 감소시킵니다. 애플리케이션 레이어에 지능을 통합하면, 모델 자체에는 통합하지 않습니다. 모델은 서로 교환 가능하게 됩니다. 많은 경우에, 이것이 실험적인 기업용 AI와 확장 가능한 기업용 AI 사이의 차이를 만드는 것입니다.

기업 리더를 위한 행동 호소

산업 전반에 걸쳐, 우리는 매일 기업용 AI 스택을 구축하는 기업 리더를 만납니다. 대부분의 회사들은 프런티어 모델 제공업체와 함께 시작하여 스택의 필요한 모델 레이어를 구축합니다. 애플리케이션 레이어의 경우, 그들은 자체 구축된 도구, 완전히 구매한 기능 또는 두 가지의 혼합을 사용합니다.

Anthropic의 금지 조치는 이 스택이 밤새 중단될 수 있음을 상기시킵니다. 회사의 아키텍처는 다시 발생할 때 준비되어야 합니다. 준비하려면, 배포 속도는 중요하지만, 모델 변경 및 증가하는 토큰 비용의 영향을 완화하는 솔루션을 구축해야 합니다. 쉽지 않은 길이지만, 제 조언은 다음과 같습니다:

• 애플리케이션에 전략적으로 그리고 일찍 투자하십시오. 기차를 놓친 회사는 항상 초기 채택자에 비해 격차를 보일 것입니다
• 모델에 대한 중립성을 설계 원칙으로 만드십시오, 일회용으로 하지 마십시오
• 모델을 전환하는 비용은 운영에 대한 존재론적인 질문이 되어서는 안 됩니다
• 모델을 벤치마크하고, 여러 설정에서 성능을 검증하며, 장기적인 성능 보장을 도와줄 수 있는 전문 회사와 파트너십을 맺으십시오.

다음 기업용 AI 단계에서 게임을 이길 회사는 반드시 최고의 모델에 접근할 수 있는 회사가 아닙니다. 모델 주변에 올바른 레이어를 구축한 회사가 승리할 것입니다. 기업들이 모델을 벤치마크하고, 여러 설정에서 성능을 검증하며, 장기적인 성능 보장을 도와줄 수 있는 회사와 파트너십을 맺는다면, 모델에 대한 접근이 보장되지 않는 세계에서 성공할 수 있을 것입니다.