사상 리더

모든 기업에 AI 구성요소 목록이 필요한 이유

Jinsook Han Rajesh Padmakumaran
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트에이전트형 AI 시스템이 임무에 필수적인 요소가 됨에 따라, AI 부품 명세서는 복잡한 위험을 관리하는 데 필수적입니다.
더 보기
  • 에이전트형 AI 시스템이 임무에 필수적인 요소가 됨에 따라, AI 부품 명세서는 복잡한 위험을 관리하는 데 필수적입니다.
  • 포괄적인 AI 부품 명세서는 모델, 데이터셋, API, 거버넌스 계층을 포함한 전체 생태계를 문서화해야 합니다.
  • AI 부품 명세서 없이는 기업이 규제 리스크에 노출되며, 대규모 AI 실패를 추적하거나 수정할 수 없습니다.

AI 시스템의 보안은 현재 기업 기술에서 가장 어려운 도전 중 하나입니다. 그리고 그 위험은 점점 더 높아지고 있습니다. Gartner는 2026년에 40%의 기업 소프트웨어 애플리케이션에 에이전트 기반 AI가 포함될 것으로 예측하고 있으며, 이는 현재 5% 미만인 비율에서 증가한 것입니다. 마찬가지로, IDC는 2028년까지 45%의 IT 제품 및 서비스 상호작용이 에이전트를 기본 인터페이스로 사용할 것으로 예측하고 있습니다. AI 배포 경쟁은 이러한 시스템이 실제로 어떻게 작동하는지에 대한 대부분 조직의 이해 속도를 앞지르고 있으며, 이러한 경쟁은 모델 포이즈닝, 데이터 누출, 편향, 환각과 같은 위험에 대한 노출이 증가하는 것을 의미합니다. 이러한 격차를 메우기 위해 기업은 새로운 투명성 계층이 필요합니다. 즉, AI 구성요소 목록(AI Bill of Materials, AI BOM)입니다.

소프트웨어 구성요소 목록와 유사하게, AI 구성요소 목록은 조직의 기술 스택 내에서 각 AI 모델 또는 솔루션에 포함된 모든 구성 요소의 포괄적인 목록입니다. 이러한 목록은 기업 전체에 걸쳐 투명성을 제공하고 비즈니스 조건이 변경됨에 따라 감사 및 적응을 더 쉽게 합니다. 조직이 AI를 더 많이 사용하여 워크플로 자동화와 의사결정을 위해 의존할수록, AI 구성요소 목록은 책임 있는, 보안이 강화된, 감사가 가능한 AI 운영을 위한 필수적인 기반을 제공합니다.

AI 구성요소 목록: 기업의 전략적 필수 요건

AI는 실험적 파일럿에서 임무에 중요한 기업 플랫폼으로 빠르게 진화함에 따라 이러한 시스템의 복잡성과 위험 프로파일이 크게 증가합니다. 전통적인 더 구조화된 자동화는 논리적, 규칙 기반, 체계적이지만, 에이전트 자동화에는 인지가 포함됩니다. AI 에이전트가 창의성, 의사결정, 경험에서 학습을 요구하는 작업을 점점 더 많이 수행함에 따라 자동화의 잠재적 범위가 크게 확장됩니다. 동시에, 전통적인 소프트웨어와 달리, AI 시스템은 UI, API, 게이트웨이, 모델, 데이터셋, 프롬프트, 기능, 벡터 데이터베이스, 라이브러리, 하드웨어 가속기와 같은 여러 상호 의존적인 구성 요소로 구성됩니다. AI 이니셔티브를 책임감 있게 확대하기 위해 조직은 AI 시스템에 포함된 내용과 각 고유한 구성 요소가 시간의 경과에 따라 어떻게 변경될 것인지에 대한 정확한 이해가 필요합니다.

AI 구성요소 목록은 정확히 이러한 수준의 가시성을 제공합니다. 이는 AI 라이프사이클 전체에 걸쳐 모든 구성 요소, 의존성, 상호 작용을 캡처하는 구조화된 인벤토리입니다. 모델과 데이터셋을 넘어서, 효과적인 AI 구성요소 목록에는 AI 애플리케이션을 구동하는 전체 생태계에 대한 세부 정보가 포함됩니다.

  • 사용자 인터페이스(UI)에는 사람이 AI와 상호작용하는 채팅 화면, 포털, 대시보드, 제어 패널 등이 포함됩니다.
  • API 및 통합에는 AI가 기업 애플리케이션과 상호작용할 수 있도록 하는 REST, GraphQL, 웹훅, 시스템 커넥터 등이 포함됩니다.
  • 런타임 및 호스팅 환경은 AI가 배포되는 곳(Docker, Kubernetes, AWS Bedrock, Azure OpenAI, 온프레미스)과 사용되는 컴퓨팅 리소스(CPU, GPU, 메모리)입니다.
  • 실행 프레임워크 및 오케스트레이션은 LangChain, Semantic Kernel, Autogen, NVIDIA NeMo, CrewAI와 같은 도구를 포함하며, 프롬프트, 흐름, 도구 호출, 에이전트 동작을 관리합니다.
  • 보안 및 거버넌스 계층은 IAM 역할, 토큰 제어, 암호화, 로깅, 감사, 사용 정책과 같은 것을 포함합니다.
  • 관찰 가능성 및 모니터링에는 비용, 지연, 드리프트, 성능, 사용, 위험 추적과 같은 항목이 포함됩니다.

이러한 요소는 AI 시스템에 무엇이 포함되어 있는지뿐 아니라 어디에서 비롯되었는지, 어떻게 작동하는지, 누가 사용하는지, 어디에서 실행되는지, 어떻게 관리되는지를 보여주는 완전하고 동적인 지도를 이룹니다. 즉, AI 구성요소 목록은 기술 문서로 시작하여 비즈니스 보증 및 규제 목적의 문서로 발전하는 단일한 사실 정보의 원천입니다.

자동화된 AI 구성요소 목록은 더 이상 엔지니어링 자산만이 아닌 규제 요구 사항이자 보안 프레임워크이며 기업 신뢰를 구축하는 수단이 됩니다. 모든 모델, 데이터셋, 도구, 의존성을 투명하게 제공하고, 정확한 구성 및 환경 스냅샷을 통해 재현성을 가능하게 하며, 모델 기원, 버전, 의사결정 경로를 추적하여 거버넌스와 책임성을 확립합니다. 또한 입력, 의존성, 모델 아티팩트 전체에 걸쳐 취약성을 식별함으로써 보안을 강화하고, 문서화된 설명 가능성, 공정성, 위험 제어를 통해 글로벌 규제 준수 프레임워크를 지원합니다. 또한, 시스템 변경, 성능드리프트, 모델 동작에 대한 불변의 종단 간 기록을 유지함으로써 감사를 강화합니다.

AI 구성요소 목록 라이프사이클에 대한 기업 접근 방식: 정적 인벤토리에서 라이브 거버넌스 시스템까지

대부분의 AI 구성요소 목록 프레임워크는 모델과 데이터셋을 문서화하는 것에만 집중합니다. 그러나 에이전트 AI 시대에 있는 고급 기업은 AI 구성요소 목록이 정적 준수 문서가 아닌 라이브, 운영, 지속적으로 거버넌스되는 디지털 자산이어야 합니다. 또한, 가장 효과적인 조직은 AI 생태계와 함께 AI 구성요소 목록이 발전하도록 합니다. 전략, 엔지니어링, 거버넌스, 위험 관리를 아우르는 접근 방식은 기술적으로 완전하고 조직적으로 작동할 수 있습니다.

완성된 기업급 AI 구성요소 목록 라이프사이클에는 5가지 핵심 단계가 포함되어야 합니다.

  1. 발견 및 정의: 모델, 데이터셋, 도구, 프롬프트, API, 인프라 자산, 실행 환경을 포함하여 모든 AI 구성 요소를 식별 및 분류합니다. 가시성, 범위, 소유권 경계를 설정합니다.
  2. 거버넌스 및 표준화: 메타데이터 형식, 버전 구조, 문서 표준, 소유자 역할을 정의합니다. 거버넌스, 규제, 보안 요구 사항과 일치하는 중앙 집중식 AI 구성요소 목록 저장소를 설정합니다.
  3. 초기 BOM 작성: 기존 AI 시스템을 역공학으로 문서화하고, 의존성, 데이터 계보, 모델 기원, 런타임 환경, 사용 패턴을 캡처합니다. AI 자산에 대한 초기 “진실의 원천”을 설정합니다.
  4. 자동화 및 통합: BOM 생성 및 업데이트를 CI/CD, DevOps, MLOps 워크플로에 통합합니다. 모델 변경, 데이터셋 업데이트를 포함하여 라이프사이클 전체에서 의존성 및 위험 지표를 자동으로 추적할 수 있도록 합니다.
  5. 모니터링 및 개선: AI 시스템을드리프트, 성능 저하, 편향, 비용, 사용, 보안 취약성, 규제 성숙도와 같은 항목에 대해 지속적으로 모니터링합니다. 경고, 거버넌스 보고서, 지속적인 개선 루프를 활성화합니다. 

AI 구성요소 목록을 구현하지 않는 비용

AI 구성요소 목록의 필요성을 무시하는 것은 거버넌스의 공백일 뿐만 아니라 비즈니스 위험이기도 합니다. AI 시스템이 구축된 내용, 모델 및 데이터가 어디에서 왔는지, 시간의 경과에 따라 어떻게 작동하는지 모르는 경우, 조직은 규제 노출 및 확장할 수 없는 AI에 대한 위험에 노출됩니다. 규제 환경이 성숙함에 따라(예: EU AI 법, ISO 42001, NIST 프레임워크가 시행됨), 기업은 AI 계보, 설명 가능성, 제어에 대한 증거를 제공해야 합니다. AI 구성요소 목록이 없는 경우, 규제 준수를 입증하기가 극도로 어려워지며, 종종 불가능해집니다.

규제 문제를 넘어서, 보안 및 평판 위험이 있습니다. 숨겨진 구성 요소, 검증되지 않은 모델 또는 제어되지 않은 프롬프트는 데이터 누출, 편향, 환각 또는 심지어 손상된 AI 동작으로 이어질 수 있습니다. 그리고 문제가 발생했을 때, AI 구성요소 목록이 없는 경우에는 추적하거나 수정할 수 없습니다. AI 속도의 거버넌스는 전통적인 IT 거버넌스와 근본적으로 다릅니다. 이는 보안, 설명 가능성, 규제 준수를 포함하여 실시간으로 발전하는 기능에 대한 지속적인 모니터링을 필요로 합니다.

간단히 말해서, 기업이 AI 투자에서 ROI를 보려는 것이 점점 더 중요해짐에 따라, AI 구성요소 목록이 없는 경우, 조직은 AI 솔루션을 문제 해결, 재검증, 재학습 또는 재구축하는 데 더 많은 시간을 보냅니다. 왜냐하면 단일 진실의 원천이 없기 때문입니다. 이러한 경우, 비즈니스 단위, 산업 또는 시장 전체에 걸쳐 AI를 확신할 수 있게 배포하는 것이 불가능합니다. 배포하는 자산, 그들이 어떻게 진화하는지, 어떻게 거버넌스되는지 모르는 경우입니다.

이제 질문은 “우리에게 AI가 있는가?”가 아니라 “우리 AI가 무엇을 기반으로 만들어졌는지 알고 있으며, 대규모로 활용할 때도 이를 신뢰할 수 있는가?”입니다. AI 구성요소 목록은 기업이 지속적인 가치를 창출하기 위해 필요한 명확성을 제공합니다.

한진숙은 Genpact의 전략, 기업 개발 및 에이전틱 AI 담당 최고책임자로서 회사의 에이전틱 AI 비전을 정의하고 추진하며 실행하는 데 기여합니다. Genpact에 합류하기 전에는 McKinsey, AIG, Accenture에서 임원직을 역임했습니다.

라제시 파드마쿠마란은 제넥트(Genpact)의 자산 및 혁신 팀을 이끌고 있으며, 글로벌 기업을 위한 AI 기반의 SDLC 가속기와 현대화 플랫폼을 구축하고 있습니다. 그는 20년 이상의 경험을 가진 현대화 아키텍트이자 도커 캡틴으로, 기업 규모의 AI 플랫폼, 애플리케이션 및 클라우드 네이티브 변환 솔루션을 설계했습니다.