์ฌ์ ๋ฆฌ๋
๊ฐ์ฅ ํฐ ๊ธฐ์ AI ํจ๊ณผ๋ฅผ MLOps๋ก ๋ฌ์ฑํ๊ธฐ – ์ฌ์ ์ฃผ๋์๋ค
Victor Thu, Datatron의 고객 성공 및 운영 부사장입니다.
2020년 말에 Gartner의 조사에 따르면, 응답자의 75%가 향후 1년 동안 새로운 AI 이니셔티브를 시작하거나 계속 진행할 계획이라고 밝혔습니다.同時에, Gartner 분석가들은 또한 AI 이니셔티브를 프로덕션으로 이동시키는 가장 큰 어려움 중 하나는 이러한 투자가 비즈니스 가치와 연결되지 않는다는 것을 발견했습니다.
さらに, 대부분의 AI/ML 프로젝트가 실패할 것이라는 추정이広く行われています. 이러한 사실은 이러한 투자에 대한 상위 승인을 얻는 것을 더 어렵게 만들 수 있습니다. 이것이 MLOps – Machine Learning Operations –가 중요한 역할을 할 수 있는 곳입니다.
현재 ML 랜드스케이프
기계 학습은 조직에 대한 심오한 가능성을 제공하지만, 이러한 가능성에 도달하는 것이 비용이 많이 들고 시간이 걸릴 수 있습니다. 따라서, ML을 구현하는 관심은 높지만, 실제 프로덕션 구현은 낮습니다. 솔루션을 프로덕션으로 가져오는 주요 장애물은 모델의 품질이 아니라, 이러한 모델을 프로덕션으로 가져올 수 있는 인프라가 없는 것입니다.
기계 학습의 개발 라이프사이클은 전통적인 소프트웨어 개발 라이프사이클과 근본적으로 다릅니다. 지난 20년 동안, 대부분의 사람들은 전통적인 소프트웨어가 개발에서 프로덕션으로 가는 데 필요한 것을 대부분 파악했습니다. 그들은 애플리케이션이 잘 실행되도록 필요한 컴퓨팅, 미들웨어, 네트워킹, 스토리지 및 기타 요소를 이해합니다.
불행히도, 대부분의 사람들은 기계 학습 개발 라이프사이클(MLLC)에 대한 전통적인 소프트웨어 개발 라이프사이클(SDLC)을 사용하려고 합니다. 그러나 ML은 상당한 패러다임 전환입니다. 인프라 할당은 고유합니다. 언어와 프레임워크는 다릅니다.
기계 학습 모델은 몇 주 만에 비교적 빠르게 생성할 수 있지만, 이러한 모델을 프로덕션으로 가져오는 과정은 6~9개월이 걸릴 수 있습니다. 이는 프로세스가 분리되어 있고, 팀 사이에 연결이 끊어져 있으며, ML 모델을 기존 애플리케이션으로 수동으로 번역하고 스크립팅하기 때문입니다.
프로덕션에서 기계 학습 모델을 모니터링하고 관리하는 것도 어렵습니다. 실험실에서 생성된 ML 모델이 프로덕션에서 의도한대로 실행될 것이라는 보장이 없습니다. 또한 그背後에 여러 가지 요인이 있을 수 있습니다.
MLOps의 이점
기계 학습 모델을 프로덕션에 배포할 때, 많은 것이 잘못될 수 있습니다. IT/DevOps 팀이 기계 학습 모델을 운영화하려고 할 때, 이러한 팀은 다양한 프로세스를 수동으로 스크립팅하고 자동화해야 합니다. 이러한 모델은 자주 업데이트되며, 모델이 업데이트될 때마다 전체 프로세스가 반복됩니다.
조직에 모델과 모델의 다양한 버전이 많을수록, 이를 추적하는 것이巨大한 문제가 됩니다. 큰 문제 중 하나는 종종 사용하는 도구가 서로 다른 코드베이스와 프레임워크가 분리되어 있다는 문제를 해결하지 못한다는 것입니다. 이는 시간과 자원을浪費하는 것을 포함한 문제를 일으킬 수 있습니다. 대부분의 팀은 또한 모델을 업데이트할 때 추적 및 버전 관리에 어려움을 겪습니다.
MLOps는 데이터 과학과 운영 사이의 간격을 연결하여 프로덕션 ML 라이프사이클을 관리하는 데 도움이 됩니다. 이는 본질적으로 ML 배달에 DevOps 원칙을 적용하는 것입니다. 이는 ML 기반 솔루션에 대한 더 빠른 시장 출시, 더 빠른 실험 속도, 품질 및 신뢰성의 보증을 가능하게 합니다.
전통적인 SDLC 모델을 사용하면, 1~2개의 ML 모델을 1년에 걸쳐서 매우 힘들게 만들 수 있습니다. 그러나 MLOps를 사용하면 확장할 수 있으므로 여러 가지 문제를 해결할 수 있습니다. 이러한 모델을 사용하여 잠재 고객을 더 잘 타겟팅하거나, 더 관련된 고객을 찾거나, 비효율성을 찾고 개선할 수 있습니다. 개선 사항을 더 빠르게 론아웃할 수 있으므로, 궁극적으로 생산성과 이익을 향상시킬 수 있습니다.
MLOps 성공의 요소
MLOps는 은탄환은 아닙니다. 제대로 작동하기 위해서는 적절한 기초와 최선의 방법을 알아야 합니다. MLOps에서 성공하려면 두 가지 주요 업무에 집중해야 합니다. 첫 번째는 다양한 역할을 이해하는 것입니다. 데이터 과학자와 기계 학습 엔지니어가 동일한 것으로 간주하지 말고, 적절한 다양한 기술과 직원을 보유하고 있는지 확인해야 합니다. 둘 다 필요하지만, 혼합이 필요합니다.
두 번째는 모든 것을 DIY하려고 하지 말라는 것입니다. MLOps는 또한 노동 집약적이며, 많은 ML 엔지니어 팀이 필요합니다. 필요한 것을 생각하고, 접근 방식을 단순화하고, 필요한専用 인원을 최소화하는 데 도움이 되는 도구를 살펴보는 것이 중요합니다.
자신감을 가지고 앞으로 나아가기
산업 분석가들은 거의 반수의 기업 AI 프로젝트가 실패할 것이라고 추정합니다. 이러한 실패의 이유는 여러 가지 있지만, 주요 이유 중 하나는 프로젝트를 지원하는 적절한 기술이 부족하다는 것입니다. MLOps는 조직이 AI/ML 프로젝트에서 성공을 달성하는 데 도움이 되는 매우 유용한 도구입니다. 이는 경쟁적인 비즈니스 이점을 제공합니다.
