MLOps로 기업 AI를 최대한 활용하세요 – Thought Leaders

데이트론의 고객 성공 및 운영 부사장 Victor Thu가 작성했습니다.

2020년 말에 개러트가 실시한 조사에 따르면, 응답자의 75%가 향후 1년 동안 새로운 AI 프로젝트를 시작하거나 기존 프로젝트를 계속 진행할 계획이라고回答했습니다.同時に, 개러트 애널리스트들은 AI 프로젝트를 생산에 적용하는 가장 큰 어려움은 이러한 투자가 비즈니스 가치와 연결되지 않는다는 것을 발견했습니다.

さらに, AI/ML 프로젝트의 대부분이 실패할 것으로 추정됩니다. 이러한 사실은 최고 경영진으로부터 투자에 대한 승인을 얻는 것을 더 어렵게 만들 수 있습니다. 여기에서 MLOps – Machine Learning Operations – 가 중요한 역할을 할 수 있습니다.

현재 ML 랜드스케이프

기계 학습은 조직에 막대한 가능성을 제공하지만, 이러한 가능성을 실현하는 것이 비용이 많이 들고 시간이 많이 걸릴 수 있습니다. 따라서 ML을 구현하려는 관심은 높지만, 실제 생산 구현은 낮습니다. 생산에 솔루션을 적용하는 주요 장애물은 모델의 품질이 아니라, 이를 가능하게 하는 인프라가 부족하다는 것입니다.

기계 학습의 개발 라이프사이클은 전통적인 소프트웨어 개발 라이프사이클과 근본적으로 다릅니다. 지난 20년 동안, 사람들은 대부분 전통적인 소프트웨어가 개발에서 생산까지 가는 데 필요한 것을 이해했습니다. 컴퓨팅, 미들웨어, 네트워킹, 스토리지 및 기타 요소가 애플리케이션이 잘 작동하는지 확인하는 데 필요합니다.

불행히도, 대부분의 사람들은 기계 학습 개발 라이프사이클에 동일한 소프트웨어 개발 라이프사이클(SDLC)을 사용하려고 합니다. 그러나 ML은 상당한 패러다임 전환입니다. 인프라 할당은 고유합니다. 언어와 프레임워크도 다릅니다.

기계 학습 모델은 몇 주 만에 비교적 쉽게 생성할 수 있지만, 이러한 모델을 생산에 적용하는 과정은 6~9개월이 걸릴 수 있습니다. 이는 프로세스가 분리되어 있고, 팀 간에 연결이 끊어져 있으며, ML 모델을 기존 애플리케이션으로 수동으로 번역하고 스크립팅하기 때문입니다.

생산에 적용된 기계 학습 모델을 모니터링하고 관리하는 것도 어렵습니다. 실험실에서 생성된 ML 모델이 생산에서 의도한대로 작동할 것이라는 보장은 없습니다. 여러 가지 요인이 그背後에 있을 수 있습니다.

MLOps의 이점

기계 학습 모델을 생산에 적용할 때, 많은 것이 잘못될 수 있습니다. IT/DevOps 팀이 기계 학습 모델을 운영화하려면, 이러한 모델을 수동으로 스크립팅하고 자동화해야 합니다. 이러한 모델은不断으로 업데이트되고, 모델이 업데이트될 때마다 전체 프로세스가 반복됩니다.

조직에 모델과 모델의 다양한 버전이 많아질수록, 이를 추적하는 것이巨大한 문제가 됩니다. 큰 문제 중 하나는 사용하는 도구가 서로 다른 코드베이스와 프레임워크가 분리되어 있는 문제를 해결하지 못한다는 것입니다. 이는 시간과 자원을 낭비하는 문제를 일으킬 수 있습니다. 대부분의 팀은 현재 모델을 업데이트할 때 추적과 버전 관리에 어려움을 겪고 있습니다.

MLOps는 데이터 과학과 운영 사이의 간격을 메우고 생산 ML 라이프사이클을 관리하는 데 도움이 됩니다. 즉, ML 배달에 DevOps 원칙을 적용하는 것입니다. 이는 ML 기반 솔루션의 시장 출시 시간을 단축하고, 실험의 속도를 높이고, 품질과 신뢰성을 보장합니다.

전통적인 SDLC 모델을 사용하면, 1~2개의 ML 모델을 1년에 걸쳐서 매우 힘들게 만들 수 있습니다. 그러나 MLOps를 사용하면, 확장할 수 있습니다. 즉, 여러 문제를 해결할 수 있습니다. 이러한 모델을 사용하여 잠재 고객을 더 잘 타겟팅하거나, 더 관련 있는 고객을 찾거나, 비효율성을 발견하고 개선할 수 있습니다. 최종적으로 생산성과 이익을 향상시킬 수 있습니다.

MLOps 성공의 요소

MLOps는 은탄환은 아닙니다. 올바른 기반과 최선의 관행을 알고 있어야 합니다. MLOps에 성공하려면, 두 가지 주요 임무에 집중해야 합니다. 첫째, 다양한 역할을 이해해야 합니다. 올바른 다iverse한 기술과 직원을 보유하고 있는지 확인해야 합니다. 데이터 과학자와 기계 학습 엔지니어를 동일한 것으로 취급하지 마십시오. 둘 다 필요하지만, 혼합이 필요합니다.

둘째, 모든 것을 직접 하려고 하지 마십시오. MLOps도 노동 집약적이며, 많은 ML 엔지니어가 필요합니다. 필요한 것을 생각하고, 접근 방식을 단순화하고, 필요한 전문가의 수를 줄이는 데 도움이 되는 도구를 살펴보는 것이 중요합니다.

자신감 있게 앞으로 나아가기

산업 분석가들은 기업 AI 프로젝트의 거의 절반이 실패할 것으로 추정합니다. 이러한 실패에는 여러 가지 이유가 있지만, 주요 이유는 프로젝트를 지원하는 적절한 기술이 부족하다는 것입니다. MLOps는 조직이 AI/ML 프로젝트에서 성공을 달성하고 경쟁적인 비즈니스 이점을 얻는 데 매우 유용한 도구입니다.