Nhận được lợi ích lớn nhất từ AI doanh nghiệp với MLOps – Lãnh đạo tư duy

Được viết bởi Victor Thu, Phó Chủ tịch phụ trách thành công và vận hành của Datatron.

Một cuộc khảo sát của Gartner vào cuối năm 2020 cho thấy 75% người được hỏi dự định sẽ tiếp tục hoặc bắt đầu các sáng kiến AI mới trong năm tới. Đồng thời, các nhà phân tích của Gartner cũng phát hiện ra rằng một trong những khó khăn lớn nhất khi đưa các sáng kiến AI vào sản xuất là sự không thể kết nối các khoản đầu tư này với giá trị kinh doanh.

Điều gì quan trọng hơn, người ta ước tính rằng đa số các dự án AI/ML sẽ thất bại. Và thực tế này có thể khiến việc nhận được sự đồng ý từ cấp trên về các khoản đầu tư này trở nên khó khăn hơn. Đây là nơi MLOps – Hoạt động Học máy – có thể đóng vai trò quan trọng.

Phong cảnh ML hiện tại

Học máy mang lại những khả năng sâu sắc cho các tổ chức, nhưng thực tế là để đạt được những khả năng này có thể tốn kém và mất thời gian. Vì vậy, trong khi sự quan tâm đến việc triển khai ML là cao, việc triển khai sản xuất thực tế vẫn còn thấp. Rào cản chính khi đưa các giải pháp vào sản xuất không phải là chất lượng của các mô hình, mà là sự thiếu cơ sở hạ tầng để cho phép các công ty làm như vậy.

Chu kỳ phát triển của học máy cơ bản khác với chu kỳ phát triển của phần mềm truyền thống. Trong 20 năm qua, người ta đã hiểu rõ những gì cần thiết để phần mềm truyền thống đi từ phát triển đến sản xuất. Họ hiểu về tính toán, phần mềm trung gian, mạng, lưu trữ và các yếu tố khác cần thiết để đảm bảo ứng dụng chạy tốt.

Thật không may, hầu hết mọi người đang cố gắng sử dụng chu kỳ phát triển phần mềm truyền thống (SDLC) cho chu kỳ phát triển học máy (MLLC). Tuy nhiên, ML là một sự thay đổi lớn. Phân bổ cơ sở hạ tầng là duy nhất. Các ngôn ngữ và khuôn khổ khác nhau.

Các mô hình học máy có thể được tạo ra tương đối nhanh trong vài tuần, nhưng quá trình đưa các mô hình này vào sản xuất có thể mất từ 6 đến 9 tháng do các quy trình bị cô lập, ngắt kết nối giữa các đội và dịch mã và kịch bản ML thủ công vào ứng dụng hiện có.

Điều này cũng khó theo dõi và quản lý các mô hình học máy một khi chúng đã được đưa vào sản xuất. Không có gì đảm bảo rằng các mô hình ML được tạo ra trong phòng thí nghiệm sẽ chạy theo cách dự định trong sản xuất. Và có nhiều yếu tố khác nhau có thể gây ra điều này.

Lợi ích của MLOps

Khi nói đến việc triển khai các mô hình học máy trong sản xuất, như đã đề cập, có rất nhiều điều có thể đi sai. Khi IT/DevOps cố gắng triển khai các mô hình học máy, các đội này cần phải tự viết kịch bản và tự động hóa các quy trình khác nhau. Các mô hình này thường được cập nhật, và mỗi khi các mô hình được cập nhật, toàn bộ quá trình được lặp lại.

Khi một tổ chức có nhiều mô hình và các phiên bản khác nhau của các mô hình này, việc theo dõi chúng trở thành một vấn đề lớn. Một trong những vấn đề lớn là thường các công cụ họ sử dụng không giải quyết được vấn đề về các mã nguồn và khuôn khổ khác nhau bị ngắt kết nối với nhau. Điều này có thể dẫn đến các vấn đề, gây lãng phí thời gian và tài nguyên, cùng với các vấn đề khác. Hầu hết các đội ngày nay cũng gặp khó khăn khi theo dõi và phiên bản khi cập nhật mô hình của họ.

MLOps giúp bắc cầu giữa khoa học dữ liệu và vận hành để quản lý chu kỳ sản xuất ML – cơ bản là áp dụng các nguyên tắc DevOps cho việc phân phối ML. Điều này cho phép thời gian đưa sản phẩm ra thị trường nhanh hơn cho các giải pháp dựa trên ML, tốc độ thử nghiệm nhanh hơn và đảm bảo chất lượng và độ tin cậy.

Sử dụng các mô hình SDLC truyền thống, bạn có thể chỉ có thể thực hiện một hoặc hai mô hình ML mỗi năm, với rất nhiều khó khăn và không hiệu quả. Nhưng với MLOps, bạn có thể mở rộng quy mô, vì vậy bạn có thể giải quyết nhiều vấn đề. Bạn có thể sử dụng các mô hình này để giúp nhắm mục tiêu khách hàng tiềm năng tốt hơn, tìm kiếm khách hàng liên quan hơn hoặc tìm và cải thiện hiệu quả. Bạn có thể triển khai các cải tiến nhanh hơn, cuối cùng cải thiện năng suất và lợi nhuận.

Các yếu tố của thành công MLOps

MLOps không phải là một viên đạn bạc. Bạn vẫn cần phải có nền tảng phù hợp và biết các phương pháp hay nhất để nó hoạt động. Để thành công với MLOps, bạn cần tập trung vào hai nhiệm vụ chính. Thứ nhất là hiểu các vai trò khác nhau. Bạn cần đảm bảo rằng bạn có đúng bộ kỹ năng và nhân viên đa dạng; không coi các nhà khoa học dữ liệu và kỹ sư học máy là một và giống nhau. Cả hai đều cần thiết, nhưng bạn cần một sự kết hợp.

Điều thứ hai cần lưu ý là đừng cố gắng tự làm mọi thứ. MLOps cũng đòi hỏi lao động cường độ cao, đòi hỏi các đội lớn các kỹ sư ML. Điều quan trọng là phải suy nghĩ về những gì bạn cần và xem xét các công cụ có sẵn để giúp bạn đơn giản hóa cách tiếp cận và tối ưu hóa số lượng người chuyên dụng cần thiết.

Tiến về phía trước với sự tự tin

Các nhà phân tích ngành ước tính rằng gần một nửa số dự án AI doanh nghiệp sẽ thất bại. Có một số lý do cho sự thất bại này, bao gồm cả văn hóa của tổ chức. Nhưng một lý do chính là thiếu công nghệ phù hợp để hỗ trợ dự án. MLOps là một công cụ hữu ích để giúp các tổ chức đạt được thành công trong các dự án AI/ML, dẫn đến lợi thế kinh doanh cạnh tranh.