Chi phí đào tạo AI tiếp tục giảm mạnh

Chi phí đào tạo AI cao đã trở thành một rào cản đáng kể đối với việc áp dụng AI, ngăn cản nhiều công ty triển khai công nghệ AI. Theo một báo cáo của Forrester Consulting năm 2017, 48% các công ty đã nhấn mạnh chi phí công nghệ cao là một trong những lý do chính cho việc không triển khai các giải pháp dựa trên AI.

Tuy nhiên, các phát triển gần đây đã cho thấy rằng chi phí đào tạo AI đang giảm nhanh chóng, và xu hướng này dự kiến sẽ tiếp tục trong tương lai. Theo báo cáo ARK Invest Big Ideas 2023, chi phí đào tạo một mô hình ngôn ngữ lớn tương tự như hiệu suất GPT-3 đã giảm từ 4,6 triệu đô la vào năm 2020 xuống còn 450.000 đô la vào năm 2022, giảm 70% mỗi năm.

Hãy cùng khám phá xu hướng giảm chi phí đào tạo AI này và thảo luận về các yếu tố đóng góp vào sự giảm này.

Chi phí đào tạo AI đã thay đổi như thế nào theo thời gian?

Theo nghiên cứu của ARK Invest năm 2020, chi phí đào tạo các mô hình học sâu đang được cải thiện 50 lần nhanh hơn so với luật Moore. Trên thực tế, chi phí liên quan đến việc chạy một hệ thống suy luận AI đã giảm đáng kể xuống mức gần như không đáng kể đối với nhiều trường hợp sử dụng.

Hơn nữa, chi phí đào tạo đã giảm 10 lần mỗi năm trong vài năm qua. Ví dụ, vào năm 2017, đào tạo một phân loại hình ảnh như ResNet-50 trên đám mây công cộng có chi phí khoảng 1.000 đô la, nhưng đến năm 2019, chi phí đã giảm đáng kể xuống khoảng 10 đô la.

Các phát hiện này phù hợp với báo cáo của OpenAI năm 2020, cho thấy số lượng điện toán cần thiết để đào tạo một mô hình AI thực hiện cùng một nhiệm vụ đã giảm bằng một yếu tố hai mỗi 16 tháng kể từ năm 2012.

Hơn nữa, báo cáo của ARK cũng nhấn mạnh việc giảm chi phí đào tạo AI. Báo cáo dự báo rằng vào năm 2030, chi phí đào tạo một mô hình ở mức GPT-3 sẽ giảm xuống còn 30 đô la, so với 450.000 đô la vào năm 2022.

Chi phí đào tạo GPT-3 – ARK Invest Big Ideas 2023

Các yếu tố đóng góp vào việc giảm chi phí đào tạo AI

Đào tạo mô hình AI trở nên rẻ hơn và dễ dàng hơn khi công nghệ AI tiếp tục cải tiến, làm cho chúng trở nên dễ tiếp cận hơn với nhiều doanh nghiệp. Một số yếu tố, bao gồm chi phí phần cứng và phần mềm, cũng như AI dựa trên đám mây, đã đóng góp vào việc giảm chi phí đào tạo AI.

Hãy cùng khám phá các yếu tố này dưới đây.

1. Phần cứng

AI yêu cầu phần cứng chuyên dụng cao cấp tốn kém để xử lý khối lượng lớn dữ liệu và tính toán. Các tổ chức như NVIDIA, IBM và Google cung cấp GPU và TPU để thực hiện các công việc tính toán hiệu suất cao (HPC). Chi phí phần cứng cao khiến việc phổ biến AI trên quy mô lớn trở nên khó khăn.

Tuy nhiên, khi công nghệ tiến bộ, chi phí phần cứng đang giảm. Theo báo cáo của ARK Invest năm 2023, luật Wright dự đoán rằng chi phí sản xuất đơn vị tính toán AI (RCU), tức là chi phí phần cứng đào tạo AI, nên giảm 57% mỗi năm, dẫn đến giảm 70% chi phí đào tạo AI vào năm 2030, như được hiển thị trong biểu đồ dưới đây.

Chi phí phần cứng đào tạo AI – ARK Invest Big Ideas 2023

2. Phần mềm

Chi phí đào tạo phần mềm AI có thể được giảm bằng cách 47% mỗi năm thông qua tăng hiệu quả và khả năng mở rộng. Các khung phần mềm như TensorFlow và PyTorch cho phép các nhà phát triển đào tạo các mô hình học sâu phức tạp trên các hệ thống phân tán với hiệu suất cao, tiết kiệm thời gian và tài nguyên.

Hơn nữa, các mô hình được đào tạo trước lớn như Inceptionv3 hoặc ResNet và các kỹ thuật học chuyển cũng giúp giảm chi phí bằng cách cho phép các nhà phát triển tinh chỉnh các mô hình hiện có thay vì đào tạo chúng từ đầu.

Chi phí đào tạo phần mềm AI – ARK Invest Big Ideas 2023

3. AI dựa trên đám mây

Đào tạo AI dựa trên đám mây giảm chi phí bằng cách cung cấp các tài nguyên tính toán có thể mở rộng theo nhu cầu. Với mô hình trả tiền khi sử dụng, các doanh nghiệp chỉ phải trả tiền cho các tài nguyên tính toán mà họ sử dụng. Ngoài ra, các nhà cung cấp đám mây cũng cung cấp các dịch vụ AI đã được xây dựng sẵn giúp đẩy nhanh quá trình đào tạo AI.

Ví dụ, Azure Machine Learning là một dịch vụ dựa trên đám mây cho phân tích dự đoán cho phép phát triển và triển khai mô hình nhanh chóng. Nó cung cấp các tài nguyên tính toán linh hoạt và bộ nhớ. Người dùng có thể mở rộng lên hàng nghìn GPU nhanh chóng để tăng hiệu suất tính toán. Nó cho phép người dùng làm việc thông qua trình duyệt web trên các môi trường AI đã được cấu hình sẵn, loại bỏ quá trình thiết lập và cài đặt.

Tác động của việc giảm chi phí đào tạo AI

Việc giảm chi phí đào tạo AI có ý nghĩa quan trọng đối với nhiều ngành và lĩnh vực, dẫn đến sự cải tiến và cạnh tranh.

Hãy cùng thảo luận về một số trong số chúng dưới đây.

1. Sự áp dụng rộng rãi của các rô-bốt trò chuyện AI tinh vi

Các rô-bốt trò chuyện AI đang trên đà phát triển do chi phí đào tạo AI giảm. Đặc biệt là sau khi phát triển ChatGPT và GPT-4 (Generative Pre-trained Transformer) của OpenAI, đã có một sự gia tăng đáng kể trong số lượng công ty muốn phát triển các rô-bốt trò chuyện AI với khả năng tương tự hoặc tốt hơn.

Ví dụ, chỉ sau 5 ngày kể từ khi phát hành vào tháng 11 năm 2022, ChatGPT đã thu hút 1 triệu người dùng. Mặc dù hiện tại, chi phí chạy mô hình này trên quy mô lớn là khoảng 0,01 đô la mỗi truy vấn, nhưng luật Wright dự đoán rằng vào năm 2030, các ứng dụng rô-bốt trò chuyện tương tự như ChatGPT sẽ có thể được triển khai trên quy mô lớn với chi phí thấp hơn nhiều (ước tính 650 đô la để chạy 1 tỷ truy vấn), với khả năng xử lý 8,5 tỷ tìm kiếm mỗi ngày, tương đương với Google Search.

Chi phí thực hiện suy luận AI mỗi tỷ truy vấn – ARK Invest Big Ideas 2023

2. Sử dụng tăng của AI tạo sinh

Việc giảm chi phí đào tạo AI đã dẫn đến sự gia tăng trong việc phát triển và triển khai các công nghệ AI tạo sinh. Vào năm 2022, đã có một sự gia tăng đáng kể trong việc sử dụng AI tạo sinh, được thúc đẩy bởi việc giới thiệu các công cụ AI tạo sinh sáng tạo như DALL-E 2, Meta Make-A-Video và Stable Diffusion. Vào năm 2023, chúng ta đã chứng kiến một mô hình đột phá dưới dạng GPT-4.

Bên cạnh việc tạo ra hình ảnh và văn bản, AI tạo sinh cũng giúp các nhà phát triển viết mã. Các chương trình như GitHub Copilot có thể giúp hoàn thành một nhiệm vụ mã hóa trong nửa thời gian.

Thời gian để hoàn thành nhiệm vụ mã hóa – ARK Invest Big Ideas 2023

3. Sử dụng tốt hơn dữ liệu đào tạo

Chi phí đào tạo AI giảm dự kiến sẽ cho phép sử dụng tốt hơn dữ liệu đào tạo máy học. Ví dụ, báo cáo của ARK Invest năm 2023 cho thấy rằng vào năm 2030, chi phí đào tạo một mô hình với 57 lần số tham số và 720 lần số token hơn GPT-3 (175B tham số) dự kiến sẽ giảm từ 17 tỷ đô la xuống còn 600.000 đô la.

Dữ liệu sẵn có và chất lượng sẽ là yếu tố hạn chế chính cho việc phát triển các mô hình máy học tiên tiến trong thế giới tính toán chi phí thấp này. Tuy nhiên, đào tạo mô hình sẽ phát triển khả năng xử lý khoảng 162 nghìn tỷ từ hoặc 216 nghìn tỷ token.

Tương lai của AI trông rất hứa hẹn. Để tìm hiểu thêm về các xu hướng và nghiên cứu mới nhất trong lĩnh vực trí tuệ nhân tạo, hãy truy cập Unite.ai.