Trí tuệ nhân tạo
Chi phí đào tạo AI tiếp tục giảm mạnh
Chi phí đào tạo AI cao là một rào cản đáng kể đối với việc áp dụng AI, ngăn cản nhiều công ty triển khai công nghệ AI. Theo một Báo cáo Tư vấn Forrester 2017, 48% công ty nhấn mạnh chi phí công nghệ cao là một trong những lý do chính khiến họ không triển khai các giải pháp dựa trên AI.
Tuy nhiên, những phát triển gần đây đã chỉ ra rằng chi phí đào tạo AI đang giảm nhanh chóng và xu hướng này dự kiến sẽ tiếp tục trong tương lai. Theo Báo cáo Ý tưởng lớn năm 2023 của ARK Invest, chi phí đào tạo của một mô hình ngôn ngữ lớn tương tự như hiệu suất cấp GPT-3 đã giảm mạnh từ 4.6 triệu đô la vào năm 2020 xuống còn 450,000 đô la vào năm 2022, mức giảm 70% mỗi năm.
Hãy cùng khám phá thêm xu hướng giảm chi phí đào tạo AI này và thảo luận về các yếu tố góp phần vào sự suy giảm này.
Chi phí đào tạo AI đã thay đổi như thế nào theo thời gian?
Theo gần đây Nghiên cứu ARK Invest 2020, chi phí đào tạo các mô hình học sâu đang được cải thiện nhanh hơn 50 lần so với Định luật Moore. Trên thực tế, chi phí liên quan đến việc chạy một hệ thống suy luận AI đã giảm đáng kể xuống mức gần như không đáng kể đối với nhiều trường hợp sử dụng.
Hơn nữa, chi phí đào tạo đã giảm 2017 lần mỗi năm trong vài năm qua. Chẳng hạn, vào năm 50, việc đào tạo một bộ phân loại hình ảnh như ResNet-1,000 trên đám mây công cộng có giá khoảng 2019 đô la, nhưng đến năm 10, chi phí đã giảm đáng kể xuống còn khoảng XNUMX đô la.
Những phát hiện này phù hợp với Báo cáo năm 2020 của OpenAI, đã phát hiện ra rằng lượng sức mạnh tính toán cần thiết để huấn luyện một mô hình AI thực hiện cùng một nhiệm vụ đã giảm đi hai lần sau mỗi 16 tháng kể từ năm 2012.
Hơn nữa, báo cáo hòm thư làm nổi bật chi phí đào tạo AI đang giảm. Báo cáo dự đoán rằng vào năm 2030, chi phí đào tạo của mô hình cấp GPT-3 sẽ giảm xuống còn 30 USD, so với 450,000 USD vào năm 2022.
Chi phí để đào tạo hiệu suất cấp GPT-3 – Ý tưởng lớn đầu tư ARK 2023
Các yếu tố góp phần làm giảm chi phí đào tạo AI
Việc đào tạo các mô hình AI trở nên rẻ hơn và dễ dàng hơn khi các công nghệ AI tiếp tục được cải thiện, giúp chúng dễ tiếp cận hơn với nhiều doanh nghiệp hơn. Một số yếu tố, bao gồm chi phí phần cứng và phần mềm cũng như AI dựa trên đám mây, đã góp phần làm giảm chi phí đào tạo AI.
Hãy cùng khám phá những yếu tố này dưới đây.
1. Phần cứng
AI yêu cầu phần cứng đắt tiền cao cấp chuyên dụng để xử lý khối lượng lớn dữ liệu và tính toán. Các tổ chức như NVIDIA, IBM và Google cung cấp GPU và TPU để thực thi khối lượng công việc điện toán hiệu năng cao (HPC). Chi phí phần cứng cao khiến việc dân chủ hóa AI trên quy mô lớn trở nên khó khăn.
Tuy nhiên, khi công nghệ tiến bộ, chi phí phần cứng đang giảm. Theo Báo cáo ARK Invest 2023, Định luật Wright dự đoán rằng chi phí sản xuất đơn vị tính toán tương đối AI (RCU), tức là chi phí phần cứng đào tạo AI, sẽ giảm 57% mỗi năm, dẫn đến giảm 70% chi phí đào tạo AI vào năm 2030, như thể hiện trong biểu đồ bên dưới.
Chi phí phần cứng đào tạo AI – Ý tưởng lớn đầu tư ARK 2023
2. Phần mềm
Chi phí đào tạo phần mềm AI có thể được hạ xuống bằng cách 47% hàng năm thông qua tăng hiệu quả và khả năng mở rộng. Các khung phần mềm như TensorFlow và Kim tự tháp cho phép các nhà phát triển đào tạo các mô hình học sâu phức tạp trên hệ thống phân tán với hiệu suất cao, tiết kiệm thời gian và tài nguyên.
Hơn nữa, các mô hình lớn được đào tạo trước như Khởi đầuv3 or ResNet và các kỹ thuật học chuyển giao cũng giúp giảm chi phí bằng cách cho phép các nhà phát triển tinh chỉnh các mô hình hiện có thay vì đào tạo chúng từ đầu.
Chi phí đào tạo phần mềm AI – Ý tưởng lớn đầu tư ARK 2023
3. Trí tuệ nhân tạo dựa trên đám mây
Đào tạo AI dựa trên đám mây giúp giảm chi phí bằng cách cung cấp tài nguyên điện toán có thể mở rộng theo yêu cầu. Với mô hình pay-as-you-go, doanh nghiệp chỉ trả tiền cho các tài nguyên máy tính của họ. Ngoài ra, các nhà cung cấp đám mây cung cấp các dịch vụ AI dựng sẵn giúp tăng tốc đào tạo AI.
Ví dụ, Học máy Azure là một dịch vụ dựa trên đám mây dành cho các phân tích dự đoán cho phép triển khai và phát triển mô hình nhanh chóng. Nó cung cấp tài nguyên máy tính và bộ nhớ linh hoạt. Người dùng có thể mở rộng quy mô lên tới hàng nghìn GPU một cách nhanh chóng để tăng hiệu suất tính toán của họ. Nó cho phép người dùng làm việc thông qua trình duyệt web của họ trên môi trường AI được định cấu hình sẵn, loại bỏ chi phí thiết lập và cài đặt.
Tác động của việc giảm chi phí đào tạo AI
Việc giảm chi phí đào tạo AI có ý nghĩa quan trọng đối với các ngành và lĩnh vực khác nhau, dẫn đến cải thiện khả năng đổi mới và khả năng cạnh tranh.
Hãy thảo luận về một vài trong số họ dưới đây.
1. Áp dụng hàng loạt Chatbot AI tinh vi
Chatbot AI đang gia tăng do chi phí AI giảm. Đặc biệt là sau sự phát triển của OpenAI's ChatGPT và GPT-4 (Generative Pre-training Transformer), đã có sự gia tăng đáng chú ý về số lượng các công ty đang tìm cách phát triển các chatbot AI có khả năng tương tự hoặc tốt hơn.
Chẳng hạn, năm ngày sau khi phát hành vào tháng 2022 năm 1, ChatGPT đã có 01 triệu người dùng. Mặc dù ngày nay, chi phí để chạy mô hình trên quy mô lớn là khoảng 2030 đô la cho mỗi truy vấn, Luật của Wright dự đoán rằng vào năm 650, các ứng dụng chatbot tương tự như ChatGPT sẽ có thể triển khai trên quy mô lớn với chi phí rẻ hơn nhiều (ước tính 8.5 đô la để chạy một tỷ truy vấn), với khả năng xử lý XNUMX tỷ lượt tìm kiếm mỗi ngày, tương đương với Google Tìm kiếm.
Chi phí để thực hiện suy luận AI trên một tỷ truy vấn – Ý tưởng lớn đầu tư ARK 2023
2. Tăng cường sử dụng AI sáng tạo
Chi phí đào tạo AI giảm đã dẫn đến sự gia tăng đột biến trong việc phát triển và triển khai các công nghệ AI tổng quát. Vào năm 2022, đã có sự gia tăng đáng kể trong việc sử dụng AI tổng quát, nhờ vào việc giới thiệu các công cụ AI tổng quát cải tiến, chẳng hạn như DALL-E 2, Meta Make-A-Video và Stable Diffusion. Vào năm 2023, chúng ta đã chứng kiến một mô hình đột phá ở dạng GPT-4.
Ngoài việc tạo hình ảnh và văn bản, AI tổng quát đang giúp các nhà phát triển viết mã. Các chương trình như GitHub Copilot có thể giúp hoàn thành tác vụ mã hóa trong một nửa thời gian.
Thời gian để hoàn thành nhiệm vụ viết mã - Ý tưởng lớn đầu tư ARK 2023
3. Sử dụng dữ liệu đào tạo tốt hơn
Dự kiến, chi phí đào tạo AI giảm sẽ cho phép sử dụng dữ liệu đào tạo máy học tốt hơn. Ví dụ, Báo cáo ARK Invest 2023 gợi ý rằng vào năm 2030, chi phí đào tạo một mô hình có nhiều thông số hơn 57 lần và nhiều mã thông báo hơn 720 lần so với GPT-3 (175 tỷ thông số) dự kiến sẽ giảm từ 17 tỷ đô la xuống còn 600,000 đô la.
Tính khả dụng và chất lượng của dữ liệu sẽ là yếu tố hạn chế chính để phát triển các mô hình máy học tiên tiến trong thế giới điện toán chi phí thấp này. Tuy nhiên, các mô hình đào tạo sẽ phát triển khả năng xử lý ước tính khoảng 162 nghìn tỷ từ hoặc 216 nghìn tỷ mã thông báo.
Tương lai của AI có vẻ rất hứa hẹn. Để tìm hiểu thêm về các xu hướng và nghiên cứu mới nhất trong lĩnh vực trí tuệ nhân tạo, hãy truy cập đoàn kết.ai.
