AIトレーニングコストは低下し続ける

高額なAIトレーニングコストは、多くの企業がAI技術を導入することを妨げる大きな障壁となってきました。2017年のForrester Consulting Reportによると、48%の企業が、AIドリブンのソリューションを導入しない理由として、高額な技術コストを挙げています。

しかし、最近の開発により、AIトレーニングコストは急速に低下しており、この傾向は将来的にも続くことが予想されています。ARK Invest Big Ideas 2023 reportによると、GPT-3レベルのパフォーマンスを持つ大規模言語モデルのトレーニングコストは、2020年の460万ドルから2022年の45万ドルまで、1年あたり70%の低下率で低下しました。

このAIトレーニングコストの低下傾向をさらに詳しく見てみましょう。

AIトレーニングコストはどのように変化してきたのか

最近のARK Invest 2020 researchによると、ディープラーニングモデルのトレーニングコストは、ムーアの法則よりも50倍も速く改善されています。実際、AI推論システムを実行するための費用は、多くのユースケースでほぼゼロに近いレベルまで低下しています。

さらに、トレーニングコストは過去数年間で年間10倍低下しています。例えば、2017年には、ResNet-50のような画像分類器をパブリッククラウドでトレーニングするコストは約1,000ドルでしたが、2019年までに約10ドルまで低下しました。

これらの調査結果は、2020年のOpenAIのレポートと一致しています。レポートによると、AIモデルを同じタスクでトレーニングするために必要なコンピューティングパワーは、2012年以降、16ヶ月ごとに2倍低下しています。

さらに、ARKレポートは、AIトレーニングコストの低下を強調しています。レポートによると、2030年までに、GPT-3レベルのモデルのトレーニングコストは、2022年の45万ドルから30ドルまで低下することが予想されています。

GPT-3レベルのパフォーマンスをトレーニングするコスト – ARK Invest Big Ideas 2023

AIトレーニングコストの低下に寄与する要因

AIモデルのトレーニングは、AI技術が進化するにつれて、より安価で簡単になり、より多くの企業が利用できるようになっています。ハードウェアコスト、ソフトウェアコスト、クラウドベースのAIなど、複数の要因がAIトレーニングコストの低下に寄与しています。

これらの要因を詳しく見てみましょう。

1. ハードウェア

AIには、高容量のデータと計算を処理するための高性能なハードウェアが必要です。NVIDIA (NVDA ) 、IBM、Googleなどの企業は、GPUとTPUを提供しています。ハードウェアコストは、高額なため、AIを大規模に導入することが難しくなります。

しかし、技術の進化により、ハードウェアコストは低下しています。ARK Invest 2023 reportによると、Wright’s Lawによると、AIトレーニングハードウェアコストは、57%の年間低下率で低下することが予想されています。これにより、2030年までにAIトレーニングコストは70%低下することが予想されています。

AIトレーニングハードウェアコスト – ARK Invest Big Ideas 2023

2. ソフトウェア

AIソフトウェアトレーニングコストは、効率性とスケーラビリティの向上により、47%の年間低下率で低下することができます。TensorFlowやPyTorchなどのソフトウェアフレームワークは、開発者が分散システムで高性能なディープラーニングモデルをトレーニングできるようにします。

さらに、大規模な事前トレーニングモデルや転移学習技術もコストを低減するのに役立ちます。開発者は、モデルをスクラッチからトレーニングするのではなく、既存のモデルを微調整することができます。

AIソフトウェアトレーニングコスト – ARK Invest Big Ideas 2023

3. クラウドベースのAI

クラウドベースのAIトレーニングは、オンデマンドでスケーラブルなコンピューティングリソースを提供することでコストを低減します。Pay-as-you-goモデルにより、企業はコンピューティングリソースの使用量に応じて支払うだけです。また、クラウドプロバイダーは、AIトレーニングを加速する事前構築されたAIサービスを提供しています。

例えば、Azure Machine Learningは、予測分析のためのクラウドベースサービスです。柔軟なコンピューティングリソースとメモリを提供します。ユーザーは、コンピューティングパフォーマンスを向上させるために、数千のGPUにスケールアップできます。また、事前構築されたAI環境で作業できるため、セットアップとインストールのオーバーヘッドを排除できます。

AIトレーニングコストの低下の影響

AIトレーニングコストの低下は、さまざまな業界や分野に大きな影響を与え、イノベーションと競争力の向上につながります。

詳しく見てみましょう。

1. 高度なAIチャットボットの普及

AIチャットボットは、AIコストの低下により普及しています。特に、OpenAIのChatGPTとGPT-4の開発により、同等または優れた機能を持つAIチャットボットを開発しようとする企業の数が増えています。

例えば、ChatGPTは、2022年11月のリリースから5日間で100万ユーザーを獲得しました。現在、モデルを大規模に実行するコストは約0.01ドル/クエリですが、Wright’s Lawによると、2030年までに、ChatGPTに似たチャットボットアプリケーションは、より安価に大規模に展開できるようになることが予想されています。推定650ドルで10億クエリを実行でき、1日あたり85億検索を処理できる可能性があります。

10億クエリあたりのAI推論の実行コスト – ARK Invest Big Ideas 2023

2. 生成AIの増加

AIトレーニングコストの低下により、生成AI技術の開発と導入が増えています。2022年には、DALL-E 2、Meta Make-A-Video、Stable Diffusionなどの革新的な生成AIツールの導入により、生成AIの使用が大幅に増加しました。2023年には、GPT-4などの画期的なモデルがすでに登場しています。

画像やテキストの生成以外にも、生成AIは開発者がコードを書くことを支援しています。GitHub Copilotなどのプログラムは、コードの完了を半分の時間で行うことができます。

コードの完了時間 – ARK Invest Big Ideas 2023

3. トレーニングデータのより良い利用

AIトレーニングコストの低下により、機械学習トレーニングデータの利用がより良くなることが予想されています。例えば、ARK Invest 2023 reportによると、2030年までに、GPT-3よりも57倍多くのパラメータと720倍多くのトークンを持つモデルのトレーニングコストは、17億ドルから60万ドルまで低下することが予想されています。

データの可用性と品質が、先進的な機械学習モデルの開発の主な制限要因となるでしょう。しかし、モデルは推定162兆ワードまたは216兆トークンを処理する能力を開発することが予想されています。

AIの未来は非常に有望的です。AIの最新のトレンドや研究についてもっと知りたい場合は、Unite.aiを訪問してください。