Llama 3について知っておくべきすべて | 最も強力なオープンソースモデル | 概念から使用まで

Metaは最近、Llama 3をリリースしました。これは、最先端のオープンソース大規模言語モデル（LLM）の次の世代です。Llama 3は、Llama 2がChatGPTに対する重要なオープンソースの競合者としての地位を確立した基礎を築いています。これについては、Llama 2：ChatGPTに対するオープンソースの挑戦者への深い掘り下げという記事の総合的なレビューで説明しています。

この記事では、Llama 3の背後にある核心的な概念について説明し、その革新的なアーキテクチャとトレーニングプロセスを探り、責任を持ってこの画期的なモデルにアクセス、使用、デプロイするための実践的なガイダンスを提供します。研究者、開発者、またはAIの最新の進歩に興味がある方であっても、この投稿では、プロジェクトやアプリケーションでLlama 3の力を利用するために必要な知識とリソースを提供します。

Llamaの進化：Llama 2からLlama 3へ

MetaのCEO、マーク・ザッカーバーグは、Llama 3のデビューを発表しました。Llama 3は、Meta AIによって開発された最新のAIモデルであり、オープンソース化されています。この最先端のモデルは、Metaのさまざまな製品、包括してMessengerやInstagramを強化するために設定されています。ザッカーバーグは、Llama 3がMeta AIを最も先進的な無料で利用可能なAIアシスタントとして位置付けていることを強調しています。

Llama 3について話す前に、その前身であるLlama 2を簡単に振り返りましょう。Llama 2は、2022年に導入され、オープンソースLLMのランドスケープにおける重要なマイルストーンでした。消費者向けハードウェアで実行できる強力で効率的なモデルを提供しました。

しかし、Llama 2は注目すべき成果ではありましたが、限界がありました。ユーザーは、無害なプロンプトに対する誤った拒否（モデルが回答を拒否する）、限られた有用性、推論やコード生成などの分野での改善の余地について報告しました。

ここで、Llama 3が登場します。Metaは、これらの課題やコミュニティのフィードバックに応えるために、Llama 3を構築しようとしました。Llama 3では、Metaは、現在利用可能な最先端の独自モデルと同等のオープンソースモデルを構築することを目指しています。また、責任ある開発とデプロイの慣行を優先しています。

Llama 3：アーキテクチャとトレーニング

Llama 3の重要な革新の1つは、そのトークナイザーです。トークナイザーには、128,256トークン（Llama 2の32,000から増加）の大幅に拡張されたボキャブラリーが特徴です。この大きなボキャブラリーにより、テキストの効率的なエンコードが可能になり、入力と出力の両方で多言語化と全体的なパフォーマンスの向上につながる可能性があります。

Llama 3には、グループ化されたクエリの注意（GQA）も含まれています。これは、効率的な表現技術であり、拡張性と長いコンテキストをより効果的に処理する能力を高めます。Llama 3の8BバージョンではGQAが利用されており、8Bと70Bの両方のモデルで、最大8,192トークンのシーケンスを処理できます。

トレーニングデータとスケーリング

Llama 3のパフォーマンスの向上に貢献する重要な要因は、そのトレーニングデータです。Metaは、オンラインで公開されているソースから15兆トークンを超える巨大なデータセットをキュレーションしました。これは、Llama 2で使用されたデータセットの7倍以上です。このデータセットには、30以上の言語をカバーする、高品質の非英語データも含まれています。

データの品質を確保するために、Metaは、ヒューリスティックフィルタ、NSFWフィルタ、意味的な重複排除、Llama 2でトレーニングされたテキスト分類器によるデータ品質の予測などの高度なフィルタリング技術を使用しました。チームは、事前トレーニングの最適なデータソースの組み合わせを決定するために、広範な実験を実施し、Llama 3がトリビア、STEM、コーディング、歴史的知識などの幅広いユースケースで優れたパフォーマンスを発揮することを保証しました。

事前トレーニングのスケーリングは、Llama 3の開発のもう1つの重要な側面でした。Metaは、スケーリング法則を開発し、モデルが最も大きなモデルをキータスク（コード生成など）でトレーニングする前に、パフォーマンスを予測できるようになりました。これにより、データミックスとコンピューティングリソースの割り当てについて十分な情報に基づいた決定が可能になり、トレーニングがより効率的で効果的になりました。

Llama 3の最大モデルは、24,000のGPUクラスターでトレーニングされ、データ並列化、モデル並列化、パイプライン並列化の組み合わせを使用しました。Metaの高度なトレーニングスタックは、エラーディテクション、ハンドリング、メンテナンスを自動化し、GPUの稼働時間を最大化し、トレーニングの効率を約3倍向上させました。

インストラクションファインチューニングとパフォーマンス

Llama 3の全潜在能力をチャットやダイアログアプリケーションで解放するために、Metaはインストラクションファインチューニングへのアプローチを革新しました。Metaの方法は、教師ありファインチューニング（SFT）、拒否サンプリング、近接方策最適化（PPO）、直接好み最適化（DPO）の組み合わせです。

SFTとPPOおよびDPOで使用されるプロンプトの品質と好みのランキングは、整列モデルでのパフォーマンスに重要な役割を果たしました。Metaのチームは、このデータを慎重にキュレーションし、人間のアノテーターによって提供されたアノテーションに対して複数の品質保証ラウンドを実施しました。

PPOとDPOを介した好みのランキングへのトレーニングは、Llama 3の推論とコーディングタスクでのパフォーマンスを大幅に向上させました。Metaは、モデルが推論質問に直接答えることが難しい場合でも、正しい推論トレースを生成できることがわかりました。好みのランキングへのトレーニングにより、モデルはこれらのトレースから正しい答えを選択する方法を学習できました。

結果は明らかです。Llama 3は、一般的な業界のベンチマークで、利用可能な多くのオープンソースチャットモデルを超えています。8Bと70BパラメータスケールのLLMの新しい最先端のパフォーマンスを確立しています。

責任ある開発と安全性の考慮

最先端のパフォーマンスを追求しながら、MetaはLlama 3の責任ある開発とデプロイの慣行にも重点を置いています。会社は、システムレベルのアプローチを採用し、Llama 3モデルを、開発者が特定のユースケースと安全性要件に合わせて設計およびカスタマイズできる、より広いエコシステムの一部として位置付けました。

Metaは、広範なレッドテーミングの演習を実施し、敵対的な評価を実行し、インストラクションチューニング済みモデルでの残りのリスクを低減するための安全対策を実装しました。しかし、会社は、残りのリスクが残る可能性があることを認識し、開発者が特定のユースケースの文脈でこれらのリスクを評価することを推奨しています。

責任あるデプロイをサポートするために、Metaは、開発者がモデルおよびシステムレベルの安全性のベストプラクティスをアプリケーションに実装するための包括的なリソースである、責任ある使用ガイドを更新しました。このガイドでは、コンテンツモデレーション、リスク評価、Llama Guard 2やCode Shieldなどの安全ツールの使用などのトピックをカバーしています。

Llama Guard 2は、MLCommonsの分類システムを基にしており、LLMの入力（プロンプト）と応答を分類して、不適切または有害と見なされる可能性のあるコンテンツを検出するように設計されています。CyberSecEval 2は、コードインタープリターの悪用、攻撃的なサイバーセキュリティ機能、およびプロンプトインジェクション攻撃への脆弱性に対する対策を追加することで、前身を拡張しています。

Code Shieldは、Llama 3で新しく導入されたもので、LLMによって生成された不安全なコードの推論時フィルタリングを追加し、不安全なコードの提案、コードインタープリターの悪用、セキュアなコマンド実行に関連するリスクを軽減します。

Llama 3へのアクセスと使用

Meta AIのLlama 3がリリースされた後、Mac、Windows、Linuxを含むさまざまなオペレーティングシステムでローカルにデプロイできるように、オープンソースツールが提供されました。このセクションでは、Ollama、Open WebUI、LM Studioの3つの注目すべきツールについて説明します。各ツールは、Llama 3の機能を個人デバイスで利用するためのユニークな機能を提供しています。

Ollama：Mac、Linux、Windowsで利用可能なOllamaは、大規模言語モデル（Llama 3を含む）の個人コンピュータでの操作を簡素化します。パッケージマネージャーを備えており、プラットフォーム間でモデルをダウンロードして実行するためのコマンドをサポートしています。

Open WebUI with Docker：このツールは、Mac、Linux、Windowsで利用可能な、Dockerベースのユーザーフレンドリーなインターフェイスを提供します。Ollamaレジストリからのモデルとシームレスに統合し、ローカルWebインターフェイス内でモデル（Llama 3を含む）をデプロイして対話できるようにします。

LM Studio：Mac、Linux、Windowsのユーザーを対象に、LM Studioは、さまざまなモデルをサポートし、llama.cppプロジェクトに基づいて構築されています。チャットインターフェイスを提供し、Llama 3 8B Instructモデルを含むさまざまなモデルと直接対話することを容易にします。

これらのツールにより、ユーザーは、さまざまな技術スキルと要件に対応する、個人デバイスでLlama 3を効率的に利用できるようになります。各プラットフォームでは、セットアップとモデルとの対話について、ステップバイステップのプロセスが提供され、開発者とエンターテイナーにとってAIの利用がより身近なものになります。