人工一般知能（AGI）への道を一緒に：バランスの取れたアプローチ

人工一般知能（AGI）が急速に進化する中、議論は哲学的な議論から実用的関連性への移行しており、世界的なビジネスと人間の潜在性を変革するための巨大な機会があります。

TuringのAGI Iconsイベントシリーズは、AGIソリューションの実用的かつ責任ある進歩について議論するために、AIのイノベーターを集めています。7月24日、Turingはサンフランシスコの起業家とテクノロジーイノベーターのための専用ハブであるSHACK15で、2回目のAGI Iconsイベントを開催しました。The Informationの金融コラムニストであるAnita Ramaswamyがモデレーターを務め、QuoraのCEOであるAdam D’Angeloと共に、AGIへの道と開発タイムライン、現実世界での適用、責任ある展開の原則について議論しました。

AIからAGIへの道

AI研究を推進する「北極星」は、人間レベルの「知能」を追求することです。AGIと標準的なAIを区別するのは、その狭い機能性からより広い汎用性（幅）とパフォーマンス（深さ）への進歩であり、人間の能力を超えるものです。

これが「AGIへの道」であり、AIはより自律的なシステム、優れた推論、強化された機能、改善された機能性への進歩を遂げます。これらの進歩は、5つの分類レベルに分けられます：

• レベル0： AIなし – 簡単なツールのような計算機
• レベル1： 現在のLLMのようなAGIの出現 – ChatGPT
• レベル2： 有能なAGI – 特定のタスクで熟練した成人に匹敵するAIシステム
• レベル3： 専門家のAGI – 熟練した成人の90パーセンタイルにあるAIシステム
• レベル4： ヴィルトゥオーソのAGI – 熟練した成人の99パーセンタイルにあるAIシステム
• レベル5： 超人的なAGI – 人間を超えるAIシステム

ソース

議論の中で、AdamはAGIの概念を「人間が行うことができるすべてのことを行うことができるソフトウェア」と定義しました。彼は、AIが自己改善し、最終的に機械学習研究者が扱う複雑なタスクを引き継ぐ未来を想像しています。

さらに、私はAGIについて「多様なタスクを実行できる人工的な脳」として私の見解を述べました。例えば、「機械翻訳、複雑なクエリ、コーディング」などです。那はAGIとより予測的なAIや狭い形式のMLとの違いです。現象的な動作のように感じます。

AGIへの道における現実的な開発タイムライン

道の旅のように、AGIについての第一の質問は、「もう到着しましたか？」です。簡単に言うと、まだではありませんが、AI研究が加速するにつれて、正しい質問は「AGIの野心と現実的な期待をどうバランスさせるか？」です。

Adamは、AGIからの増加された自動化は、人間の役割を消滅させるのではなく、シフトさせることで、経済成長を速め、生産性を高めることを強調しました。「この技術がより強力になるにつれて、今日行われていることの90％が自動化されるでしょう。しかし、すべての人が他のことにシフトするでしょう。」

現在、世界経済の多くは、働くことができる人の数によって制限されています。AGIを達成すると、今日可能なよりもはるかに速い速度で経済を成長させることができます。

真のAGIが実現するまでの明確なタイムラインを示すことはできませんが、Adamと私は、AIの進歩が将来のAGIの進歩に道を開くいくつかの例を挙げました。例えば、TuringのAI開発ツールの実験では、開発者の生産性が33％増加し、さらに大きな潜在性を示唆しました。

現実世界での適用と影響

AGIの最も有望な適用の一つは、ソフトウェア開発の分野にあります。AGIの前駆となる大規模言語モデル（LLM）は、すでにソフトウェア開発を強化し、コードの品質を高めるために使用されています。我々はこのAIの時代を物理学よりも生物学に近いものと見なし、すべての知識の仕事が改善されるでしょう。人間の生産性が解放され、人間のために多くのことができるようになります。

私の視点は、LLMやAI開発ツールを使用したときに10倍の個人的な生産性の向上を経験したことから来ています。我々はTuringでAIを使用して技術的な才能を評価し、適切なソフトウェアエンジニアやPh.D.レベルのドメインエキスパートを適切な仕事にマッチングしています。

LLMのトレーニングスペースでは、トレーナーがこれらのモデルを使用して開発者の生産性を高め、プロジェクトのタイムラインを加速することを目撃しています。ルーティンタスクの自動化と知的なコードの提案により、LLMは開発者が戦略的かつ創造的な仕事に集中できるようにします。

Adamは「LLMはすべてのコードを書きませんが、ソフトウェアの基礎を理解することは重要です。計算機は算術の必要性を排除しませんでした。」と述べました。さらに、「開発者はこれらのモデルを使用することでより贵重になります。LLMの存在は開発者の仕事にとってプラスです。開発者にとって多くの利益があります。」と付け加えました。

私たちはソフトウェア開発の黄金時代に入っており、1人のソフトウェアエンジニアが10倍の生産性を持って、より多くのことを作成し、世界に利益をもたらすことができます。

技術的およびガバナンス上の課題

AGIの潜在的な可能性が約束されるにもかかわらず、課題に対処する必要があります。AGIの革新と公共の安全のバランスをとるために、堅牢な評価プロセスと規制フレームワークが必要です。

Adamは、最悪のシナリオを制限するために、徹底的なテストとサンドボックスの必要性を強調しました。「強力な評価プロセスが必要です… テスト対象の分布を可能な限り現実世界の使用に近づける必要があります。」

私は同意します。AGIの進歩のボトルネックは、計算能力やデータではなく、人間の知能です。AIモデルを微調整し、カスタマイズするために、人間の専門知識が不可欠です。那はなぜTuringがトップレベルのテクノロジー専門家を探し出し、モデルと人間の知能のバランスをとることに重点を置いているのかです。

私たちはAGIの課題に対処するために、能力よりもプロセス、汎用性とパフォーマンス、潜在性に焦点を当てる必要があります。

課題に対する視点：人間とAGIの相互作用の改善

AGIの課題に対処するためのベストプラクティスには、以下のものがあります：

• AGIが「何ができるか」ではなく、「どうやって行うか」に焦点を当てる。
• AGIの重要な要素である汎用性とパフォーマンスのバランスをとる。
• 物理的なタスクや出力よりも、認知/メタ認知タスクと学習能力に焦点を当てる。
• AGIの潜在性と能力で測定する。
• 現実世界のタスクに一致するベンチマークを設定する。
• AGIへの道は単一のエンドポイントではなく、反復的なプロセスであることを覚えておく。

これらのベストプラクティスに加えて、Adamと私は、人間とAGIの相互作用を改善することの重要性を強調しました。Adamは、これらのモデルを使用する方法と時期を学ぶことの価値を強調し、強力な学習ツールとして見て、プログラミングのサブドメインを迅速に教えることができると同時に、基礎を理解することの重要性を強調しました。

同様に、私は、LLMを使用して人間の生産性と理解を大幅に高めることができると示唆しています。LLMは、複雑な情報をすべての分野でアクセス可能にし、生産性を高めることができます。しかし、段階的な反復的なアプローチが必要です。人間を支援するAIコパイロットから始まり、人間の監督下にあるエージェントに移行し、最終的に評価されたタスクで完全に自律的なエージェントに達する必要があります。

その上で、ポストトレーニングの差別化は重要であり、人間の知能を利用してカスタムモデルを構築する必要があります。トレーナー、エンジニア、その他の専門家を探し出し、マッチングすることができる企業は、微調整とカスタムエンジニアリングの能力を高速化することができます。OpenAIやAnthropicのような主要企業と協力することも、さまざまな業界でこれらのモデルを適用するための重要なステップです。

責任あるAGI開発の原則

「AGIの開発は、安全性と透明性を確保しながら、イノベーションを促進する責任と倫理観を持って行う必要があります。」- Adam D’Angelo

責任あるAGI開発には、以下の原則に従う必要があります：

• 安全性とセキュリティ：AGIシステムが信頼性が高く、悪用に対して耐性があることを確認する、特に新しいデータ入力やアルゴリズムを取り込む際に。
• 透明性：AGIの能力、限界、そして「どうやって機能するか」について現実的に見る。
• 倫理的考慮：公平性、偏見、AGIが雇用やその他の社会経済的要因に与える影響について対処する。
• 規制：進歩と公共の安全のバランスをとるための政府や他の組織と協力してフレームワークを開発する。
• ベンチマーク：将来のベンチマークは、AGIの行動と能力を倫理的考慮と分類レベルに対して量化する必要があります。

結論：AGIへの道を目指す、単一のエンドポイントではなく

AGIへの道は複雑ですが、その道の途中の每一步が重要です。AGIの反復的な改善とその影響を理解することで、人々と企業はこの進化する技術を責任を持って採用できるようになります。これが責任あるAGI開発の核心であり、現実世界の相互作用が私たちがこの新しいフロンティアをどのように進むかを示しています。長い道のりは旅の重要な部分です。AGIの反復的な改善とその影響を理解することで、人々と企業はこの進化する技術を責任を持って採用できるようになります。