検証エコノミーへの移行

AIの仕事をチェックすることは、新しい機械学習エコノミーで重要なセクターになる可能性があります。そのセクターは、大幅にスケールアップする必要があり、自動化することはできません。しかし、年が経つにつれて、人間の「専門家」の質は低下する可能性があります。

意見。 私の妻は、ヨーロッパで最も混雑した官僚機構の1つで建築家をしています。彼女の教育の価値の重要な部分は、署名権の取得と維持にあります。これは、毎年更新する必要がある高価な資格で、彼女が数十万、あるいは数百万ユーロの提案を実施することを可能にします。

彼女は私に、这是彼女の仕事で最も難しい部分ではないと言っています。なぜなら、これは彼女自身の計算、または他の人の計算を正式化するだけだからです。この目的のために、外部の仕事は通常、チェックするのが難しいわけではありません。

本質的に – これは、CEOを任命する場合と同様に – このスタンプ（これは文字通りにスタンプです）は、利害関係者に、もしもの場合に責任者を提供するものです。責任を負わせることで、保険のカバーと投資家の信頼も得られます。これらの保証なしでは得られないものです。

私は、25年前にイタリアの別の有名な官僚機構で、がん専門医と婚約していたときにも、このプロセスを直接見たことがあります。彼女の専門家の署名は、彼女自身以外の多くの人々が貢献しなければならない信頼の連鎖の最後の段階でした。

私は、過去の婚約者から、そして最近の妻から、彼女たちの職業は、資格のある無能が多く、仕事の質が低下していることを聞きました。彼らは、よりオリジナルの仕事よりも、署名を売って高額の収入を得ているのです。

チェックアウト

このトピックは、私が新しい論文を読んだときに思い出されました。論文の題は、AGIのシンプルな経済学です。3人の研究者は、MIT、ワシントン大学、UCLAから、AIドリブンの自動化の恐ろしい、仕事を奪う力が、高リスクシナリオでの現実の責任者を必要とする必要性と衝突する近未来を描いています。したがって、人間の検証、承認、責任の新しい経済が生まれます。

論文は、メディアの現在の想像と対照的です。企業の広大なオフィスが、1人の「管理者」に減少するというものです。管理者の決定は、トレーニングデータとして使用され、最終的にこの最後の「肉体」の部分も解雇されるでしょう。

しかし、著者は、実際的な考慮とコンプライアンス要件が、法務部門の「ゴム印」人間に大量の注意を向けることになるという考え方を示しています：

‘企業にとって、核心的な戦略的洞察は、検証が単なるコンプライアンス機能ではなく、主な生産技術であるということです。つまり、構造的な変化が必要です。観察可能性に多く投資し、検証グレードの基準事実を拡大し、「サンドイッチ」トポロジー（人間の意図 → 機械の実行 → 人間の検証と保証）を中心に再編成する必要があります。 ‘

‘生産量が商品化された経済では、競争上の優位性は、信頼できる結果を生成するために必要な希少な才能とデータに移ります。ネットワーク効果は、生産量ではなく、信頼できる結果にあります。 ‘

著者は、成長の決定的な制約は、知能ではなく、検証帯域幅であると推測しています。

人間の検証への価値のシフト

論文は、AGIへの移行が、機械の出力の生産コストとその出力のチェックコストの間のギャップの拡大につながると述べています。後者は、人間の時間と経験に結びついたままです。

計画、報告、設計、推奨の生成は、安価で豊富になりますが、どれが妥当で、整列され、行動するのに十分に安全かを判断することは、希少な機能になります。システムの有効な限界は、出力の量ではなく、検証可能な出力の量によって決まることになります。

したがって、著者は、システムは、より専門化されたスキルではなく、計量可能性を報いるようになるだろうと予測しています。パラメータ化できる作業は、実行コストが計算コストに近づくにつれて、商品化の方向に進み、価値は、高品質の基準事実、信頼できる監査証跡、責任を割り当て、吸収するための制度的メカニズムに移ります。

したがって、検証エコノミーでは、コンテンツを生成することよりも、結果を証明すること、そしてそれに付随するリスクを保証することが、優位性になるでしょう。

もし自動化が加速し続け、検証が人間の時間と注意によって制限されるままなら、論文は、中空のエコノミーが生まれると予測しています。そこでは、仕事を自動化するコストが低下するにつれて、エージェントがより多く展開されますが、出力の検証能力は同じ速度で成長しないため、実際に検証された仕事の割合は減少します。

逆に、拡張エコノミーでは、検証能力が自動化とともに拡大します。これには、専門知識を維持するための構造化されたトレーニングへの意図的な投資、およびリスクを吸収できる新しい責任枠組みが必要です。展開は、実際に検証され、保証されるものに結び付けられます。

‘技術部門では、主な収益モデルは、ソフトウェアアクセスのモノ化（ソフトウェアとしてのサービス）から、結果のモノ化（「ソフトウェアとしての労働」）への移行になります。したがって、企業は、リスクを吸収する能力に基づいて評価されることになります。 ‘

‘実行は無限にスケーラブルです。法的および財務的な能力でその不可避な失敗を吸収することが、新しいボトルネックです。 ‘

減少する収穫

実際、人間のドメインにおける専門知識の保存は、問題に不可欠です。なぜなら、産業化された監視の文化では、監視を行う人の質が時間の経過とともに劣化するからです。監視を行う人々は、監視が必要なドメインの直接的な経験や生活経験をもはや持たないようになるからです。

議論の余地はありますが、監視の質は、監視が必要なドメインの直接的な経験や生活経験をもはや持たないようになると、真に自動化の対象となり得るでしょう。新しい決定は、以前の決定に基づいてのみ行われるようになるからです。しかし、それでは、利害関係者は、責任者を失い、実行可能なビジネスモデルも失うことになります。また、そのような役割は、ボラティリティーとリスクが高いため、雇用が少ない状況下でも魅力がなくなります。

資格のある専門家である医師や建築家を、うまく「ゴム印」を押すだけの役割に追い込むと、その役割での価値が時間の経過とともに劣化する可能性があります。なぜなら、彼らの実際の分野での経験が過去に遡るにつれて、彼らの決定は「理論的」になる可能性があるからです。彼らが去った分野は、彼らの不在の中で進化し続けるからです。

(これは、パクレッドの場合と同様に、Star Trek: TNGのファンにとっても、なじみ深いものです。パクレッドは、高度な技術を広く使用していますが、それを作ったり修理したりする方法を知りません。)

初級の実行は、将来の専門家のためのトレーニングの場として機能してきました。しかし、自動化がルーチンワークを排除すると、将来の検証者としての供給量が減少する可能性があります。著者は、そのような役割では、判断力が養われることはありません。

したがって、論文は、パラドックスを予言しています。エージェントシステムがより強力になるにつれて、社会は、そのようなシステムによって侵食される人間の専門知識のストックに依存することになります。

そして、忘れないでください。これは、技術的な問題ではありません。技術的な解決策もありません。これは、AIモデルの崩壊と同様の、経済モデルの崩壊です。

‘政策的観点から、核心的な課題は、深い構造的な非対称性にあります。AIの導入による利益は、積極的に民間化されますが、システム的なリスクは社会化されます。企業や個人は、自動化の利点を獲得しますが、悲惨な尾部リスクを外部化します。 ‘

‘共有された検証インフラストラクチャと厳格な責任価格設定がなければ、市場は合理的に空洞化した経済への移行を促進します。爆発的な活動が測定されるものの、基本的に空洞化した人間の管理が特徴です。 ‘

結論: 異なる危機

著者は、予測される危機を、計量可能性のギャップと定義しています。ここで、量化可能なプロセスは人間の貢献から自動化され、nハードまたはn法的なプロセスが残り、これらは人間の専門知識を必要とします。

しかし、私の妻の経験は、プロセスの複雑さや困難さは、プロセスにおける説明責任の必要性とは必ずしも関係がないことを示唆しています。彼女が「承認」するものの多くは、自体では重要な問題や計算ではありませんが、違反の場合には重大な影響を及ぼします。また、より訴訟の多いビジネス文化になるにつれて、保険者や投資家は、より広範なプロセスに対して人間の説明責任を必要とします。

したがって、検証エコノミーへの移行は、現在注目されているのとは異なる危機を引き起こす可能性があります。問題は、AIがより多く生産できるかどうかではなく、機械の知能を耐久性のある価値に変えるために、機械が生み出すもののうちどれだけが検証できるかです。

機械の知能が前例のないスピードでスケールアップする可能性があり、適用可能な人間の時間の利用可能性がそのペースを維持できない場合、論文で提示された問題はすぐに現実化する可能性があります。もっとも、それらは、AIの採用のより広範な経済的影響によって初期的には埋もれるかもしれません。

* 論文は通常の分析方法で分解するには長すぎるため、構造的にもそのような分析に適していません。したがって、代わりに論文についてコメントし、その重要性を考慮し、読者に元の論文を参照するよう求めます。

^† /s

初めて公開されたのは、2026年2月25日、水曜日です。