マップとレール：企業AIのための安全なアーキテクチャの構築

第一部は、企業AIが成功するためには、機関がループ自体を構築する方法を学ぶ必要があるという主張で終了しました。このエッセイは、ループが立っているものについてです。実際の会社の中で働くエージェントには、会社が今日持っていない2つのものが必要です。仕事のマップと、結果のレールです。

マップ

ほとんどの停滞したAIプログラムの下にある不快な事実は、会社がエージェントに自分の仕事の説明を渡すことができないということです。なぜなら、そのような説明は存在しないからです。ほとんどの会社は名詞をマッピングしています。顧客、請求書、請求、契約に関するデータベースが満ち溢れています。しかし、仕事そのもの、誰が何を、どのような条件で、どのような結果が生じるかについては、マッピングされていません。その知識は、経験豊富な人の頭の中にあり、5年前に設計された仕事のプロセスチャートに記載されていますが、今日行われている仕事の実態ではありません。

新入社員は、見て、試して、質問することでそのギャップを埋めます。エージェントはそのように学習できません。仕事を書き留める必要があります。ビジネスが扱うもの、各ものが今どこにあるか、行われている仕事、どの道を選ぶ決定、誰が進めることが許可されているか、進めたときに何が起こるか、記録が変更される、承認が必要になる、取り消される方法、書き留められた説明がマップです。

マップを生きている状態に保つ3つのルールがあります。仕事の所有者によって書かれ、エンジニアによって安全に保たれる必要があります。エンジニアだけが更新できるマップは古くなり、運用者だけが編集できるマップは安全ではありません。バージョン管理する必要があります。エージェントは、意味が無音で変更された場合に対して、行動を起こしてはなりません。公開する必要があります。エージェント、レビュアー、監査員が読める必要があります。エージェントがAPIコールを組み合わせてビジネスを発見する必要がある場合、システムは公開されていません。仕事は理解されているのではなく、実行されています。マップは仕事を理解する方法です。

マップは、製品サイクルを超えて重要な理由があります。エージェントが持続可能な資産ではないからです。マップが持続可能な資産です。モデルは改善され、交換され、エージェントフレームワークは登場して消えますが、仕事の説明、ルール、例外、蓄積された修正は、将来のエージェントが最初の日に継承するものです。

レール

マップは何が起こるかを示します。レールはそれを正確に実行するものです。

エージェントが触れる仕事のうち、判断が必要なものがあります。メールを読み、例外を比較検討し、道を推奨します。しかし、同じチェック、同じ更新、同じ投稿を何千回も繰り返す仕事もあります。繰り返しには知能が必要ではありません。正確性が必要です。モデルは設計上確率論的であり、実行には、モデルがどれほど優れていても、正しくないことは許されません。支払い投稿には許容される変動はありません。安定した仕事はレールに乗るべきです。毎回同じように実行される決定論的自動化であり、実行ごとにコストがかからないし、きれいな監査ログを残します。

ここで2つの曲線が分岐しています。レールを構築することは容易になりました。仕事を記述し、コードを生成し、テストを書き、壊れたパスを修復することは、AIが加速する種類の仕事だからです。自由に動くエージェントを結果のあるプロセスの中に配置することは、同じ速度で容易になりません。エージェントが行動に近づくにつれて、境界、証拠、承認、監査、所有者が必要になるからです。結果は難しく、難しいままです。エージェントに探索させ、チームが仕事を学ぶのを助けさせます。すると、各パスをレールに乗せることができます。変化が止まるときです。エージェントが流行っているからといって、安定した仕事を確率論的ループの中に残さないでください。

結果に基づいて統治する

マップとレールが整ったら、エージェントが実際の仕事に触れる前に、1つの質問が残ります。エージェントに何を許可するべきか。業界の習慣は、配管の用語で答えることです。エージェントは「ツールを使用する」ということです。ポリシーを参照したり、差額を計算したり、書簡を起草したり、請求書を承認したり、支払ったりすることは、同じ種類の仕事ではありません。ポリシーを参照するモデルと請求書を却下するモデルは同じではありません。金額を計算するモデルと支払うモデルは同じではありません。情報を読み取り、立場を取る、行動を準備する、レコードを変更する、金銭を移動することは、結果の違いにより、異なる種類の仕事です。会社が間違ったステップを取ったときに何がコストかということです。

統治は、そのグラデーションに従うべきです。配管に従うのではなく。読み取りのみの仕事にはアクセス制御が必要です。推奨する仕事には、実際に決定する人間が必要です。レコードを変更する仕事には、許可、監査ログ、取り消し方法、責任者の名前が必要です。金銭を移動する仕事には、それらすべてと、半分の変更が会社を間違った状態に置かないことを保証する必要があります。結果に基づいて統治し、AIの安全な使用がすぐに開けます。すべてを同じように統治すると、麻痺または事件につながります。

ワークフローによって信頼が得られる

そのグラデーションも信頼が育む方法です。マップとレールがあると、信頼はモデルに対する感覚ではなく、仕事の特性になります。ワークフロー、つまり一つの説明されたビジネス、門から、許可を一歩ずつ得ていきます。同じグラデーションを登ります。最初は下書きのみ、次に推奨、次に人間が承認するルーチンケースの準備、次に例外をエスカレートし、最終的に監査の下で実行され、結果を確認する人々がいます。

各ステップは、門からの証拠、修正、理由で獲得され、パフォーマンスが低下すると自動的にステップバックします。モデルが改善されても、行動権を得ることはできません。ワークフローを昇進させます。エージェントを昇進させないでください。

エージェントを昇進させないでください。ワークフローを昇進させます。

一つのワークフローから始める

これらは、企業全体のプログラムを必要としません。企業全体のプログラムとして始めるべきではありません。実際のボリューム、実際のエラーコスト、修正したい所有者がいる、一つの結果のあるワークフローを選びます。その一つの仕事をマッピングします。安定したステップをレールに乗せます。門を設定します。次に、9つの質問に答えることを確認します。

• どのようなビジネスオブジェクトが移動していますか。
• それぞれが今どこにありますか。
• どのような仕事が行われていますか。
• 次のパスを選択する決定は何ですか。
• 承認された場合に何が起こりますか。
• エージェントは何を使用できますか。
• 自動的に実行されるのは何ですか。
• 誰が提案し、誰が承認し、誰が実行し、誰が責任者ですか。
• 何かが間違った場合、次の実行前に何が変更されますか。

仕事の所有者が一つのワークフローに対してこれら9つの質問に答えることができると、エージェントは安全にその中で働くことができます。提案し、検証され、レールが実行されます。答えることができない場合、どれほどモデルが優れていても、デプロイを救うことはできません。

失敗もパターンと同様に認識できます。仕事のマップがないチャットボットが、機密システムにアクセスできる場合。ポリシーの質問に答えることができるが、ポリシーの源を示すことができないリトリーバレイヤー。承認できるが、承認の所有者が誰であるかを示すことができないエージェント。承認の結果を承認者が見ることができないエージェント。モデルが改善されたからではなく、ワークフローが信頼を得たからという理由で、ワークフローを自律性に昇進させた場合。

マップ、レール、門。つまり、それがアーキテクチャです。一つのワークフローでそれを構築する方法については、第三部です。