Chase W. Hughes は、3度の創業者で、最初期の商用化された GPT 製品の一つである ProAI を構築し、30 万社以上の企業や機関に利用され、販売しました。彼は 2023 年初頭に出願された特許出願中のマルチエージェント研究システムを保有しており、chasewhughes.com でエージェントファースト設計について執筆しています。
エッジAIに関するハードウェアの議論は、昨年に比べて格段に率直になった。このサイトの最近の記事では、従来の設計階層――「スループットを最大化し、そこから電力と熱を管理する」――が逆転し、産業用途では電力が最重要課題となり、純粋なスループットは最後になると論じている。この出版物が以前から主張してきた議論の延長で、エッジデバイスは「MIPS/計算リソースではなく熱が制限要因」であり、スマートフォンはすでにその限界に達しているというものだ。どちらも実際の修正であり、やむを得ない遅れだった。しかし、そこには依然として修正対象となっている世界からの前提が残っている。その階層のすべての項目は想定されたワークロードに対して予算が組まれており、ほとんどの人がまだ想定しているワークロードは単一のフォワードパスだ。すなわち、モデルが入力を受け取り出力を生成し、シリコンが一瞬冷却されるという流れである。それはエージェントのやり方ではない。エージェントは判断し、ツールを呼び出し、返ってきた結果を読み取り、再び判断する。そのループを何回回すかはハードウェアの特性でもモデルの特性でもなく、朝に与えられた問題の特性である。エッジハードウェア上でエージェントを動かしてきたが、最も受け入れるのに時間がかかったのは、エージェントが遅いことではなく、実行コストが設計時に見えない場所で設定されていたことだった。The Loop Is Unbounded Until Someone Types a Numberこれは修辞的な枠組みではなく、フレームワークが実際に構築されている方法だ。OpenAI の Agents SDKでは、ランナーが「ループを実行」し、モデルがツール呼び出しを生成すると、ランタイムは「そのツール呼び出しを実行し、結果を付加してループを再実行」する。唯一停止させるのはターン上限で、max_turns を超えると例外が発生する。ドキュメントには max_turns=None を渡すことで上限を完全に無効化できると記載されている。サーバー上では、その数値は課金の判断である。誰かが請求書に気付く。デバイス上では、その数値は熱の判断になる。ループ長はデューティサイクルであり、デューティサイクルは受動冷却が対抗できない唯一の変数だ。Sustained Load Does Something Different to a Phone Than a Benchmark Does2026年3月のベンチマークは、4つのプラットフォームに対してまさにこの種の負荷をかけた。量子化された15億パラメータのモデル、固定された258トークンのプロンプト、20回連続実行し、各回でスループット、電力、温度を測定した。これはプレプリントで、1つのモデルを4つのデバイスでベンチマークしているため、具体的な数値は各プラットフォームの特性を示すものであり、自然法則とは見なさない。重要なのは結果の形状である。iPhone...
