ActionAI、エンタープライズAIにアカウントABILITYと信頼性をもたらすために1億円を調達

エンタープライズにおける人工知能の導入は急速に進展していますが、パイロットプロジェクトを超えて拡大することは依然として大きな課題です。その主な理由は信頼性です。従業員は日々の業務で人工知能ツールを使用することが増えていますが、企業はコア業務において精度と説明責任が重要であるため、人工知能ツールに依存することを躊躇しています。

このギャップを埋めるために、ActionAIが登場しました。同社は、ミッションクリティカルなエンタープライズ用途に十分な信頼性を持つ人工知能システムを構築するためのインフラストラクチャを開発するために、1億円のシードラウンドを発表しました。

人工知能の導入が停滞している理由

広範な実験にもかかわらず、ほとんどのエンタープライズ人工知能イニシアチブは本稼働に達しません。内部データはしばしばチェックされず、出力は一貫性がなく、エラー（特にハルシネーション）は実際の運用リスクをもたらします。

調査によると、従業員の多くが現在仕事で人工知能ツールを使用していますが、多くの場合、精度を確認せずに使用しています。同時に、多くのエンタープライズ人工知能のユースケースはパイロットモードに留まっています。問題は、人工知能が機能するかどうかではなく、人工知能が信頼できるかどうかです。

これは、金融、保険、ヘルスケア、物流などの業界では特に問題です。ここでのミスは規制上の、財務上の、または法的な結果をもたらす可能性があります。

人工知能の信頼性レイヤーの構築

ActionAIのアプローチは、信頼性を後回しではなく基礎的なレイヤーとして扱うことです。同社のプラットフォームは、トレーニングデータから最終出力まで、人工知能システムを全ライフサイクルで監視および評価するように設計されています。

モデルパフォーマンスにのみ焦点を当てるのではなく、システムは人工知能スタックの各段階を通じてデータがどのように流れるかをマッピングします。これにより、チームはどこで故障が発生するかを正確に特定できます。入力レベル、処理中、または出力段階で発生するかを判断できます。

プラットフォームの重要なコンポーネントの1つは、リアルタイムで問題をデバッグする能力です。何かが間違っている場合、チームは根本的な原因を迅速に特定し、エッジケースを処理して大きな問題になる前に対処できます。

説明可能な例外の導入

プラットフォームのより独特な要素の1つは、説明可能な例外（ExEx）と呼ばれるシステムです。人工知能システムが不確かな出力を生成するのではなく、ExExはモデルが自信を持っていない場合を検出してタスクを人間にルーティングします。

このアプローチが注目に値するのは、問題を単にフラグ付けするのではなく、理由を提供することです。人間のレビュアーは、人工知能が不確実な理由についてのコンテキストを受け取り、より迅速で情報に基づいた決定を下すことができます。

これにより、運用を遅くすることなく、構造化されたヒューマンインザループワークフローが作成されます。不確実または高リスクの出力がシステムを通過することなく、不明な出力が人間によって確認されることを保証します。

監視から継続的制御への移行

展開を超えて、プラットフォームは本稼働中の人工知能のパフォーマンスを継続的に監視します。新しいデータ、新しい条件、または更新された指示にシステムがどのように反応するかを追跡します。

パフォーマンスが低下したり、異常が発生したりすると、システムはそれらを自動的にフラグ付けし、組織が時間の経過とともに一貫性を維持するのに役立ちます。これは、人工知能モデルが劣化したり、新しい入力に反応して予測不可能な動作を示したりする場合に特に重要です。

目標は、静的な人工知能の展開から、信頼性を犠牲にすることなく適応する継続的に管理されるシステムに移行することです。

ActionAIは、精度が非交渉である分野に焦点を当てています。これには、金融サービス、製造、小売、保険、サプライチェーン、法制度が含まれます。

これらの環境では、わずかなエラーでもカスケードする問題を引き起こす可能性があります。監視、追跡可能性、構造化された例外ハンドリングを導入することで、プラットフォームは、従来人工知能を採用するリスクが高かった状況で人工知能を実現可能にします。

説明責任のある人工知能へのシフト

創設者ミリアム・ハートによると、主な問題は人工知能のパフォーマンスを向上させることではなく、システムが最初から説明責任を負うようにすることです。

同社のアーキテクチャは、システムに入力される前にデータを検証し、実行中の動作を監視し、出力が説明され監査されることを保証することに焦点を当てています。このエンドツーエンドの可視性が、組織が実験を超えて本格的な展開に移行できることを可能にします。

この資金調達ラウンドのより広範な意味は、企業が人工知能について考える方法の変化です。人工知能を既存のシステムに重ねたツールではなく、ミッションクリティカルなシステムと同じ基準を満たさなければならないコアインフラストラクチャとして見るようになっています。

ActionAIは、パフォーマンスだけが十分ではない場所、信頼性、透明性、制御がエンタープライズ人工知能の採用の定義要件になっている場所で自己を位置付けます。

これらの要素が標準化されれば、人工知能は最終的に孤立したパイロットプロジェクトから、エンタープライズ全体で完全に統合された運用に移行する可能性があります。