企業がAIアプリケーションの過負荷に対処する方法

ノンソーペーショナルコンピューティング

技術の発展は、コンピューティングをよりアクセスしやすくするという欲求によって推進されてきました。スマートフォン、タブレット、ラップトップ、ウェアラブルテクノロジーと、コンピューターとその機能をよりパーソナルなものにするという一般的な傾向があります。業界の基盤となる用語、たとえば「パーソナルコンピューター」や「i」ポッド、パッド、フォンなどを考えてみましょう。これらのデバイスはすべて、パーソナルなコンパニオンとして機能し、ユーザーのデジタルエクスペリエンスをストリームライン化し、さらにその生活を改善することを目的としています。

人工知能（AI）の開発、特に大規模言語モデル（LLM）とエージェントソリューションは、同じ方向に向かっています。PCやiPhoneと同様に、ChatGPTのようなAIツールは、検索、編集、ブレーンストーミングなどのコンピューティング活動を一般の人々にとってよりアクセスしやすくしています。しかし、このアクセス性の向上は使用を増加させた一方で、リスクも増加させました。

毒性のあるコネクタや意図しない検索エンジンのインデックス化を通じて、プライベートなAIの使用に対する脅威は、保護することがますます困難になっています。どのツールを誰が使用しているのかという不確実性を加えると、企業は脅威の増大と不十分な保護というパーフェクトストームに直面しています。AIツールの約束とそれらを保護する方法の不確実性を考えると、テクノロジーを前進させる企業は何をすべきでしょうか？

非公認AIアプリの成長

2025年には、700万人以上のユーザーを抱えるChatGPTの使用は、前年比で4倍以上に増加しました。ただし、これらのユーザーのうち500万人だけが有料のビジネス顧客です。これにより、残りの約695万人のユーザーは、個人または非公認のビジネスユーザーになります。この数字は大きく見えますが、ChatGPTは市場にある唯一のAIソリューションではないことを思い出してください。実際、AIと機械学習の進歩は、数百万の新しいモデルとソリューションを生み出しました。これらのソリューションは、公開されているものもあれば、非公開のものもあります。

企業にとって、AIソリューションの指数関数的な成長は、新しいサイバー脅威の次元である「Shadow AI」を生み出しました。「Shadow IT」と同様に、この概念は、従業員が組織の事前の検証や明示的な承認なしにAIソリューションを使用することに基づいています。これにより、ITとセキュリティの管理が完全にバイパスされ、従業員が機密性の高い作業に潜在的に危険またはセキュリティが欠如しているソリューションを使用するシナリオが生まれます。

Shadow AIの使用は広範囲にわたっており、拡大しています。一つの報告書では、企業あたり320以上の非公認AIアプリが使用されていることがわかりました。これらの非公認アプリと従業員によるその使用は、脅威の風景をさらに拡大します。

AI過負荷の固有のリスク

AI過負荷に関連する脅威は多面的であり、残念ながら、継続的に拡大しています。データポイズニング、プロンプトインジェクション、モデル操作、データスクラピングなどは、一般的な知識です。これらのAI操作と悪用の直接的な試みは、悪意のあるアクターが機密性の高い企業データと内部システムにアクセスできるようにします。企業は、これらの攻撃から自分たちを保護するために積極的に対策を講じ始めています。

しかし、企業は、自分たちが知っている脅威に対してのみ自己防衛できます。中世の城塞を守ることを考えてみましょう。壁、見張り塔、門、堀などが城塞を外部の敵や侵入者から守るのに役立ちます。しかし、台所のスタッフが外壁を迂回する秘密の通路を持っている場合、または大声のガードが地元の酒場で交代の時間について話している場合、どのような脅威でも城塞の内部の壁を突破することができます。

Shadow AIも企業のデータセキュリティに同様の影響を及ぼします。非公認のLLMやコパイロットの善意的な使用であっても、機密性の高いデータ保護の災難につながる可能性があります。どのLLMの使用も、データ保持、プロンプトインジェクション、またはモデルバイアスなどの問題のリスクを高めるため、それぞれに対応するセキュリティ対策が必要です。これにより、データ漏洩、コンプライアンス違反、運用上の故障のリスクが高まります。これらの問題は、通常、損害が既に発生した後にのみ特定されます。

AIソリューションの管理の確立

AIの使用が個人と企業のレベルで拡大し続けるにつれて、組織はAIの採用が自分たちの管理を超えて拡大する前に、これらのソリューションを管理することが重要です。企業のAIを保護し、非公認のAIリスクから守るには：

1. 包括的な可視性を確立する。 前述のように、自分たちが気づいていない脅威に対してはセキュリティを確保することができません。セキュリティは、従業員が使用しているすべてのAIソリューション、公認および非公認の両方に対するオーバーサイトから始まります。これは簡単に言うことができますが、クラウドアクセスセキュリティブローカー（CASB）ソリューションを使用することで、従業員のアプリケーション使用状況に関する継続的な可視性を確立することができます。
2. 徹底的なリスク評価を実施する。 チームは、すべてのAIソリューションがセキュリティと潜在的なリスクに対して評価されるように、TPRM努力を実施する必要があります。これらの努力は、第四者レベルまで拡大する必要があります。なぜなら、CRMや生産性プラットフォームなどの公認アプリケーションは、外部のLLM機能をプラットフォームに組み込むようになっています。これらの第四者ソリューションは、内部で承認されたアプリケーションと同じセキュリティ基準を満たす必要があります。
3. ガバナンスフレームワークを確立する。 これらのソリューションとその理解を通じて、組織は一貫したAIガバナンスポリシーフレームワークを開発し、アプリケーションエコシステム全体に展開することができます。データアクセスと同様に、これらのガバナンスポリシーは、従業員がアクセスできるAIソリューションの種類、共有できる情報、日常の使用状況の透明性を制御するのに役立ちます。
4. リスク検出を自動化する。 AIの採用の指数関数的な成長は、手動でのリスク検出と対応をほぼ不可能にします。ガバナンスポリシーと予想されるユーザーの行動に基づいてこれらのプロセスを自動化することで、異常を事前に特定し、セキュリティへの影響を制限することができます。
5. 従業員の期待を説明する。 安全なAIの採用と使用における最も重要な部分は、従業員です。適切なトレーニングを提供し、明確な期待を設定することで、リスクのあるAIの使用を防止し、公認および保護されたソリューションの安全でビジネスを推進する使用を強制することができます。

セキュアなAIアドプションの持続

これらの種の予防的セキュリティ対策を確立することで、企業は公認および「影」の両方のAIソリューションの使用方法について、より包括的な理解を得ることができます。これにより、セキュリティにすぐに影響が及び、既存のリスクと脅威ベクターを特定し、対処するための措置を講じることができます。

しかし、より重要なのは、これらのビジネスが長期的なAIの成功を準備することです。技術的な基盤を構築し、AIユーザーの中にセキュリティ第一の文化を創造することで、この多面的なアプローチは、将来のAIツールに対する持続可能なモデルを創造するのに役立ちます。技術的なサポートと適切なトレーニングを提供することで、従業員はAIの利点を享受することができると同時に、AIの固有のリスクに悩まされることはありません。

これらの変更をできるだけ早く行う企業は、AIソリューションの将来、どのようなものであっても、対応するために最も準備が整った状態になります。AIの採用のチェックボックスを単にチェックするのではなく、強固な基盤を構築するための前向きの作業に取り組むことで、チームは持続可能なAIドリブンの成功の最も良い位置に置かれます。