AIを禁止するとセキュリティリスクが高まり、機関はどう対応すべきか

米国全土で、学校区や公共機関は、生成的なAI（GenAI）技術や特定のツールへのアクセスを制限またはブロックする動きを見せている。コロラド州では、ボルダー・バレー学区は最近、学校ネットワークでのChatGPTの使用を禁止した。その理由は、悪用、安全性、学術的誠実さに関する懸念だった。

セキュリティインシデントやデータの悪用へのさらされるリスクを減らすという本能は理解できる。DeepSeekのような、ガードレールが弱いまたはプライバシーの約束が不明確なプラットフォームは、制限や厳格な監視が必要だ。しかし、GenAIツールへのアクセスを禁止しても、リスクは実際には減らず、むしろ、監視ができない環境にシフトするだけだ。

College Boardの調査によると、84%の高校生は、学校の課題でGenAIを使用したと回答した。一方、45%の学校長は、学校でのAIの使用を制限していることを報告した。同様に、IBMの報告によると、80%のオフィスワーカーがAIを使用しているが、22%のみが会社が提供するツールのみを使用している。

アクセスポリシーだけが行動を決定しているわけではない。学生は携帯電話を取り出して、セルラー데이터ネットワークでAIツールを使用したり、家で、またはパブリックWi-Fiでプラットフォームを使用したりできる。彼らは、制限を回避するためにVPN、リモートデスクトップ、プラグインを使用することもできる。従業員も、職場での制御を回避するために同じことができる。

組織は、AIを使用する意志がある場合、方法があると仮定するべきだ。テクノロジーが制限され、使用が機関の可視性の範囲外に押し出される場合、影のAIのリスクが高まる。どのような情報がプロンプトに入力されるか、どのようなデータがモデルによって保持されるかについての監視は存在しない。セキュリティに対する制御は、すぐに失われる。

影のAIのリスクを超えて、禁止は、学生を将来大きな部分を占めるテクノロジーを使用するためのリテラシー・ギャップを残す。検索エンジン、ビジネスプラットフォーム、生産性スイート、パーソナルデバイスにこれらのツールが組み込まれている。 ピュー・リサーチ・センターの調査によると、62%の米国人は、少なくとも週に何度かAIとやり取りしているという。機関の政策に関係なく、学生や従業員がGenAIシステムと出会うことはほぼ確実だ。

この環境では、悪用やセキュリティに関する懸念に対する最も信頼できる防御は教育だ。学生や労働者が責任を持って倫理的にAIを使用するように教育することで、データのリスクを認識し、どこでこれらのシステムに出会うかに関係なく、十分な情報に基づいた決定を下せるようになる。

教育プログラムは、LLM（Large Language Model）がデータを処理して保持する方法、幻覚を識別する方法、AI生成の出力を検証する方法、フィッシングキャンペーンやAI生成の画像を識別する方法などに焦点を当てるべきだ。ユーザーに懐疑心を持たせることを教える。AIの出力は、自信を持って、整理された言語で提示されることが多く、権威のイメージを生み出すことがある。トレーニングなしで、ユーザーは整理された回答が必ずしも正確であると仮定するかもしれない。

デジタルコンテンツに疑問を持つ能力は、ディープフェイクやAI強化されたフィッシングキャンペーンがより洗練されるようになるにつれて、最前線の防御だ。 ガートナーの調査によると、62%の組織が昨年ディープフェイク攻撃を受けたと回答し、32%がAIアプリケーションに対する攻撃を受けた。こうした事件の頻度と範囲は、将来も増加することが予想される。

学校や地方自治体などの公共機関は、ディープフェイクによるソーシャルエンジニアリングに特に脆弱だ。なぜなら、多くの活動が記録されており、公開されているからだ。公開会議からのオーディオクリップは操作されて、信頼性の高いボイスコールを生成するために使用できる。詐欺師は、このような手口で、機密的な取引中に資金を転送するために使用している。ターゲットを絞ったケースでは最も起こりやすいが、ユーザーがこれらのテクニックを認識したり、起こり得ることを知らない場合、最初から不利になる。

教育に続いて、組織はAIの使用とガバナンスに関する明確なポリシーを持つべきだ。これらは、承認されたツール、受け入れ可能なユースケース、どのモデルにどのデータを入力できるかを定義するべきだ。ポリシーは、部門ごとではなく、一貫して適用されるべきだ。明確な期待は、曖昧さを減らし、説明責任を強化する。

一律の制限ではなく、組織はテクノロジーの使用方法を形作るべきだ。組織がアクセス可能で、セキュアで、うまく機能するツールを推奨すると、それがほとんどのユーザーにとってデフォルトになる。カジュアルな影のAIの使用は、VPNをダウンロードして使用する必要がないため、減少する。

組織や機関は、LLMへのアクセスを提供する方法を模索している。データが保護され、共有されず、トレーニングに使用されないようにしている。AIの有効化とセキュリティのためのツールの新しいカテゴリが登場し、正確にそれを行っている。ゼロデータ保持契約は、組織のデータが会社または機関の所有物であり、LLMによってトレーニングされることはないことを保証する法的枠組みを提供する。さらに、従業員が機関を離れた場合、AIの使用、ワークフロー、データはすべて組織の所有物である。

技術的なガードレールは、機能レベルで適用できる。機関は、承認されたLLM内で一般的な質問を学生や従業員に許可しながら、ファイルのアップロード、ドキュメントの共有、またはその他の高リスク機能を無効にすることができる。これらの構成は、セキュリティ上のリスクを冒すことなく、生産性の利点を維持する。

より高度なツールは、モデルに到達する前に機密情報を自動的に匿名化できる。たとえば、医療従事者がGenAIを使用する場合、患者の名前や識別子を中立的なプレイスホルダーに置き換えることで、保護されたデータを公開することなく使用できる。データ損失防止コントロールを統合するものもあり、ソーシャルセキュリティ番号、金融口座データ、またはその他の規制情報がプロンプトに提出されることを検出してブロックする。

教育を基盤に、明確なポリシーと技術的なガードレールが、特にテクノロジーが急速に進化する現在、最も効果的な防御を提供する。GenAIは、ほとんどの公共機関、そしてその予算よりも速く進化している。新しいモデルが登場するたびにそれをブロックしようとすることは、持続不可能だ。ユーザーはリスクを理解するようにトレーニングされ、ツールやバージョンを超えて適応できる。

AIを活用した環境におけるセキュリティは、GenAIが日常生活に組み込まれている現実を認識することに依存する。魔法のランプの中の魔人を元に戻すことはできない。一律の禁止令は、慎重さの印象を与えるかもしれないが、実際には、見える、管理可能なリスクと見えない、管理されていないさらされるリスクを交換するだけだ。AIを責任を持って使用するように人を教えれば、次に何が起こるかに対して準備が整う。