ローコードとハイコードのエージェント開発におけるサイバーセキュリティ戦略

組織が業務システム全体で人工知能エージェントを活用するようになると、開発のスピードとセキュリティ監督は密接に結びつきます。ローコードとハイコードのエージェント開発におけるサイバーセキュリティ戦略では、それぞれの手法が情報へのアクセスをどのように許可し、どのようなアクションを可能にするのかを考慮する必要があります。導入が広がるなか、共通のガバナンスによってエージェントの活動を許可されたタスクに沿ったものに保ちつつ、手法ごとの違いに応じた保護策を講じることができます。

ローコードとハイコードによるAIエージェント開発の違い

ローコードプラットフォームでは、ビジュアルインターフェースや、業務サービスをつなぐ事前構築済みコネクターを使ってエージェントを組み立てられます。ハイコード開発では、カスタムコードやツールとの連携、実行環境を通じてエージェントの動作を定義できるため、プログラマーの自由度が高まります。どちらの手法でも、エージェントがアクセスできる情報と実行できるアクションを監督する必要があります。

セキュリティ上の責任が異なるのは、制御を担う場所がそれぞれ違うためです。ローコードの開発者は、共有やコネクターへのアクセスを管理するプラットフォーム設定の範囲内で作業するため、設定時の判断が特に重要になります。ハイコードのチームは、エージェントの指示を実行するソフトウェアや環境に対して、より大きな責任を負います。そこには、ファイルや認証情報に関する境界の設定も含まれます。

Cybersecurity and Infrastructure Security Agency はエージェント型AIに伴う複数のリスクを特定しており、それらはどちらの手法にも有用な枠組みとなります。攻撃対象領域の拡大とは侵入口が増えることを指し、権限の肥大化とはアクセス権が蓄積することを指します。意図したタスクからの逸脱は動作の不整合にあたり、記録が不明瞭なイベントは調査を難しくします。広く利用されているコネクターと、制限のないコマンドラインツールでは、同じ問題が異なる形で生じる可能性があります。

ローコードAIエージェントのセキュリティリスクと対策

ローコードを使いやすくすることで、従来の開発チームに属さない従業員もエージェントを作成できるようになります。手軽に利用できる接続が、許可された業務用途に沿うよう、こうした開発者にもセキュリティ監督を行き届かせる必要があります。

ローコード環境におけるセキュリティ上の課題

市民開発者は、エージェントの権限を十分に理解しないまま、共有ファイルや業務アプリケーションにエージェントを接続することがあります。そうした接続を通じて付与されたアクセス権により、機密情報が漏えいしたり、意図されたワークフローを超えるアクションが可能になったりするおそれがあります。広範な共有や所有者の不明確さは、こうしたリスクをさらに高めます。

導入規模の大きさを踏まえると、部門をまたいで一貫した監督を行うことが重要です。Forresterは2024年の市場分析で、 企業の開発者の87％が開発業務の一部にローコードプラットフォームを利用していると報告しています。この調査結果が対象としているのは開発全般であるため、プラットフォームの普及度を示すものではありますが、AIエージェントの導入状況を具体的に測定したものではありません。

ローコードエージェントのセキュリティを強化する実践策

チームは、コネクターの権限が各エージェントに割り当てられたタスクに見合っているかを確認し、最小権限の原則を適用する必要があります。一元管理された台帳には、すべての導入について所有者と接続先のサービスを記録し、機密性の高いアクションには承認を必須とするべきです。これにより、セキュリティチームは未登録のエージェントを特定し、不適切なアクセスを調査するための基盤を得られます。

Microsoftのデータガバナンスの取り組みでは、業務情報へのアクセスを管理することが重視されています。Microsoft DigitalのプリンシパルアーキテクトであるNaveen Jangirは、組織は「適切なアクセス制限を設けて、データを統制・保護する」ことを推奨しています。こうした管理策により、許可されたユーザーやAI機能は、設定された権限の範囲内で 不要な情報露出を避けながら利用できます。説明責任を伴う所有者の設定と並行してコネクターポリシーを適用すれば、こうした制限を日常的な開発プロセスに組み込めます。

ハイコードAIエージェントのセキュリティリスクと対策

チームがAIコーディングエージェントを使ってカスタムシステムを構築すると、人が変更内容を確認するよりも速いペースで、生成された変更が反映されることがあります。そのため、ハイコード開発のセキュリティでは、開発プロセスと、エージェントがタスクを実行する環境の両方を管理する必要があります。

ハイコード開発特有のセキュリティ課題

コーディングエージェントは、攻撃者が仕込んだ指示を含む外部リポジトリを読み込む際に、間接的なプロンプトインジェクションに遭遇することがあります。エージェントが開発ツールにアクセスできる状態でその指示に従うと、安全でないコマンドを実行したり、認証情報を漏えいさせたりするおそれがあります。起こり得る影響は、実行環境でどのファイルやツールにアクセスできるか、また、どの外部の宛先に接続できるかにも左右されます。

NVIDIAのサンドボックスに関するガイダンスは、実行環境の境界内における認証情報の露出に対処しています。認証情報へのアクセスを制限するため、「サンドボックス環境では、シークレットを明示的に注入するべきである」と述べています。したがって、限られたアクセス権で足りるタスクでは、エージェントに 環境全体の認証情報を引き継がせるべきではありません。チームは特定のタスクに必要な認証情報を用意し、無関係なシークレットにはエージェントがアクセスできないようにする必要があります。

高コードエージェントのパイプラインを強化する戦略

制限付き実行環境では、タスクに応じてファイルへのアクセスや外部への接続を制限する必要があります。また、チームは生成されたコードに静的アプリケーションセキュリティテストを実施すべきです。自動チェックでは見落とす可能性のある認可の判断やビジネスロジックを、独立したレビュアーが確認する必要もあります。こうした多層的な対策により、実行環境の境界と、生成されたソフトウェアに潜む脆弱性に対処できます。

Amazon Web Servicesは、コーディングエージェントの制御フレームワークにおいて、コード生成と評価を分離することを推奨しています。また、「セッションを分けることで、自己確認バイアスを避けやすくなる」と述べています。しかし、同じモデルを使う2つのセッションは、レビュー時に根底にある同じ盲点を抱える可能性があります。可能であれば、別のモデルによるレビューと、セキュリティ上重要な変更に対する人間の評価を加えることで、さらに詳しく検証できます。

両方のアプローチにまたがるセキュリティ戦略の構築

ローコードとハイコードのエージェント開発におけるAIセキュリティでは、エージェントが情報をやり取りするあらゆる場面で、活動を一元的に把握する必要があります。たとえば、ローコードのワークフローからカスタム開発のエージェントにコンテンツを送り、そのエージェントがさらに別のビジネスサービスを呼び出す場合があります。各コンポーネントを個別に確認するだけでは、セキュリティチームが一連の流れ全体を理解するために必要な文脈を把握できないおそれがあります。

DarktraceのAIセキュリティ専門家は、組織は 企業向け生成AIツール全般と両方の開発アプローチにおいて、応答と併せてプロンプトやセッションを確認すべきだと主張しています。同社の見解は、サービスとしてのソフトウェアやセキュアアクセスサービスエッジの環境にも及びます。こうした可視性を確保すれば、組織は「巧妙な対話型プロンプト攻撃や悪意ある連鎖を検知できる」ようになります。

Darktraceの見解は、ローコードとハイコードのエージェント開発における、より広範なAIセキュリティ戦略を後押しします。プロンプトの可視化、セッションの監視、IDの管理により、接続されたツール間でエージェントがどのようにやり取りするかをチームが把握できるためです。セキュリティチームは、接続されたセッションを通じて指示がどのように変化するか、また、その後のアクションが当初の認可内容と一貫しているかを確認すべきです。調査のために保持する情報の機密性についても検討する必要があります。

長期的なAIエージェントのセキュリティを支えるガバナンスと監視

開発方法にかかわらず、各エージェントには責任者を定め、許可された業務の範囲を明確にする必要があります。また、ガバナンスでは、その範囲の変更を誰が承認できるのか、エージェントが予期しない動作をした際に誰が活動を停止できるのかも明確にすべきです。

エージェントのガバナンスに関する研究によると、説明責任を果たすには、エージェントに 認証可能な権限を持たせ、その権限を監査できるようにする必要があります。この方法では、権限を付与する人と、エージェントが実行できるタスクを結び付けます。これにより組織は、個々のアクションがその認可内容に沿っているか確認できます。

チームは、委任された権限、ツールの使用状況、実行結果を結び付ける活動記録を維持すべきです。定期的なレビューでは、能力の変化に応じて権限を見直し、完了した業務で不要になったアクセス権を削除するとともに、責任者が現在も適切であることを確認する必要があります。開発チームとセキュリティチームは、こうしたレビューを通じて、運用上の管理策をエージェントの承認済みの目的に沿った状態に保つことができます。

AIエージェントのセキュリティリスクに先手を打つ

ローコード開発では、プラットフォームの権限やコネクターのガバナンスを慎重に管理する必要がある一方、ハイコード開発では、カスタム実行環境とコードレビューに細心の注意を払う必要があります。監視の一元化と一貫した説明責任の仕組みは、接続されたビジネスシステム全体でエージェントが情報にアクセスし、行動する状況を監督するための共通の基盤となります。能力の拡大に伴い、開発者はエージェントのツールや責任の変更に合わせて安全対策を見直し、各導入環境で許可される活動をライフサイクル全体を通じて明確にしておくべきです。