AI / AI-06
AIエージェントとエンタープライズアクションのセキュリティ
ツールを使用したり行動を起こしたりできるAIのガバナンス：最小権限の原則、タスクの境界設定、機密操作の承認、停止メカニズム。エージェントは、オペレーターのすべての権限を自動的に継承してはならない。.
役立つとき
的確な回答
定義されたニーズに対して.
CRM、チケット管理、メール、ファイル管理、または管理業務に接続されたエージェント。高度なアクセスを要求する自動化機能。アクションとそのコストを制御する必要がある。.
適用範囲と成果物
このエンゲージメントの対象範囲.
スコープ
- 工具在庫
- 専用のアイデンティティ
- 権限
- 読み取り/書き込み分離
- 許可された目的地
- 人間の承認
- 取引
- 割り当て
- ログ
- 停止
- 撤回および濫用テスト
成果物
- ツール/アクションのマトリックス
- 承認規則
- 制限されたアイデンティティ
- 停止手続き
- テスト
- 監査ログ
- 操作手順
- excluded-action レジストリ
検収証拠
対象外のアクションは拒否されます。承認者は機密性の高いパラメータを確認できます。停止と取り消しはテストされます。ログは使用可能であり、コールと再試行の制限は有効です。.
配達
仕事の進め方.
アプローチ
ユースケースの選定、データとアクセスの分類、設計とパイロットの実施、プライバシー・アクション・コストのテスト、ロールアウトとモニタリングの決定。.
前提条件と責任
顧客：ビジネススポンサー、データオーナー、IDチーム、必要に応じてDPO／法務部門、および予算。プロバイダー：アーキテクチャとテスト。顧客は機密性の高い利用に対する承認を保持します。.
スコープ要因
用途、ユーザー、モデル、データ、コネクタ、権限、アクション、ボリューム、ホスティング。プロジェクト、ライセンス、トークン、検索、ストレージ、オペレーションを分離。測定に基づかないコスト削減の主張は禁止。.
確認のための質問
どのような行動が外部的または不可逆的な影響をもたらすのでしょうか？実行前に具体的な行動を承認する者は誰ですか？ツールが誤った指示を返す場合、エージェントは何ができるでしょうか？
重要な境界線
システムメッセージ自体がセキュリティの境界とは限らない。ツールやサービスには権限の適用が必要であり、承認は曖昧な意図ではなく実際の行動を対象にするべきである。.
権限、プロバイダーのデータ使用、保持、居住性、およびコストの適用は個別に評価されます。技術的機能および該当する義務は、選択された提供内容とユースケースについて確認されます。.
実際には
具体例.
これらの例は、想定される関与と目標とする成果について説明したものであり、顧客の事例や達成された実績ではありません。.
シナリオ01
エージェントはセールス対応の草案を作成し、送信することができます。 プロジェクト：送信と草案作成を分離し、受信者と内容の承認を伴うよう設定します。 ターゲット成果：承認されていない外部メッセージが不要な、有用なサポートを提供します。.
シナリオ 02
チームは技術的な修正担当者を求めています。プロジェクト：当初は分析に限定し、承認された可逆的な変更のみを対象とします。目標成果：追跡可能なアクション。データ削除や権限変更は、より強力な手順がない限り禁止されます。.
技術と参照コンテキスト
例：アプリケーション・アイデンティティ、ツール・ゲートウェイ、コネクター・コントロール、承認ベースのオーケストレーション；OWASP GenAIの参考資料。.
最終的なテクノロジーセットは、相互運用性、ライセンス、アクセス権、および運用要件に基づき、スコープ設定の段階で合意されます。.
コネクテッドサービス
次のステップを構築する。.
これらのサービスはエンゲージメントを補完するものであり、自動的には含まれません。.
会話を始めましょう。
スコープを明確にする。.
このサービスの目的、依存関係、および責任範囲を明確にした上で、納品を提案いたします。.