セキュリティフラグの理解
セキュリティフラグと致死的な3要素(The Lethal Trifecta)について学びます。
Edison Watchは、3つのフラグを使用してAIセッションのリスクを追跡します。
セキュリティフラグ
📘 プライベートデータアクセス(Private Data Access)
トリガー: ファイルの読み取り、データベースのクエリ、または内部ドキュメントへのアクセス。 リスク: 機密情報が漏洩する可能性があります。
🌐 信頼できないコンテンツの露出(Untrusted Content Exposure)
トリガー: Webページの取得または外部APIの呼び出し。 リスク: AIが悪意のある指示(プロンプトインジェクション)を受け取る可能性があります。
✉️ 外部通信(External Communication)
トリガー: メールの送信、Slackへの投稿、または外部API呼び出しの実行。 リスク: 機密データが持ち出される可能性があります。
致死的な3要素(The Lethal Trifecta)
「致死的な3要素」は、セッションで3つすべてのフラグがアクティブになったときに発生します:
| ステータス | 意味 |
|---|---|
| ✓ Private Data | AIは機密情報を見ました。 |
| ✓ Untrusted Content | AIは悪意のある指示を受け取った可能性があります。 |
| ⏳ External Communication | AIは外部にデータを送信しようとしています。 |
保護: Edison Watchは、この3要素を完了するアクションを自動的に一時停止し、続行するには手動承認が必要です。
ダッシュボードでのフラグ表示
Sessions(セッション)ビューでは、色付きのドットを使用してアクティブなフラグを表示します:
- 🔵 青: プライベートデータアクセス
- 🟡 アンバー: 信頼できないコンテンツの露出
- 🔴 赤: 外部通信
リスクレベル
- Low(低・緑): フラグ0個
- Medium(中・アンバー): フラグ1個
- High(高・赤): フラグ2個以上
ACLレベル
アクセス制御レベル(ACL)は、追加の保護を提供します:
| レベル | 意味 |
|---|---|
| PUBLIC | 機密ではないデータ。 |
| PRIVATE | 内部/機密データ。 |
| SECRET | 極秘データ。 |
強制: Edison Watchは、高レベルから低レベルへのデータフロー(例:SECRETデータを読み取ってからPUBLICチャンネルに投稿する)を自動的にブロックします。これらのブロックは承認を求めません - デフォルトで防止されます。
管理者向け: サーバー設定でツールを分類し、ACLレベルを設定できます。

