Edison Watch

セキュリティフラグの理解

セキュリティフラグと致死的な3要素(The Lethal Trifecta)について学びます。

Edison Watchは、3つのフラグを使用してAIセッションのリスクを追跡します。

セキュリティフラグ

📘 プライベートデータアクセス(Private Data Access)

トリガー: ファイルの読み取り、データベースのクエリ、または内部ドキュメントへのアクセス。 リスク: 機密情報が漏洩する可能性があります。

🌐 信頼できないコンテンツの露出(Untrusted Content Exposure)

トリガー: Webページの取得または外部APIの呼び出し。 リスク: AIが悪意のある指示(プロンプトインジェクション)を受け取る可能性があります。

✉️ 外部通信(External Communication)

トリガー: メールの送信、Slackへの投稿、または外部API呼び出しの実行。 リスク: 機密データが持ち出される可能性があります。

致死的な3要素(The Lethal Trifecta)

「致死的な3要素」は、セッションで3つすべてのフラグがアクティブになったときに発生します:

ステータス意味
✓ Private DataAIは機密情報を見ました。
✓ Untrusted ContentAIは悪意のある指示を受け取った可能性があります。
⏳ External CommunicationAIは外部にデータを送信しようとしています。

保護: Edison Watchは、この3要素を完了するアクションを自動的に一時停止し、続行するには手動承認が必要です。

ダッシュボードでのフラグ表示

Sessions(セッション)ビューでは、色付きのドットを使用してアクティブなフラグを表示します:

  • 🔵 : プライベートデータアクセス
  • 🟡 アンバー: 信頼できないコンテンツの露出
  • 🔴 : 外部通信
セッションテーブルのセキュリティフラグ

リスクレベル

  • Low(低・緑): フラグ0個
  • Medium(中・アンバー): フラグ1個
  • High(高・赤): フラグ2個以上

ACLレベル

アクセス制御レベル(ACL)は、追加の保護を提供します:

レベル意味
PUBLIC機密ではないデータ。
PRIVATE内部/機密データ。
SECRET極秘データ。

強制: Edison Watchは、高レベルから低レベルへのデータフロー(例:SECRETデータを読み取ってからPUBLICチャンネルに投稿する)を自動的にブロックします。これらのブロックは承認を求めません - デフォルトで防止されます。


管理者向け: サーバー設定でツールを分類し、ACLレベルを設定できます。