セキュリティフラグの理解
セキュリティフラグと Lethal Trifecta について学びます。
Edison Watch は AI セッションのリスクを追跡するために 3 つのフラグを使用します。
セキュリティフラグ
📘 Private Data Access
トリガー: ファイルの読み取り、データベースへのクエリ、内部ドキュメントへのアクセス。 リスク: 機密情報が漏洩する可能性があります。
🌐 Untrusted Content Exposure
トリガー: ウェブページの取得、外部 API の呼び出し。 リスク: AI が悪意のある指示(プロンプトインジェクション)を受け取る可能性があります。
✉️ External Communication
トリガー: メールの送信、Slack への投稿、外部 API の呼び出し。 リスク: 機密データが外部に流出する可能性があります。
Lethal Trifecta
"Lethal Trifecta" は、セッションで 3 つのフラグすべてがアクティブになった状態を指します。
| ステータス | 意味 |
|---|---|
| ✓ Private Data | AI が機密情報を閲覧済み。 |
| ✓ Untrusted Content | AI が悪意のある指示を受け取った可能性あり。 |
| ⏳ External Communication | AI がデータを外部へ送信しようとしている。 |
保護: Edison Watch は、この trifecta を完成させるアクションを自動的に一時停止し、続行には手動での承認を必要とします。
ダッシュボードでのフラグの表示
Sessions ビューでは、アクティブなフラグを色付きのドットで表示します。
- 🔵 青: Private Data Access
- 🟡 オレンジ: Untrusted Content Exposure
- 🔴 赤: External Communication
リスクレベル
- Low (緑): 0 フラグ
- Medium (オレンジ): 1 フラグ
- High (赤): 2 フラグ以上
ACL レベル
Access Control Levels (ACL) は追加の保護を提供します。
| レベル | 意味 |
|---|---|
| PUBLIC | 機密性のないデータ。 |
| PRIVATE | 内部/機密データ。 |
| SECRET | 高度に機密性の高いデータ。 |
適用: Edison Watch は、高から低へのデータフロー(例: SECRET データを読み取った後に PUBLIC チャネルへ投稿するなど)を自動的にブロックします。これらのブロックは承認を求めることなく、デフォルトで防止されます。