ทำความเข้าใจแฟล็กความปลอดภัย
เรียนรู้เกี่ยวกับแฟล็กความปลอดภัยและ Lethal Trifecta
Edison Watch ใช้สามแฟล็กเพื่อติดตามความเสี่ยงในเซสชัน AI
แฟล็กความปลอดภัย
📘 Private Data Access
เกิดจาก: การอ่านไฟล์ ค้นหาฐานข้อมูล หรือเข้าถึงเอกสารภายใน ความเสี่ยง: ข้อมูลที่ละเอียดอ่อนอาจถูกเปิดเผย
🌐 Untrusted Content Exposure
เกิดจาก: การดึงหน้าเว็บหรือเรียก API ภายนอก ความเสี่ยง: AI อาจได้รับคำสั่งที่เป็นอันตราย (prompt injection)
✉️ External Communication
เกิดจาก: การส่งอีเมล โพสต์ไปยัง Slack หรือทำการเรียก API ภายนอก ความเสี่ยง: ข้อมูลลับอาจถูกลักลอบนำออกไป
Lethal Trifecta
"Lethal Trifecta" เกิดขึ้นเมื่อเซสชันมีแฟล็กทั้งสามที่ active:
| สถานะ | ความหมาย |
|---|---|
| ✓ Private Data | AI ได้เห็นข้อมูลลับ |
| ✓ Untrusted Content | AI อาจได้รับคำสั่งที่เป็นอันตราย |
| ⏳ External Communication | AI กำลังพยายามส่งข้อมูลออกภายนอก |
การป้องกัน: Edison Watch จะหยุดการกระทำที่ทำให้ trifecta นี้สมบูรณ์โดยอัตโนมัติ โดยต้องได้รับการอนุมัติด้วยตนเองจากคุณเพื่อดำเนินการต่อ
การดูแฟล็กใน Dashboard
มุมมอง Sessions ใช้จุดสีเพื่อแสดงแฟล็กที่ active:
- 🔵 สีฟ้า: Private Data Access
- 🟡 สีเหลืองอำพัน: Untrusted Content Exposure
- 🔴 สีแดง: External Communication
ระดับความเสี่ยง
- Low (เขียว): 0 แฟล็ก
- Medium (เหลืองอำพัน): 1 แฟล็ก
- High (แดง): 2+ แฟล็ก
ระดับ ACL
Access Control Level (ACL) ให้การป้องกันเพิ่มเติม:
| ระดับ | ความหมาย |
|---|---|
| PUBLIC | ข้อมูลที่ไม่ละเอียดอ่อน |
| PRIVATE | ข้อมูลภายใน/ข้อมูลลับ |
| SECRET | ข้อมูลที่ละเอียดอ่อนสูง |
การบังคับใช้: Edison Watch จะบล็อกการไหลของข้อมูลจากระดับสูงไปต่ำโดยอัตโนมัติ (เช่น อ่านข้อมูล SECRET แล้วโพสต์ไปยังช่อง PUBLIC) การบล็อกเหล่านี้จะไม่ขออนุมัติ - จะถูกป้องกันโดยค่าเริ่มต้น
สำหรับผู้ดูแลระบบ: คุณสามารถจัดประเภทเครื่องมือและตั้งค่าระดับ ACL ได้จากหน้า Access Control และผ่าน Policy Rules