ความเข้าใจการแจ้งเตือน
เรียนรู้เกี่ยวกับธงความปลอดภัยและ The Lethal Trifecta
Edison Watch ใช้ธงสามอย่างเพื่อติดตามความเสี่ยงในเซสชัน AI
ธงความปลอดภัย
📘 Private Data Access
ถูกกระตุ้นโดย: การอ่านไฟล์, การสอบถามฐานข้อมูล หรือการเข้าถึงเอกสารภายใน ความเสี่ยง: ข้อมูลสำคัญอาจถูกเปิดเผย
🌐 Untrusted Content Exposure
ถูกกระตุ้นโดย: การดึงหน้าเว็บหรือเรียก API ภายนอก ความเสี่ยง: AI อาจได้รับคำสั่งที่มุ่งร้าย (prompt injection)
✉️ External Communication
ถูกกระตุ้นโดย: การส่งอีเมล, โพสต์ลง Slack หรือเรียก API ภายนอก ความเสี่ยง: ข้อมูลลับอาจถูกขโมยออกไป
The Lethal Trifecta
"Lethal Trifecta" เกิดขึ้นเมื่อเซสชันมีธงทั้งสามทำงาน:
| สถานะ | ความหมาย |
|---|---|
| ✓ Private Data | AI ได้เห็นข้อมูลลับ |
| ✓ Untrusted Content | AI อาจได้รับคำสั่งที่มุ่งร้าย |
| ⏳ External Communication | AI พยายามส่งข้อมูลออกไปภายนอก |
การป้องกัน: Edison Watch จะหยุดการกระทำใดๆ ที่ทำให้ไตรเฟคตานี้สมบูรณ์โดยอัตโนมัติ และต้องการการอนุมัติจากคุณเพื่อดำเนินการต่อ
การดูธงในแดชบอร์ด
มุมมอง Sessions ใช้จุดสีเพื่อแสดงธงที่ใช้งานอยู่:
- 🔵 น้ำเงิน: การเข้าถึงข้อมูลส่วนตัว
- 🟡 เหลือง: การเปิดเผยเนื้อหาที่ไม่น่าเชื่อถือ
- 🔴 แดง: การสื่อสารภายนอก
ระดับความเสี่ยง
- Low (เขียว): 0 ธง
- Medium (เหลือง): 1 ธง
- High (แดง): 2+ ธง
ระดับ ACL
ระดับการควบคุมการเข้าถึง (ACL) ให้การป้องกันเพิ่มเติม:
| ระดับ | ความหมาย |
|---|---|
| PUBLIC | ข้อมูลไม่สำคัญ |
| PRIVATE | ข้อมูลภายใน/ลับ |
| SECRET | ข้อมูลที่มีความอ่อนไหวสูง |
การบังคับใช้: Edison Watch บล็อกการไหลของข้อมูลจากสูงไปต่ำโดยอัตโนมัติ (เช่น อ่านข้อมูล SECRET แล้วโพสต์ลงช่อง PUBLIC) การบล็อกเหล่านี้จะไม่ขออนุมัติ - มันถูกป้องกันโดยค่าเริ่มต้น
สำหรับผู้ดูแลระบบ: คุณสามารถจัดประเภทเครื่องมือและตั้งค่าระดับ ACL ในการกำหนดค่า Servers