一家企業開始讓 AI Agent(AI 代理)讀取內部資料、操作 CRM 和撰寫客戶內容時,資安與 AI 治理常一起出現。但保護資料不外洩,和管理 AI 做出什麼決策,是相關卻不同的兩件事。
核心差異
| 面向 | ISO/IEC 27001 | ISO/IEC 42001 |
|---|---|---|
| 核心 | 資訊安全管理系統 | 人工智慧管理系統 |
| 主要風險 | 未授權存取、資料破壞、服務中斷 | AI 系統使用情境、影響、治理與生命週期管理 |
| 常見措施 | 權限、風險評鑑、供應商管理、事件回應 | AI 使用政策、角色責任、系統評估與監督 |
| 是否互相取代 | 不會 | 不會 |
一個 AI Agent 的例子
某公司給 AI Agent GitHub、Google Drive 和行銷平台的權限,準備讓它自動處理網站 SEO。
27001 角度: 使用哪個身分存取、是否遵守最小權限、金鑰如何保管、資料傳到哪裡、怎麼追蹤異常操作。
42001 角度: AI 可以自行做哪些決策、什麼需要人確認、內容準確性如何驗證、發生錯誤由誰修正、風險如何持續評估。
要讓 AI 可以處理大量工作,兩邊都不能只靠「模型很聰明」這個理由跳過治理。
不一定需要同時買兩張證書
企業是否導入或認證,應先看合約要求、AI 的實際使用範圍、業務風險與能提供的內控證據。對只有少量內部 AI 輔助工作的組織,可以先做風險與控制盤點,確認哪些措施已具備、哪些屬新增需求,再決定是否擴大管理系統。
管理 AI 最需要的四種證據
- AI 能存取哪些資料及工具?權限由誰核准?
- AI 的輸出如何審查?高風險操作有沒有人工覆核?
- 重要輸出與操作是否有追溯紀錄?
- 發生資料外洩、誤操作或不當決策時,如何停用和修正?
這些措施可以先從現有流程建立,不應為了宣稱符合標準而製造不存在的執行紀錄。
同一個 Agent,從兩個角度驗收
| 作業 | 資安管理問題(27001) | AI 管理問題(42001) |
|---|---|---|
| AI 修改網站內容 | GitHub 權限是否最小化?有無備份回復? | 是否需要事前審稿?法律資訊如何驗證? |
| AI 回覆會員客服 | 個資會傳到哪些模型或供應商? | 錯誤回覆如何偵測與申訴? |
| AI 自動操作第三方工具 | 金鑰存放與操作紀錄是否完整? | 哪些決策必須由人批准?失控如何緊急停用? |
此表為導入時的討論起點,並非逐條 ISO 標準控制清單。對不具高風險的內部 AI 輔助工作,最先該建的是角色、權限、使用情境和驗收證據,再看是否需要完整管理系統。
官方來源:ISO/IEC 27001、ISO/IEC 42001。
同主題延伸閱讀:iso 27001 vs soc2、iso 27001 supplier risk。