主題插畫:資安做得好,AI 就安全?;AI 決策風險不只資料外洩

企業把 AI Agent(AI 代理)接進客服後台,協助分類工單與草擬回覆。

資安部門確認登入權限有控管、傳輸也加密;客服卻發現,AI 偶爾會把本來應轉交真人的客訴誤判為「已解決」。

資料未必遭到外洩,營運和客戶權益卻可能受到 AI 決策影響。

ISO 27001 主要處理資訊安全管理;ISO 42001 則是 AI 管理系統,關心開發、部署、使用與監督 AI 的治理。

兩者有交集,但不能拿「資料沒有外洩」直接推定「AI 的所有決策都適當」。

以上為 AI 導入情境示意,不指涉特定產品行為。

核心差異

面向ISO/IEC 27001ISO/IEC 42001
核心資訊安全管理系統人工智慧管理系統
主要風險未授權存取、資料破壞、服務中斷AI 系統使用情境、影響、治理與生命週期管理
常見措施權限、風險評鑑、供應商管理、事件回應AI 使用政策、角色責任、系統評估與監督
是否互相取代不會不會

一個 AI Agent 的例子

某公司給 AI Agent GitHub、Google Drive 和行銷平台的權限,準備讓它自動處理網站 SEO。

圖解:資訊安全風險和 AI 治理,帳號權限與資料安全、AI 決策與人工監督、模型輸出與風險證據

圖解:AI 沒外洩資料也可能做錯營運決策

27001 角度: 使用哪個身分存取、是否遵守最小權限、金鑰如何保管、資料傳到哪裡、怎麼追蹤異常操作。

42001 角度: AI 可以自行做哪些決策、什麼需要人確認、內容準確性如何驗證、發生錯誤由誰修正、風險如何持續評估。

要讓 AI 可以處理大量工作,兩邊都不能只靠「模型很聰明」這個理由跳過治理。

不一定需要同時買兩張證書

企業是否導入或認證,應先看合約要求、AI 的實際使用範圍、業務風險與能提供的內控證據。對只有少量內部 AI 輔助工作的組織,可以先做風險與控制盤點,確認哪些措施已具備、哪些屬新增需求,再決定是否擴大管理系統。

管理 AI 最需要的四種證據

  • AI 能存取哪些資料及工具?權限由誰核准?
  • AI 的輸出如何審查?高風險操作有沒有人工覆核?
  • 重要輸出與操作是否有追溯紀錄?
  • 發生資料外洩、誤操作或不當決策時,如何停用和修正?

這些措施可以先從現有流程建立,不應為了宣稱符合標準而製造不存在的執行紀錄。

同一個 Agent,從兩個角度驗收

作業資安管理問題(27001)AI 管理問題(42001)
AI 修改網站內容GitHub 權限是否最小化?有無備份回復?是否需要事前審稿?法律資訊如何驗證?
AI 回覆會員客服個資會傳到哪些模型或供應商?錯誤回覆如何偵測與申訴?
AI 自動操作第三方工具金鑰存放與操作紀錄是否完整?哪些決策必須由人批准?失控如何緊急停用?

此表為導入時的討論起點,並非逐條 ISO 標準控制清單。對不具高風險的內部 AI 輔助工作,最先該建的是角色、權限、使用情境和驗收證據,再看是否需要完整管理系統。

官方來源:ISO/IEC 27001、ISO/IEC 42001。

同主題延伸閱讀:ISO 27001 與 SOC 2 差在哪?SaaS 採購及企業取證怎麼選、ISO 27001 供應商風險管理怎麼做?SaaS、CRM、物流委外查核清單。