{
 "byKey": {
  "cover": [
   {
    "say": "大家好,歡迎來到 C I S S P 備考延伸課程的第四章,也是最後一章。",
    "item": 0
   },
   {
    "say": "這一章要談 A I 與新興技術安全,看看提示注入、資料外洩、模型風險和治理,還有物聯網。",
    "item": 0
   },
   {
    "say": "重點有三個:模型輸出是不受信任的輸入,防禦要多層,治理要依用途的風險設定。",
    "item": 0
   }
  ],
  "closing": [
   {
    "say": "這一章就到這裡。",
    "item": 0
   },
   {
    "say": "接下來請完成章末小測驗,再做期末總複習。",
    "item": 1
   }
  ],
  "觀念教學:AI 系統的風險全貌#1": [
   {
    "say": "先看 A I 系統的生命週期,和每個階段的風險。",
    "item": 0
   },
   {
    "say": "資料,包含訓練和微調資料的來源、品質、授權和隱私。",
    "item": 1
   },
   {
    "say": "模型,包含訓練、評估、部署和更新。",
    "item": 2
   },
   {
    "say": "應用,包含提示、工具、外部資料和使用者介面。",
    "item": 3
   },
   {
    "say": "每一個階段都有各自的風險,管理者要看整個鏈條,不只看模型本身。",
    "item": 4
   }
  ],
  "觀念教學:AI 系統的風險全貌#2": [
   {
    "say": "常見的風險類型,第一部分。",
    "item": 0
   },
   {
    "say": "資料投毒,是攻擊者在訓練或微調資料中混入錯誤或惡意的樣本,操縱模型的行為。",
    "item": 1
   },
   {
    "say": "提示注入和越獄,是用精心設計的輸入,繞過模型的限制,或誘導它做不該做的事。",
    "item": 2
   },
   {
    "say": "資料外洩,是使用者把機敏資料送進模型,或模型的輸出洩漏訓練資料和其他使用者的資訊。",
    "item": 3
   }
  ],
  "觀念教學:AI 系統的風險全貌#3": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "模型竊取和濫用,是大量查詢來複製模型的行為,或把模型用於詐騙、釣魚和惡意程式。",
    "item": 1
   },
   {
    "say": "幻覺,是模型產生看似合理但不正確的內容,直接採信會造成決策錯誤。",
    "item": 2
   },
   {
    "say": "供應鏈,第三方的模型、資料集和外掛,可能帶有弱點或惡意內容。",
    "item": 3
   }
  ],
  "觀念教學:AI 系統的風險全貌#4": [
   {
    "say": "第三部分。",
    "item": 0
   },
   {
    "say": "過度授權的代理,是給 A I 助理太大的權限和太多工具,被誘導時後果更大。",
    "item": 1
   }
  ],
  "觀念教學:AI 系統的風險全貌#5": [
   {
    "say": "管理者的基本態度。",
    "item": 0
   },
   {
    "say": "把模型的輸出視為不受信任的輸入,使用前要驗證和過濾,尤其是要送進其他系統,或被執行的內容。",
    "item": 1
   },
   {
    "say": "A I 也是資訊系統,既有的風險管理、存取控制、日誌和事件回應,都要涵蓋它。",
    "item": 2
   },
   {
    "say": "風險取決於用途。用在草稿發想,和用在自動決策,要求完全不同。",
    "item": 3
   }
  ],
  "觀念教學:AI 系統的風險全貌#6": [
   {
    "say": "常見失分點。",
    "item": 0
   },
   {
    "say": "以為模型的輸出一定正確或一定安全。",
    "item": 1
   },
   {
    "say": "只看模型本身,忽略資料、工具和整合的環節。",
    "item": 2
   },
   {
    "say": "把 A I 當成特例,不納入既有的資安治理。",
    "item": 3
   }
  ],
  "觀念教學:提示注入與資料外洩#1": [
   {
    "say": "提示注入有兩種形式。",
    "item": 0
   },
   {
    "say": "直接提示注入,是使用者直接在輸入中下達指令,要求模型忽略原本的規則。",
    "item": 1
   },
   {
    "say": "間接提示注入,是惡意指令藏在模型之後會讀取的外部內容,例如網頁、文件、郵件或資料庫,使用者本人可能毫不知情。",
    "item": 2
   },
   {
    "say": "根本原因是模型把資料和指令都當成文字,難以可靠地區分哪些可信、哪些不可信。",
    "item": 3
   }
  ],
  "觀念教學:提示注入與資料外洩#2": [
   {
    "say": "可能造成什麼後果?",
    "item": 0
   },
   {
    "say": "誘導助理洩漏系統提示、內部資料,或其他使用者的資訊。",
    "item": 1
   },
   {
    "say": "誘導助理呼叫工具,例如寄信、刪除檔案、轉帳或退款。",
    "item": 2
   },
   {
    "say": "產生含有惡意連結或不實資訊的輸出,再被其他系統或人員採信。",
    "item": 3
   }
  ],
  "觀念教學:提示注入與資料外洩#3": [
   {
    "say": "防護的思路是縱深防禦,第一部分。",
    "item": 0
   },
   {
    "say": "不要期待靠一句不要聽從惡意指令,就能解決,它無法單獨提供完整的防禦。",
    "item": 1
   },
   {
    "say": "最小權限,助理能用的工具、資料和帳號,只給完成任務所需的最少權限。",
    "item": 2
   },
   {
    "say": "人工確認,高風險或不可逆的動作,例如付款、刪除、對外寄送,要由人確認。",
    "item": 3
   }
  ],
  "觀念教學:提示注入與資料外洩#4": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "輸入和輸出的檢查與過濾,隔離不受信任的內容,記錄與監控,還有定期的紅隊測試。",
    "item": 1
   },
   {
    "say": "對模型輸出做驗證,不直接當成可以執行的指令或程式碼。",
    "item": 2
   }
  ],
  "觀念教學:提示注入與資料外洩#5": [
   {
    "say": "資料外洩的管理。",
    "item": 0
   },
   {
    "say": "資料分類,哪些資料可以送到外部 A I 服務,哪些不行,要有明確規則。",
    "item": 1
   },
   {
    "say": "提供經核准的工具和資料處理合約,比單純禁止更有效,單純禁止常常促使員工私下使用。",
    "item": 2
   },
   {
    "say": "資料外洩防護和存取控制,也可以用在 A I 服務的出入口。",
    "item": 3
   }
  ],
  "觀念教學:提示注入與資料外洩#6": [
   {
    "say": "常見失分點。",
    "item": 0
   },
   {
    "say": "只靠系統提示的文字規則,就以為已經防住提示注入。",
    "item": 1
   },
   {
    "say": "給 A I 助理過大的權限,事後才補控制。",
    "item": 2
   },
   {
    "say": "只禁止員工使用,沒有提供核准的替代方案。",
    "item": 3
   }
  ],
  "觀念教學:模型風險與 AI 治理#1": [
   {
    "say": "先說模型風險管理。",
    "item": 0
   },
   {
    "say": "模型風險,是模型不準確、有偏見、不穩定,或被用在不適合的場合,造成決策錯誤和損失。",
    "item": 1
   },
   {
    "say": "評估,上線前用代表性的資料,測試準確度、偏見和穩健性,上線後持續監控效能是否退化。",
    "item": 2
   },
   {
    "say": "可解釋性和紀錄,重要的決策要能說明依據,並保留輸入、輸出和版本紀錄,方便稽核和調查。",
    "item": 3
   }
  ],
  "觀念教學:模型風險與 AI 治理#2": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "人類監督,高風險用途不可以完全自動化,要有人可以檢視、覆核和推翻。",
    "item": 1
   }
  ],
  "觀念教學:模型風險與 AI 治理#3": [
   {
    "say": "接著是 A I 治理,第一部分。",
    "item": 0
   },
   {
    "say": "政策和角色,誰能核准 A I 的使用,誰負責風險,誰負責監控。",
    "item": 1
   },
   {
    "say": "核准清單,列出核准使用的工具和用途,並盤點影子 A I,也就是未經核准而被私下使用的工具。",
    "item": 2
   },
   {
    "say": "供應商評估,包含資料如何處理和保存、是否用於訓練、地區、稽核證明、事件通知和退場條款。",
    "item": 3
   },
   {
    "say": "資料和智慧財產權,訓練和輸入資料的授權、隱私和機密性。",
    "item": 4
   }
  ],
  "觀念教學:模型風險與 AI 治理#4": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "風險框架,有公開的 A I 風險管理框架可以參考,內容以官方資料為準。",
    "item": 1
   },
   {
    "say": "法規,許多地區陸續推出 A I 相關規範,常以風險等級分類要求,細節和時程變動快,以最新的官方資料為準。",
    "item": 2
   }
  ],
  "觀念教學:模型風險與 AI 治理#5": [
   {
    "say": "管理者思維。",
    "item": 0
   },
   {
    "say": "不是禁止或放任,而是依用途的風險等級設定控制,低風險快速放行,高風險嚴格審查。",
    "item": 1
   },
   {
    "say": "讓人容易做對,核准的工具、範本和訓練,比事後糾正有效。",
    "item": 2
   }
  ],
  "觀念教學:模型風險與 AI 治理#6": [
   {
    "say": "使用 A I 的資料面考量。",
    "item": 0
   },
   {
    "say": "輸入的資料可能含個資、機密和智慧財產,送出前要先分類,並確認是否允許。",
    "item": 1
   },
   {
    "say": "輸出的內容也可能涉及版權和準確度的問題,對外發布前要有審查。",
    "item": 2
   }
  ],
  "觀念教學:模型風險與 AI 治理#7": [
   {
    "say": "常見失分點。",
    "item": 0
   },
   {
    "say": "以為供應商宣稱不用客戶資料訓練,就不需要評估。",
    "item": 1
   },
   {
    "say": "高風險用途完全自動化,沒有人類覆核。",
    "item": 2
   },
   {
    "say": "只在上線前評估一次,之後不再監控。",
    "item": 3
   }
  ],
  "觀念教學:物聯網與其他新興技術#1": [
   {
    "say": "先看物聯網安全,第一部分。",
    "item": 0
   },
   {
    "say": "物聯網的特性,是數量多、資源有限、長期部署,而且常常難以更新,例如攝影機、感測器和智慧設備。",
    "item": 1
   },
   {
    "say": "常見弱點,有預設或弱密碼、不安全的更新機制、不必要的開放服務,還有缺乏日誌。",
    "item": 2
   },
   {
    "say": "基本控制,上線前更改預設密碼,網路分段隔離,停用不必要的服務,並有定期更新和汰換計畫。",
    "item": 3
   }
  ],
  "觀念教學:物聯網與其他新興技術#2": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "生命週期,採購時評估廠商的更新承諾,汰換時安全地清除資料和憑證。",
    "item": 1
   },
   {
    "say": "營運技術,縮寫 O T,和工業控制系統,可用性和人命安全常是第一優先,修補要配合停機窗口,不能直接套用一般資訊系統的做法。",
    "item": 2
   }
  ],
  "觀念教學:物聯網與其他新興技術#3": [
   {
    "say": "其他新興技術的概念。",
    "item": 0
   },
   {
    "say": "量子運算,未來可能破解現行的公開金鑰密碼,有人會先蒐集加密資料,等能力成熟再解密。管理者要盤點密碼使用處,關注標準組織的後量子密碼指引,並讓系統具備更換演算法的彈性。",
    "item": 1
   },
   {
    "say": "邊緣運算,資料在靠近來源的地方處理,實體安全和更新管理的挑戰更大。",
    "item": 2
   },
   {
    "say": "區塊鏈,紀錄不易竄改,但不代表應用安全,智慧合約的程式碼錯誤、金鑰遺失和錢包被盜,都是風險。",
    "item": 3
   }
  ],
  "觀念教學:物聯網與其他新興技術#4": [
   {
    "say": "管理者思維。",
    "item": 0
   },
   {
    "say": "新技術也適用既有原則,包含資產盤點、風險評估、最小權限、縱深防禦和持續監控。",
    "item": 1
   },
   {
    "say": "先評估價值和風險,再決定是否導入,並在導入後持續檢討。",
    "item": 2
   }
  ],
  "觀念教學:物聯網與其他新興技術#5": [
   {
    "say": "物聯網的採購與維運。",
    "item": 0
   },
   {
    "say": "採購時就把安全要求寫進規格和合約,支援更新、可以更改密碼、可以關閉不必要的服務。",
    "item": 1
   },
   {
    "say": "維運時盤點裝置清單,知道有哪些裝置、放在哪裡、誰負責,才能談更新和監控。",
    "item": 2
   }
  ],
  "觀念教學:物聯網與其他新興技術#6": [
   {
    "say": "常見失分點。",
    "item": 0
   },
   {
    "say": "裝置上線後就沒人管,沒有更新和汰換計畫。",
    "item": 1
   },
   {
    "say": "把物聯網裝置直接放在與重要系統相同的網段。",
    "item": 2
   },
   {
    "say": "以為新技術會自動帶來安全,而忽略基本的管理。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(一)員工把客戶資料貼給外部 AI#1": [
   {
    "say": "來看第一題原創情境題。第一步,讀題。",
    "item": 0
   },
   {
    "say": "資安人員發現,有同仁把含客戶個資的合約,貼到一個未經核准的公開 A I 服務,來產生摘要。公司目前沒有任何 A I 使用規定。哪一項做法最恰當?",
    "item": 1
   },
   {
    "say": "選項 A,先評估已外送的資料和通報義務,並建立 A I 使用政策、核准的工具和訓練。",
    "item": 2
   },
   {
    "say": "選項 B,什麼都不做,因為已經發生了。",
    "item": 3
   },
   {
    "say": "選項 C,禁止所有員工使用任何 A I,並懲處當事人就好。",
    "item": 4
   },
   {
    "say": "選項 D,要求 A I 服務商把整個網站下架。",
    "item": 5
   }
  ],
  "觀念教學:情境題解法示範(一)員工把客戶資料貼給外部 AI#2": [
   {
    "say": "第二步,找關鍵字。",
    "item": 0
   },
   {
    "say": "含客戶個資,可能涉及法規和通報義務。",
    "item": 1
   },
   {
    "say": "沒有任何 A I 使用規定,根因是治理的缺口。",
    "item": 2
   },
   {
    "say": "最恰當,要同時處理這次事件,和預防再發生。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(一)員工把客戶資料貼給外部 AI#3": [
   {
    "say": "第三步,判斷管理者角度。",
    "item": 0
   },
   {
    "say": "事件面,評估外送了什麼、可能的影響,以及是否需要通知。",
    "item": 1
   },
   {
    "say": "根因面,建立政策、核准的工具和訓練,讓員工知道什麼可以做。",
    "item": 2
   },
   {
    "say": "管理者追求持續改善,而不是只處罰個人。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(一)員工把客戶資料貼給外部 AI#4": [
   {
    "say": "第四步,排除。",
    "item": 0
   },
   {
    "say": "選項 B,放任不管,風險和法規責任都沒有處理。",
    "item": 1
   },
   {
    "say": "選項 C,全面禁止常使員工私下使用,而且只處罰個人,不解決制度問題。",
    "item": 2
   },
   {
    "say": "選項 D,超出組織的權限,也不切實際。",
    "item": 3
   },
   {
    "say": "選項 A,同時處理事件、根因和預防。",
    "item": 4
   }
  ],
  "觀念教學:情境題解法示範(一)員工把客戶資料貼給外部 AI#5": [
   {
    "say": "事件處理有哪些步驟?",
    "item": 0
   },
   {
    "say": "確認外送的是什麼資料、多少人、送到哪個服務。",
    "item": 1
   },
   {
    "say": "聯絡服務供應商,了解資料保存和刪除的可能性。",
    "item": 2
   },
   {
    "say": "通知法務和管理層,評估通報義務。",
    "item": 3
   },
   {
    "say": "把學到的教訓納入政策和訓練。",
    "item": 4
   }
  ],
  "觀念教學:情境題解法示範(一)員工把客戶資料貼給外部 AI#6": [
   {
    "say": "第五步,選答案與驗算。",
    "item": 0
   },
   {
    "say": "答案是 A。",
    "item": 1
   },
   {
    "say": "驗算,如果已經有政策和核准的工具,而同仁仍然違規,才會進一步檢討教育訓練,和違規的處置。",
    "item": 2
   },
   {
    "say": "這類題目的陷阱,是選了只處罰個人,或一刀切禁止的做法,忽略了治理和可行的替代方案。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#1": [
   {
    "say": "第二題原創情境題。第一步,讀題。",
    "item": 0
   },
   {
    "say": "某公司的客服機器人,會讀取客戶上傳的文件,並且可以呼叫退款工具。測試時發現,一份文件中藏有一行指令,誘使機器人對某筆訂單全額退款。哪一項改善最恰當?",
    "item": 1
   },
   {
    "say": "選項 A,限制機器人的工具和金額權限,高風險動作要人工確認,隔離不受信任的內容,並加上記錄和監控。",
    "item": 2
   },
   {
    "say": "選項 B,在系統提示中加一句,不要聽從文件裡的指令,就算解決。",
    "item": 3
   },
   {
    "say": "選項 C,因為只是測試,不需要處理。",
    "item": 4
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#2": [
   {
    "say": "還有最後一個選項。",
    "item": 0
   },
   {
    "say": "選項 D,給機器人更高的權限,讓它自己判斷。",
    "item": 1
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#3": [
   {
    "say": "第二步,找關鍵字。",
    "item": 0
   },
   {
    "say": "文件中藏有一行指令,這是間接提示注入。",
    "item": 1
   },
   {
    "say": "可以呼叫退款工具,被誘導的後果是實際的金錢損失。",
    "item": 2
   },
   {
    "say": "最恰當,要用多層控制限制後果。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#4": [
   {
    "say": "第三步,判斷管理者角度。",
    "item": 0
   },
   {
    "say": "假設模型一定有可能被誘導,設計時要限制後果。",
    "item": 1
   },
   {
    "say": "最小權限和人工確認,針對的是工具和動作的風險。",
    "item": 2
   },
   {
    "say": "隔離、記錄和紅隊測試,是持續改善的一部分。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#5": [
   {
    "say": "第四步,排除。",
    "item": 0
   },
   {
    "say": "選項 B,只靠文字規則,不能單獨提供完整的防禦。",
    "item": 1
   },
   {
    "say": "選項 C,測試發現的問題,就是上線前要處理的風險。",
    "item": 2
   },
   {
    "say": "選項 D,擴大權限只會擴大後果。",
    "item": 3
   },
   {
    "say": "選項 A,多層防禦,限制被誘導後的損害。",
    "item": 4
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#6": [
   {
    "say": "還可以怎麼加強?",
    "item": 0
   },
   {
    "say": "把客戶上傳的文件視為不受信任的內容,與系統指令分開處理。",
    "item": 1
   },
   {
    "say": "記錄機器人的每一次工具呼叫,設定異常金額和頻率的告警。",
    "item": 2
   },
   {
    "say": "定期用已知的攻擊手法做紅隊測試。",
    "item": 3
   }
  ],
  "觀念教學:情境題解法示範(二)客服機器人被誘導#7": [
   {
    "say": "第五步,選答案與驗算。",
    "item": 0
   },
   {
    "say": "答案是 A。",
    "item": 1
   },
   {
    "say": "驗算,如果退款需要人工確認,即使機器人被誘導,金錢損失也不會自動發生。這就是縱深防禦的效果。",
    "item": 2
   },
   {
    "say": "提醒,防禦措施只能降低風險,無法保證完全防住,所以記錄和監控也要同時存在。",
    "item": 3
   }
  ],
  "課後重點整理:AI 與新興技術安全#1": [
   {
    "say": "先看本章地圖。",
    "item": 0
   },
   {
    "say": "A I 系統的風險全貌,包含資料投毒、提示注入與越獄、資料外洩、模型竊取、幻覺、供應鏈,和過度授權的代理。",
    "item": 1
   },
   {
    "say": "提示注入與資料外洩,包含直接與間接注入、縱深防禦、資料分類和核准的工具。",
    "item": 2
   },
   {
    "say": "模型風險與 A I 治理,包含評估、可解釋性、人類監督、核准清單、供應商評估和影子 A I。",
    "item": 3
   }
  ],
  "課後重點整理:AI 與新興技術安全#2": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "物聯網與新興技術,包含預設密碼、分段、更新與汰換,營運技術,還有量子運算、邊緣運算和區塊鏈。",
    "item": 1
   }
  ],
  "課後重點整理:AI 與新興技術安全#3": [
   {
    "say": "重點關係。",
    "item": 0
   },
   {
    "say": "模型的輸出是不受信任的輸入,使用前要驗證和過濾。",
    "item": 1
   },
   {
    "say": "提示注入的根本原因,是模型難以區分資料和指令,所以要假設它可能被誘導。",
    "item": 2
   },
   {
    "say": "防禦靠多層,包含最小權限、人工確認、隔離、過濾、記錄和監控。",
    "item": 3
   },
   {
    "say": "風險取決於用途,依風險等級設定控制。",
    "item": 4
   }
  ],
  "課後重點整理:AI 與新興技術安全#4": [
   {
    "say": "必記觀念,第一部分。",
    "item": 0
   },
   {
    "say": "間接提示注入的指令藏在外部內容中,使用者可能毫不知情。",
    "item": 1
   },
   {
    "say": "只靠系統提示的文字規則,不能單獨防住提示注入。",
    "item": 2
   },
   {
    "say": "單純禁止常促使員工私下使用,提供核准的工具和政策更有效。",
    "item": 3
   },
   {
    "say": "高風險用途要有人類監督,也要持續監控,不是上線前評估一次就好。",
    "item": 4
   },
   {
    "say": "物聯網裝置要更改預設密碼、分段隔離,並有更新和汰換計畫。",
    "item": 5
   }
  ],
  "課後重點整理:AI 與新興技術安全#5": [
   {
    "say": "第二部分。",
    "item": 0
   },
   {
    "say": "量子運算的準備,是盤點、跟進標準,並提升更換演算法的彈性。",
    "item": 1
   }
  ],
  "課後重點整理:AI 與新興技術安全#6": [
   {
    "say": "易錯提醒。",
    "item": 0
   },
   {
    "say": "以為模型的輸出一定正確或一定安全。",
    "item": 1
   },
   {
    "say": "給 A I 助理過大的權限,事後才補控制。",
    "item": 2
   },
   {
    "say": "只處罰個人,不處理治理缺口。",
    "item": 3
   },
   {
    "say": "把物聯網裝置放在與重要系統相同的網段。",
    "item": 4
   },
   {
    "say": "自行發明密碼演算法。",
    "item": 5
   }
  ],
  "課後重點整理:AI 與新興技術安全#7": [
   {
    "say": "最後做自我檢核。",
    "item": 0
   },
   {
    "say": "我能說明直接與間接提示注入的差別嗎?",
    "item": 1
   },
   {
    "say": "我能說出降低 A I 助理被誘導後果的多層控制嗎?",
    "item": 2
   },
   {
    "say": "看到員工把資料貼給外部 A I 這類情境,我會同時處理事件、根因和預防嗎?",
    "item": 3
   },
   {
    "say": "我能說出物聯網與營運技術的基本控制,和管理者的考量嗎?",
    "item": 4
   },
   {
    "say": "最後提醒,本課程是學院原創的學習資料,不是 I S C 2 官方教材,考試資訊請以官方網站為準。",
    "item": 5
   }
  ]
 }
}