{
 "byKey": {
  "cover": [
   { "say": "大家好,歡迎回到 Linux A I 助理開發實戰。這一章是最終專題,我們要把前面十五章做的零件,整合成一套完整的 Linux A I 助理。內容包括需求和架構的檢核、正式部署、安全審查,還有效能、成本和未來的擴充方向。", "item": 0 }
  ],
  "專題需求與架構檢核#1": [
   { "say": "好,我們先從專題的需求和架構檢核開始。", "item": 0 },
   { "say": "恭喜你來到最終專題。前面十五章,你已經分別做出各個零件,這一章要把它們整合成一套可以長期運作、也禁得起審查的助理。整合的重點不是再多寫功能,而是確認四件事,需求滿足、架構一致、邊界清楚、風險可控。", "item": 1 }
  ],
  "專題需求與架構檢核#2": [
   { "say": "先看功能面的需求。使用者可以用自然語言,從命令列和 Web 兩種入口,完成十件事。", "item": 0 },
   { "say": "第一,查詢主機狀態,包括 C P U、記憶體、磁碟和負載,這是第六章的系統監控。", "item": 1 },
   { "say": "第二,檢查服務。看 Apache、Nginx、MySQL、MongoDB 有沒有在運作,最近有沒有錯誤,這是第七章的服務管理。", "item": 2 },
   { "say": "第三,日誌分析。找出錯誤的高峰、可疑的登入,並且做摘要,這是第八章的內容。", "item": 3 },
   { "say": "第四,知識查詢。根據內部文件來回答問題,也就是第九章的 RAG。", "item": 4 }
  ],
  "專題需求與架構檢核#3": [
   { "say": "繼續看第五到第九項。", "item": 0 },
   { "say": "第五,資安檢查。包括開放埠、S S H 設定、帳號和權限的檢查,這是第十二章。", "item": 1 },
   { "say": "第六,Docker 管理。查看容器的狀態、日誌和資源,這是第十一章。", "item": 2 },
   { "say": "第七,多主機。跨主機做唯讀的巡檢,這是第十三章。", "item": 3 },
   { "say": "第八,自動化。每天產生診斷報告並且發通知,這是第十四章。", "item": 4 },
   { "say": "第九,Web 介面。有保護的儀表板和串流聊天,這是第十五章。", "item": 5 }
  ],
  "專題需求與架構檢核#4": [
   { "say": "最後一項功能需求之後,還有四個非功能需求。", "item": 0 },
   { "say": "第十,經過授權的 Agent 任務。它可以執行多步驟的任務,但是變更之前一定要人工確認,這是第十章。", "item": 1 },
   { "say": "非功能需求的第一個是安全。最小權限、白名單、稽核紀錄,而且金鑰不外洩。", "item": 2 },
   { "say": "第二個是可靠。有逾時、有重試上限,單一工具失敗不會拖垮整體。", "item": 3 },
   { "say": "第三個是可觀測。有 journal D 的日誌,也有用量和成本的紀錄。", "item": 4 },
   { "say": "第四個是可維護。模組有分層,設定放在程式外面,而且有測試。", "item": 5 }
  ],
  "專題需求與架構檢核#5": [
   { "say": "接著看目標的專案結構,請拿來跟你自己的實作對照。", "item": 0 },
   { "say": "最外層是專案的根目錄。", "item": 1 },
   { "say": "核心的 assistant 目錄裡,有第三章的 L L M 呼叫封裝、第四章的提示詞、第五章的工具註冊和參數驗證、第十章的 Agent 迴圈和確認機制、第十四章的診斷報告,還有第九章的檢索。tools 目錄底下則是各種工具,系統、服務、日誌、Docker、資安和遠端。", "item": 2 }
  ],
  "專題需求與架構檢核#6": [
   { "say": "我們把最上層的四個目錄再看一次。", "item": 0 },
   { "say": "assistant 是助理的核心,剛剛已經介紹過。", "item": 1 },
   { "say": "web 目錄放的是第十五章做的 Web 介面。", "item": 2 },
   { "say": "config 目錄放主機清單和設定檔,記得,裡面不可以有任何祕密。", "item": 3 },
   { "say": "tests 目錄放測試程式。", "item": 4 }
  ],
  "專題需求與架構檢核#7": [
   { "say": "驗收之前,請用四道關卡來檢核你的架構。", "item": 0 },
   { "say": "第一道是單向依賴。Web 和命令列只呼叫 Agent,Agent 只透過註冊表呼叫工具,而工具不依賴 L L M,也不依賴 Web。這樣工具可以獨立測試,也不會被 L L M 這一層繞過驗證。", "item": 1 },
   { "say": "第二道,工具是唯一的行動出口,L L M 不能直接執行 shell。每個工具都要有明確的 JSON Schema、參數驗證,還有風險等級,分成讀取和變更兩種。", "item": 2 },
   { "say": "第三道是風險分級。讀取類的工具可以自動執行。變更類的,必須先產生計畫,再由人來確認,而且確認這個動作不能由 L L M 完成。", "item": 3 },
   { "say": "第四道是祕密集中管理。A P I 金鑰、寄信的密碼、webhook 網址和 session 密鑰,只能來自環境變數,或是有權限限制的環境檔。", "item": 4 }
  ],
  "部署:以 systemd 服務運行#1": [
   { "say": "好,接下來談部署,我們用 system D 服務的方式來運行。", "item": 0 },
   { "say": "開發完成之後,要讓助理在主機上長期、穩定,而且用低權限運作。這個單元會把第十四章的 timer 和第十五章的 Web 服務整合起來,完成一套標準的部署。範例用的是 Ubuntu,路徑可以依照你們的規範調整。", "item": 1 }
  ],
  "部署:以 systemd 服務運行#2": [
   { "say": "第一步,規劃目錄和帳號。", "item": 0 },
   { "say": "一共有五個位置。程式碼和虛擬環境放在一個目錄,擁有者是 root,服務帳號只能讀。祕密環境檔的權限是六四零。主機清單跟它放在同一個設定目錄。資料目錄放報告、用量和對話。日誌目錄放稽核和應用程式日誌。後面這兩個目錄,擁有者是服務帳號。", "item": 1 },
   { "say": "規劃好之後,就來建立帳號和目錄。", "item": 2 },
   { "say": "畫面上的指令,先建立一個系統帳號和同名的群組,再分別建立這幾個目錄,並且設定好擁有者和權限。", "item": 3 },
   { "say": "為什麼程式碼要由 root 擁有、服務帳號只能讀呢?因為這樣就算服務被攻破,攻擊者也沒辦法竄改助理自己的程式。", "item": 4 }
  ],
  "部署:以 systemd 服務運行#3": [
   { "say": "第二步是安裝。", "item": 0 },
   { "say": "在程式目錄底下建立虛擬環境,再用裡面的 pip,依照 requirements 檔安裝所有相依套件。", "item": 1 },
   { "say": "建議把 requirements 檔裡的版本固定下來。每次升級之前,先在測試環境驗證過。", "item": 2 }
  ],
  "部署:以 systemd 服務運行#4": [
   { "say": "第三步是環境檔。", "item": 0 },
   { "say": "它放在助理的設定目錄裡。畫面上只是範例的名稱,實際的值要由你自己填入。", "item": 1 },
   { "say": "裡面有 L L M 的 A P I 金鑰、Web 的 session 密鑰,還有 Slack 的 webhook 網址。如果你用的是其他供應商,變數名稱請以它的文件為準。", "item": 2 },
   { "say": "建立之後,把擁有者設成 root,群組設成服務帳號,權限改成六四零。", "item": 3 }
  ],
  "部署:以 systemd 服務運行#5": [
   { "say": "第四步是服務單元。Web 服務和排程,直接沿用第十四章和第十五章寫好的檔案。講義另外補了一個進階強化的範例,加上更多沙箱選項和記憶體上限。你可以用 system D 的安全分析指令取得曝險評分,再逐項評估能不能收得更緊。", "item": 0 },
   { "say": "不過,有些工具需要讀取受限制的資訊。第一種是系統日誌。處理方式是把服務帳號加入專門讀取日誌的群組,這是唯讀的,不要因此就給它 root。", "item": 1 },
   { "say": "第二種是 Docker。加入 docker 群組幾乎等於拿到 root 權限,一定要謹慎。建議只在需要的主機啟用,並且限制成唯讀的指令。或是透過 rootless Docker 和唯讀的 socket 代理,依你的風險評估來決定。", "item": 2 },
   { "say": "第三種是需要 sudo 的檢查。用 visudo 建立最小的規則,只允許特定的指令免密碼執行,不要給全部的權限。", "item": 3 }
  ],
  "部署:以 systemd 服務運行#6": [
   { "say": "第五步是啟動和驗證。", "item": 0 },
   { "say": "畫面上的指令依序是,重新載入 system D 的設定、啟用並啟動 Web 服務和報告的 timer、查看服務狀態、持續追蹤服務日誌、用 curl 呼叫本機的健康檢查,最後確認 timer 有出現在排程清單裡。", "item": 1 }
  ],
  "部署:以 systemd 服務運行#7": [
   { "say": "第六步,也要想好怎麼更新和回復。", "item": 0 },
   { "say": "更新的流程是,先在測試環境測試通過,備份程式目錄和資料目錄,更新程式,重啟 Web 服務,最後檢查健康狀態和日誌。", "item": 1 },
   { "say": "回復的做法,是保留前一個版本的目錄,例如每個版本放在以日期命名的目錄,用符號連結來切換。一出問題,立刻切回去。", "item": 2 },
   { "say": "另外還要設定日誌輪替,讓稽核日誌每週輪替一次,保留十二週。", "item": 3 }
  ],
  "安全審查清單#1": [
   { "say": "好,這個單元是上線前的安全審查清單,一共分成七類。", "item": 0 },
   { "say": "助理有理解自然語言、又能操作主機的能力,所以安全審查要比一般的內部工具更嚴謹。清單裡的每一項都要有證據,像是設定截圖、指令輸出或測試結果,不是口頭說有做就算數。", "item": 1 },
   { "say": "第一類是身分與授權。Web 的所有路由都要登入,沒登入就呼叫 A P I,一律回覆四零一。只有健康檢查例外,而且它不能洩漏資訊。", "item": 2 },
   { "say": "同一類還要確認,角色的權限最小化、密碼用慢雜湊儲存、沒有預設的帳號密碼、有登入失敗鎖定。session 的 Cookie 要有安全屬性和逾時,變更狀態的請求要有 C S R F 保護,CORS 不可以用萬用字元。", "item": 2 }
  ],
  "安全審查清單#2": [
   { "say": "第二類是工具與指令執行。", "item": 0 },
   { "say": "L L M 不能直接執行任意的 shell,所有行動都要經過註冊表裡的具名工具。每個工具的參數,都要有結構定義和伺服器端的驗證。程式碼裡,不可以把使用者或 L L M 的輸入拼接成指令。", "item": 1 },
   { "say": "變更類的工具預設關閉,啟用的時候要有預演、人工確認、頻率上限和稽核。還有一份禁止操作的清單,例如刪除系統目錄、修改 S S H 服務設定、清空日誌,要明確寫下來,並且有測試。", "item": 1 }
  ],
  "安全審查清單#3": [
   { "say": "第三類是提示注入與資料處理。", "item": 0 },
   { "say": "日誌、網頁和知識庫文件的內容,都要當成不受信任的資料,提示詞裡要明確要求忽略其中的指令。而且就算模型被誘導,工具層還是會因為權限和白名單而拒絕。這就是縱深防禦,不能只靠提示詞。", "item": 1 },
   { "say": "另外,送進 L L M 和寫進報告之前,要對密碼、token、Email 做遮罩,並且確認資料外送符合公司政策。工具的輸出要有長度上限。對話歷史要依使用者隔離,並且設定保存期限。", "item": 1 }
  ],
  "安全審查清單#4": [
   { "say": "第四類是 S S H 與多主機。", "item": 0 },
   { "say": "只用金鑰驗證,用專用的低權限帳號,不給 sudo,公鑰那一行要有限制選項和來源限制。known hosts 要跟帶外取得的指紋核對過,程式裡不可以出現任何關閉主機金鑰檢查的寫法。", "item": 1 },
   { "say": "主機清單由人來維護,只包含你擁有或明確授權的主機。逾時和並行數量都有上限,批次變更需要預演和人工確認。", "item": 1 }
  ],
  "安全審查清單#5": [
   { "say": "第五類是祕密管理。", "item": 0 },
   { "say": "A P I 金鑰、寄信的密碼、webhook 網址和 session 密鑰,只能存在受限制的環境檔,或是祕密管理系統裡。版本控制的歷史裡也不可以有祕密,可以抽查提交紀錄,或是用專門的掃描工具來檢查。", "item": 1 },
   { "say": "日誌、通知和錯誤頁面,都不可以包含祕密和堆疊追蹤。還要有輪替的程序,一旦懷疑外洩,能在很短的時間內換掉,並且撤銷舊的值。", "item": 1 }
  ],
  "安全審查清單#6": [
   { "say": "第六類是網路與系統。", "item": 0 },
   { "say": "全程使用 H T T P S,應用程式只監聽本機位址,防火牆只開放必要的連接埠,S S H 也要限制管理的來源。Nginx 要有限流、安全標頭和請求大小的限制。", "item": 1 },
   { "say": "服務要用低權限帳號,搭配 system D 的強化選項來運行,程式碼目錄是唯讀的。系統和套件要定期更新,相依套件也要有漏洞追蹤。", "item": 1 }
  ],
  "安全審查清單#7": [
   { "say": "第七類是稽核與監控。", "item": 0 },
   { "say": "稽核日誌要記錄時間、使用者、請求摘要、呼叫的工具和參數、結果,還有是不是經過人工確認。而且稽核日誌不能被服務帳號竄改,例如另外存到遠端,或是設成只能附加,視你的環境而定。", "item": 1 },
   { "say": "還要有異常告警,像是大量登入失敗、短時間內大量的工具呼叫、成本異常暴增。最後是心跳檢查,排程或服務失效的時候,要有人會收到通知。", "item": 1 }
  ],
  "效能、成本控管與擴充方向#1": [
   { "say": "好,最後一個單元,來談效能、成本,還有未來的擴充方向。", "item": 0 },
   { "say": "助理上線之後,會有兩個長期的議題,慢不慢,還有貴不貴。要提醒的是,價格、速率限制和模型的能力,都會隨著供應商調整,請以官方文件和定價頁為準,程式碼裡不要寫死單價。", "item": 1 }
  ],
  "效能、成本控管與擴充方向#2": [
   { "say": "先談效能,原則是先量測,再優化。常見的瓶頸依序是 L L M 的往返次數、工具的執行時間,還有輸入的 token 數量。所以講義先替每個工具加上簡單的計時,把花費的毫秒數記到日誌裡。優化的手段有五個。", "item": 0 },
   { "say": "第一,減少 L L M 的往返。讓 Agent 一次規劃好,可以並行的工具就一次呼叫多個。同時設定最大步數,例如八步,避免無限迴圈。", "item": 1 },
   { "say": "第二,把工具的結果做成摘要。在程式這一端先彙總,例如前十名的錯誤、各磁碟的使用率,只把精簡的資料交給模型。", "item": 2 },
   { "say": "第三是快取。短時間內重複查詢系統狀態,可以快取十到三十秒。RAG 的向量和文件切片,也要事先建立好索引。", "item": 3 },
   { "say": "第四是並行。多主機巡檢的時候,使用有上限的並行。", "item": 4 }
  ],
  "效能、成本控管與擴充方向#3": [
   { "say": "效能還有最後一招,接著進入成本控管。", "item": 0 },
   { "say": "第五是串流。Web 聊天使用串流,可以縮短使用者感受到的等待時間。", "item": 1 },
   { "say": "成本主要來自 token。第一個控管手段,是把請求分配給合適的模型。簡單的分類或摘要,用比較小、比較便宜的模型。複雜的推理,才用大型模型。模型名稱請放在設定檔,不要寫死。", "item": 2 },
   { "say": "第二是限制輸入。日誌和文件只取相關的片段,對話歷史只保留最近幾輪,或是先做摘要。", "item": 3 },
   { "say": "第三是限制輸出。設定輸出 token 的上限,並且在提示詞裡要求簡潔。", "item": 4 },
   { "say": "第四是提示詞快取。如果供應商有提供這類機制,就把固定不變的 system prompt 和工具定義放在最前面。有沒有支援、怎麼使用,請以官方文件為準。", "item": 5 }
  ],
  "效能、成本控管與擴充方向#4": [
   { "say": "成本控管還有兩個手段。", "item": 0 },
   { "say": "第五是預算和配額。包括第十四章做的每日全域 token 上限、每位使用者的每日配額,還有每分鐘的速率限制。", "item": 1 },
   { "say": "第六是用量紀錄。每次呼叫都記下使用者、模型、輸入和輸出的 token,還有花費的時間,每天彙整成報表。", "item": 2 },
   { "say": "至於每個月的成本,可以這樣估算。每天的請求數乘以三十,再乘上每次請求的平均花費,也就是輸入和輸出的 token 各自乘上單價之後的總和。先用小流量實測平均的 token 數,再乘上預期的使用量,並且預留三成的緩衝。", "item": 2 }
  ],
  "效能、成本控管與擴充方向#5": [
   { "say": "再來是可靠性,有四個做法。", "item": 0 },
   { "say": "第一,供應商的 A P I 故障的時候要能降級。命令列顯示明確的訊息,排程報告則退回只用規則的版本。", "item": 1 },
   { "say": "第二,每一個對外的呼叫,都要設定逾時和有限次數的重試。", "item": 2 },
   { "say": "第三,替重要的工具寫單元測試,也替 Agent 寫情境測試。也就是給固定的輸入,檢查它呼叫了哪些工具,有沒有越權。", "item": 3 },
   { "say": "第四,更新模型或提示詞之前,用一組固定的題庫做回歸測試,避免助理的行為退步。", "item": 4 }
  ],
  "效能、成本控管與擴充方向#6": [
   { "say": "最後,我們來看未來可以擴充的方向,講義一共列了七個。", "item": 0 },
   { "say": "第一,支援更多的服務和雲端,例如 PostgreSQL、Redis、Kubernetes 和雲端平台。做法是用各自的官方工具或 A P I 做成唯讀工具,先唯讀,再談變更。", "item": 1 },
   { "say": "第二,更強的 RAG。把內部的 Runbook 和事故紀錄加進來,讓診斷建議都附上來源。", "item": 2 },
   { "say": "第三是事件關聯。整合像 Prometheus 這樣的指標系統和日誌平台,讓助理跨不同的資料來源,推測問題的根本原因。", "item": 3 }
  ],
  "效能、成本控管與擴充方向#7": [
   { "say": "繼續看後面幾個方向。", "item": 0 },
   { "say": "第四是工單和 ChatOps。把確認流程接到工單系統或聊天軟體,由主管在平台上批准變更。", "item": 1 },
   { "say": "第五是多使用者和單一登入。導入單一登入和更細緻的角色權限控管,並且把稽核紀錄整合到資安事件管理平台。", "item": 2 },
   { "say": "第六是評測和紅隊自動化。把安全測試案例納入持續整合,每次變更都自動跑一遍。", "item": 3 },
   { "say": "第七是本地模型。對資料很敏感的環境,可以評估在內部部署模型,並且比較品質、成本和維運的負擔。不管擴充什麼新工具,準則都不變,最小權限、白名單、先唯讀、變更要人工確認、完整稽核。", "item": 3 }
  ],
  "closing": [
   { "say": "這一章就到這裡。恭喜你,把十六章的內容整合成一套可以部署、可以審查的 Linux A I 助理。記得帶著最小權限、白名單和人工確認這幾個原則繼續往前走。", "item": 0 },
   { "say": "接下來,請完成整合驗收的實作,再做章末小測驗,檢查自己學會了多少。辛苦了,我們期末總複習見!", "item": 1, "pause": 1 }
  ]
 }
}
