{
 "byKey": {
  "cover": [
   {"say": "大家好,歡迎回到 Kubernetes 入門到實戰。這一章要讓你的服務跑得更穩。我們會學怎麼設定資源的 requests 和 limits,用探針檢查應用的健康,最後再看怎麼影響排程器,決定 Pod 要放在哪個節點。", "item": 0}
  ],
  "資源 requests、limits 與 QoS#1": [
   {"say": "先想一個問題,為什麼一定要設定資源?", "item": 0},
   {"say": "因為很多應用是共用同一批節點的。如果某個容器發生記憶體洩漏,或是 C P U 失控,又沒有任何限制,它會把整台節點的資源吃光,連累同一台節點上的其他服務。", "item": 1},
   {"say": "另一方面,如果不告訴排程器每個 Pod 大概需要多少資源,它就沒辦法做出合理的排程決定,節點可能被塞得太滿。所以設定資源,是讓叢集穩定,還有公平共用的基本功。", "item": 1}
  ],
  "資源 requests、limits 與 QoS#2": [
   {"say": "資源設定有兩個部分,requests 和 limits,我們來看它們的差別。", "item": 0},
   {"say": "requests 是請求量,也就是容器需要的資源下限。排程器會依照 requests 決定 Pod 要放在哪個節點,節點上所有 Pod 的 requests 加起來,不能超過節點可以分配的資源。", "item": 1},
   {"say": "limits 是上限,也就是容器最多能用多少。它是由容器執行階段,在執行的時候強制限制的。", "item": 2},
   {"say": "再來看單位。C P U 寫一,代表一個 C P U 核心。五百 M 則是五百毫核,也就是零點五個核心。", "item": 3}
  ],
  "資源 requests、limits 與 QoS#3": [
   {"say": "記憶體的單位要特別小心。", "item": 0},
   {"say": "大寫 M 加小寫 i 的 M i,還有 G i,是二的次方。單純的大寫 M 和 G,則是十的次方。習慣上我們都用 M i 和 G i。", "item": 1},
   {"say": "常見的錯誤,是把記憶體寫成一二八加上小寫的 M。小寫 M 用在記憶體,代表的是千分之一個位元組,幾乎等於沒有,請千萬不要寫錯。", "item": 1}
  ],
  "資源 requests、limits 與 QoS#4": [
   {"say": "YAML 的寫法是這樣。", "item": 0},
   {"say": "在容器底下加一段 resources。範例裡,requests 是二百五十毫核的 C P U,和一二八 M i 的記憶體。limits 是五百毫核的 C P U,和二五六 M i 的記憶體。", "item": 1}
  ],
  "資源 requests、limits 與 QoS#5": [
   {"say": "那如果用量超過 limits,會發生什麼事呢?C P U 和記憶體的結果不一樣。", "item": 0},
   {"say": "C P U 超過上限,會被節流,程式會變慢,但是不會被殺掉。", "item": 1},
   {"say": "記憶體超過上限就嚴重了。容器會被 O O M Killer 終止,狀態顯示 O O M Killed,結束碼是一三七,然後依照重啟策略重新啟動。如果反覆發生,就會變成 Crash Loop Back Off。", "item": 2},
   {"say": "要確認的話,可以對那個 Pod 執行 describe。", "item": 3},
   {"say": "在輸出裡找到 Last State 這一段,會看到原因是 O O M Killed,結束碼一三七。", "item": 4},
   {"say": "排查的正確做法,是先用監控或 kube control top,確認應用真實的用量,再調整 limits,或是修正記憶體洩漏,而不是無限制地一直放大。", "item": 4}
  ],
  "資源 requests、limits 與 QoS#6": [
   {"say": "Kubernetes 會依照資源的設定,幫每個 Pod 分類,這叫做 Q o S 等級,一共有三種。", "item": 0},
   {"say": "Guaranteed,條件是 Pod 裡每個容器的 C P U 和記憶體,都同時設定了 requests 和 limits,而且兩個值相等。節點資源吃緊的時候,它是最後才會被驅逐的。", "item": 1},
   {"say": "Burstable,是至少設定了一個 requests 或 limits,但是不符合 Guaranteed 的條件。", "item": 2},
   {"say": "Best Effort,是完全沒有設定任何 requests 和 limits。資源有壓力的時候,它最先被驅逐。", "item": 3},
   {"say": "所以重要的服務,至少要設定 requests。關鍵的服務,可以考慮做到 Guaranteed。", "item": 3}
  ],
  "資源 requests、limits 與 QoS#7": [
   {"say": "想知道某個 Pod 是哪一個等級,可以這樣查。", "item": 0},
   {"say": "用 get pod 加上減號 O 的 J S O N path,取出 status 裡面的 Q o S Class 欄位。", "item": 1},
   {"say": "這個例子的結果是 Burstable。", "item": 2}
  ],
  "探針:liveness、readiness 與 startup#1": [
   {"say": "第二個單元,我們來談探針。為什麼容器在跑,不代表它可以用呢?", "item": 0},
   {"say": "因為 Kubernetes 預設只知道,容器的主行程是不是還活著。", "item": 1},
   {"say": "可是應用可能已經卡死了,像是死結或無限迴圈,行程卻還在。或者它才剛啟動,還在載入資料,暫時沒辦法服務。探針,英文叫 probe,就是讓 kubelet 主動檢查應用的健康,並且採取不同的處置。", "item": 1}
  ],
  "探針:liveness、readiness 與 startup#2": [
   {"say": "探針有三種,用途各不相同。", "item": 0},
   {"say": "第一種是 liveness probe,存活探針。檢查失敗的話,kubelet 會重啟這個容器。它是用來處理卡死、救不回來的情況。", "item": 1},
   {"say": "第二種是 readiness probe,就緒探針。檢查失敗的話,會把 Pod 從 Service 的後端清單裡移除,不再接新的流量,但是不會重啟。它用來處理暫時還不能服務的情況,也決定了滾動更新的時候,新的 Pod 算不算可用。", "item": 2},
   {"say": "第三種是 startup probe,啟動探針,用來保護啟動很慢的應用。在啟動探針成功之前,另外兩種探針不會開始執行,這樣慢啟動的應用,才不會被存活探針誤殺。", "item": 3}
  ],
  "探針:liveness、readiness 與 startup#3": [
   {"say": "探針的檢查方式有四種。", "item": 0},
   {"say": "H T T P Get,對指定的路徑和埠送出 H T T P 的 GET 請求,回應碼在二百到三九九之間,就算成功。", "item": 1},
   {"say": "T C P Socket,看能不能建立 T C P 連線。", "item": 2},
   {"say": "exec,在容器裡面執行一個指令,結束碼是零就算成功。", "item": 3},
   {"say": "還有 g R P C,給支援 g R P C 健康檢查協定的服務使用。", "item": 4}
  ],
  "探針:liveness、readiness 與 startup#4": [
   {"say": "我們來看一個 YAML 範例,順便認識常用的參數。", "item": 0},
   {"say": "容器叫 web,用的是 engine X 的映像。", "item": 1},
   {"say": "它監聽八零八零號埠,三種探針都是對這個埠的根路徑,做 H T T P 檢查。", "item": 2},
   {"say": "第一個參數是 initial Delay Seconds,表示容器啟動之後,要等多久才開始探測,預設是零。", "item": 3},
   {"say": "第二個是 period Seconds,探測的間隔,預設是十秒。", "item": 4},
   {"say": "第三個是 timeout Seconds,單次探測的逾時時間,預設是一秒。", "item": 5}
  ],
  "探針:liveness、readiness 與 startup#5": [
   {"say": "還有兩個參數。", "item": 0},
   {"say": "failure Threshold,是連續失敗幾次才算失敗,預設是三次。", "item": 1},
   {"say": "success Threshold,是連續成功幾次才算成功,預設是一次,而且存活探針和啟動探針必須是一。", "item": 2},
   {"say": "以範例的啟動探針來說,每五秒探測一次,最多容許失敗十二次,等於給了應用最多六十秒的啟動時間。", "item": 2}
  ],
  "探針:liveness、readiness 與 startup#6": [
   {"say": "這是完整的寫法。", "item": 0},
   {"say": "在 containers 底下,依序寫了啟動探針、就緒探針和存活探針。每一個裡面都有檢查方式,再加上剛剛介紹的那些參數。", "item": 1}
  ],
  "探針:liveness、readiness 與 startup#7": [
   {"say": "探針失敗的時候,實際上會看到什麼呢?", "item": 0},
   {"say": "用 describe pod 看事件,會出現 Unhealthy 的警告。像是 Readiness probe failed,連線被拒絕。或是 Liveness probe failed,狀態碼是四零四。接著會看到 Killing,說容器沒通過存活探針,即將被重啟。", "item": 1},
   {"say": "再看 get pods 的結果。如果 READY 是一分之零,但狀態是 Running,通常就是就緒探針沒有通過。如果重啟次數一直增加,就要懷疑是存活探針失敗,或是應用自己崩潰了。", "item": 2}
  ],
  "調度:nodeSelector、親和性與汙點#1": [
   {"say": "第三個單元是調度。我們先了解排程器是怎麼做決定的。", "item": 0},
   {"say": "kube scheduler 對每個新的 Pod,會做兩個階段。先過濾掉不符合條件的節點,像是資源不夠、有汙點,或是不符合選擇條件。再對剩下的節點評分,選出分數最高的。", "item": 1},
   {"say": "如果過濾之後一個節點都不剩,Pod 就會停在 Pending,用 describe 可以看到 Failed Scheduling 的事件。", "item": 1},
   {"say": "大多數的時候,你不必干預。不過如果要把特定的工作放到特定的機器,例如有 G P U 的節點,或是想把副本分散開來提高可用性,就會用到接下來這幾個機制。", "item": 1}
  ],
  "調度:nodeSelector、親和性與汙點#2": [
   {"say": "最簡單的方式是 node Selector。", "item": 0},
   {"say": "第一步,先幫節點貼上標籤。", "item": 1},
   {"say": "第二步,在 Pod 的規格裡指定要什麼標籤。", "item": 2},
   {"say": "這樣 Pod 就只會被排到帶有這個標籤的節點。如果沒有任何節點符合,它就會一直 Pending。", "item": 3},
   {"say": "貼標籤用的是 kube control label node,後面接節點的名稱,還有標籤,這裡是 disk type 等於 S S D。", "item": 4},
   {"say": "Pod 這邊,就在 spec 底下寫 node Selector,填上同樣的鍵和值。", "item": 5}
  ],
  "調度:nodeSelector、親和性與汙點#3": [
   {"say": "如果需要更有彈性的條件,可以用 Node Affinity,也就是節點親和性。", "item": 0},
   {"say": "它用 match Expressions 來寫條件,可以用的運算子比較多,有 In、Not In、Exists、Does Not Exist,還有大於和小於。", "item": 1},
   {"say": "第一段條件,是 disk type 這個鍵的值,要在 S S D 或 N V M e 裡面。", "item": 2},
   {"say": "第二段有一個 weight,權重五十。", "item": 3},
   {"say": "條件是 zone 這個鍵的值是 A。", "item": 4},
   {"say": "這兩段的差別,在於前面的關鍵字。required 開頭的是硬性條件,不符合就不排。", "item": 5}
  ],
  "調度:nodeSelector、親和性與汙點#4": [
   {"say": "另外一種呢?", "item": 0},
   {"say": "preferred 開頭的是軟性的偏好,會盡量符合,不符合也還是可以排,權重就是用來表示偏好的程度。", "item": 1},
   {"say": "這兩個名稱都很長,最後面的 Ignored During Execution,意思是 Pod 已經在跑了以後,就算節點的標籤改變,它也不會被驅逐。", "item": 2}
  ],
  "調度:nodeSelector、親和性與汙點#5": [
   {"say": "完整的 YAML 在這裡。", "item": 0},
   {"say": "在 spec 底下的 affinity 裡面,寫 node Affinity,再分成 required 和 preferred 兩段。意思就是,一定要是 S S D 或 N V M e 的節點,而且最好是在 A 區。", "item": 1}
  ],
  "調度:nodeSelector、親和性與汙點#6": [
   {"say": "接著是 Pod Anti Affinity,用來把副本分散開。這是為了避免所有副本都落在同一個節點,節點一壞,服務就全部掛掉。", "item": 0},
   {"say": "第一種寫法是權重一百的偏好,意思是盡量不要和帶有 app 等於 web 標籤的 Pod,放在同一個 hostname,也就是同一台節點。", "item": 1},
   {"say": "更現代、也更好用的做法,是 topology Spread Constraints。把 max Skew 設成一,就是讓每個節點上這個應用的 Pod 數量,差距不超過一個。", "item": 2},
   {"say": "第一種是寫在 affinity 底下。", "item": 3},
   {"say": "第二種則直接寫在 spec 底下。範例設定的是不滿足的時候照樣排程,如果改成 Do Not Schedule,就會變成硬性的要求。", "item": 4}
  ],
  "調度:nodeSelector、親和性與汙點#7": [
   {"say": "最後是汙點和容忍,英文是 Taints 和 Tolerations。親和性是 Pod 主動選節點,汙點則是反過來,由節點主動排斥 Pod,只有帶著對應容忍的 Pod 才進得來。它常用在專用的節點,像是 G P U 節點。", "item": 0},
   {"say": "用 kube control taint nodes 可以幫節點加上汙點,結尾加一個減號則是移除。Pod 這邊要在 tolerations 裡,寫上對應的 key、value 和 effect,範例的 key 是 dedicated。", "item": 1},
   {"say": "effect 有三種。No Schedule,新的 Pod 不會被排進來,已經在上面的不受影響。", "item": 2},
   {"say": "Prefer No Schedule,盡量不排進來。", "item": 3},
   {"say": "No Execute,不只是不排,已經在上面、又沒有容忍的 Pod,也會被驅逐。", "item": 4},
   {"say": "要注意,容忍只是允許進入,並不保證會被排到那裡。要指定節點,還要搭配 node Selector 或 affinity。另外,控制平面的節點預設就有一個 No Schedule 的汙點,所以一般的應用不會排上去。", "item": 4}
  ],
  "closing": [
   {"say": "這一章就到這裡。你已經會設定 requests 和 limits,知道三種探針各自的用途,也學會用親和性和汙點來影響排程了。", "item": 0},
   {"say": "接下來,請親手做一次實作練習,再完成章末小測驗,看看自己學會了多少。我們下一章見!", "item": 1, "pause": 1}
  ]
 }
}
