Kubernetes
Kubernetes (K8s)
什麼是 Kubernetes?
- 大量容器的自動配置、擴充與修復
- 雲端時代的指揮塔
- 大規模營運標準
開始使用 Kubernetes 後,營運人員的工作會從「登入伺服器、下指令」變成「把期望狀態寫進檔案」。只要宣告「訂單 API 3 個副本、記憶體 1GB、8080 連接埠」,控制器就會每隔幾秒比對實際狀態與宣告,把差異補齊。不再逐步指示人員該怎麼做,而是把目標值寫下來,所以半夜有一個容器掛掉,系統也會比值班人員先動起來。故障處理從「復原作業」變成「補齊差異」,是實務上感受最大的改變。
組成單位分為幾個層級。把一到兩個容器綁成一組的最小單位是 Pod;決定要維持幾組 Pod 的是 Deployment,由它來負責;對外接收連線並加以分配的則是 Service。自動擴充也不會自動發生,必須設定'CPU 使用率超過 70% 時,最多擴充到 10 組'這類條件才會運作。很多人會把它和 Docker 搞混,但Docker 是建立並執行容器的工具,Kubernetes 則是把這些容器分派到多台伺服器上的工具,兩者屬於不同層級。若不自行安裝,而是使用 EKS、GKE、AKS 等代管服務,就能把控制層的營運負擔交給雲端。
現場最常出現落差的地方,是以為「只要導入 Kubernetes,系統就會自動不掉線」這種期待。若沒有妥善設定健康檢查(liveness・readiness probe),程序雖然還活著、卻已無法回應的 Pod,仍會被判定為正常而持續導入流量。若把資源 request/limit 留空,單一 Pod 就會吃光記憶體,連同一節點上的其他 Pod 也會被拖垮。容器只有十來個的組織若勉強導入,就會出現反轉:需要照顧叢集的人力,反而比開發應用程式的人力還多。沒做充分準備就把有狀態的資料庫直接放上 Pod,也是常見的事故原因;另外,次版本的支援期約 1 年,因此也要同時規劃定期升級計畫。
Google 以內部系統「Borg」的經驗為基礎,於 2014 年公開為開源專案,由 Joe Beda、Brendan Burns、Craig McLuckie 主導開發。
以下以假設案例說明。線上電商 A 公司(員工 180 人、年交易額 KRW 120,000,000,000 (≈ US$89,816,300))每逢大型促銷,訂單伺服器都撐不住。因為採取事先加倍配置設備的方式,平時一半伺服器閒置,去年年底活動時仍發生結帳頁面停擺 27 分鐘的事。基礎架構團隊 4 人花了 6 個月推動轉換至 Kubernetes。
- 基礎架構組長並未一次全面遷移,而是先從訂單、付款、商品查詢等 3 支 API 下手。他以'一次全部搬走就無法回頭'為由,只讓全體流量的 15% 導向新叢集。
- 後端開發人員為每個 Pod 設定了 CPU 0.5 核心、記憶體 1GB 的上限。因為在沒有設定上限的情況下上線的第一週,結算批次吃掉了高達 8GB 的記憶體,連同一個節點上的商品查詢 API 也一起拖垮了。
- SRE 負責人把自動擴充條件重新設定為「CPU 超過 65% 時,30 秒內最多擴充到 20 個副本」。一開始設在 90%,結果擴充速度跟不上流量,因此兩次出現處理延誤。
- 健康檢查只看單純回應,因此 DB 連線已斷的 Pod 仍持續被判定為正常。開發負責人定案:'改成連 DB 一起探測的檢查吧',並據此重新編寫了 readiness probe。
- 6 個月後的促銷活動中,尖峰 8 分鐘內 Pod 從 6 個增加到 19 個,順利撐過而未中斷;平時伺服器數量減少 40%,每月基礎架構費用從 KRW 23,000,000 (≈ US$17,200) 降到 KRW 14,500,000 (≈ US$10,900)。
- 容器數量多、擴充頻繁時
- 大規模・高可用服務
- 需要自動配置與復原時
- 小型服務(過度複雜)
- 營運能力或人力不足時
- 單純部署即足夠的情況
Seungtae Park
朴雪英