API 閘道器
API Gateway
什麼是 API 閘道器?
- 所有請求都會經過的'大門'
- 在同一處處理認證、路由與限制
- 微服務前端
API 閘道器放在前端後,用戶端需要記住的位址就只剩一個。行動 App 不必各自保存訂單、庫存、結算服務的網域,即使內部把服務拆分或把伺服器搬走,也不必重新部署App 並等待審核。改變的不是呼叫次數,而是變更向外擴散的範圍。與其把它當成增加呼叫的機制,不如理解為把內部結構與對外承諾的介面分開的裝置,這樣理解更為精準。
先釐清相似概念的界線,設計會更容易。負載平衡器專注於把流量平均分配到同一服務的多台主機;服務網格處理服務之間的內部通訊;閘道器則負責處理從外部進來的南北向(north-south)流量。設定值也相當具體:依發行的金鑰分別設定上限,例如合作夥伴金鑰每分鐘 60 次,內部管理工具每分鐘 600 次;回應逾時通常設為 3~10 秒;多經過一層所增加的延遲,是數毫秒到數十毫秒的水準。若需要依用戶端類型組裝不同的回應格式,那就不是閘道器的工作,而是 BFF(Backend For Frontend)的職責。
現場最常出現偏差的地方,是業務邏輯堆積在閘道器上。一旦開始有人說"在這裡一次處理比較方便",把折扣計算或會員等級判斷也放進去,閘道器就會變成新的單點故障,不論哪個團隊部署,所有服務都會一起停擺。另外,高可用性一直拖延,結果閘道器一台故障,連帶讓十個正常服務全部無法使用的事故也很常見。因為已在大門完成認證,就認為內部可以毫無防備,這種想法同樣危險。內部網路一旦被突破,所有服務都會開放,因此內部服務至少也要保留最基本的權杖驗證。
隨著微服務架構普及,此模式已確立為多個服務前方的單一進入點。
以下用假設性案例說明。員工 320 人規模的線上食品流通企業 A 公司,自家 App 與網站、6 家合作商城各自直接呼叫 11 個內部服務。認證程式碼在每個用戶端都略有不同,光是修改一行權杖到期政策就花了兩週;某家合作商城的庫存查詢暴增,還曾造成訂單服務停擺 12 分鐘。
- 平台團隊負責人調出三週的呼叫紀錄,發現全部請求中有 41% 是庫存查詢,其中一半來自某家合作商城。會議中有人說出"問題在於根本沒有可以攔截的地方"這句話。
- 我們先架設託管式閘道器作為大門,並從合作商城的 API 開始遷移。後端負責的課長決定保留舊網域三個月,將流量依 10%→50%→100% 的步驟逐步轉移。
- 把權杖驗證集中到閘道器一處,並為每個合作夥伴金鑰設定每分鐘 60 次的上限。超過的部分以 429 回應,並將重試間隔放在回應標頭中,告知合作夥伴的開發人員。
- 曾有人提議"等級折扣計算也在閘道器處理吧",但 CTO 以業務邏輯應放在各服務的原則駁回。並明文規定閘道器只負責認證、路由、限制、記錄等四項功能。
- 在兩個可用區部署閘道器實現雙重化,並加上 5 秒健康檢查與故障時自動切換。基礎架構負責人決定每季進行一次強制關閉其中一台的演練。
- 半年後,Token 政策變更作業從 2 週縮短為半天,合作電商平台引發的故障也從同期 4 件降為 0 件。平均回應延遲增加了 9ms,但因故障流失的訂單損失已消失,業務部門也都認同了。
Seungtae Park
鄭一永