WebSocket · 即時通訊
WebSocket
什麼是 WebSocket?
- 保持連線開啟的雙向即時通訊
- 聊天、通知、協作的基礎
- 與輪詢、SSE 比較
導入 WebSocket 後,更新畫面的主導權會從使用者轉移到伺服器。過去必須有人按下按鈕或重新整理,新資料才會出現在畫面上;但連線保持開啟時,就變成由伺服器先主動搭話的結構。因此企劃書的句子也從'查詢就會看到'變成'變動就會看到',開發團隊也會以同時連線的數量取代每秒請求處理量,作為伺服器容量的基準。這也意味著,只要使用者開著畫面,資源就會一直被占用。
連線一開始只需透過 HTTP 進行一次。瀏覽器發出升級請求後,伺服器回傳 101 回應,之後即切換為 ws 協定(若有加密則為 wss)。每次請求都會附帶數百位元組的標頭,這些標頭不再出現,只留下 2~14 位元組的框架標頭,因此與每秒詢問一次的輪詢相比,流量與延遲會同時減少。不過,並非所有即時功能都需要 WebSocket。像報價顯示或通知這類只需伺服器單向推送的畫面,單向的 SSE 連重新連線都會自動處理,實作上輕量許多;而聊天、多人同時編輯這類雙方都要同時傳送的功能,WebSocket 才能發揮價值。
現場最常出問題的時點是增加伺服器的時候。WebSocket 是與特定伺服器保持的連線,因此流量增加、將伺服器增至兩台的那一刻,連到 A 伺服器的人與連到 B 伺服器的人之間,訊息就會遺失。若不設置連接伺服器之間的中繼通道,在開發環境看似正常,只會在正式營運時爆發。斷線處理也是如此。負載平衡器通常在約 60 秒沒有資料時就會清除連線,因此需要每 30 秒送出一次 ping;若無法偵測在地鐵或電梯中斷掉的連線,就會陷入畫面正常、訊息卻不再送達的狀態而無人察覺。若讓所有人立即重新連線,部署後數千筆請求會一次湧入,把伺服器再次壓垮。
因應即時雙向網路通訊的需求而出現,於 2011 年確立為標準(RFC 6455),成為即時網路服務的基礎技術。
我們以一個假設案例來說明。A 公司經銷工業零件,全體員工 320 人,年營收約 KRW 110,000,000,000 (≈ US$82,331,600)。全國 6 個分店的業務員 80 人共用同一個庫存畫面,但數量必須重新整理才會更新,因此已售出的貨品經常被其他分店再次接單。2024 年第三季,啟動了一項為期 3 個月、將庫存畫面改為即時更新的專案。
- 業務支援團隊的金課長在會議上提出問題:「同一批庫存被首爾與釜山同時鎖定,每月有12筆出貨取消。」專案就此展開。
- 開發團隊首先拿掉了庫存畫面每 5 秒輪詢一次的做法。原本 80 名業務人員每天要敲打 4 萬 3 千次的查詢 API,改為 80 條常時連線。
- 基礎架構負責人李次長接到「連線一分鐘就會斷」的回報後,確認負載平衡器的閒置逾時為 60 秒,於是加入 30 秒一次的 ping,把每日斷線紀錄從 210 筆降到 3 筆。
- 為應付旺季,伺服器增加到兩台的那天,只有釜山分店的通知消失了。主管確認缺少的是連接伺服器之間的中繼通道,並於一天內補上。
- 現場平板斷線後又重新連上,部署後重新連線一下子湧入 1,800 筆,於是改為把重試間隔拉長為 1·2·4·8 秒,讓伺服器撐住。
- 三個月後,庫存更新延遲從平均 8 秒降至 0.4 秒,重複接單從每月 12 筆降到 1 筆,查詢伺服器 CPU 也從 45% 降至 18%。
Seungtae Park
Jaryong Koo