背景
在最近的項目中,有一個數據展示的需求,要求是實時展示各組顏色與倒計時。在技術層面就是延時要控制到非常低。
對于實時類信息獲取,我們一般會有4種方案:
- 輪詢,瀏覽器的定時器發起http請求
- 長輪詢(Comet),http1.1支持的由瀏覽器發起的長輪詢
- websocket,瀏覽器與后端服務器建立websocket連接,雙工(雙向)通信
- SSE(Server-Sent Events),基于HTTP的html5新特性,服務器推送,半雙工通信模型
ps
:http2.0中有一個服務器推送不是實時需求的方案,這個特性是服務端根據客戶端的請求,提前返回多個響應,推送額外的資源給客戶端。如果一個請求是由你的主頁發送的,服務器可能會響應主頁內容、logo以及樣式表,因為他知道客戶端會用到這些東西。這樣不但減輕了數據傳送冗余步驟,也加快了頁面響應的速度,提高了用戶體驗。
基于 Flash的socket實現逐漸淘汰,不在考慮范圍內。
以下文字版本demo是參考知乎用戶@Ovear的回答,推薦大家看下原文,順便看下該問題的其他回答:https://www.zhihu.com/question/20215561
輪詢
輪詢是指客戶端定時向服務器發送ajax請求,服務器接到請求后馬上返回響應信息并關閉連接。
這個是基于“分布式、無狀態、基于TCP的請求/響應式”的http協議的。
文字demo
客戶端:啦啦啦,有沒有新信息(Request)
服務端:沒有(Response)
客戶端:啦啦啦,有沒有新信息(Request)
服務端:沒有。。(Response)
客戶端:啦啦啦,有沒有新信息(Request)
服務端:你好煩啊,沒有啊。。(Response)
客戶端:啦啦啦,有沒有新消息(Request)
服務端:好啦好啦,有啦給你。(Response)
客戶端:啦啦啦,有沒有新消息(Request)
服務端:。。。。。沒。。。。沒。。。沒有(Response) ---- loop
代碼demo
<script type="text/javascript">
//前端Ajax持續調用服務端,稱為Ajax輪詢技術
var getting = {
url:'server.php',
dataType:'json',
success:function(res) {
console.log(res);
$.ajax(getting); //關鍵在這里,回調函數內再次請求Ajax
}
//當請求時間過長(默認為60秒),就再次調用ajax長輪詢
error:function(res){
$.ajax($getting);
}
};
$.ajax(getting);
</script>
Comet長輪詢,一種hack技術
客戶端向服務器發送Ajax請求,服務器接到請求后hold住連接,直到有新消息才返回響應信息并關閉連接,客戶端處理完響應信息后再向服務器發送新的請求。
Comet的實現主要有兩種方式,基于Ajax的長輪詢(long-polling)方式和基于 Iframe 及 htmlfile 的流(http streaming)方式。
Ajax的長輪詢:
基于Iframe的流:
在頁面中嵌入一個隱藏的iframe,然后讓這個iframe的src屬性指向我們請求的一個服務端地址,并且為了數據更新,我們將頁面上數據更新操作封裝為一個js函數,將函數名當做參數傳遞到這個地址當中。
服務端收到請求后解析地址取出參數(客戶端js函數調用名),每當有數據更新的時候,返回對客戶端函數的調用,并且將要跟新的數據以js函數的參數填入到返回內容當中,例如返回“<script type="text/javascript">update("data")</script>
”這樣一個字符串,意味著以data為參數調用客戶端update函數進行客戶端view更新。
文字demo
客戶端:啦啦啦,有沒有新信息,沒有的話就等有了才返回給我吧(Request)
服務端:額。。 等待到有消息的時候。。來 給你(Response)
客戶端:啦啦啦,有沒有新信息,沒有的話就等有了才返回給我吧(Request) -loop
代碼demo
<script type="text/javascript">
//前端Ajax持續調用服務端,稱為Ajax輪詢技術
var getting = {
url:'server.php',
dataType:'json',
success:function(res) {
console.log(res);
$.ajax(getting); //關鍵在這里,回調函數內再次請求Ajax
}
//當請求時間過長(默認為60秒),就再次調用ajax長輪詢
error:function(res){
$.ajax($getting);
}
};
$.ajax(getting);
</script>
websocket
文字demo
客戶端:啦啦啦,我要建立Websocket協議,需要的服務:chat,Websocket協議版本:17(HTTP Request)
服務端:ok,確認,已升級為Websocket協議(HTTP Protocols Switched)
客戶端:麻煩你有信息的時候推送給我噢。。
服務端:ok,有的時候會告訴你的。
服務端:balabalabalabala
服務端:balabalabalabala
服務端:哈哈哈哈哈啊哈哈哈哈
客戶端:麻煩你有信息的時候推送給我噢。。
服務端:笑死我了哈哈哈哈哈哈哈
代碼demo
var ws = new WebSocket("wss://echo.websocket.org");
ws.onopen = function (evt) {
console.log("Connection open ...");
ws.send("Hello WebSockets!");
};
ws.onmessage = function (evt) {
console.log("Received Message: " + evt.data);
ws.close();
};
ws.onclose = function (evt) {
console.log("Connection closed.");
};
SSE(Server-Sent Event)
所謂SSE,就是瀏覽器向服務器發送一個HTTP請求,然后服務器不斷單向地向瀏覽器推送“信息”(message)。這種信息在格式上很簡單、固定,就是“信息”加上前綴“data: ”,然后以“\n\n”結尾。
SSE 是一種僅使用 HTTP 傳送異步消息的 HTML5 標準。不同于 WebSocket,SSE 不需要在后端創建服務器套接字。
后端響應需加入頭信息:response.headers["Content-Type"] = "text/event-stream"。
支持的事件有:
onopen 當通往服務器的連接被打開
onmessage 當接收到消息
onerror 當發生錯誤
EventSource.close()來關閉連接。
兼容性:https://developer.mozilla.org/zh-CN/docs/Server-sent_events/EventSource
IE全系不支持。
文字demo
SSE是單向通道, 只能服務端向瀏覽器發送數據。特別適用于客戶端只需接收從服務器傳入的更新的應用程序。
客戶端:啦啦啦,我要建立SSE
服務端:ok,有的時候會告訴你的。
服務端:來了來了,有消息了
服務端:balabalabalabala
服務端:哈哈哈哈哈啊哈哈哈哈
服務端:笑死我了哈哈哈哈哈哈哈
代碼demo
if (typeof (EventSource) !== "undefined") {
var source = new EventSource("server.php");
source.onopen = function () {
console.log("Connection to server opened.");
};
source.onmessage = function (event) {
document.getElementById("result").innerHTML += event.data + "<br>";
};
source.onerror = function () {
console.log("EventSource failed.");
};
} else {
document.getElementById("result").innerHTML = "抱歉,你的瀏覽器不支持 server-sent 事件...";
}
選擇
目前,我們已經積累了較為豐富輪詢請求經驗。但是,輪詢、長輪詢已經無法滿足這次需求。主要原因是:燈態數據是500ms上報一次,頻次非常高,輪詢不適合,有請求丟失和異步跳秒的風險。而且,一般而言輪詢都有無謂請求、浪費帶寬、效率低下的問題。所以需要從SSE、WebSocket方案中選擇。SSE、WebSocket優劣比較如下:
SSE | WebSocket | |
---|---|---|
通信類型 | 半雙工(單向) | 全雙工(雙向) |
瀏覽器支持 | 目前在 Microsoft 瀏覽器中不可用。 | 可用于所有主要瀏覽器。 |
開發工作量 | 小:只需發送一條包含特定標頭的 HTTP 消息。 | 中等:需要建立并維護 TCP 套接字通信。在服務器端還需要一個監聽器套接字。 |
擴展性 | 較弱 | 較強,支持數據的雙向通信 |
為了后期更好的擴展性,選擇了websocket的方案。
深入websocket
簡單理解
WebSocket 協議在2008年誕生,2011年成為國際標準。所有現代瀏覽器都已經支持了。
它的最大特點就是,服務器可以主動向客戶端推送信息,客戶端也可以主動向服務器發送信息,是真正的雙向平等對話,屬于服務器推送技術的一種。
特點:
建立在 TCP 協議之上,服務器端的實現比較容易。
與 HTTP 協議有著良好的兼容性。默認端口也是80和443,并且握手階段采用 HTTP 協議,因此握手時不容易屏蔽,能通過各種 HTTP 代理服務器。
數據格式比較輕量,性能開銷小,通信高效。
可以發送文本,也可以發送二進制數據。
沒有同源限制,客戶端可以與任意服務器通信。
協議標識符是ws(如果加密,則為wss),服務器網址就是 URL。
ws://example.com:80/some/path
客戶端實現與API簡介
包括ie在內的所有主流瀏覽器都支持websocket。
- 構造函數 WebSocket(url[, protocols]) 返回一個 WebSocket 對象
- 屬性
- WebSocket.binaryType 使用二進制的數據類型連接 blob(Blob 對象表示一個不可變、原始數據的類文件對象。)、arrayBuffer
- WebSocket.bufferedAmount 只讀 未發送至服務器的字節數
- WebSocket.extensions 只讀 服務器選擇的擴展
- WebSocket.onclose 用于指定連接關閉后的回調函數
- WebSocket.onerror 用于指定連接失敗后的回調函數
- WebSocket.onmessage 用于指定當從服務器接受到信息時的回調函數
- WebSocket.onopen 用于指定連接成功后的回調函數
- WebSocket.protocol 只讀 服務器選擇的下屬協議
- WebSocket.readyState 只讀 當前的鏈接狀態
- WebSocket.url 只讀 WebSocket 的絕對路徑
- 方法
- WebSocket.close([code[, reason]]) 關閉當前鏈接
- WebSocket.send(data) 向服務器發送數據
瀏覽器客戶端示例代碼:
var ws = new WebSocket("wss://echo.websocket.org");
ws.onopen = function (evt) {
console.log("Connection open ...");
ws.send("Hello WebSockets!");
};
ws.onmessage = function (evt) {
console.log("Received Message: " + evt.data);
ws.close();
};
ws.onclose = function (evt) {
console.log("Connection closed.");
};
服務端的實現
幾乎各種后端語言都有對應的實現方法,支持度較好。
常用的 Node 實現有以下三種。
代碼略過,直接到以上項目的GitHub中查看即可。
nginx的支持
在配置 HTTP、HTTPS 域名位置加入如下配置:
location /websocket {
proxy_pass http://backend;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection $connection_upgrade;
}
Nginx 自從 1.3
版本就開始支持 WebSocket 了,并且可以為 WebSocket 應用程序做反向代理和負載均衡。
WebSockets 受到 Nginx 缺省為60秒的 proxy_read_timeout 的影響。這意味著,如果你有一個程序使用了 WebSocket,但又可能超過60秒不發送任何數據的話,那你要么需要增加超時時間,要么實現一個 ping 的消息(心跳報文)以保持聯系。使用 ping 的解決方法有額外的好處,可以發現連接是否被意外關閉。
深入理解
websocket到底是什么?
概念:
HTTP是運行在TCP協議傳輸層上的應用協議,而WebSocket是通過HTTP協議協商如何連接,然后獨立運行在TCP協議傳輸層上的應用協議。
WebSocket僅僅是利用了HTTP協議做連接請求。WebSocket相當于一個簡化版的TCP傳輸子層(實際上WebSocket也是應用層協議)。
WebSocket之所以能持久連接原因是它運行在TCP協議上,TCP協議自身是長連接協議,所以WebSocket當然可以長連接。為什么HTTP不是長連接,原因是早期的HTTP在發起每個請求,響應完成后就會關閉Socket。但是后來加了多路復用KeepAlive協議后HTTP協議已經可以實現長連接了,可以處理長連接事務了。
所以,Websocket是一個持久化的協議。
特別地:
WebSocket 不是 HTML5 的東西。
WebSocket 是一個協議,歸屬于 IETF。WebSocket API 是一個 Web API,歸屬于 W3C。兩個規范是獨立發布的。
廣義上的 HTML5 是一個很寬廣的概念,是對大量新 API 的總稱, 里面包含的是 WebSocket API,并不是 WebSocket。簡單的說,可以把 WebSocket 當成 HTTP,WebSocket API 當成 Ajax。
原理及運行機制
wesocket協議流程圖:
Websocket借用HTTP的協議來完成一部分握手。
典型的Websocket的http握手部分:
1.請求部分
GET ws://xxx.xx.xx.xx:8000/v2x-omp/websocket HTTP/1.1
Host: xxx.xx.xx.xx:8000
Connection: Upgrade
Pragma: no-cache
Cache-Control: no-cache
Upgrade: websocket
Origin: http://xxx.xx.xx.xx:8000
Sec-WebSocket-Version: 13
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36
Accept-Encoding: gzip, deflate
Accept-Language: zh-CN,zh;q=0.9
Cookie: _uid=120070472.3333; x_xx=_QP5elb46q2p33h9Qm
Sec-WebSocket-Key: Uk07fY3CxNYoq2N5Fl9l1A==
Sec-WebSocket-Extensions: permessage-deflate; client_max_window_bits
和一般http協議不同的主要有:
(1)
Upgrade: websocket
Connection: Upgrade
這個是Websocket的核心,告訴Apache、Nginx等服務器:這邊發起的是Websocket協議,請用相應的后端來處理。
(2)
Sec-WebSocket-Key: Uk07fY3CxNYoq2N5Fl9l1A==
Sec-WebSocket-Extensions: permessage-deflate; client_max_window_bits
Sec-WebSocket-Version: 13
Sec-WebSocket-Key 是一個Base64 encode的值,這個是瀏覽器隨機生成的,用于驗證交互的服務器。
Sec-WebSocket-Version 是告訴服務器所使用的Websocket Draft(協議版本),避免因版本不同出現兼容性問題。
2.響應部分
服務器會響應如下,成功建立Websocket。
HTTP/1.1 101 Switching Protocols
Server: nginx
Date: Tue, 02 Apr 2019 08:11:57 GMT
Connection: upgrade
Upgrade: websocket
Sec-WebSocket-Accept: khI5KCJzpRnpR8H2sOx+nnGCDAY=
Sec-WebSocket-Extensions: permessage-deflate;client_max_window_bits=15
至此,HTTP已經完成它所有工作了--連接握手成功,接下來就是完全按照Websocket協議進行了。
websocket傳輸幀協議:
參考文檔
https://developer.mozilla.org/zh-CN/docs/Web/API/WebSocket
http://www.ruanyifeng.com/blog/2017/05/websocket.html
https://www.zhihu.com/question/20215561
https://blog.51cto.com/kusorz/2058591?utm_source=oschina-app