經常有朋友問,免費的生意到底是怎么玩的?團購這種“站在跟前打折”的做法沒有貓膩嗎?每次我解釋完這類問題,常會有人感嘆說:好精明。是的,傳統上說做這種生意的人必須“心眼多”、“會算”。但換個角度看,“精明”和“心眼多”并不是獨特的天賦,說到底無非是“駕馭數據的能力”而已。如果說過去駕馭數據很大程度上需要依賴聰明才智,那么現在依靠技術的發展,駕馭數據的門檻已經大大降低了,進入“大數據”時代之后,這一點應該體現得更加明顯。不得不承認,”大數據“已經成了熱門的詞匯,仿佛一夜之間,我們就進入了”大數據“時代,處理數據的各種限制和困難都不復存在了。隨之而來的,大家駕馭數據的能力都應該突飛猛進,玩轉數據再也不是什么難事。但是,事實真的如此嗎?
不幸的是,現在很多所謂的”大數據“,只有量的積累,沒有質的提升,只有規模的增長,沒有價值的飛躍。依靠迅速提升的存儲能力,我們可以保存幾乎無限的數據。但是大家能從數據里挖掘出來多少內容?看來看去,似乎還只是原先的那些指標,充其量是能更快得到結果而已。這就是我們想要的”大數據“嗎?如果不是,真正的”大數據“應該怎樣玩?
要回答這個問題,可以去閱讀各種和”大數據“相關的書籍,得到一大堆”經典“例子,也可以聽聽在每天與數據打交道的先行者們的說法,傾聽來自第一線的感悟。
很多人還沒有為大數據做好準備,最明顯的,還有很多公司仍然在定期清理日志。存儲容量在大數據時代已經不再重要,所以”存儲日志“并沒有嚴格的容量限制。即便是看來簡單的日志,也包含了足夠多的數據,只是尚未挖掘出足夠的價值。《大數據時代》的作者牛津大學教授舍恩伯格推進了一步:傳統觀念里大家把數據視作成本,為了某個目的(或者假設),精打細算地收集數據,分析得出結論。但是到了大數據時代,因為容量不再是問題,所以數據的角色從成本變成了環境,很多探索也變為從“無目的”收集的海量數據中提煉價值的過程。所以在大數據時代,背靠云服務提供商,大家都應當在頭腦里把“容量”和“成本”解綁,改換全新的思維方式。
“非結構化數據”是未來的重要發展方向。長期以來,有很多技術人員——包括我在內——都期望世間萬物都是規范嚴謹、邏輯清晰的,就好像柏拉圖那純凈的理念世界。然而真實的世界里總是充滿了噪音、變異、錯誤,于是大家需要做大量的規范和清洗,而且免不了抱怨連天。近幾年我逐漸想到,或許我們不應該簡單把不規范的世界肢解后硬塞到規范的世界里,而應該用更高明的辦法來駕馭不規范的世界;不應當強求接收的數據都是”結構化“的,而應當努力適應各種非結構化的數據。
現在很多的云服務都側重存儲和計算,而忽略了真正的應用,云服務更習慣扮演簡單的“保險箱”,不去關心箱子里到底裝了什么,能挖掘出什么價值。相應的,很多的應用開發商也只把云服務當“保險箱”來用,所有的應用都由自己來動手。
比如對于常見的視頻類應用,無論是SNS圈中流行的秒拍,還是安防領域熱門的視頻監控,其背后的要求和邏輯是有很多共性的。但是長期以來市場上并沒有這種”數據+應用“的解決方案,所以即便有云服務,應用的開發團隊還是需要花費大量的精力來做鑒權、轉碼、分發、直播等業務。
造成這種現象的重要原因是云服務時代的脫節:網絡上現成的類庫往往側重于功能,在單機來做相當簡單,但是云環境下的玩法不同于單機,所以把單純的功能變成云服務環境下的應用就成了相當有挑戰的工作。結果,應用開發商自己來包裝卻事倍功半,或者云服務提供商提供了一些功能,但往往失之簡單,無法與應用深度結合。結果就是功能和云服務融合不起來,總有功虧一簣的遺憾。
如果云服務提供商能深入理解各種應用,把通用服務抽象出來并以云服務組件的方式提供,就能實現云服務提供商和應用開發商的雙贏。如果要給云服務打分的話,數據的存儲和簡單處理就像是1,各種包裝好的應用組件就像是0,有多少種應用組件,1后面就有多少個0,效能就可以增加多少個數量級。
關于數據的“動靜結合”,我不由得想起以前看過的一本書,《硬球:政治是這樣玩的》,分享的經驗,都在宣示“數據是這樣玩的”,讓大家看到數據的真正玩法,刷新大家對數據的認識。
如何確保“大數據”真正反映了現實,讓我們能基于此認識世界呢?
我們當然可以收集海量的、非結構化的數據,但現實世界高度復雜的,在應對大數據時,我們如何才能證明在我們構建的“數據世界”里已經包括了足夠的數據?比如要分析人的某人運動模式,我們當然需要收集人的運動軌跡,除了常見的經緯度和速度,是否還需要關心高度、溫度、濕度、心跳等等信息?如果某項信息,比如血壓,與我們關心的內容或規律密切相關而又沒有被收集進來,即便有了海量數據,有了超強的數據分析能力,我們是否仍然會茫然無緒?退一步說,如果這些數據已經收集了,但結構不同,分布不同,歸屬不同,我們應該如何把這些數據串通融合起來,真正發現其中的規律?
這些問題我沒有答案,我也認為暫時不可能有答案。因為解答這類問題,不再依賴單純的思辨和邏輯的推理,而是更多需要依靠扎扎實實的探索,尤其需要大量有聰明才智和深厚積累的人才的持續投入。