發簡信
IP屬地：上海
-
數據結構之LinkList鏈表
鏈表與數組在數據結構的江湖上被并稱為南數組、北鏈表，其江湖地位可見一斑 概念 鏈表作為最基礎的通用存儲結構，它的作用和數組是一樣的，但存儲數據的...
-
Spark中的exactly once語義
exactly once指的是在處理數據的過程中，系統有很好的容錯性(fault-tolerance)，能夠保證數據處理不重不丟，每一條數據僅被...
-
spark源碼閱讀之storage模塊②
在spark源碼閱讀之storage模塊①中，描繪了Storage模塊的整體框架是標準的master-slave框架：master用來管理sla...
-
spark源碼閱讀之storage模塊①Storage模塊負責管理spark在計算過程中產生的數據，對用戶來說，spark的編程面向的是RDD這種抽象的邏輯數據集，對RDD的轉換和動作...
-
spark源碼閱讀之shuffle模塊②
在spark源碼閱讀之shuffle模塊①中，介紹了spark版本shuffle的演化史，提到了主要的兩個shuffle策略：HashBased...
-
spark源碼閱讀之shuffle模塊①我們在之前scheduler模塊的分析中了解到，DAGScheduler劃分stage的依據就是Shuffle Dependency，那么Shu...
-
spark源碼閱讀之scheduler模塊②
在spark源碼閱讀之scheduler模塊①中，分析了DAGScheduler如何提交Job，并且將Job劃分為stage提交給TaskSch...
-
Java中的collection類在Scala中的語法錯誤問題
報錯如下： error: value foreach is not a member of java.util.List[String][ERR...
-
spark源碼閱讀之scheduler模塊①
本文基于Spark 1.6.3版本源碼 整體概述 spark的調度模塊可以說是非常有特色的模塊設計，使用DAG（有向無環圖）刻畫spark任務的...