Golang-基于TimeingWheel定時器

設計思路

在linux下實現定時器主要有如下方式

  • 基于鏈表實現定時器
  • 基于排序鏈表實現定時器
  • 基于最小堆實現定時器
  • 基于時間輪實現定時器

在這當中基于時間輪方式實現的定時器時間復雜度最小,效率最高,然而我們可以通過優先隊列實現時間輪定時器。

優先隊列的實現可以使用最大堆和最小堆,因此在隊列中所有的數據都可以定義排序規則自動排序。我們直接通過隊列中pop函數獲取數據,就是我們按照自定義排序規則想要的數據。

Golang中實現一個優先隊列異常簡單,在container/head包中已經幫我們封裝了,實現的細節,我們只需要實現特定的接口就可以。

下面是官方提供的例子

// This example demonstrates a priority queue built using the heap interface.
// An Item is something we manage in a priority queue.
type Item struct {
    value    string // The value of the item; arbitrary.
    priority int    // The priority of the item in the queue.
    // The index is needed by update and is maintained by the heap.Interface methods.
    index int // The index of the item in the heap.
}

// A PriorityQueue implements heap.Interface and holds Items.
type PriorityQueue []*Item

func (pq PriorityQueue) Len() int { return len(pq) }

func (pq PriorityQueue) Less(i, j int) bool {
    // We want Pop to give us the highest, not lowest, priority so we use greater than here.
    return pq[i].priority > pq[j].priority
}

func (pq PriorityQueue) Swap(i, j int) {
    pq[i], pq[j] = pq[j], pq[i]
    pq[i].index = i
    pq[j].index = j
}

func (pq *PriorityQueue) Push(x interface{}) {
    n := len(*pq)
    item := x.(*Item)
    item.index = n
    *pq = append(*pq, item)
}

func (pq *PriorityQueue) Pop() interface{} {
    old := *pq
    n := len(old)
    item := old[n-1]
    item.index = -1 // for safety
    *pq = old[0 : n-1]
    return item
}

因為優先隊列底層數據結構是由二叉樹構建的,所以我們可以通過數組來保存二叉樹上的每一個節點。
改數組需要實現Go預先定義的接口Len,Less,Swap,Push,Popupdate

  • Len 接口定義返回隊列長度
  • Swap 接口定義隊列數據優先級,比較規則
  • Push 接口定義push數據到隊列中操作
  • Pop 接口定義返回隊列中頂層數據,并且將改數據刪除
  • update 接口定義更新隊列中數據信息

接下來我們分析 https://github.com/leesper/tao 開源的代碼中TimeingWheel 中的實現細節。

一、設計細節

1. 結構細節

1.1 定時任務結構

type timerType struct {
    id         int64
    expiration time.Time
    interval   time.Duration
    timeout    *OnTimeOut
    index      int // for container/heap
}

type OnTimeOut struct {
    Callback func(time.Time, WriteCloser)
    Ctx      context.Context
}

timerType結構是定時任務抽象結構

  • id 定時任務的唯一id,可以這個id查找在隊列中的定時任務
  • expiration 定時任務的到期時間點,當到這個時間點后,觸發定時任務的執行,在優先隊列中也是通過這個字段來排序
  • interval 定時任務的觸發頻率,每隔interval時間段觸發一次
  • timeout 這個結構中保存定時超時任務,這個任務函數參數必須符合相應的接口類型
  • index 保存在隊列中的任務所在的下標

1.2 時間輪結構

type TimingWheel struct {
    timeOutChan chan *OnTimeOut
    timers      timerHeapType
    ticker      *time.Ticker
    wg          *sync.WaitGroup
    addChan     chan *timerType // add timer in loop
    cancelChan  chan int64      // cancel timer in loop
    sizeChan    chan int        // get size in loop
    ctx         context.Context
    cancel      context.CancelFunc
}
  • timeOutChan 定義一個帶緩存的chan來保存,已經觸發的定時任務
  • timers[]*timerType類型的slice,保存所有定時任務
  • ticker 當每一個ticker到來時,時間輪都會檢查隊列中head元素是否到達超時時間
  • wg 用于并發控制
  • addChan 通過帶緩存的chan來向隊列中添加任務
  • cancelChan 定時器停止的chan
  • sizeChan 返回隊列中任務的數量的chan
  • ctxcancel 用戶并發控制

2. 關鍵函數實現

2.1 TimingWheel的主循環函數

func (tw *TimingWheel) start() {
    for {
        select {
        case timerID := <-tw.cancelChan:
            index := tw.timers.getIndexByID(timerID)
            if index >= 0 {
                heap.Remove(&tw.timers, index)
            }
        case tw.sizeChan <- tw.timers.Len():

        case <-tw.ctx.Done():
            tw.ticker.Stop()
            return

        case timer := <-tw.addChan:
            heap.Push(&tw.timers, timer)

        case <-tw.ticker.C:
            timers := tw.getExpired()
            for _, t := range timers {
                tw.TimeOutChannel() <- t.timeout
            }
            tw.update(timers)
        }
    }
}

首先的start函數,當創建一個TimeingWheel時,通過一個goroutine來執行start,在start中for循環和select來監控不同的channel的狀態

  • <-tw.cancelChan 返回要取消的定時任務的id,并且在隊列中刪除
  • tw.sizeChan <- 將定時任務的個數放入這個無緩存的channel中
  • <-tw.ctx.Done() 當父context執行cancel時,該channel 就會有數值,表示該TimeingWheel 要停止
  • <-tw.addChan 通過帶緩存的addChan來向隊列中添加任務
  • <-tw.ticker.C ticker定時,當每一個ticker到來時,time包就會向該channel中放入當前Time,當每一個Ticker到來時,TimeingWheel都需要檢查隊列中到到期的任務(tw.getExpired()),通過range來放入TimeOutChannelchannel中, 最后在更新隊列。

2.2 TimingWheel的尋找超時任務函數

func (tw *TimingWheel) getExpired() []*timerType {
    expired := make([]*timerType, 0)
    for tw.timers.Len() > 0 {
        timer := heap.Pop(&tw.timers).(*timerType)
        elapsed := time.Since(timer.expiration).Seconds()
        if elapsed > 1.0 {
            dylog.Warn(0, "timing_wheel", nil, "elapsed  %d", elapsed)
        }
        if elapsed > 0.0 {
            expired = append(expired, timer)
            continue
        } else {
            heap.Push(&tw.timers, timer)
            break
        }
    }
    return expired
}

通過for循環從隊列中取數據,直到該隊列為空或者是遇見第一個當前時間比任務開始時間大的任務,appendexpired中。因為優先隊列中是根據expiration來排序的,
所以當取到第一個定時任務未到的任務時,表示該定時任務以后的任務都未到時間。

2.3 TimingWheel的更新隊列函數

func (tw *TimingWheel) update(timers []*timerType) {
    if timers != nil {
        for _, t := range timers {
            if t.isRepeat() { // repeatable timer task
                t.expiration = t.expiration.Add(t.interval)
                // if task time out for at least 10 seconds, the expiration time needs
                // to be updated in case this task executes every time timer wakes up.
                if time.Since(t.expiration).Seconds() >= 10.0 {
                    t.expiration = time.Now()
                }
                heap.Push(&tw.timers, t)
            }
        }
    }
}

getExpired函數取出隊列中要執行的任務時,當有的定時任務需要不斷執行,所以就需要判斷是否該定時任務需要重新放回優先隊列中。isRepeat是通過判斷任務中interval是否大于 0 判斷,
如果大于0 則,表示永久就生效。

3. TimeingWheel 的用法

防止外部濫用,阻塞定時器協程,框架又一次封裝了timer這個包,名為timer_wapper這個包,它提供了兩種調用方式。

3.1 第一種普通的調用定時任務

func (t *TimerWrapper) AddTimer(when time.Time, interv time.Duration, cb TimerCallback) int64{
    return t.TimingWheel.AddTimer(
        when,
        interv,
        serverbase.NewOnTimeOut(t.ctx, func(t time.Time, c serverbase.WriteCloser) {
            cb()
        }))
}

  • AddTimer 添加定時器任務,任務在定時器協程執行
  • when為執行時間
  • interv為執行周期,interv=0只執行一次
  • cb為回調函數

3.2 第二種通過任務池調用定時任務


func (t *TimerWrapper) AddTimerInPool(when time.Time, interv time.Duration, cb TimerCallback) int64 {
    return t.TimingWheel.AddTimer(
        when,
        interv,
        serverbase.NewOnTimeOut(t.ctx, func(t time.Time, c serverbase.WriteCloser) {
            workpool.WorkerPoolInstance().Put(cb)
        }))
}

參數和上面的參數一樣,只是在第三個參數中使用了任務池,將定時任務放入了任務池中。定時任務的本身執行就是一個put操作。
至于put以后,那就是workers這個包管理的了。在worker包中, 也就是維護了一個任務池,任務池中的任務會有序的執行,方便管理。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,572評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,071評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,409評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,569評論 1 307
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,360評論 6 404
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,895評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,979評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,123評論 0 286
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,643評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,559評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,742評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,250評論 5 356
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 43,981評論 3 346
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,363評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,622評論 1 280
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,354評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,707評論 2 370

推薦閱讀更多精彩內容