最近開始在簡(jiǎn)書上混,今日在首頁(yè)上不經(jīng)意間看到一篇《從豆瓣電影評(píng)分算法說(shuō)起》,感覺(jué)有點(diǎn)眼熟,就點(diǎn)了進(jìn)去。
其實(shí)阿北的那篇《豆瓣電影評(píng)分八問(wèn)》,我也是剛看過(guò),這可能也是讓我覺(jué)得眼熟的原因。
其他的不多說(shuō),其實(shí)讓我耳目一新的是作者說(shuō)的用戶投票排名算法。
我之所以說(shuō)是耳目一新,那是因?yàn)轭愃七@種熱度TopN排名的算法,在一年前接觸過(guò),也設(shè)計(jì)過(guò)排名算法,并且,至今然仍在用,那就是“極客頭條"的最熱排行榜。
而現(xiàn)在,總算是接觸到比較完整的算法描述了,對(duì)排名算法也有了一個(gè)比較系統(tǒng)的認(rèn)知,所以甚是感激。
其他的先不說(shuō),先把阮一峰老師的基礎(chǔ)六大算法排上,讓大伙兒對(duì)用戶投票排名算法有個(gè)大概了解:
(1)?基于用戶投票的排名算法(一):Delicious和Hacker News 2012.02.24
(2)?基于用戶投票的排名算法(二):Reddit 2012.03.07
(3)?基于用戶投票的排名算法(三):Stack Overflow 2012.03.11
(4)?基于用戶投票的排名算法(四):牛頓冷卻定律 2012.03.16
(5)?基于用戶投票的排名算法(五):威爾遜區(qū)間 2012.03.20
(6)?基于用戶投票的排名算法(六):貝葉斯平均 2012.03.28
回到這邊,關(guān)于極客頭條的最熱排行榜,當(dāng)時(shí)雖然沒(méi)有系統(tǒng)的了解到六大算法,但是考慮還算是周全,也不算太low。
我們當(dāng)時(shí)考慮以下幾個(gè)排名影響因素,例如,文章的頂、踩、評(píng)論、瀏覽數(shù)以及發(fā)布時(shí)間等。至于公式算法就不方便公開了,整個(gè)算法也還算可以。
結(jié)合之前的實(shí)際操作以及現(xiàn)在的系統(tǒng)了解,對(duì)于熱度排名算法的設(shè)計(jì)也有了一些新的理解。
有些時(shí)候,差評(píng)不一定就是負(fù)影響!
從六大算法中我們可以知道,贊成票對(duì)結(jié)果起著正影響,而反對(duì)票則負(fù)影響。比如Reddis算法中,贊成票與反對(duì)票的差集越大,對(duì)結(jié)果正影響越大;而在威爾遜區(qū)間計(jì)算中,核心依據(jù)是好評(píng)率。
其實(shí),在真實(shí)的業(yè)務(wù)場(chǎng)景中,不一定是這樣的,如果我們單純的是為優(yōu)質(zhì)文章做熱度排序,這種做法毋庸置疑。但是,如果我們是為類似辯論性,或者觀點(diǎn)性的文章做熱度排序呢?
針對(duì)于這種場(chǎng)景,個(gè)人認(rèn)為頂踩都很重要,兩個(gè)點(diǎn)能夠反映這種辯論文章的質(zhì)量:頂踩數(shù)總和很多,頂踩勢(shì)均力敵。
頂踩數(shù)總和多,說(shuō)明參與的人多;而頂踩數(shù)伯仲相間,說(shuō)明話題辯論很劇烈,而不會(huì)是一邊倒。擁有這兩個(gè)特點(diǎn),說(shuō)明這個(gè)辯論文章就是一個(gè)優(yōu)質(zhì)文章,能夠引起沖突的熱點(diǎn)。
這么一分析,我們會(huì)發(fā)現(xiàn),六大算法其實(shí)是都不太適合的。我們需要實(shí)際的分析業(yè)務(wù)場(chǎng)景,然后定制出符合場(chǎng)景的熱度計(jì)算。
掌握時(shí)間衰減的度!
關(guān)于時(shí)間衰減,六大算法中的Hacker News算法首先提到。然后其他幾個(gè)基本上也都參考了時(shí)間對(duì)于熱度的影響。
通常來(lái)講,隨著時(shí)間遷移,熱度是需要下降的,不然就會(huì)出現(xiàn)馬太效應(yīng),熱者愈熱,冷者愈冷。
關(guān)于時(shí)間衰減方式,可以各種各樣,六大算法中也提到了幾種不同的衰減方式。這不是重點(diǎn)。重點(diǎn)是,我們?cè)谠O(shè)計(jì)排名算法時(shí),需要掌握好下降的速度,這需要結(jié)合實(shí)際的業(yè)務(wù)需求進(jìn)行調(diào)整。
我認(rèn)為新文章的冷啟動(dòng)不是一個(gè)問(wèn)題。
在最后一個(gè)算法中,即貝葉斯平均中。作者提到了如何解決一些新文章特征不夠,導(dǎo)致不公平的問(wèn)題。
在初期,設(shè)計(jì)極客頭條的最熱排行榜時(shí),我也考慮過(guò)新文章數(shù)據(jù)少導(dǎo)致排名偏低的問(wèn)題,但仔細(xì)分析之后發(fā)現(xiàn)并不是這么回事。
所謂熱度榜,我們希望排在前頭的就是熱度高的文章,新的文章交互少,那么說(shuō)明它就是不熱,這是一個(gè)現(xiàn)實(shí)。
那么我們?cè)趺唇鉀Q這個(gè)問(wèn)題的呢?分榜,分別使用“最新榜”和“最熱榜”。最熱榜單,我只關(guān)注熱點(diǎn),而最新則唯一依據(jù)就是時(shí)間。
這樣,我們會(huì)發(fā)現(xiàn)最新產(chǎn)生的交互數(shù)據(jù)會(huì)給最熱榜單帶來(lái)榜單排名的移動(dòng),是一種互補(bǔ)的作用。
而關(guān)于貝葉斯平均中提到的影片分類的問(wèn)題,其實(shí)在總榜中,那種小眾的分類在總類中本來(lái)就屬于不熱數(shù)據(jù),所以理應(yīng)讓他靠后,而不是人為把他熱度進(jìn)行提升。還有一個(gè)解決方案就是,做分類的熱度分榜。
置信區(qū)間確實(shí)能夠解決小樣本數(shù)據(jù)的問(wèn)題。
威爾遜區(qū)間算法中提到了置信區(qū)間,簡(jiǎn)單來(lái)說(shuō)就是通過(guò)樣本數(shù)的多寡來(lái)調(diào)整置信區(qū)間,而置信區(qū)間下限則參與計(jì)算。
說(shuō)白了就是樣本數(shù)小的時(shí)候,好評(píng)率更不可信,所以要適當(dāng)?shù)慕档秃迷u(píng)率影響,樣本數(shù)多的時(shí)候,數(shù)據(jù)更能反映真實(shí),則小范圍進(jìn)行調(diào)整。
關(guān)于這一點(diǎn),極客頭條是有改進(jìn)的空間的。不過(guò)其他幾個(gè)方面的設(shè)計(jì)倒是挺完善的了。
多維參考時(shí),權(quán)重可以通過(guò)線性回歸計(jì)算得到。
很多時(shí)候,我們?cè)谧鰺岫扰琶麜r(shí),會(huì)同時(shí)參考多個(gè)維度的屬性。最后得到的是一個(gè)綜合多個(gè)屬性考量的熱度值。
那么,我們?nèi)绾蝸?lái)確定每個(gè)屬性值對(duì)于熱度的影響有多大呢?換句話說(shuō)就是每個(gè)屬性帶來(lái)的權(quán)重是多少。
我們可以通過(guò)人工+統(tǒng)計(jì)的方式進(jìn)行確定。人工進(jìn)行熱度值定義,然后獲取不同維度的屬性值,那么剩下來(lái)就是已知Y,求X1、X2...的參數(shù)的線性回歸問(wèn)題了。
最后的建議:我們?cè)谠O(shè)計(jì)熱度排名算法時(shí),不必拘泥于這六大排名算法,多考慮一下實(shí)際業(yè)務(wù)場(chǎng)景,最主要的是對(duì)當(dāng)前業(yè)務(wù)的熱度有一個(gè)比較清晰的定位,這樣才能根據(jù)實(shí)際情況進(jìn)行算法設(shè)計(jì)以及相關(guān)調(diào)整,而不是對(duì)著算法照搬照抄。