Neil Zhu,簡書ID Not_GOD,University AI 創始人 & Chief Scientist,致力于推進世界人工智能化進程。制定并實施 UAI 中長期增長戰略和目標,帶領團隊快速成長為人工智能領域最專業的力量。
作為行業領導者,他和UAI一起在2014年創建了TASA(中國最早的人工智能社團), DL Center(深度學習知識中心全球價值網絡),AI growth(行業智庫培訓)等,為中國的人工智能人才建設輸送了大量的血液和養分。此外,他還參與或者舉辦過各類國際性的人工智能峰會和活動,產生了巨大的影響力,書寫了60萬字的人工智能精品技術內容,生產翻譯了全球第一本深度學習入門書《神經網絡與深度學習》,生產的內容被大量的專業垂直公眾號和媒體轉載與連載。曾經受邀為國內頂尖大學制定人工智能學習規劃和教授人工智能前沿課程,均受學生和老師好評。
搜索類型
在執行分布式搜索時存在不同的集中執行路徑。分布式搜索的操作需要被分發在所有相關的shard上,然后將所有的結果匯集返回。在進行分發和匯集的過程中,特別是通過搜索引擎中可以有好幾種方式完成。
在執行分布式搜索時,一個問題就是從每個shard中檢索出來多少結果。例如,如果我們有10個shard,第一個shard可能包含最相關的結果,而其他shard的結果排名都比較靠后。這種情況下,在執行請求時,我們需要從所有的shard中獲得從0到10的結果,排序,然后返回最終正確的結果。
另一問題,則與搜索引擎有關,就是每個shard都代表著自己。在一個特定的shard上執行查詢時,并不會考慮項的頻率和來自其他shard的搜索引擎信息。如果我們希望支持精準的排序,我們必須首先匯集來自所有shard的項的頻率來計算全局的項頻率,然后在每個shard上使用這些全局頻率信息執行查詢。
同樣,由于對結果排序的需要,返回一個巨大的文檔集合,或者甚至進行翻頁,保存正確的排序的代價太大。對于大結果集合的不排序滾動,可以通過scan
這一搜索類型完成。
elasticsearch 非常靈活,支持不同的搜索類型基于per search request來執行。這個類型可以通過search_type
這個參數進行設置。存在以下的類型:
Query Then Fetch
參數值:query_then_fetch
這個請求分兩步進行。第一步,查詢轉發到所有關聯的shard上。每個shard執行該搜索請求并產生一個局部的排序的結果列表。每個shard返回足夠的新給負責協調的節點從而進行合并和重排shard層面的結果得到最終排序的結果集合,最大長度由參數size
確定。
在第二步,協調節點僅從相關shard上請求文檔內容(和高亮部分,如果有的話)。
這是默認的設置,如果對搜索類型沒有顯式定義的話。
Dfs, Query Then Fetch
參數值:dfs_query_then_fetch
除了在初始的分發步計算分布式的項頻率更為精準外,其他與 Query Then Fetch 相同。
Count
參數值:count
特定的搜素類型可以返回匹配搜索請求的文檔數目,但不會包含任何的文檔在total_hits
中,也可能會包含facet。這個比count
API更加有用,可以有更多的選項可以控制行為。
Scan
參數值:scan
scan
搜索類型關閉了排序的功能,保持在大規模結果集合上的高效滾動。參見 Efficient scrolling with Scroll-Scan。
Query And Fetch
參數值:query_and_fetch
該模式是內部優化,當一個query_then_fetch請求單一的shard時自動選擇。query_then_fetch的兩步在一個單一的步驟內完成。這個模式不應由用戶顯式指定。
Dfs, Query And Fetch
參數值:dfs_query_and_fetch
除了對一個初始分發過程,計算分布式項頻率更加準確外,該類型和query_and_fetch
相同。這個模式不應由用戶顯式指定。