威廉·莎士比亞真的寫過《哈姆雷特》嗎?基于置信度的知識表示學習
摘要
知識圖譜能夠提供重要的關系信息，在各種任務中得到了廣泛的應用。然而，在KGs中可能存在大量的噪聲和沖突，特別是在人工監督較少的自動構造的KGs中。為了解決這一問題，我們提出了一個新的置信度感知（confidence-aware）知識表示學習框架(CKRL)，該框架在識別KGs中可能存在的噪聲的同時進行有置信度的知識表示學習。具體地說，我們在傳統的基于翻譯的知識表示學習方法中引入了三元組置信度。為了使三次置信度更加靈活和通用，我們只利用KGs中的內部結構信息，提出了同時考慮局部三次和全局路徑信息的三次置信度。在知識圖噪聲檢測、知識圖補全和三重分類等方面對模型進行了評價。實驗結果表明，我們的置信度感知模型在所有任務上都取得了顯著和一致的改進，這證實了我們的CKRL模型在噪聲檢測和知識表示學習方面的能力。
介紹
近年來，人工智能的蓬勃發展對我們的日常生活產生了廣泛的影響。在信息檢索和問題回答等領域，人們并不滿足于僅僅匹配，而是期望 人工智能代理（AI agents） 具有理解、推理和解決問題的知識。知識圖譜是基于知識的人工智能代理的重要支持者，它提供實體之間有效的、結構良好的關系信息。典型的KG通常存儲具有三重事實的知識(頭實體、關系、尾實體)，也簡稱為(h;r;t)。傳統的知識圖構建方法通常需要大量的人工監督或專家標注，極其費時費力。
因此，自動化機制和眾包在知識構建中占據了較大的比重，但由于人力監督的限制，這些方法可能會產生噪音和沖突。
例如，最新型的基準關系提取模型在召回率為20%時只能達到60%左右的精度[Lin et al.， 2016]。
此外，[Heindorf et al.， 2016]重點研究了Wikidata中的故意破壞行為檢測，這也暗示了大規模KGs中噪聲的存在和問題，知識表示學習(Knowledge representation learning, KRL)以分布式表示KGs，為知識的使用提供了一種有效而靈活的方式。
因此，在知識表示學習和知識應用中考慮噪聲是至關重要的。
在構造無噪聲知識表示的同時，嘗試檢測現有知識圖中可能存在的噪聲和沖突。大多數傳統的KRL方法假定現有的知識圖譜是絕對正確的。為了解決這一問題，我們提出了一個新的基于噪聲的置信度感知知識表示學習框架(CKRL)。更具體地說，CKRL模型遵循了[Bordes et al.，2013]提出的基于翻譯的框架，以三元組置信度的方式學習知識表示。同時考慮了局部路徑信息和全局路徑信息，提出了三種三元組置信度。通過全局一致性和多步路徑推理，我們可以推斷出莎士比亞是否寫了《哈姆雷特》。為了使三元組置信度具有更大的通用性和靈活性，我們只考慮KGs內部的結構信息以獲得更好的全局一致性，這使得信息的有限性使得噪聲的處理更具挑戰性。
在實驗中，我們在知識圖噪聲檢測、知識圖完成和三重分類三個任務上評估了我們的模型。實驗結果表明，我們的模型在所有任務上都取得了最好的性能，這證實了CKRL在噪聲檢測和知識表示學習方面的能力。本文的主要貢獻如下：
- 提出了一種基于置信度感知的知識圖噪聲檢測和知識表示學習的KRL框架，該框架只使用KGs中的內部結構信息。
- 我們在不同的噪聲知識圖上評估了我們的模型，并在所有任務上都取得了良好的效果。
2 相關工作
2.1 知識圖噪聲檢測
噪聲的存在似乎是不可避免的，它會強烈影響知識的獲取[Manago and Kodratoff, 1987]，因此噪聲檢測在知識構建和知識應用中至關重要。知識圖噪聲檢測大多發生在構造知識圖的過程中。例如，YAGO2在人的監督下從維基百科中提取知識，人類法官會被呈現一些選定的事實，他們必須對這些事實的正確性進行評估[Hoffart等人，2013]。Wikidata還依賴于一種眾包的人工管理軟件，在這種軟件中，貢獻者可以拒絕或批準一項聲明[Pellissier Tanon等人，2016]。DBpedia通過全球范圍的眾包工作創建到維基百科信息盒的映射[Lehmann等人，2015]。在大型KGs中進行這些噪聲檢測，往往需要耗費大量的人力，是非常耗費人力和時間的。
在自動KG噪聲檢測方面，一種名為Wikidata vandalism的新任務引起了廣泛關注，該任務旨在對抗知識圖的故意破壞[Heindorf et al.， 2015]。
然而，現有的大部分方法主要集中在內容、用戶、項目和修訂的特征選擇上[Heindorf et al.， 2016]，因此受到外部信息完整性的限制。
對于圖中的節點[Gy ongyi et al.， 2004]或邊[De Meo et al.， 2012]，也有一些研究致力于判斷圖中節點的重要性，但很少有人關注每個三元組的置信度。
在本文中，我們提出了三置信度，主要針對知識圖噪聲檢測和知識表示學習中KGs的內部結構信息。
2.2 基于平移的KRL方法
知識圖的分布式表示是近年來研究的熱點，其中基于平移的知識圖表示方法是一種直觀有效的知識圖表示方法。TransE [Bordes et al.，2013]將實體和關系投射到連續的低維向量空間中，將關系解釋為頭尾實體之間的轉換操作。通過平移假設可以得到h + r ≈t方程，能量函數定義如下：
一些改進的基于平移的方法嘗試在特定關系超平面上進行平移[Wang et al.， 2014]、特定關系實體投影[Lin et al.， 2015b]和特定類型實體投影[Xie et al.， 2016]來解決這一問題。此外，翻譯假設只關注三元組中的局部信息，可能無法充分利用KGs中的全局圖信息[Lin et al.， 2015a]將TransE擴展為將多步關系路徑信息編碼為知識表示學習。然而，大多數傳統的KRL方法都假設KG中的所有三元具有相同的置信度，這尤其不適用于那些無需人工監督就自動構建的KG。據我們所知，我們的模型是第一個考慮KRL中現有KGs置信度的嵌入方法。在本文中，我們跟隨TransE來學習知識表示，而其他增強的基于翻譯的方法也不難利用我們的置信度感知KRL框架。
3 理論
首先給出本文中使用的符號。鑒于三重事實(h;r;t)，我們考慮頭和尾實體h;
t∈E 且關系r∈R，其中E和R代表實體和關系的集合。T代表整個訓練的三個事實，包括可能的沖突和噪音。為了檢測知識圖中可能存在的噪聲并學習更好的知識表示方法，我們對每個三元組事實引入了一個新的三元組置信度概念。
三元組置信度描述了三元組置信度正確的可能性，可以通過內部結構信息和外部異質信息來衡量。
3.1 基于置信度感知的KRL框架
我們嘗試檢測噪聲和學習更好的三元組置信度的知識表征，更多地集中在高置信度。遵循基于平移的框架，我們設計了置信度感知的KRL能量函數如下
置信度感知能量函數可分為兩個部分:E(h; r; t) = ||h + r - t||表示頭、關系、尾的不同，與TransE相同。差異性得分越低，說明其對應的三元組能夠更好地擬合平移假設。與傳統方法不同的是，我們還引入了三元組置信C(h;r;t)作為能量函數的第二部分。三元組置信度越高，說明三次關系知識的可信度越高。
三元組置信度可以在構建知識圖的過程中和之后計算，可以從內部信息如KG結構和外部信息如文本證據等多方面計算。為了使我們的三重置信更具普遍性和實用性，在我們的模型中，我們只考慮構建KG后的內部結構信息，并在接下來的章節中提出了三種三元組置信度。在訓練過程中，我們同時對每三組的差異性和置信度進行測量，從而得到更好的知識表示。
3.2 目標形式化
在本節中，我們將介紹模型的詳細訓練目標。根據TransE [Bordes et al.， 2013]，我們形式化了一個基于邊際的分數函數，并將負采樣作為訓練目標。這個成對得分函數試圖使正三元組的得分高于負三元組的得分。我們有：
對于成對訓練，由于知識圖中沒有明確的負三元組，我們按照以下規則對負三元組進行采樣：
它是指正三元組中的一個實體或關系被整個集合中的另一個實體或關系隨機替換。注意，與TransE不同，我們還添加了關系替換，以提高關系預測的性能。
我們還確認替換后生成的負三元組不在T中，以確保它們確實是負的。
3.3 局部三元組置信度
我們首先提出局部三元組置信度(LT)，它只關注三元組內部。由于我們的CKRL框架遵循h + r ≈ t的翻譯假設，直接利用不同函數來判斷三元組的置信度是很直接的。此外，傳統的基于翻譯的三元分類方法的良好結果也證實了正三元組應該很好地符合翻譯規則。
我們假設三元組越符合翻譯規則，該三元組就越有說服力。為了在訓練過程中測量局部三元組置信度，我們首先根據翻譯假設來判斷每個三重的當前一致性。受基于邊際的訓練策略啟發，我們直接使用相同的成對函數來計算三重質量Q(h;r;t)如下：
在翻譯假設下，三次質量得分越高，三次質量得分越高。
在訓練中，我們首先將局部三重置信度初始化為1。
由于訓練過程中存在著演化的實體和關系的嵌入，因此應根據其動態的三重屬性進行相應的改變。具體而言，(h;r;t)變化如下：
3.4全局路徑置信度
局部三重置信度是直接和有效的，而僅僅關注三元組內部將無法使用知識圖中豐富的全局結構信息。關系路徑可以為三元組提供豐富的全局信息作為支持證據。例如，已知關系路徑(h，born_in_city，e)和(e，in_nation，t)，我們可以高置信度推斷(h，born_in_nation，t)，因此，我們提出了全局路徑置信度來考慮多步關系路徑。
我們假設，如果三元組有更多語義上接近對應關系的可靠路徑，那么三元組將被認為更可信。在接下來的章節中，我們首先介紹了如何量化一個三元組下的關系路徑可靠性，然后提出了兩種策略，利用共現信息和學習的知識表示來衡量路徑和關系之間的語義相似性。
路徑可靠性的關系
我們假設，如果一個關系路徑從頭尾實體承載了更多的信息流，那么它就應該被認為是更重要的。具體來說，我們遵循路徑約束資源分配(PCRA) [Lin et al.， 2015a]來度量關系路徑可靠性。PCRA的關鍵思想受到資源配置的啟發[Zhou et al.， 2007]，該思想假設有一定的資源與頭實體h相關聯，并通過所有關系路徑流遍整個知識圖。在給定實體對(h;t)。
先驗路徑的置信度
首先引入先驗路徑置信度(PP)，利用關系和路徑的共現來表示它們的不同。
我們假設，路徑之間的關系越多，它們就越有可能代表相似的語義。
形式上，給定一個三重(h;r;t)及其路徑集S(h;t)，包含h與t之間的所有路徑，第i個關系路徑對(r;pi)是這樣寫的
表示的先驗路徑置信度，依賴于S(h;t)中所有路徑的關系路徑相似性及其對應的關系路徑可靠性。注意，由于我們只考慮路徑和關系的先驗概率，因此在訓練過程中先驗路徑的置信度是固定的。
適應路徑置信度
在訓練過程中，先驗路徑置信度保持不變，不靈活，可能會受到KGs中存在的噪聲和沖突的強烈約束。為了解決這個問題，我們提出了自適應路徑置信度(AP)，它可以根據所學習的嵌入靈活地學習關系路徑質量。
由于我們假設關系嵌入應該與路徑嵌入相似，因此較低的QAP (r;
pi)暗示了一個更有說服力的關系路徑對。
自適應路徑置信度寫如下：
整合上面三種置信度，我們有：
3.5 優化與實現細節
我們利用小批量隨機梯度下降(SGD)優化模型。在訓練中，所有的實體和關系嵌入可以隨機初始化，也可以用TransE預訓練，所有的三元組的局部三重置信度都被初始化為1。對于那些沒有路徑的實體對，我們直接將其基于路徑的信任設置為0。
路徑選擇在我們的模型中至關重要，它將對性能產生重大影響。由于所有路徑的數量隨最大路徑長度的增加呈指數增長，因此用KG來枚舉所有路徑是不現實的。此外，當邏輯鏈走得太遠時，基于路徑的推理將變得更弱。考慮到有效性和效率，我們將路徑的最大長度限制為最多兩步。因為關系是有向邊，所以我們在檢測關系路徑時也要考慮那些反向關系。
4 實驗
4.1 數據集
在本文中，我們評估了基于FB15K的自信感知模型[Bordes et al.， 2013]，它是提取自Freebase的典型基準知識圖[Bollacker et al.， 2008]。但在FB15K中沒有明顯的標記噪聲或沖突。因此，我們基于FB15K生成不同噪聲概率的新數據集，以模擬自動構建的真實世界知識圖，減少人工標注。
受名為三元組分類的評價任務預處理的啟發，我們在[Socher et al.， 2013]中按照相同的設置構造了負三元組。具體來說，給定一個正三元組(h;r;t)在KG中，我們隨機切換其中一個頭或尾實體以形成一個負三重(h0;r;t)或(h;r;t0)。實體替換受到dataset中與relation出現在相同位置的新實體的約束，即h0應該出現在正三組r的頭位置(e.g. the head of relation write should be a writer)。這個約束側重于生成更困難和更令人困惑的情況，因為那些帶有錯誤樣式實體的負三元組很容易被檢測到。我們可以直接在Freebase中利用實體類型信息，或者遵循局部封閉世界假設[Krompa民兵等，2015]來收集實體約束信息。根據該協議，我們基于FB15K構造了3個帶有噪聲的正三組的KGs，分別為10%、20%和40%，然后丟棄少量違反類型約束的負三組。這些有噪聲的數據集與FB15K共享相同的實體集、關系集、驗證集和測試集，生成的所有負三元組都被融合到原始訓練集中，表1列出了所有數據集的統計量。
4.2 實驗設置
在實驗中，我們使用三種不同的信心組合策略來評估我們的信心感知KRL模型。CKRL(LT)表示只考慮局部三置信度的策略，CKRL(LT+PP)同時考慮局部三置信度和先驗路徑置信度，而CKRL (LT+PP+AP)同時考慮三種置信度。我們采用TransE [Bordes et al.， 2013]作為基線，因為我們的CKRL框架是基于TransE的，我們的信心框架在其他增強的基于平移的方法中使用并不困難。
我們使用小批量SGD來訓練我們的CKRL模型，并將邊界設為{0.5,1.0,2.0}。我們在{0.0005,0.001,0.002}中，經經驗選取整體學習率，在訓練時是固定的。對于局部三重置信，我們在{0.5,0.7,0.9}中選擇下降控制器，在{0.0001,0.0005,0.001}中選擇上升控制器。對于先驗路徑置信度，經驗設置平滑為0.01。我們的模型的最優配置是:消融= 1.0，消融= 0.001，消融= 0.9，消融= 0.0001。在計算總體三重置信度時，我們也評估了多重組合權值的最小二乘法。我們根據不同的評估任務和數據集的總體性能選擇一個統一的權重策略，以顯示我們的模型的魯棒性。對于CKRL (LT+PP)，我們選擇的是“模型”中的“模型”中的“模型”——“模型”中的“模型”——“模型”中的“模型”——“模型”中的“模型”——“模型”中的“模型”——“模型”中的“模型”:為了進行公平比較，所有模型中的實體和關聯嵌入的維度都被相等地設置為50。
4.3 知識圖噪聲檢測
為了驗證我們的CKRL模型在識別知識圖中的噪聲和沖突方面的能力，我們提出了一個新的評估任務——知識圖噪聲檢測。該任務的目的是根據知識圖的三次得分來檢測知識圖中可能存在的噪聲。
評估協議
受[Socher et al.， 2013]中關于三重分類的評價度量的啟發，我們將能量函數得分E(h, r, t) = ||h+r t||作為我們的三重得分，然后根據這些得分對訓練集中的所有三元進行排序。那些得分較高的三組數據首先被認為是噪音。
我們利用精度/召回曲線來顯示性能。
實驗結果
圖2展示了消除知識圖噪聲的結果，從中我們可以看到:(1)我們的置信度感知KRL模型在三個不同噪聲比例的數據集上都取得了最好的性能。驗證了我們的CKRL模型在建立三置信度和檢測知識圖中的噪聲和沖突方面的有效性。(2)CKRL(LT+PP+AP)與其他自信感知策略相比，在噪聲檢測方面有顯著且持續的改進。說明自適應路徑置信度可以為噪聲檢測提供更加靈活可靠的依據。此外，CKRL (LT+PP+AP) (LT+PP+AP)在召回率為10%的情況下，在不同的噪聲比例下，其準確率達到了驚人的84-94%，這表明我們的模型能夠在實際的KG噪聲檢測中發揮真正的作用。(3) CKRL (LT+PP)的性能優于CKRL (LT)，這也說明全局路徑信息可以作為局部三置信度的合格補充。
為了進行進一步的比較，我們還對PTransE進行了評估，它考慮了KRL中的多步路徑，但結果卻出人意料地比TransE差得多。我們發現，由于基于路徑的能量函數分數只適用于兩兩比較，PTransE不能很好地區分噪聲和正三組。由于空間有限，我們不給出PTransE的結果。
4.4知識圖的完成
知識圖完成是一項經典的評估任務，關注知識表示的質量[Bordes et al.， 2012]。
該任務的目標是在缺少頭、尾或關系的情況下完成一個三元組，可以看作是一個簡單的問答任務。
評估協議
在本文中,我們主要關注實體的預測,這是由翻譯假設h + r t。破紀錄同樣的設置(譽為et al ., 2013),我們進行兩個指標作為評價指標:(1)意味著正確的實體,和(2)指出propor-tion Hits@10,正確答案的排名在前10名。
實驗結果
表2展示了不同噪聲比例下實體預測的結果。
我們可以觀察到:(1)所有自信感知的KRL模型在所有有噪聲數據集和所有評估指標上一致且顯著優于基線。
該算法不僅能檢測知識圖中的噪聲，而且能很好地完成知識圖的補全，證明了所學習知識的質量。
(2)對比不同數據集間的評價結果，我們發現，隨著KGs中噪聲比例的增大，我們引入的信心感知方法所帶來的改進更有意義。
指出了噪聲對實體預測的危害，同時也重申了在知識邊表示學習中考慮三置信度的必要性。
(3)全局路徑置信度似乎對實體預測的貢獻不大。
這可能是由于噪聲和有限的路徑選擇所造成的路徑信息的不確定性和不完全性。
在參數分析中，我們發現在合理范圍內提高路徑置信度將提高實體預測的性能，同時損害KG噪聲檢測的性能。
考慮更長的、更好的道路將部分地解決這個問題。
4.5 三元組分類
三重分類的目的是根據不同的函數來預測測試集中的三元組是否正確，可以看作是一個二值分類任務。
由于訓練集中的噪聲會影響知識表示的構建，而測試集中產生的負三組不會影響知識表示的構建，因此三重分類也可以看作是測試集中較為簡單的知識圖噪聲檢測任務。
評估協議
由于現有的知識邊圖中沒有顯式的負三元組，我們按照[Socher et al.， 2013]中的相同協議在驗證和測試集中構造負三元組。
我們還保證生成的負三元組的數量應該與正三元組的數量相等。
分類方法如下:首先對每個關系學習不同的閾值點r，通過在驗證集上最大程度地提高分類精度來優化。三聯體r，將被歸類為正，否則將被歸類為負。
實驗結果
表3展示了三重分類的結果。我們可以觀察到:(1)CKRL模型在所有數據集上的表現都優于基線，并且隨著噪聲比例的增加，改進的效果也越來越明顯。驗證了學習知識的三重置信度表示也有助于三重分類。(2)自信感知模型在該任務中超過基線的優勢似乎小于KG噪聲檢測模型。這是因為CKRL模型更注重訓練集中三元組的內部信息，而三元組分類的改進只能通過更好的知識表征來實現。雖然CKRL模型學習了更好的知識表示，傳統的沒有信心的模型也可以取得良好的結果。
5 結論與未來工作
在本文中，我們提出了一個新的CKRL模型，旨在檢測知識圖中的噪聲，同時學習知識表示。為了使模型更加靈活和通用，我們只考慮KGs中的內部結構信息來定義局部三元組置信度和全局路徑置信度。實驗結果表明，我們的CKRL框架能夠很好地捕獲局部和全局結構信息來度量三重置信值，這對于檢測KGs中的噪聲和學習更好的知識表示是至關重要的。
未來我們將探索以下研究方向:(1)文本信息等外部信息可以為判斷三元組置信度提供補充信息。我們將探索將外部異質信息與內部結構信息結合起來，以獲得更好的三重信任。(2)研究如何將我們的信心感知框架與知識結構相結合，在聯合消除可能的噪聲的同時收集結構知識。
