《電子技術應用》
您所在的位置:首頁 > 其他 > 设计应用 > 基于混合注意力机制的时间旋转知识图谱补全
基于混合注意力机制的时间旋转知识图谱补全
网络安全与数据治理
王璐璐
大连大学信息工程学院
摘要: 针对现有时序知识图谱补全中捕捉动态关系模式,处理非对称、临时和自反关系方面的局限性,提出了一种新颖的融合混合注意力机制与时间旋转的模型。一方面,通过引入时间旋转,利用复数空间中的向量来表示随时间演化的实体与关系,特别是处理时间区间内的关系变化,采用双复数嵌入方案显著增强了对时态特性的表达能力;另一方面,通过对知识图谱引入空间注意力和通道注意力两个维度分析,能够更好地聚焦于时序序列中对预测最为关键的实体和关系特征,从而在复杂的时间序列中挖掘时序关联信息。通过在ICEWS14、ICEWS18、YAGO11k和WIKI12k数据集上的实验评估,模型在MRR、Hits@1、Hits@3和Hits@10上普遍优于基线模型,体现出算法的优越性和强鲁棒性。
中圖分類號:TP391.1文獻標識碼:ADOI:10.19358/j.issn.2097-1788.2024.10.007
引用格式:王璐璐.基于混合注意力機制的時間旋轉知識圖譜補全[J].網(wǎng)絡安全與數(shù)據(jù)治理,2024,43(10):42-48.
Temporal rotation knowledge graph completion based on hybrid attention mechanism
Wang Lulu
School of Information Engineering, Dalian University
Abstract: A novel model that integrates a hybrid attention mechanism with temporal rotation is proposed to address the limitations of capturing dynamic relation patterns, handling asymmetric, temporary, and reflexive relations in existing temporal knowledge graph completion. On one hand, by introducing temporal rotation, we leverage vectors in complex spaces to represent entities and relations evolving over time, especially to handle relation changes within temporal intervals. The adoption of a dual-complex embedding scheme significantly enhances the expressive power for temporal characteristics. On the other hand, by introducing spatial attention and channel attention to analyze the knowledge graph from two dimensions, the model can better focus on the most crucial entity and relation features in the temporal sequence for prediction, thus mining temporal correlation information from complex time series. Through experimental evaluations on the ICEWS14, ICEWS18, YAGO11k, and WIKI12k datasets, the model outperforms baseline models in terms of MRR, Hits@1, Hits@3, and Hits@10, demonstrating the superiority and strong robustness of the proposed algorithm.
Key words : temporal knowledge graph; temporal rotation; hybrid attention mechanism; link prediction

引言

隨著人工智能時代的到來,互聯(lián)網(wǎng)中的數(shù)據(jù)規(guī)模也隨之爆發(fā)式增長,這些大量的數(shù)據(jù)中往往包含很多有價值的信息,而知識圖譜[1]作為一種新的組織和存儲海量數(shù)據(jù)的技術,受到越來越多的關注。知識圖譜早期主要用于搜索結果優(yōu)化,隨后在系統(tǒng)推薦[2]、智能問答[3]、知識搜索[4]等領域發(fā)揮了重要作用。知識圖譜通常是靜態(tài)的,以其當前狀態(tài)存儲事實。知識圖譜以三元組的形式表示事實:(s:r:o),然而,現(xiàn)有知識圖譜大都采用半自動化結合人工的方式構建,具有不完整性[5]。并且在現(xiàn)實中,實體之間的關系經(jīng)常隨著時間而變化,即知識具有時效性。為此,時序知識圖譜被引入[6],時序知識圖譜將時間事實表示為四元組:(s;r;o;t),即通過擴展時間為t的靜態(tài)三元組,描述此事實在時間為t時有效。時序知識圖譜可以不斷提供和完善時間維度的知識,更具有研究價值。

近年來,盡管靜態(tài)知識圖譜補全技術取得了顯著進展,如基于翻譯的模型(如TransE[7])、基于圖神經(jīng)網(wǎng)絡的方法(如RE-GCN[8])等,但這些方法大多忽視了時間維度對于關系動態(tài)變化的深刻影響。為應對這一挑戰(zhàn),時序知識圖譜補全(Temporal Knowledge Graph Completion, TKGC)應運而生,旨在結合時間序列分析與深度學習技術,挖掘時序模式,捕捉動態(tài)關系的演化規(guī)律?,F(xiàn)有的時序知識圖譜補全模型大多數(shù)是TransE和DistMult的擴展,例如TTransE[9]、TA-DisMult[10]、ChronoR[11]等,因此不能完全表達如今的某些關系模式。最新的模型還存在計算資源的分配問題。

本文提出一種新的時序知識圖譜補全模型YiTX,該模型創(chuàng)新性地融合了時間旋轉嵌入與混合注意力機制,旨在更精準地建模實體間隨時間變化的關系,并有效預測圖譜中缺失的實體與關系?;旌献⒁饬C制在聚合信息上的優(yōu)勢和注意力權重的分配,在面對數(shù)據(jù)的多樣性和復雜性時,仍能實現(xiàn)高效學習和快速推理。通過在四個公開時序數(shù)據(jù)集上的廣泛實驗,驗證了所提模型在鏈接預測任務上的優(yōu)越性能。本研究不僅為時序知識圖譜的補全提供了一種新的視角,也為智能信息處理、文本挖掘和信息抽取技術的發(fā)展提供了新思路,進而促進知識圖譜在推薦系統(tǒng)、智能問答、事件預測等領域的廣泛應用。


本文詳細內容請下載:

http://m.ihrv.cn/resource/share/2000006195


作者信息:

王璐璐

(大連大學信息工程學院,遼寧大連116000)


Magazine.Subscription.jpg

此內容為AET網(wǎng)站原創(chuàng),未經(jīng)授權禁止轉載。

相關內容