SAC-KG – 通用知識圖譜構(gòu)建框架，能構(gòu)建超百萬節(jié)點(diǎn)的領(lǐng)域知識圖譜

SAC-KG是什么

SAC-KG是一個基于大型語言模型（LLMs）的通用框架，旨在自動構(gòu)建特定領(lǐng)域的知識圖譜。該框架由生成器、驗(yàn)證器和剪枝器三個核心組件組成，能夠從原始領(lǐng)域語料庫中自動生成一級知識圖譜，并確保生成的三元組準(zhǔn)確無誤。SAC-KG能夠創(chuàng)建超過百萬節(jié)點(diǎn)規(guī)模的知識圖譜，實(shí)際應(yīng)用中精度高達(dá)89.32%，相比于現(xiàn)有先進(jìn)方法提升了20%以上。這一框架利用LLMs的專業(yè)能力，生成專業(yè)且準(zhǔn)確的多層次知識圖譜。

SAC-KG的主要功能

• 自動化知識圖譜構(gòu)建：SAC-KG通過其核心組件，能夠從原始領(lǐng)域語料庫中自動構(gòu)建特定領(lǐng)域的單層知識圖譜，并具備迭代構(gòu)建多層級知識圖譜的能力。
• 提升構(gòu)建精度：借助驗(yàn)證器和剪枝器的協(xié)同作用，SAC-KG能夠糾正生成過程中的錯誤，并評估新生成的尾部是否需要迭代，從而確保高達(dá)89.32%的精度，超越現(xiàn)有方法20%以上。
• 領(lǐng)域?qū)I(yè)化：基于LLMs作為領(lǐng)域?qū)＜业奶匦裕琒AC-KG生成的知識圖譜體現(xiàn)出高度的專業(yè)性，能夠準(zhǔn)確生成與特定領(lǐng)域相關(guān)的三元組。
• 控制生成流程：通過引入開放知識檢索器和剪枝器，SAC-KG能夠有效管理生成過程，確保生成的三元組格式正確且符合領(lǐng)域需求。
• 大規(guī)模構(gòu)建能力：SAC-KG可以在超過一百萬個節(jié)點(diǎn)的范圍內(nèi)自動構(gòu)建領(lǐng)域知識圖譜，充分展示了其處理大規(guī)模數(shù)據(jù)集的優(yōu)勢。
• 無監(jiān)督學(xué)習(xí)方法：SAC-KG采用無監(jiān)督的方法，適用于任何擁有大量非結(jié)構(gòu)化文本語料庫的領(lǐng)域，無需依賴標(biāo)記數(shù)據(jù)。
• 一致性評估：通過與GPT-4及人類評估進(jìn)行比較，驗(yàn)證了SAC-KG生成的知識圖譜在質(zhì)量和可靠性方面的高一致性。

SAC-KG的技術(shù)原理

• 生成器（Generator）：生成器負(fù)責(zé)從原始領(lǐng)域語料庫和開源知識圖譜中提取相關(guān)信息，作為輸入傳遞給LLMs，從而生成特定領(lǐng)域的一級知識圖譜。該模塊分為兩個子模塊：
  • 領(lǐng)域語料庫檢索器：將領(lǐng)域語料庫分割為句子，按實(shí)體出現(xiàn)頻率排序，最后將排序后的句子連接為固定長度文本輸入到LLMs。
  • 開放知識檢索器：為開源知識圖譜中的實(shí)體提供相關(guān)三元組示例；對于未包含在開源知識圖譜中的實(shí)體，將其進(jìn)行分詞并重新檢索；如果仍未匹配，則隨機(jī)選擇十個三元組作為提示。
• 驗(yàn)證器（Verifier）：驗(yàn)證器的職責(zé)是檢測和過濾生成器輸出中的錯誤三元組，主要包括兩個步驟：
  • 錯誤檢測：利用RuleHub中提煉的7000多條規(guī)則，對生成的三元組進(jìn)行數(shù)量、格式和沖突等方面的檢查。
  • 錯誤校正：依據(jù)檢測到的錯誤類型，提供相應(yīng)的提示，以便LLMs重新生成正確的三元組。
• 剪枝器（Pruner）：剪枝器與驗(yàn)證器緊密協(xié)作，通過判斷新生成的尾部是否需要進(jìn)行下一層級知識圖譜的迭代，確保構(gòu)建的知識圖譜具備可控性。該組件基于開源知識圖譜DBpedia進(jìn)行微調(diào)的T5二分類器模型，輸入為每個正確三元組的尾實(shí)體，輸出為“growing”或“pruned”，表示該實(shí)體是否繼續(xù)生成下一層知識圖譜。

SAC-KG的項(xiàng)目地址

• 技術(shù)論文鏈接：https://arxiv.org/html/2410.02811v1

SAC-KG的應(yīng)用場景

• 專業(yè)領(lǐng)域知識圖譜的構(gòu)建：SAC-KG適用于醫(yī)學(xué)、生物學(xué)、社交網(wǎng)絡(luò)等多個領(lǐng)域，助力構(gòu)建專業(yè)化的知識圖譜。
• 自動化與精確性提升：通過全面自動化的構(gòu)建過程，SAC-KG顯著提高了知識圖譜構(gòu)建的效率與精度，達(dá)到89.32%的高精度，超越現(xiàn)有先進(jìn)方法20%以上。
• 領(lǐng)域?qū)I(yè)化：SAC-KG利用大型語言模型（LLMs）作為領(lǐng)域?qū)＜遥膳c具體領(lǐng)域緊密相關(guān)的三元組，從而賦予知識圖譜高度的專業(yè)化特征。
• 大規(guī)模數(shù)據(jù)處理能力：在超過一百萬個節(jié)點(diǎn)的規(guī)模上，SAC-KG展示了其在處理大規(guī)模數(shù)據(jù)集方面的顯著優(yōu)勢。