AIGC-X官網(wǎng),國內(nèi)首個AI生成內(nèi)容檢測工具

什么是AIGC-X?

傳播內(nèi)容認知全國重點實驗室、中國科學技術(shù)大學、合肥綜合性國家科學中心人工智能研究院聯(lián)合推出的AI生成內(nèi)容檢測工具，可以快速分辨出內(nèi)容是機器生成還是人工生成的。AIGC技術(shù)的突破，將會大大推動人工智能在內(nèi)容領(lǐng)域的全面變革。然而，AIGC在虛假信息、學術(shù)造假、網(wǎng)絡釣魚等任務中的濫用，嚴重阻礙新技術(shù)在媒體和教育等領(lǐng)域的應用。AIGC-X官網(wǎng): http://ai.sklccc.com/AIGC-X/#/

AIGC-X起源

AIGC-X是實驗室研究AI自我治理機制的重要成果，是探索如何從技術(shù)角度解決AIGC安全問題的初步嘗試。結(jié)合內(nèi)容識別、內(nèi)容溯源等技術(shù)，AIGC-X能夠有效的推動AI風險管理、安全審查和評估技術(shù)的發(fā)展，為建立安全可信AIGC生態(tài)的基礎提供技術(shù)方案與支撐。近年來，隨著人工智能生成內(nèi)容（AIGC）技術(shù)的迅速發(fā)展，從AI繪畫、AI作曲到虛擬人，再到最近爆火的ChatGPT，內(nèi)容生產(chǎn)方式迎來了巨大的變革。在這個不斷增長的互聯(lián)網(wǎng)內(nèi)容世界中，找到一種明確虛實、分辨真假的技術(shù)標尺成為行業(yè)長遠健康發(fā)展的關(guān)鍵。為了應對這一挑戰(zhàn)，人民日報社傳播內(nèi)容認知全國重點實驗室、中國科學技術(shù)大學和合肥綜合性國家科學中心人工智能研究院聯(lián)合推出了國內(nèi)首個AI生成內(nèi)容檢測工具——AIGC-X。該工具于今天正式開始全網(wǎng)公測.

AIGC-X怎么樣?

據(jù)介紹，AIGC-X能夠快速區(qū)分機器生成的文本和人工生成的文本，目前對中文文本的檢測準確率已超過90%。人民日報社傳播內(nèi)容認知全國重點實驗室首席科學家張勇東表示，由于ChatGPT等AIGC技術(shù)在對話咨詢、文章寫作和內(nèi)容潤色等方面具有廣泛的應用場景，這一技術(shù)迎來了新的發(fā)展階段。然而，倫理規(guī)范、內(nèi)容侵權(quán)和信息造假等風險挑戰(zhàn)也變得不容忽視，因此迫切需要推出針對性的檢測產(chǎn)品，提升對內(nèi)容生產(chǎn)新范式的監(jiān)管治理技術(shù)能力。他介紹說，AIGC-X采用了算法融合與知識驅(qū)動的人工智能框架，通過深度建模來捕捉困惑度和突現(xiàn)頻次等隱式特征。AIGC-X能夠檢測AI技術(shù)生成的假新聞、內(nèi)容抄襲和垃圾郵件，具有廣闊的應用前景，可應用于內(nèi)容版權(quán)、網(wǎng)絡釣魚、虛假信息和學術(shù)造假檢測等內(nèi)容安全和內(nèi)容風控領(lǐng)域。未來，AIGC-X還將擴展為對人工智能生成的文本、圖像甚至視頻的通用智能識別模型。
“對AIGC的適當引導和規(guī)范勢在必行。”人民日報社傳播內(nèi)容認知全國重點實驗室研究員靳國慶特別強調(diào)，我們必須重視防范AIGC在虛假信息、學術(shù)造假和網(wǎng)絡釣魚等灰色領(lǐng)域的濫用。他表示，“AIGC-X將推動AI風險管理和安全評測技術(shù)的發(fā)展，為建立安全可控的AIGC生態(tài)提供技術(shù)支持。”據(jù)介紹，在推出AIGC-X之前，人民日報社傳播內(nèi)容認知全國重點實驗室已經(jīng)推出了基于人工智能的“智曉助”和“白澤”兩個內(nèi)容風控系統(tǒng)，并在百余家機構(gòu)中得到應用。人民網(wǎng)信息技術(shù)公司，專注于內(nèi)容風控業(yè)務，已開發(fā)了“捕獲AIGC”產(chǎn)品，并通過“人民審校”微信公眾號進行發(fā)布。
根據(jù)工業(yè)和信息化部公布的數(shù)據(jù)顯示，我國AI核心產(chǎn)業(yè)規(guī)模目前已超過4000億元，企業(yè)數(shù)量接近4000家，帶動相關(guān)產(chǎn)業(yè)規(guī)模超過數(shù)萬億元，并將繼續(xù)快速增長。行業(yè)專家預測，作為數(shù)字經(jīng)濟和實體經(jīng)濟深度融合的新模式，AIGC將在產(chǎn)業(yè)創(chuàng)新發(fā)展方面發(fā)揮重要作用。張勇東表示，“AIGC-X不是一個靜態(tài)的技術(shù)，而是隨著AIGC的發(fā)展而不斷發(fā)展的。”目前受限于時間和資源，AIGC-X在支持非常規(guī)問題和場景方面仍有待改進。例如，AIGC-X目前僅支持中文內(nèi)容的檢測，對英文的支持有待提高。此外，還需要進一步完善對圖像、音視頻等內(nèi)容的檢測能力，以支持全媒體內(nèi)容的檢測，為AIGC的健康發(fā)展提供保障。