從AI繪畫、AI作曲到虛擬人，再到近期爆火的ChatGPT， 伴隨人工智能生成內容（AIGC）技術發(fā)展加速，內容生產方式迎來巨大變革。與此同時，在不斷“生長”的互聯網內容世界，找到一把明晰虛實、分辨真假的技術標尺，也成為關乎行業(yè)長遠健康發(fā)展的關鍵。
今日，AIGC-X正式開始全網公測。據悉，這是由人民日報社主管、依托人民網建設的傳播內容認知全國重點實驗室，中國科學技術大學，合肥綜合性國家科學中心人工智能研究院聯合推出的國內首個AI生成內容檢測工具。試用入口為http://ai.sklccc.com/AIGC-X/#/。
據介紹，AIGC-X可快速區(qū)分機器生成文本與人工生成文本，目前對中文文本檢測的準確率已超過90%。
傳播內容認知全國重點實驗室首席科學家張勇東表示，因具有對話咨詢、文章寫作、內容潤色等廣泛的應用場景，以ChatGPT為代表的AIGC技術迎來發(fā)展新階段。隨之而來的倫理規(guī)范、內容侵權、信息造假等風險挑戰(zhàn)同樣不容忽視，迫切需要推出針對性的檢測產品，提升對內容生產新范式的監(jiān)管治理技術能力。
他介紹，通過采用算法融合與知識驅動的人工智能框架，使用深度建模來捕捉困惑度、突現頻次等隱式特征，AIGC-X可對AI技術生成的假新聞、內容抄襲、垃圾郵件進行檢測，在內容版權、網絡釣魚、虛假信息和學術造假檢測等內容安全、內容風控方面有廣闊的應用前景。未來，AIGC-X還會擴展為對人工智能生成文本、圖像乃至視頻的通用智能識別模型。
“AIGC迫切需要適當的引導和規(guī)范。”傳播內容認知全國重點實驗室研究員靳國慶特別強調，要重視防范AIGC在虛假信息、學術造假、網絡釣魚等灰色領域的濫用。“AIGC-X將推動AI風險管理、安全評測技術的發(fā)展，為建立安全可控的AIGC生態(tài)提供技術支撐。”
據介紹，在此次發(fā)布AIGC-X之前，傳播內容認知全國重點實驗室已推出基于人工智能開發(fā)的“智曉助”和“白澤”兩個內容風控系統，并在百余家機構使用。專注于內容風控業(yè)務的人民網信息技術公司已基于AIGC-X開發(fā)了“捕獲AIGC”產品，通過“人民審校”微信公眾號對外發(fā)布。
工業(yè)和信息化部公布的數據顯示，我國AI核心產業(yè)規(guī)模目前已超過4000億元，企業(yè)數量接近4000家，帶動相關產業(yè)規(guī)模超數萬億元，并將持續(xù)快速增加。行業(yè)專家預測，作為數字經濟和實體經濟深度融合的新模式，AIGC將在賦能產業(yè)創(chuàng)新發(fā)展方面大有作為。
張勇東表示，“AIGC-X不是一個靜態(tài)的技術，而是隨著AIGC的發(fā)展而發(fā)展的。”目前受限于時間和資源，AIGC-X對非常規(guī)問題和場景的支持還有待完善。例如，AIGC-X目前只支持中文內容的檢測，對英文的支持有待提高﹔還需要進一步完善對圖像、音視頻等內容的檢測能力，支持全媒體的內容檢測，為AIGC的健康發(fā)展保駕護航。
轉載自：http://finance.people.com.cn/n1/2023/0301/c1004-32634048.html