AIGC技術(shù)的突破，將會大大推動人工智能在內(nèi)容領(lǐng)域的全面變革。然而，AIGC在虛假信息、學(xué)術(shù)造假、網(wǎng)絡(luò)釣魚等任務(wù)中的濫用，嚴(yán)重阻礙新技術(shù)在媒體和教育等領(lǐng)域的應(yīng)用。AIGC-X是實驗室研究AI自我治理機(jī)制的重要成果，是探索如何從技術(shù)角度解決AIGC安全問題的初步嘗試。結(jié)合內(nèi)容識別、內(nèi)容溯源等技術(shù)，AIGC-X能夠有效的推動AI風(fēng)險管理、安全審查和評估技術(shù)的發(fā)展，為建立安全可信AIGC生態(tài)的基礎(chǔ)提供技術(shù)方案與支撐。AI文本生成模型是在海量文本語料基礎(chǔ)上，經(jīng)過自回歸式語言建模的大規(guī)模訓(xùn)練得到，模型通過計算下一個單詞的概率分布逐步完成整個文本內(nèi)容的生成。AIGC-X嘗試采用算法融合與知識驅(qū)動的人工智能框架，使用深度建模來捕捉困惑度、突現(xiàn)頻次等隱式特征，學(xué)習(xí)得到機(jī)器生成文本與人工生成文本的分布差異。