人民網發布“天目”智能識別系統利用AI治理AI

? 12月9日，人民網正式發布“天目”智能識別系統，探索“用AI治理AI”的內容風控新模式。（體驗入口：http://117.80.234.9:5080/welcome）。

1. 分類：行業資訊
2. 關鍵詞：
3. AI
4. 人民網
5. 智能識別系統
6. AI系統
7. 天目

    12月9日，人民網正式發布“天目”智能識別系統，探索“用AI治理AI”的內容風控新模式。（體驗入口：http://117.80.234.9:5080/welcome）。

  “天目”由傳播內容認知全國重點實驗室（人民網）研發，能夠對人工智能生成內容進行識別，對深度偽造內容進行檢測，對合成手段進行追根溯源。公開測試數據顯示，“天目”對國內外主要人工智能大模型生成中文文本的識別準確率達到93%。系統支持單次最多10萬字的數據檢測，對疑似AI生成句段明確標識，一鍵生成檢測報告。同時，系統不留存、不轉用任何檢測數據，充分保護用戶的數據隱私與安全。

    傳播內容認知全國重點實驗室首席科學家張勇東表示：“我們以語言模型的困惑度、詞頻特征為切入點，研究發現AI生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機性?！被诖?，人民網研發了語義與風格特征融合的語言模型評價方法，推出“天目”系統，用于快速區分機器生成內容與人工創作內容。
    “我們肯定AI的技術價值，積極研發，主動運用。我們也同樣重視人的創新創作創意?！比嗣窬W內容風控負責人辛瑞佳表示，人類的靈感和創造力無法被機器替代，也不應被機器替代，過度依賴AI可能會削弱人的獨特性?！白R別AI生成的信息，從更深層講，也是保護人類的創造價值?！?br />    此外，人民網內容風控的另一個智能產品“人民審?！?，于近期同步升級4.0版本，新增了標識審校、地標審校、商標審校、版式審校等能力，優化自定義詞庫功能，在涉政信息表述審校精度和廣度方面實現全面提升。
    下一步，人民網將加大力度研發建設主流價值語料庫，幫助國產AI系統建設安全合規的語料體系，更好實現價值觀對齊，助力AI產業健康安全發展。