11月3日，由全國數據標准化技術委員會（以下簡稱“全國數標委”）主辦，全國數標委秘書處（中國電子技術標准化研究院）和江蘇省數據局承辦的全國數標委2025年第二次“標准周”活動在江蘇省南京市舉行。

活動期間，浙江大學計算機學院院長、全國數標委委員任奎就“人工智能數據安全”議題進行了闡釋。他表示，數據要素的泄露、篡改、污染、濫用等問題易引發嚴重安全風險，各國正通過頂層設計和立法監督加強人工智能數據安全治理，確保AI技術發展安全可控。

任奎在WG2數據治理標准工作組會議上發言。人民網記者 馬曉波攝

“人工智能生命周期涵蓋多個階段，構建階段是奠定模型安全基石的核心環節，需針對該階段風險特征開展源頭性、深層次安全治理。”任奎稱，安全評測在模型構建完成、部署應用前對其進行全面“體檢”，可系統性發現偏見、歧視等潛在缺陷﹔安全訓練則是構建階段的“安全加固器”，通過在訓練數據中注入安全知識與對齊指令，從源頭提升模型安全“免疫力”，使其天生具備抵御惡意誘導和攻擊的能力。

此外，安全語料構建是源頭治理的重要支撐。任奎提出，可創新構建具備多元維度融合、安全價值對齊、越獄攻防強化三大特征的安全訓練語料，為AI模型注入內生安全基因。

任奎稱，浙江大學已與華為聯合發布DeepSeek-R1-Safe基礎大模型。“該模型在有毒有害言論、政治敏感內容、違法行為教唆等14個維度的有害問題防御上，整體表現亮眼。”

分享讓更多人看到