2025年9月15日，在2025年國家網(wǎng)絡(luò)安全宣傳周主論壇上，《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）正式發(fā)布。作為全國網(wǎng)安標(biāo)委技術(shù)文件，《框架》2.0版在2024年《人工智能安全治理框架》1.0版基礎(chǔ)上，結(jié)合人工智能技術(shù)發(fā)展和應(yīng)用實踐，持續(xù)跟蹤風(fēng)險變化，完善優(yōu)化風(fēng)險分類，研究探索風(fēng)險分級，動態(tài)調(diào)整更新防范治理措施。新框架充分吸收國內(nèi)外最新研究成果與實踐經(jīng)驗，針對當(dāng)前人工智能發(fā)展所面臨的最緊迫安全問題提出系統(tǒng)性解決方案。

《框架》2.0版的發(fā)布在我國人工智能治理體系里有承前啟后的意義，其不僅延續(xù)《人工智能安全治理框架》1.0版所建立起來的基本治理框架，還在制度設(shè)計與治理理念方面實現(xiàn)深度擴展。

在治理原則上，《框架》2.0版新增“可信應(yīng)用、防范失控”核心治理原則，把人工智能安全性、可靠性和可控性當(dāng)作治理底線，確保技術(shù)發(fā)展始終處在可預(yù)期、可管控的軌道之上，為研發(fā)與應(yīng)用奠定更穩(wěn)固制度保障。

在治理理念上，《框架》2.0版明確提出構(gòu)建人工智能科技倫理準(zhǔn)則，并且將“倫理先行”確立成為人工智能治理工作的核心導(dǎo)向，同時把生命健康、人格尊嚴(yán)、社會公平、生態(tài)環(huán)境和可持續(xù)發(fā)展等價值嵌入人工智能全生命周期治理當(dāng)中，進而讓倫理審查從原本邊緣化的程序轉(zhuǎn)變成為常態(tài)化機制，最終真正實現(xiàn)人工智能技術(shù)與價值的深度耦合。

在風(fēng)險體系上，《框架》2.0版在原有內(nèi)生安全風(fēng)險和應(yīng)用安全風(fēng)險基礎(chǔ)之上新增應(yīng)用衍生安全風(fēng)險，將治理范圍從技術(shù)研發(fā)監(jiān)管與直接應(yīng)用問題拓展到社會結(jié)構(gòu)、環(huán)境資源和倫理秩序等更深層面，進而讓人工智能治理體系實現(xiàn)從短期防護向長期評估的轉(zhuǎn)型，從點狀應(yīng)急走向全局統(tǒng)籌，凸顯制度設(shè)計整體性與前瞻性。