《人工智能安全治理框架》1.0版發(fā)布

 2024年國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇9日在廣州舉辦。主論壇上，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布了《人工智能安全治理框架》1.0版。

  據(jù)悉，框架以鼓勵(lì)人工智能創(chuàng)新發(fā)展為第一要?jiǎng)?wù)，以有效防范化解人工智能安全風(fēng)險(xiǎn)為出發(fā)點(diǎn)和落腳點(diǎn)，提出了包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對(duì)，開放合作、共治共享等人工智能安全治理的原則。框架按照風(fēng)險(xiǎn)管理的理念，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險(xiǎn)來源和表現(xiàn)形式，針對(duì)模型算法安全、數(shù)據(jù)安全和系統(tǒng)安全等內(nèi)生安全風(fēng)險(xiǎn)和網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等應(yīng)用安全風(fēng)險(xiǎn)，提出相應(yīng)技術(shù)應(yīng)對(duì)和綜合防治措施，以及人工智能安全開發(fā)應(yīng)用指引。

  全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書處主要負(fù)責(zé)人表示，框架1.0版的發(fā)布，對(duì)推動(dòng)社會(huì)各方積極參與、協(xié)同推進(jìn)人工智能安全治理具有重要促進(jìn)作用，為培育安全、可靠、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài)，促進(jìn)人工智能的健康發(fā)展和規(guī)范應(yīng)用，提供了基礎(chǔ)性、框架性技術(shù)指南。同時(shí)，也有助于在全球范圍推動(dòng)人工智能安全治理國(guó)際合作，推動(dòng)形成具有廣泛共識(shí)的全球人工智能治理體系，確保人工智能技術(shù)造福于人類。