- 首頁(yè)
- 民文
- English
- 網(wǎng)站無(wú)障礙
- 舉報(bào)

- 登錄
守護(hù)AI安全 業(yè)界推動(dòng)行業(yè)自律
人民網(wǎng)北京12月29日電 (記者王紹紹)人工智能釋放技術(shù)價(jià)值紅利的同時(shí)帶來(lái)復(fù)雜風(fēng)險(xiǎn)挑戰(zhàn),如何平衡發(fā)展與安全已成為牽動(dòng)人類(lèi)命運(yùn)共同體的重大課題。為把握機(jī)遇,應(yīng)對(duì)挑戰(zhàn),中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(以下簡(jiǎn)稱(chēng)“聯(lián)盟”)近日起草發(fā)布《人工智能安全承諾》(以下簡(jiǎn)稱(chēng)“《承諾》”),旨在推動(dòng)行業(yè)自律,建立高效協(xié)同的治理機(jī)制,協(xié)力共促人工智能應(yīng)用以人為本,智能向善。
近日,在2025中國(guó)信通院深度觀察報(bào)告會(huì)主論壇上,首批17家企業(yè)正式簽署《承諾》?!冻兄Z》凝聚產(chǎn)業(yè)界守護(hù)人工智能安全、促進(jìn)人工智能向善的基本共識(shí),旨在共同應(yīng)對(duì)技術(shù)變革帶來(lái)的復(fù)雜挑戰(zhàn)。
相關(guān)負(fù)責(zé)人介紹,未來(lái),中國(guó)信通院將依托聯(lián)盟繼續(xù)推動(dòng)《承諾》廣泛適用落實(shí)、敦促企業(yè)披露安全實(shí)踐,期冀以高水平安全保障高質(zhì)量發(fā)展,攜手構(gòu)建人工智能治理生態(tài),協(xié)力共促人工智能健康發(fā)展。
《人工智能安全承諾》全文內(nèi)容:
人工智能浪潮席卷全球,積極釋放技術(shù)價(jià)值紅利,對(duì)全球經(jīng)濟(jì)社會(huì)發(fā)展和人類(lèi)文明進(jìn)步產(chǎn)生深遠(yuǎn)影響。我們也清晰認(rèn)知到,人工智能帶來(lái)難以預(yù)知的各種風(fēng)險(xiǎn)挑戰(zhàn)。為把握新一輪發(fā)展機(jī)遇,我們鄭重發(fā)起《人工智能安全承諾》,通過(guò)產(chǎn)業(yè)自律,以高水平安全保障高質(zhì)量發(fā)展,協(xié)力共促人工智能穩(wěn)健發(fā)展。我們深知,自律承諾是獲得社會(huì)信任的關(guān)鍵要素,我們將以本承諾作為行動(dòng)守則,接受社會(huì)各界監(jiān)督,不斷提升優(yōu)化,促進(jìn)人工智能技術(shù)應(yīng)用以人為本,智能向善。
承諾一:設(shè)置安全團(tuán)隊(duì)或組織架構(gòu),構(gòu)建安全風(fēng)險(xiǎn)管理機(jī)制。內(nèi)部設(shè)有專(zhuān)業(yè)團(tuán)隊(duì)負(fù)責(zé)開(kāi)展人工智能風(fēng)險(xiǎn)評(píng)估、安全治理等工作,明確安全負(fù)責(zé)人。主動(dòng)設(shè)定符合實(shí)際需求的安全風(fēng)險(xiǎn)基線(xiàn),開(kāi)源時(shí)采取相應(yīng)的安全措施,開(kāi)展貫穿人工智能開(kāi)發(fā)部署全生命周期的風(fēng)險(xiǎn)管理,明確風(fēng)險(xiǎn)識(shí)別和應(yīng)對(duì)流程及措施。
承諾二:開(kāi)展模型安全測(cè)試,提升模型效果與安全可靠性。通過(guò)專(zhuān)業(yè)性的仿真測(cè)試團(tuán)隊(duì),在發(fā)布、更新人工智能模型之前對(duì)其進(jìn)行測(cè)試。對(duì)于大模型,重點(diǎn)圍繞其通用理解、推理和決策能力,以及其在工業(yè)、教育、醫(yī)療、金融、法律等場(chǎng)景下表現(xiàn)出的能力開(kāi)展安全性和可靠性測(cè)試。
承諾三:采取措施保障訓(xùn)練數(shù)據(jù)和業(yè)務(wù)數(shù)據(jù)安全。制定數(shù)據(jù)安全防護(hù)制度,配套建立防護(hù)技術(shù)措施,發(fā)現(xiàn)并及時(shí)處置數(shù)據(jù)投毒的情況,把控訓(xùn)練數(shù)據(jù)的準(zhǔn)確性與可靠性;對(duì)業(yè)務(wù)數(shù)據(jù)進(jìn)行加密存儲(chǔ)與訪(fǎng)問(wèn)控制,確保商業(yè)秘密、用戶(hù)隱私及用戶(hù)上傳的知識(shí)庫(kù)僅在授權(quán)下訪(fǎng)問(wèn),不被人工智能模型非法輸出,保障數(shù)據(jù)安全與隱私權(quán)益。
承諾四:提升基礎(chǔ)設(shè)施安全。建立人工智能系統(tǒng)部署的軟硬件安全監(jiān)測(cè)和防護(hù)能力,實(shí)施定期和動(dòng)態(tài)的安全滲透測(cè)試,模擬各種潛在的風(fēng)險(xiǎn)場(chǎng)景,識(shí)別并報(bào)告環(huán)境中的安全隱患,研判可能導(dǎo)致的各種風(fēng)險(xiǎn)。建立基礎(chǔ)設(shè)施安全應(yīng)急響應(yīng)機(jī)制,包括應(yīng)急處理流程、責(zé)任分配以及事后改進(jìn)方案。
承諾五:增強(qiáng)模型透明度。主動(dòng)披露安全治理實(shí)踐舉措,提升對(duì)各利益攸關(guān)方的透明度。公開(kāi)披露模型的功能、適用領(lǐng)域以及局限性。通過(guò)模型說(shuō)明、服務(wù)協(xié)議等方式,向公眾披露可能涵蓋的風(fēng)險(xiǎn)。
承諾六:積極開(kāi)展前沿安全研究。研判前沿應(yīng)用領(lǐng)域的安全風(fēng)險(xiǎn),針對(duì)智能體、具身智能等前沿應(yīng)用可能存在的偏見(jiàn)歧視、不可控等方面進(jìn)行風(fēng)險(xiǎn)研判,向公眾披露研究成果。研究開(kāi)發(fā)和部署智能向善的人工智能系統(tǒng),以幫助應(yīng)對(duì)社會(huì)面臨的最大挑戰(zhàn)。
據(jù)了解,接下來(lái),中國(guó)信通院將聯(lián)合人工智能產(chǎn)業(yè)界各方合作伙伴共同攜手應(yīng)對(duì)人工智能技術(shù)帶來(lái)的安全挑戰(zhàn),推動(dòng)人工智能產(chǎn)業(yè)的健康可持續(xù)發(fā)展。
關(guān)注公眾號(hào):人民網(wǎng)財(cái)經(jīng)
分享讓更多人看到
推薦閱讀
- 守護(hù)AI安全 業(yè)界推動(dòng)行業(yè)自律
- 人民網(wǎng)北京12月29日電 (記者王紹紹)人工智能釋放技術(shù)價(jià)值紅利的同時(shí)帶來(lái)復(fù)雜風(fēng)險(xiǎn)挑戰(zhàn),如何平衡發(fā)展與安全已成為牽動(dòng)人類(lèi)命運(yùn)共同體的重大課題。為把握機(jī)遇,應(yīng)對(duì)挑戰(zhàn),中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(以下簡(jiǎn)稱(chēng)“聯(lián)盟”)近日起草發(fā)布《人工智能安全承諾》(以下簡(jiǎn)稱(chēng)“《承諾》”),旨在推動(dòng)行業(yè)自律,建立高效協(xié)同的治理機(jī)制,協(xié)力共促人工智能應(yīng)用以人為本,智能向善。…
- 李德宏:三方面工作助力經(jīng)濟(jì)高質(zhì)量發(fā)展
- 人力資源和社會(huì)保障部養(yǎng)老保險(xiǎn)司二級(jí)巡視員李德宏在“2024人民財(cái)經(jīng)論壇”致辭。人民網(wǎng)記者 翁奇羽攝 人民網(wǎng)北京12月29日電 (記者許維娜、宋子節(jié))在28日由人民網(wǎng)舉辦的“2024人民財(cái)經(jīng)論壇”上,參會(huì)嘉賓圍繞“乘風(fēng)破浪 行穩(wěn)致遠(yuǎn)”的主題,為高質(zhì)量完成“十四五”規(guī)劃目標(biāo)任務(wù),實(shí)現(xiàn)“十五五”良好開(kāi)局打牢基礎(chǔ),積極建言獻(xiàn)策?!?/a>
熱門(mén)排行
- 1 感受高質(zhì)量發(fā)展的脈動(dòng)(深度觀察)
- 2做好冬春季節(jié)科學(xué)儲(chǔ)糧保管 守住管好“天…
- 3數(shù)讀中國(guó) | 四組數(shù)據(jù)看民營(yíng)經(jīng)濟(jì)運(yùn)行積…
- 4增強(qiáng)政策合力 提升各領(lǐng)域政策一致性和匹…
- 5向“新”而行 良性競(jìng)爭(zhēng) 推動(dòng)經(jīng)濟(jì)持續(xù)向好
- 6服務(wù)“銀發(fā)一族” 銀行提升養(yǎng)老金融“民…
- 7 這一年,中國(guó)為全球經(jīng)濟(jì)增長(zhǎng)添動(dòng)能(年…
- 8推動(dòng)“長(zhǎng)錢(qián)長(zhǎng)投” 促進(jìn)資本市場(chǎng)投融資綜…
- 9 小雪花有大潛力(記者手記)
- 10數(shù)讀中國(guó)|五組數(shù)據(jù),感受中國(guó)消費(fèi)活力
微信掃一掃提供新聞線(xiàn)索





























第一時(shí)間為您推送權(quán)威資訊
報(bào)道全球 傳播中國(guó)
關(guān)注人民網(wǎng),傳播正能量