治理“AI污染”要防管結(jié)合(創(chuàng)新談)
222
訂閱已訂閱已收藏
收藏點擊播報本文,約
![]() |
隨著AI(人工智能)深度融入千家萬戶,“遇事不決問AI”成了許多人的選擇,但AI回答未必都是“干凈”的。不久前,有媒體曝光“AI投毒”隱蔽產(chǎn)業(yè)鏈現(xiàn)象,引發(fā)社會廣泛關(guān)注。
所謂“AI投毒”,是向人工智能大模型的訓(xùn)練數(shù)據(jù)中,摻入偽裝成正常樣本的惡意數(shù)據(jù)或虛假信息,進而影響模型判斷、操縱輸出結(jié)果?!巴抖菊摺笨梢耘恐圃焯摷倬W(wǎng)頁、新聞,讓AI在抓取數(shù)據(jù)時一并“吞下”,在不知不覺中“學(xué)歪”,最終固化為針對特定問題的“標準答案”;也可以在模型中植入隱蔽的后門指令,一旦觸發(fā)特定關(guān)鍵詞就輸出預(yù)設(shè)信息。
信任是鏈接人與人工智能的重要前提。對個人而言,這種“看不見的污染”輕則影響體驗,重則誤導(dǎo)決策。比如AI推薦購物,它可能引導(dǎo)你購買被包裝出來的“爆款”;向AI咨詢醫(yī)療建議,它可能引用虛假病例,給出危險的治療方案……在醫(yī)療、金融等關(guān)鍵領(lǐng)域,這種風(fēng)險尤其值得警惕。對產(chǎn)業(yè)而言,如果“數(shù)據(jù)不可信”成為普遍擔(dān)憂,企業(yè)之間的合作意愿就會下降,行業(yè)的創(chuàng)新效率也會受到影響。
更深層的影響在于社會認知,隨著人工智能深度融入公眾日常生活,一旦模型給出的回答總是隱含歪曲事實的信息,便會潛移默化誤導(dǎo)公眾認知,放大偏見、制造混亂,甚至危及國家安全。
為什么“AI投毒”在今天變得如此容易?
首先,數(shù)據(jù)本身越來越復(fù)雜,大模型依賴對海量數(shù)據(jù)的學(xué)習(xí)訓(xùn)練,各種數(shù)據(jù)混雜在一起,很難做到完全可控可信,一旦缺乏嚴格的核查機制,就會給“投毒”留下空間;其次,“AI投毒”門檻較低,不法分子借助GEO(生成式引擎優(yōu)化)工具,短時間內(nèi)便能批量生成高權(quán)重虛假內(nèi)容,成本極低、隱蔽性強;第三,數(shù)據(jù)作為一種新型生產(chǎn)要素,相應(yīng)的標準體系、責(zé)任機制、監(jiān)管手段等還在逐步完善,客觀上增加了治理難度。
近年來,我國出臺《生成式人工智能服務(wù)管理暫行辦法》《人工智能安全治理框架》等規(guī)范,持續(xù)加強人工智能治理。不久前,中央網(wǎng)信辦部署“清朗·整治AI應(yīng)用亂象”專項行動,將“AI數(shù)據(jù)投毒”列為重點打擊對象。
面對“AI投毒”,治理還要往深處走。AI運營者要建立更加嚴格的數(shù)據(jù)篩選、標注與審查機制,提升數(shù)據(jù)的可追溯性和可驗證性;通過異常檢測、對抗訓(xùn)練等手段,提高模型對異常數(shù)據(jù)的識別能力,讓“摻雜”的數(shù)據(jù)更難混入。主管部門應(yīng)加快規(guī)則體系建設(shè),在制度層面上進行約束。比如,明確數(shù)據(jù)使用責(zé)任、建立違法行為懲戒機制、推動行業(yè)標準制定等。公眾同樣不是旁觀者,面對AI的回答,多一分質(zhì)疑、多一次核實,不主動傳播未經(jīng)查證的誘導(dǎo)性內(nèi)容,發(fā)現(xiàn)異常及時反饋,主動呵護良好的人工智能生態(tài)。
還要看到,治理不僅是“防”,更是“促”。通過建設(shè)更加開放透明的數(shù)據(jù)生態(tài),讓優(yōu)質(zhì)數(shù)據(jù)更易獲取,減少對不明來源數(shù)據(jù)的依賴,從源頭壓縮“投毒”空間,才是長久之計。
“AI投毒”現(xiàn)象提醒我們,在人工智能時代,數(shù)據(jù)是一種需要精心呵護的公共資源。治理“看不見的污染”,不僅是在填補技術(shù)漏洞,更是為人工智能發(fā)展夯實根基。數(shù)據(jù)更可信、規(guī)則更清晰、責(zé)任更明確,人工智能才能真正成為值得信賴的重要工具,為經(jīng)濟社會高質(zhì)量發(fā)展創(chuàng)造更大價值。
《 人民日報 》( 2026年06月08日 19 版)
關(guān)注公眾號:人民網(wǎng)財經(jīng)
分享讓更多人看到
































微信掃一掃


第一時間為您推送權(quán)威資訊
報道全球 傳播中國
關(guān)注人民網(wǎng),傳播正能量