誰來給爆火的“龍蝦”系上安全帶
222
訂閱已訂閱已收藏
收藏點(diǎn)擊播報本文,約
你“養(yǎng)蝦”了嗎?
近期,一款開源智能體項(xiàng)目OpenClaw迅速走紅。因圖標(biāo)為紅色龍蝦,它在國內(nèi)被戲稱為“龍蝦”。與傳統(tǒng)對話式AI應(yīng)用不同,它的定位是“真正干活、持續(xù)運(yùn)行的個人助手”。
從技術(shù)社區(qū)到企業(yè)內(nèi)部,從開發(fā)人員到普通用戶,越來越多人開始“養(yǎng)蝦”:它可以寫代碼、整理資料、定時匯報,甚至在你不在線時自動完成任務(wù),儼然一位24小時待命的“數(shù)字助手”。
社交平臺上,有人分享“讓智能體替自己上班”的經(jīng)驗(yàn),也有人展示如何通過簡單配置,讓系統(tǒng)自動生成報告、發(fā)送郵件。
“龍蝦”熱潮的背后,以O(shè)penClaw 為代表的智能體,正推動人工智能從“對話工具”向“執(zhí)行主體”轉(zhuǎn)變?!拔覀冋幱谥悄荏w技術(shù)從‘演示可行’到‘大規(guī)模部署’的關(guān)鍵轉(zhuǎn)折期?!敝袊嗣翊髮W(xué)高瓴人工智能學(xué)院準(zhǔn)聘副教授林衍凱給出判斷。
但與此同時,問題也浮出水面。國家知識產(chǎn)權(quán)局4月1日發(fā)布風(fēng)險提示稱,使用智能體撰寫專利申請文件可能誘發(fā)多重風(fēng)險。伴隨一系列安全預(yù)警,人們不再只關(guān)心它“會不會出錯”,而開始追問它“有沒有失控”“是否值得信任”。
技術(shù)的興奮與安全的焦慮,在同一時間被放大。OpenClaw到底是什么?它為什么在此刻爆發(fā)?我們是否已經(jīng)準(zhǔn)備好應(yīng)對隨之而來的風(fēng)險?
AI從“回答者”變身“行動者”
“上周末去崇禮滑雪,在纜車上我發(fā)現(xiàn)還有一些工作沒完成,隨即在手機(jī)上通過飛書給‘龍蝦’派任務(wù)。經(jīng)過幾輪對話,它用我本人的口吻風(fēng)格,自動生成文件發(fā)給同事,給我的反饋基本達(dá)到要求。”字節(jié)跳動飛書研發(fā)工程師楊溢哲聊起“養(yǎng)蝦”經(jīng)歷。
OpenClaw爆火的密碼,就藏在這個簡單的場景里——它能“自動”處理工作。
過去幾年,大模型的發(fā)展更多停留在這樣一個階段:通過海量數(shù)據(jù)訓(xùn)練,使AI具備接近人類的通識理解能力,從而回答問題、生成內(nèi)容。
而OpenClaw讓AI跨過這條邊界。它不只是調(diào)用模型生成答案,而是將這些能力嵌入一個可以持續(xù)運(yùn)行的系統(tǒng)中,使AI能夠理解任務(wù)、拆解步驟并自主執(zhí)行。在清華大學(xué)計(jì)算機(jī)系教授、面壁智能聯(lián)合創(chuàng)始人兼首席科學(xué)家劉知遠(yuǎn)看來,它更接近一種新的基礎(chǔ)設(shè)施——一個圍繞智能體運(yùn)行的“操作系統(tǒng)”。
這也意味著,AI第一次以“行動者”身份進(jìn)入現(xiàn)實(shí)環(huán)境。從這個層面上說,OpenClaw具有非常重要的技術(shù)示范意義。
從結(jié)構(gòu)上看,它由三層構(gòu)成:底層是模型能力的抽象封裝,中間是負(fù)責(zé)規(guī)劃與決策的Agent(智能體),上層是具體執(zhí)行操作的Skill(功能插件)。
不過,值得注意的是,受訪專家普遍認(rèn)為,OpenClaw的爆發(fā)并非源自底層算法的突破。林衍凱表示,無論是語言理解還是代碼生成,其核心仍然依賴于現(xiàn)有大模型體系。真正的變化發(fā)生在工程層面,即如何把原本分散的能力整合為一個可用、可擴(kuò)展、可持續(xù)運(yùn)行的系統(tǒng)。
這種變化不易察覺,卻極具“殺傷力”,因?yàn)樗苯咏档土耸褂瞄T檻。過去需要團(tuán)隊(duì)開發(fā)的復(fù)雜系統(tǒng),如今個人開發(fā)者也可以快速搭建。
OpenClaw之所以火爆,正是技術(shù)成熟和需求疊加的結(jié)果。
一方面,大模型在工具調(diào)用與任務(wù)執(zhí)行方面已經(jīng)跨過“可用”門檻,不再停留在演示階段;另一方面,圍繞AI的工具鏈逐步成熟,使復(fù)雜能力可以像搭積木一樣被組合調(diào)用。
與此同時,用戶認(rèn)知也在發(fā)生變化。人們不再滿足于嘗鮮對話,而是開始把AI視為工作“搭子”。
更重要的是智能體有了“記憶能力”,給用戶帶來類似養(yǎng)成的體驗(yàn)——通過對短期信息與長期知識的管理,智能體能夠在多輪任務(wù)中保持連續(xù)性,并逐步形成“經(jīng)驗(yàn)”,互動時間越長,它的表現(xiàn)越“貼心”。
這些因素疊加在一起,使OpenClaw呈現(xiàn)出一種不同于傳統(tǒng)AI產(chǎn)品的形態(tài)。這種因技術(shù)進(jìn)步解放雙手的體驗(yàn),已經(jīng)滲入很多人工作生活的日常。
高權(quán)限帶來高風(fēng)險
雖然是“外來物種”,但OpenClaw進(jìn)入中國后迅速走紅,引發(fā)關(guān)注。
國內(nèi)廠商爭相把部署服務(wù)做成“一鍵安裝”,部分互聯(lián)網(wǎng)公司上線“傻瓜式”配置方案。他們還將OpenClaw接入了即時通信軟件。
這背后,不可忽視的是,在國內(nèi)“養(yǎng)蝦”的成本遠(yuǎn)低于海外。
研究報告指出,國產(chǎn)模型的API(應(yīng)用程序編程接口)調(diào)用價格,大約是海外同類產(chǎn)品的1/6。這種優(yōu)勢源于國內(nèi)算力背后更便宜的電力、更靈活的硬件配置以及模型廠商間的激烈競爭。
低門檻上手加爆發(fā)式傳播,讓“龍蝦”一躍成為AI頂流。
然而,當(dāng)AI開始“動手”,風(fēng)險也成倍放大。
奇安信發(fā)布的《OpenClaw生態(tài)威脅分析報告》顯示,截至3月13日,全球OpenClaw部署實(shí)例就已超過23萬個,其中超過2萬個可能存在安全漏洞。被操控的智能體可在數(shù)分鐘內(nèi)完成數(shù)據(jù)竊取、權(quán)限提升甚至業(yè)務(wù)篡改。
“OpenClaw帶來的不只是更多安全漏洞,它還讓風(fēng)險邊界整體外擴(kuò)。”長亭科技安全研究員姜晨煒認(rèn)為,“過去,AI的風(fēng)險更多停留在對話層,如說錯話或生成不當(dāng)內(nèi)容;而現(xiàn)在,智能體可以直接操作文件、調(diào)用接口、訪問網(wǎng)絡(luò),潛在風(fēng)險不可估量?!?/p>
換句話說,過去企業(yè)防范的是“系統(tǒng)被攻擊”,而現(xiàn)在必須面對的是“系統(tǒng)在執(zhí)行攻擊”。
“‘龍蝦’這樣的智能體是一個不知疲倦、會自動化執(zhí)行的超級用戶?!彬v訊iOA產(chǎn)品運(yùn)營負(fù)責(zé)人劉登峰說,如果安裝在終端的“龍蝦”被攻破,就相當(dāng)于攻擊者完全獲得了該終端的電腦權(quán)限,進(jìn)而可能開展橫向滲透,擴(kuò)散到企業(yè)的全部網(wǎng)絡(luò)終端或服務(wù)器,帶來極大的安全風(fēng)險。
另一重核心風(fēng)險是Skill供應(yīng)鏈的投毒與濫用。劉登峰解釋,攻擊者可以把惡意文件偽裝成正常Skill,比如文件格式轉(zhuǎn)換、天氣查詢。對于普通用戶,甚至企業(yè)級員工而言,很難自行分辨。
此前,全球范圍內(nèi)已出現(xiàn)多起相關(guān)安全事件,如Meta公司安全專家在讓OpenClaw處理真實(shí)郵件時,因上下文壓縮導(dǎo)致“執(zhí)行前確認(rèn)”的關(guān)鍵約束丟失,最終出現(xiàn)郵件被智能體誤刪的失控行為。
在國內(nèi),工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺也發(fā)布風(fēng)險警示,明確OpenClaw存在信任邊界模糊、越權(quán)操作等系統(tǒng)性風(fēng)險,建議關(guān)閉不必要的公網(wǎng)訪問、完善身份認(rèn)證與安全審計(jì)機(jī)制、嚴(yán)格管理插件來源、持續(xù)關(guān)注補(bǔ)丁和安全更新。
國家知識產(chǎn)權(quán)局發(fā)布最新風(fēng)險提示,OpenClaw等智能體存在權(quán)限過高、安全漏洞、插件投毒等隱患,使用其撰寫申請文件,易造成技術(shù)交底書等核心信息外泄。一旦泄露,專利申請技術(shù)方案可能因喪失新穎性無法授權(quán),甚至被他人搶先申請專利。為此,提醒申請人需提高風(fēng)險防范意識。
“技防+人防”筑起安全屏障
“龍蝦”爆紅,風(fēng)險焦慮如影隨形。在這一背景下,圍繞智能體的安全防護(hù),必須從傳統(tǒng)模式轉(zhuǎn)向系統(tǒng)性治理。
在中國工程院院士吳世忠看來,自主性智能體帶來的最大風(fēng)險,正是其過高的“系統(tǒng)代理權(quán)”。作為已嘗鮮的“養(yǎng)蝦人”,他提醒用戶應(yīng)時刻繃緊安全這根弦,建議用戶將“龍蝦”養(yǎng)在一個獨(dú)立的智能終端上,做好物理隔絕,并堅(jiān)持最小授權(quán)原則,特別是對涉及刪改的操作,必須設(shè)置二次確認(rèn)。
騰訊電腦管家高級產(chǎn)品經(jīng)理董京特意提到,不要將銀行密碼、云服務(wù)密鑰等敏感信息暴露給AI,不要給它權(quán)限去訪問一些不該訪問的內(nèi)網(wǎng)服務(wù);在讓AI執(zhí)行高風(fēng)險操作前,務(wù)必做好重要數(shù)據(jù)的備份。
平臺同樣需要筑牢防線。董京打了個比方:“給AI造一個隱形牢房,把它關(guān)進(jìn)去”。
這一“牢房”,就是安全沙箱機(jī)制。董京介紹,騰訊電腦管家團(tuán)隊(duì)近期上線了“龍蝦管家”AI安全沙箱功能。它主要管理三類問題:AI權(quán)限過大時,通過沙箱策略捆住AI的“手腳”;實(shí)時監(jiān)測AI調(diào)用的腳本是否包含惡意指令等風(fēng)險,防止出現(xiàn)清理垃圾卻誤刪所有文件等不測;針對OpenClaw自身迭代中出現(xiàn)的安全漏洞,及時進(jìn)行修復(fù)。
“‘龍蝦管家’也會提供AI運(yùn)行的實(shí)時日志,AI訪問什么、調(diào)用什么,所有操作用戶都可以一目了然?!倍┱f。
在更底層的安全設(shè)計(jì)上,姜晨煒指出,智能體需部署在受控環(huán)境中,并結(jié)合網(wǎng)絡(luò)隔離策略,限制其與內(nèi)網(wǎng)的直接通信。在執(zhí)行層面也要建立明確的安全邊界,對于文件操作、外部下載、權(quán)限修改等高風(fēng)險行為,應(yīng)設(shè)定不可突破的限制,并引入人工審批機(jī)制,在效率與安全之間求得必要平衡。針對功能插件體系,則需要建立審核機(jī)制,如代碼掃描、來源校驗(yàn)等,防止惡意插件危害系統(tǒng)。
技防之上,真正的安全離不開制度約束。
“在政策層面,加快建立健全開源智能體安全治理體系?!辟惖涎芯吭盒畔⒒c軟件產(chǎn)業(yè)研究所副主任黃文鴻建議,盡快研究出臺開源智能體安全部署指南和行業(yè)標(biāo)準(zhǔn),重點(diǎn)針對智能體的系統(tǒng)權(quán)限授予、執(zhí)行行為審計(jì)、敏感操作確認(rèn)等關(guān)鍵環(huán)節(jié)明確安全基線要求,對政務(wù)、金融、醫(yī)療等涉密涉敏領(lǐng)域,要實(shí)行更嚴(yán)格的部署準(zhǔn)入和使用管控。
與此同時,應(yīng)盡快建立開源智能體技能市場的安全審核與準(zhǔn)入機(jī)制,并加快研究開源智能體自主行為的責(zé)任歸屬規(guī)則,厘清開源框架開發(fā)者、部署運(yùn)營者、大模型提供方、技能發(fā)布者等需要承擔(dān)的法律責(zé)任,填補(bǔ)當(dāng)前“AI出錯無人擔(dān)責(zé)”的制度空白。
“當(dāng)前OpenClaw暴露出的種種問題,與其說是缺陷,不如說是一場提前到來的‘壓力測試’?!秉S文鴻認(rèn)為,它讓行業(yè)在智能體大規(guī)模落地之前,就看到了未來可能面對的風(fēng)險形態(tài)。
這場“養(yǎng)蝦熱”的意義或許并不在于事件本身,而在于它所指示的方向。業(yè)內(nèi)專家預(yù)測,未來的智能終端中,很可能會出現(xiàn)類似操作系統(tǒng)級別的智能體平臺,而OpenClaw所扮演的角色,正是這一形態(tài)的早期原型。
人工智能已經(jīng)開始“動手”,安全治理是擺在人類面前的必答題——只有在釋放生產(chǎn)力的同時樹立清晰邊界,才能讓人工智能真正從“可用”走向“可信”。
【深瞳工作室出品】
采寫:本報記者 崔 爽
策劃:劉 恕 李 坤
關(guān)注公眾號:人民網(wǎng)財(cái)經(jīng)
分享讓更多人看到
推薦閱讀
- 4月1日起將實(shí)施一批國家標(biāo)準(zhǔn)
- 人民網(wǎng)北京4月1日電 (記者郝帥)據(jù)國家市場監(jiān)管總局網(wǎng)站消息,4月1日起,光伏發(fā)電站、石油石化和天然氣工業(yè)用離心泵、多式聯(lián)運(yùn)服務(wù)、游覽船服務(wù)、茶葉供應(yīng)鏈管理等一批重要國家標(biāo)準(zhǔn)開始實(shí)施,將為引領(lǐng)和規(guī)范新興產(chǎn)業(yè)及未來產(chǎn)業(yè)的發(fā)展、推動傳統(tǒng)產(chǎn)業(yè)升級、提升交通運(yùn)輸和游覽服務(wù)質(zhì)量、保護(hù)消費(fèi)者權(quán)益等提供標(biāo)準(zhǔn)支撐。 光伏發(fā)電站相關(guān)國家標(biāo)準(zhǔn) 《光伏發(fā)電站繼電保護(hù)技術(shù)要求》(GB/T 32900—2025)推薦性國家標(biāo)準(zhǔn)規(guī)定了光伏發(fā)電站繼電保護(hù)的總體要求、配置要求、整定要求及整定管理要求?!?/a>
- 古韻千年 中原文旅如何煥新出彩?
- 夜幕降臨,洛陽洛邑古城的街巷里燈火漸起,漢服衣袂在青磚之間流動;鄭州郊外,一座戲劇之城里,觀眾在不同空間中穿行,與故事不斷相遇;城市中心的商都遺址博物院內(nèi),沉睡三千年的城墻與器物,通過數(shù)字化手段重新呈現(xiàn)在人們眼前...... 在中原大地,一種新的文旅表達(dá)方式悄然孕育,正以更加可感、可參與的方式融入當(dāng)下生活,從“看風(fēng)景”走向“入場景”,從“講歷史”走向“讓歷史發(fā)生”。數(shù)據(jù)顯示,2025年河南全省接待游客11.09億人次,實(shí)現(xiàn)旅游收入1.08萬億元,文旅市場規(guī)模持續(xù)擴(kuò)大,文旅融合發(fā)展態(tài)勢更加清晰?!?/a>
熱門排行
微信掃一掃提供新聞線索


































第一時間為您推送權(quán)威資訊
報道全球 傳播中國
關(guān)注人民網(wǎng),傳播正能量