隨著我國“人工智能+”行動(dòng)的深入推進(jìn)，各類智能體及AI應(yīng)用廣泛滲入生產(chǎn)生活場景。而近期頻發(fā)的AI安全事件，不僅引發(fā)公眾關(guān)注，也成為產(chǎn)業(yè)界與學(xué)界協(xié)同攻堅(jiān)的重要方向。近日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（以下簡稱“網(wǎng)安標(biāo)委”）正式組建“人工智能安全標(biāo)準(zhǔn)工作組”（WG9），標(biāo)志著我國人工智能安全標(biāo)準(zhǔn)體系建設(shè)進(jìn)入系統(tǒng)性推進(jìn)階段。

AI安全事件頻發(fā) 攻防之戰(zhàn)升級(jí)

近期，全球人工智能行業(yè)安全事件頻發(fā)。3月底，人工智能公司Anthropic旗下AI編程工具Claude Code源代碼泄露，這一事件被視為AI行業(yè)首次核心代碼泄露事件。

奇安信安全專家章磊認(rèn)為，綜合各類公開信息以及Anthropic的官方回應(yīng)分析，此次源代碼泄露是典型的發(fā)布流程中的人為失誤，屬于供應(yīng)鏈安全事故。“好比原本只該給顧客成品，結(jié)果把全套制作圖紙一起送出去了。”

“產(chǎn)品的核心邏輯和防護(hù)底線一旦公開，整個(gè)產(chǎn)品的運(yùn)作方式就變得透明。競爭對手可以直接研究它的架構(gòu)、功能設(shè)計(jì)、智能體邏輯，能快速模仿、追趕甚至優(yōu)化。同時(shí)，安全規(guī)則暴露后，也更容易被人找到漏洞、繞過約束、破解使用限制。”章磊表示。

今年以來爆火的智能體工具OpenClaw（俗稱“龍蝦”）也接連被曝出存在多重安全隱患。4月3日，國家信息安全漏洞庫（CNNVD）發(fā)布通報(bào)稱，自3月10日至4月2日，共采集OpenClaw漏洞155個(gè)，其中超危漏洞11個(gè)、高危漏洞53個(gè)，OpenClaw多個(gè)版本受到漏洞影響。

“我們只花了一個(gè)下午，就攻破了OpenClaw。”國內(nèi)知名白帽安全團(tuán)隊(duì)DARKNAVY安全創(chuàng)新總監(jiān)陸晨表示，目前，國內(nèi)主流的“龍蝦”方案分為兩類：一類是在OpenClaw基礎(chǔ)上套殼提供對話框，另一類是提供服務(wù)器供用戶自行配置。相比較而言，前者風(fēng)險(xiǎn)更高，一旦被攻破，黑客就能直接獲取服務(wù)器權(quán)限，甚至訪問內(nèi)網(wǎng)大模型。

上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院副院長劉少軒透露，近期一家制造業(yè)企業(yè)因?yàn)閭}促上馬OpenClaw，導(dǎo)致產(chǎn)線停產(chǎn)72小時(shí)，直接損失可能超過2000萬元。還有一家法律服務(wù)企業(yè)，因?yàn)闆]有做好風(fēng)險(xiǎn)防范和數(shù)據(jù)安全，導(dǎo)致大量客戶隱私數(shù)據(jù)泄露。

亞信安全相關(guān)負(fù)責(zé)人也指出，當(dāng)前網(wǎng)絡(luò)攻擊正在向智能化、自動(dòng)化演進(jìn)，黑客利用AI實(shí)現(xiàn)勒索軟件載荷的動(dòng)態(tài)生成、高仿真釣魚內(nèi)容制作，使得攻擊效率與隱蔽性大幅提升。AI自主攻擊智能體、基于深度偽造的商務(wù)詐騙，將成為2026年最緊迫的安全挑戰(zhàn)。

AI安全供給發(fā)力 需求創(chuàng)造機(jī)遇

國資委1月底發(fā)布的數(shù)據(jù)顯示，中央企業(yè)已在工業(yè)制造、能源電力、智能網(wǎng)聯(lián)汽車等重點(diǎn)領(lǐng)域，打造了超過1000個(gè)AI應(yīng)用場景，AI賦能產(chǎn)業(yè)轉(zhuǎn)型的態(tài)勢日益明顯。與此同時(shí)，AI安全問題引發(fā)的行業(yè)擔(dān)憂，也催生了全新的安全需求，推動(dòng)AI安全供給側(cè)持續(xù)發(fā)力。

對此，東莞證券認(rèn)為，近期OpenClaw等智能體技術(shù)快速落地，催生全新安全需求場景，疊加網(wǎng)絡(luò)安全領(lǐng)域政策利好持續(xù)釋放，行業(yè)有望迎來新的增長機(jī)遇。

長江證券則預(yù)測，2026年國內(nèi)網(wǎng)絡(luò)安全市場規(guī)模有望突破1500億元，2030年可達(dá)3000億元，年復(fù)合增長率達(dá)18%至20%，行業(yè)正處于發(fā)展黃金期。

同時(shí)，AI安全新品與服務(wù)也在持續(xù)發(fā)布。近日，上海人工智能實(shí)驗(yàn)室推出高安全產(chǎn)業(yè)級(jí)智能體平臺(tái)SafeClaw，聚焦高安全需求的產(chǎn)業(yè)智能化轉(zhuǎn)型，以推動(dòng)行業(yè)從“事后安全”邁向“內(nèi)生安全”的路徑。同時(shí)，上海人工智能實(shí)驗(yàn)室還開源了能快速診斷風(fēng)險(xiǎn)的智能體守衛(wèi)模型，并探索將安全準(zhǔn)則內(nèi)嵌至智能體決策層的“內(nèi)生進(jìn)化”治理框架。

“最危險(xiǎn)的并非已知風(fēng)險(xiǎn)，而是‘沒有想到的危險(xiǎn)’，因此，當(dāng)前的核心任務(wù)是，在AI能力飆升的同時(shí)，前瞻性地構(gòu)建內(nèi)生安全體系。”上海人工智能實(shí)驗(yàn)室領(lǐng)軍科學(xué)家胡俠表示，“這些工作旨在將安全能力深度融入AI發(fā)展全鏈條，為智能體時(shí)代的‘內(nèi)生安全’提供系統(tǒng)性解決方案。”

AI治理持續(xù)完善 安全標(biāo)準(zhǔn)加速制定

隨著人工智能被廣泛應(yīng)用，人工智能治理也越發(fā)受到重視。今年政府工作報(bào)告明確提出“完善人工智能治理”，全國人大常委會(huì)工作報(bào)告提出“加強(qiáng)人工智能領(lǐng)域立法研究”。

在此背景下，人工智能安全標(biāo)準(zhǔn)正在加快制定。3月25日，工信部公開征求《人工智能安全治理模型上下文協(xié)議應(yīng)用安全要求》等行業(yè)標(biāo)準(zhǔn)計(jì)劃項(xiàng)目意見。

4月初，人工智能安全標(biāo)準(zhǔn)工作組（WG9）表示，將重點(diǎn)推動(dòng)《網(wǎng)絡(luò)安全技術(shù) 人工智能安全能力成熟度評估方法》《網(wǎng)絡(luò)安全技術(shù) 人工智能應(yīng)用安全分類分級(jí)方法》及《網(wǎng)絡(luò)安全技術(shù) 人工智能技術(shù)涉及未成年人應(yīng)用安全指南》等核心標(biāo)準(zhǔn)的落地實(shí)施。同時(shí)，在全國網(wǎng)安標(biāo)委統(tǒng)一部署下，集中力量攻堅(jiān)內(nèi)生安全與數(shù)據(jù)基座、新形態(tài)與服務(wù)安全、系統(tǒng)與應(yīng)用安全及科學(xué)評測等領(lǐng)域的國家標(biāo)準(zhǔn)。

“針對AI帶來的新型風(fēng)險(xiǎn)，需從政策法規(guī)、技術(shù)標(biāo)準(zhǔn)、實(shí)施機(jī)制三個(gè)層面協(xié)同推進(jìn)。”奇安信副總裁張勇認(rèn)為，展望未來，第一，安全將從“可選配”升級(jí)為“必標(biāo)配”，安全合規(guī)將從推薦性轉(zhuǎn)向強(qiáng)制性，可以設(shè)定“AI安全投入不低于AI應(yīng)用總投入15%”這樣的行業(yè)基準(zhǔn)；第二，網(wǎng)絡(luò)安全從“單點(diǎn)防護(hù)”走向“全鏈條協(xié)同”，實(shí)現(xiàn)“一處發(fā)現(xiàn)攻擊，全網(wǎng)自動(dòng)免疫”；第三，從“人防”走向“技防+智防”，AI對抗AI成為攻防常態(tài)；第四，從“被動(dòng)應(yīng)急”走向“主動(dòng)免疫”，構(gòu)建韌性防御體系，實(shí)現(xiàn)“即使遭受攻擊也能快速恢復(fù)、核心數(shù)據(jù)不丟失”。