在近期舉辦的世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上，奇安信安全專家黃巍針對人工智能時(shí)代的安全挑戰(zhàn)發(fā)表了專業(yè)見解。他指出，隨著AI技術(shù)深度融入社會各領(lǐng)域，其帶來的新型網(wǎng)絡(luò)風(fēng)險(xiǎn)正呈現(xiàn)多元化特征，這些風(fēng)險(xiǎn)貫穿于AI系統(tǒng)的全生命周期。

據(jù)黃巍分析，訓(xùn)練階段的數(shù)據(jù)安全是首要風(fēng)險(xiǎn)點(diǎn)。攻擊者通過向訓(xùn)練數(shù)據(jù)集植入惡意樣本，可直接影響模型的學(xué)習(xí)效果，導(dǎo)致生成結(jié)果出現(xiàn)系統(tǒng)性偏差。這種"數(shù)據(jù)投毒"行為不僅降低模型準(zhǔn)確率，更可能引發(fā)連鎖反應(yīng)，使基于該模型的決策系統(tǒng)產(chǎn)生錯(cuò)誤判斷。

服務(wù)階段的攻擊手段則更具破壞性。身份冒用和分布式拒絕服務(wù)（DDoS）攻擊已成為主要威脅形式。前者通過偽造合法用戶身份干擾模型服務(wù)，后者則通過海量請求耗盡系統(tǒng)資源，兩種方式均可導(dǎo)致模型服務(wù)中斷或性能驟降，對關(guān)鍵基礎(chǔ)設(shè)施構(gòu)成嚴(yán)重威脅。

應(yīng)用層面的風(fēng)險(xiǎn)更具隱蔽性。攻擊者利用精心設(shè)計(jì)的提示詞，在正常交互中植入惡意指令，既可能造成計(jì)算資源異常消耗，也可能通過內(nèi)容誘導(dǎo)實(shí)現(xiàn)信息竊取。這種"提示詞注入"攻擊方式因其難以察覺的特性，正在成為新的安全焦點(diǎn)。

面對日益復(fù)雜的AI安全形勢，行業(yè)普遍認(rèn)為需要構(gòu)建"以AI制AI"的防御體系。這種技術(shù)路線通過部署智能檢測系統(tǒng)，可實(shí)時(shí)識別異常行為模式，實(shí)現(xiàn)風(fēng)險(xiǎn)預(yù)警和自動處置。但黃巍特別強(qiáng)調(diào)，AI防御工具本身存在局限性，其生成的檢測結(jié)果可能存在誤判或虛構(gòu)內(nèi)容，因此必須建立人工復(fù)核機(jī)制作為補(bǔ)充。

當(dāng)前，各行業(yè)正在加速推進(jìn)AI技術(shù)應(yīng)用，從智能制造到智慧城市，從金融科技到醫(yī)療診斷，AI已成為數(shù)字化轉(zhuǎn)型的核心驅(qū)動力。這種全面滲透的趨勢倒逼安全防護(hù)體系同步升級，促使企業(yè)加大在AI安全產(chǎn)品和服務(wù)領(lǐng)域的投入，形成技術(shù)防護(hù)與規(guī)范治理并重的雙重保障機(jī)制。