在近日舉辦的Xcon安全峰會上，聯(lián)想全球安全實驗室專家張嘉琦以“虛擬人格的安全邊界——AI數(shù)字人生態(tài)攻防”為主題，系統(tǒng)剖析了數(shù)字人產(chǎn)業(yè)快速擴張背后的安全挑戰(zhàn)。據(jù)統(tǒng)計，2017至2025年間，中國虛擬人核心市場規(guī)模呈現(xiàn)指數(shù)級增長，功能型與伴侶型數(shù)字人已深度滲透電商直播、客戶服務(wù)、教育娛樂等場景。以羅永浩數(shù)字分身、京東“東哥”數(shù)字人直播帶貨為代表的應(yīng)用案例，驗證了技術(shù)落地的商業(yè)價值，但同時也暴露出技術(shù)棧復(fù)雜、權(quán)利邊界模糊等深層隱患。

數(shù)字人生態(tài)的技術(shù)架構(gòu)由前端展示層、應(yīng)用服務(wù)層、AI核心層與基礎(chǔ)設(shè)施層構(gòu)成，每個層級均存在可被利用的攻擊面。張嘉琦展示的威脅全景圖顯示，攻擊者可能通過應(yīng)用交付漏洞篡改數(shù)字人交互邏輯，或利用編排服務(wù)缺陷實現(xiàn)流量劫持。在AI核心引擎層面，模型供應(yīng)鏈投毒、對抗樣本攻擊等技術(shù)可直接影響數(shù)字人決策能力，而基礎(chǔ)設(shè)施層的配置錯誤則可能導(dǎo)致整個系統(tǒng)癱瘓。典型攻擊案例中，某電商平臺曾因提示詞注入漏洞，導(dǎo)致數(shù)字人主播在直播過程中自動觸發(fā)違規(guī)商品鏈接；另有攻擊者通過同義詞替換技術(shù)，繞過內(nèi)容審核機制傳播違法信息。

合規(guī)風(fēng)險同樣不容忽視。深度偽造（DeepFake）技術(shù)的濫用已引發(fā)多起身份冒用事件，某金融機構(gòu)數(shù)字客服因語音合成漏洞被偽造，造成客戶資金損失。更嚴峻的是，當前AI生成內(nèi)容缺乏統(tǒng)一標識規(guī)范，導(dǎo)致虛假信息溯源困難。某社交平臺曾出現(xiàn)大量AI生成的虛假新聞，因無法追溯生成源頭，最終只能采取全平臺內(nèi)容下架的極端措施。這些案例凸顯出構(gòu)建數(shù)字人安全體系的緊迫性。

針對多維安全威脅，張嘉琦提出分層防御策略：在AI模型與數(shù)據(jù)安全層面，需建立供應(yīng)鏈全生命周期審查機制，對訓(xùn)練數(shù)據(jù)實施動態(tài)加密，并通過輸入凈化技術(shù)過濾惡意指令；內(nèi)容安全領(lǐng)域應(yīng)部署實時審核系統(tǒng)，結(jié)合數(shù)字水印與區(qū)塊鏈技術(shù)實現(xiàn)內(nèi)容溯源；應(yīng)用服務(wù)層需嚴格管控API接口權(quán)限，采用差分隱私技術(shù)保護用戶交互數(shù)據(jù)；基礎(chǔ)設(shè)施層則要通過網(wǎng)絡(luò)隔離、系統(tǒng)加固與異常行為監(jiān)測構(gòu)建縱深防御體系。某數(shù)字人生成平臺已應(yīng)用上述策略，成功攔截97%的模型投毒攻擊，并將內(nèi)容違規(guī)率降至0.03%以下。

隨著《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)的落地，數(shù)字人產(chǎn)業(yè)正進入合規(guī)化發(fā)展新階段。張嘉琦強調(diào)，安全防護不是單一技術(shù)問題，而是需要技術(shù)、法律、倫理多維度協(xié)同的系統(tǒng)工程。只有構(gòu)建起覆蓋全生命周期的安全體系，才能確保數(shù)字人技術(shù)在推動產(chǎn)業(yè)升級的同時，真正成為可信的數(shù)字化伙伴。