OpenAI 近日通過(guò)官方博客發(fā)布了一篇引人深思的提醒文章，指出隨著其下一代人工智能模型的能力快速提升，其可能帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)也隨之升級(jí)至“高”級(jí)別。
OpenAI 在博客中強(qiáng)調(diào)，先進(jìn)的 AI模型不再僅僅是理論威脅。它們極有可能具備開(kāi)發(fā)針對(duì)防御嚴(yán)密系統(tǒng)的有效零日（zero-day）遠(yuǎn)程漏洞的能力。這些模型還可能在針對(duì)企業(yè)和工業(yè)環(huán)境的入侵行動(dòng)中發(fā)揮強(qiáng)大的輔助作用，從而引發(fā)嚴(yán)重的現(xiàn)實(shí)世界安全影響。
OpenAI 的應(yīng)對(duì)與防御策略面對(duì)與日俱增的潛在風(fēng)險(xiǎn)，OpenAI 披露了其雙管齊下的應(yīng)對(duì)措施:
加強(qiáng)防御性 AI 能力: 內(nèi)部團(tuán)隊(duì)正加大投入，以提升模型在防御性網(wǎng)絡(luò)安全任務(wù)中的表現(xiàn)，并積極開(kāi)發(fā)能協(xié)助安全人員完成代碼審計(jì)和漏洞修補(bǔ)等工作的工具，實(shí)現(xiàn)“以 AI 之矛，御 AI 之盾”。
多重風(fēng)險(xiǎn)控制: 為降低潛在風(fēng)險(xiǎn)，OpenAI 正采取一系列嚴(yán)格的防護(hù)措施，包括:訪問(wèn)控制（Access Control），基礎(chǔ)設(shè)施加固（Infrastructure Hardening），出口控制（Egress Control）.持續(xù)監(jiān)測(cè)（Continuous Monitoring）。
推出新計(jì)劃與成立顧問(wèn)機(jī)構(gòu)為進(jìn)一步強(qiáng)化外部協(xié)作與風(fēng)險(xiǎn)治理，OpenAI 宣布了兩項(xiàng)重要舉措:
分級(jí)訪問(wèn)增強(qiáng)計(jì)劃: OpenAI 計(jì)劃推出一項(xiàng)新計(jì)劃，向符合條件、從事網(wǎng)絡(luò)防御的用戶與企業(yè)提供分級(jí)訪問(wèn)增強(qiáng)功能，以支持他們的防御工作。
成立 Frontier Risk Council: OpenAI 將成立一個(gè)名為 “前沿風(fēng)險(xiǎn)委員會(huì)”（Frontier Risk Council） 的顧問(wèn)機(jī)構(gòu)。該機(jī)構(gòu)將邀請(qǐng)經(jīng)驗(yàn)豐富的網(wǎng)絡(luò)防御專家和安全從業(yè)人員與內(nèi)部團(tuán)隊(duì)緊密協(xié)作。該委員會(huì)的初期工作重點(diǎn)將是網(wǎng)絡(luò)安全，并計(jì)劃在未來(lái)拓展至其他前沿技術(shù)領(lǐng)域，以應(yīng)對(duì)更廣范圍的風(fēng)險(xiǎn)挑戰(zhàn)。
