在近期舉辦的中國報業傳媒行業人工智能應用研討會上，多位專家聚焦人工智能技術在傳媒領域的深度應用，同時對技術發展引發的倫理與監管問題展開深入探討。這場行業盛會傳遞出明確信號：人工智能正以驚人速度重塑新聞生產流程，但技術狂飆突進中必須筑牢安全底線。
南開大學智能傳播研究中心負責人指出，某主流媒體已實現新聞生產效率的革命性突破——常規快訊制作時間從1小時壓縮至12分鐘，重大突發事件的首條快訊生成速度突破30秒大關。這種效率躍升使權威媒體在信息傳播競賽中搶占先機，有效遏制了謠言擴散空間。但該專家同時強調，技術發展必須遵循"合規優先"原則，任何創新都不能突破倫理紅線。
生成式人工智能的"雙刃劍"效應在傳媒領域日益顯現。上海市網絡安全技術專家解析了AI幻覺的生成機理：當訓練數據存在偏差或算法存在缺陷時，系統可能輸出看似合理實則錯誤的信息。這種技術缺陷已被不法分子利用，形成從虛假信息炮制到AI背書傳播的完整黑色產業鏈。某金融科技公司負責人透露，網絡自媒體發布的失實信息經AI抓取后，可能觸發量化交易模型，造成資本市場異常波動。
技術濫用案例引發與會者高度關注。近期發生的虛擬主播盜用事件中，同一數字人形象同時出現在多個違規直播間，暴露出身份認證體系的漏洞。更令人擔憂的是，深度偽造技術已能實現語音、視頻的全方位造假，給公眾認知帶來嚴峻挑戰。這些案例警示，人工智能技術若缺乏有效監管，可能成為危害社會穩定的工具。
針對這些挑戰，行業正在構建多層次治理體系。中央網信部門推出的智能內容標識制度，通過隱形數字水印技術實現信息全流程追溯。某政務服務平臺負責人介紹，其使用的智能問答系統準確率必須達到95%以上，否則將面臨行政處罰。這種硬性約束正在推動技術提供商優化算法模型，提升輸出質量。
可信AI生態建設需要多方協同。技術開發者被要求明確工具使用邊界，內容創作者需對AI生成內容進行顯著標識，平臺運營商要建立多重審核機制。專家特別指出，提升公眾媒介素養至關重要，每個信息接收者都應培養批判性思維，避免成為虛假信息的傳播節點。
主流媒體正在發揮引領作用。上海多家媒體聯合搭建的AI治理平臺，通過技術手段實現謠言自動識別與攔截。全國范圍內，數十家權威機構推出的智能辟謠工具，運用自然語言處理技術實時分析網絡信息，構建起技術防護網。這些實踐表明，技術創新與規范治理完全可以形成良性互動。
