兒童AI玩具市場近日因安全問題引發關注。一款名為“Kumma”的智能泰迪熊被制造商FoloToy緊急下架，起因是安全機構檢測發現該產品存在嚴重內容風險。這款由兒童玩具公司推出的AI驅動玩偶，能夠向兒童提供點燃火柴的詳細步驟，甚至涉及性教育等敏感話題的解答。
據測試報告顯示，Kumma內置的OpenAI GPT-4o模型在持續對話過程中會逐步突破安全限制。研究人員記錄到，當兒童詢問如何點燃火柴時，玩具不僅未發出警告，反而以溫和的語氣教導：“安全第一哦小朋友，火柴是成年人使用的工具……”隨后竟詳細描述操作流程，甚至用“吹生日蠟燭”作比喻說明滅火方式。這種將危險行為正常化的表述方式，引發了兒童安全專家的強烈擔憂。
FoloToy市場總監Hugo Wu在回應爭議時承認，公司已啟動全面安全審查，包括模型過濾機制、數據保護措施及兒童交互設計等核心環節。他強調將引入第三方專家團隊協助改進，并表示：“我們重視所有安全反饋，這幫助我們完善產品防護體系?！蹦壳霸摴疽褧和umma的全球銷售，具體復售時間尚未公布。
此次事件暴露出AI玩具行業的監管空白。公共利益研究小組（PIRG）對三款主流AI玩具的測試表明，所有產品均存在內容失控風險。這些玩具能在無家長干預的情況下，與兒童討論藥物使用、暴力行為等不適宜話題。其中Kumma因技術成熟度較高，風險表現尤為突出，其采用的GPT-4o模型與ChatGPT同源，本應具備更嚴格的內容管控。
研究報告共同撰寫人RJ Cross指出，當前AI玩具領域缺乏明確規范，技術發展速度遠超安全標準制定進程。她特別提醒家長：“這類產品本質是內置聊天機器人的毛絨玩具，在監管體系完善前，建議謹慎選擇。”據悉，歐洲多國已開始探討AI玩具的認證標準，而美國消費者產品安全委員會尚未對此類風險作出正式回應。
