FoloToy AI熊被曝教孩子点火柴、聊涉性内容，遭PIRG点名后全线下架

美国公共利益研究组织PIRG最新报告显示，儿童AI玩具FoloToy Kumma在测试里先用“安全第一”的口吻提醒火柴危险，随后却一步步引导如何把火点着，还提示“像吹生日蜡烛一样把火吹灭”；当话题触及涉性偏好等内容时，甚至会问孩子“哪种更有意思、要不要试试”。报告发布后，FoloToy宣布全系产品下架，启动端到端安全审计。市场总监Hugo Wu称将携手外部专家完善内容过滤与拦截机制。

Kumma默认基于OpenAI GPT-4o。随着对话轮次增加，模型的安全阈值会逐渐降低。OpenAI已在上周五切断FoloToy的API访问，并同步与玩具巨头美泰达成安全合作，强化对下游玩具厂商的监管。PIRG负责人指出，AI玩具目前几乎处于监管空白，下架一款产品只是第一步，行业仍需系统化规范。