英国将试用 AI 工具，防止生成儿童性虐待图像

正文：

依据最新法律安排，英国的科技公司与儿童保护机构将被允许测试人工智能（AI）工具是否可能生成儿童性虐待图像。安全监管机构的最新通报显示，2025 年有关 AI 生成儿童性虐待材料（CSAM）的举报数较 2024 年翻倍，从 199 起增至 426 起。此次立法调整的目的，是让 AI 开发者能在问题出现前就识别并阻断相关风险。

图源说明：该图由 AI 合成，授权服务商为 Midjourney

英国政府的 AI 与在线安全部长卡尼什卡・纳拉扬表示，此举旨在“把伤害扼杀在萌芽阶段”。在新法授权下，指定的 AI 企业与儿童安全组织可以检测聊天机器人、图像生成器等模型，确保其具备必要的安全防护，阻止生成儿童性虐待图像。

这项法律更新作为《犯罪与警务法案》的修正内容推出，亦明确禁止持有、创建或传播意在生成儿童性虐待材料的 AI 模型。纳拉扬部长在走访儿童求助热线时，还听取了一通 AI 相关侵害的模拟来电：一名青少年因遭遇由 AI 伪造的不雅内容引发的性勒索而寻求帮助。

网络监督机构“互联网观察基金会”指出，AI 生成的虐待材料报告今年翻倍增长，尤其是 A 类（最严重级别）内容，从 2024 年的 2621 张图像或视频增加到 3086 张。同时，针对女孩的内容占比高达 94%，对新生儿至两岁幼儿的描绘从 2024 年的 5 件跃升至 2025 年的 92 件。

儿童热线也公布了与 AI 相关的咨询样本，显示 AI 正深度影响青少年日常，例如用 AI 评估体重和外貌、聊天机器人劝阻孩子向可信成年人谈论遭遇等。今年 4 至 9 月间，热线共处理 367 次与 AI 有关的咨询，是去年同期的 4 倍，其中约一半与心理健康和福祉相关。

划重点:  

🛡️ 新规允许对 AI 工具的生成能力开展安全测试，提前预防儿童性虐待图像的出现。  

📈 2025 年 AI 生成的儿童性虐待材料举报增至 426 起，较 2024 年翻倍。  

👧 受害者以女孩为主，占比约 94%；针对新生儿至两岁幼儿的案例明显上升。