红帽收购 Chatterbox Labs，发力企业级 AI 安全

红帽（Red Hat）近日宣布收购人工智能公司 Chatterbox Labs，此举旨在进一步加强其在企业级 AI 领域的安全布局。Chatterbox Labs 成立于 2011 年，专注于 AI 模型测试与生成式 AI 的安全防护。这是继去年收购 Neural Magic 之后，红帽在 AI 方向的又一次重要投入。

Chatterbox Labs 推出的 AIMI 平台，可对 AI 风险进行量化，并提供与模型行为和风险管理相关的多种功能。这些工具帮助企业评估并控制模型在实际场景中可能出现的不当输出与潜在风险。红帽表示，随着更多企业将 AI 项目从实验阶段推进到生产环境，围绕模型偏见、有害内容（toxicity）及各类漏洞的持续监测已成必需。因此，AI 安全测试与 “护栏” 能力，正成为现代 MLOps 与 LLMOps 平台的基础能力。

红帽在声明中称，此次收购是为满足快速增长的 AI 安全需求。通过整合 Chatterbox Labs 的技术，红帽希望为客户提供更完整的企业级开源 AI 平台，帮助他们更有信心地在生产环境运行 AI 工作负载。同时，该技术将与近期发布的 Red Hat AI3 平台形成互补，带来更全面的安全测试与风险管理能力。

红帽重申其开源路线，计划将此次收购获得的 AI 技术分步开源，推动社区使用与创新。红帽一贯做法是收购专有技术后，以开源方式推动技术进步与生态繁荣。随着 Chatterbox Labs 技术逐步开源，这些关键的 AI 安全工具将面向更广泛的社区开放，使更多组织受益于偏见控制、安全审查与风险量化能力。

划重点:  

🌟 红帽收购 Chatterbox Labs，进一步巩固企业级 AI 安全布局。  

🔧 AIMI 平台支持 AI 风险量化与模型行为管理。  

📈 红帽将分阶段开源相关技术，促进社区创新与使用。