三年营收暴涨三倍:AI 社交平台 CHAI 估值突破 14 亿美元,全面升级自杀干预安全系统

在生成式 AI 社交这个细分领域,初创公司 CHAI 交出了一份颇为亮眼的成绩单。过去三年里,该公司营收保持着每年 3 倍的高速增长,目前年度经常性收入(ARR)已经提升至 6800 万美元,整体估值也正式迈过 14 亿美元这一重要关口。

随着用户数量迅速攀升,CHAI 意识到,开发者在追求业务扩张的同时,更需要主动承担起与 AI 相关的安全责任。近期,CHAI 对自身安全体系进行了大幅升级,重点围绕自杀预防和自残干预上线了实时监测系统。该系统参考了《欧盟 AI 法案》和 NIST 风险管理框架中的严格要求,并结合国际自杀预防协会(IASP)提供的专业指引进行设计和优化。

为了尽量减少 AI 生成高风险内容的可能性,CHAI 自主研发了一套先进的实时“分类器”,用来自动巡检正在进行的对话内容。一旦识别到用户出现心理危机或自伤念头,AI 将不再只扮演普通聊天对象,而是转变为一条“数字生命线”,通过事先设计好的、有同理心的回复,引导用户主动联系专业医疗机构或向身边可信赖的亲友寻求支持。

在数据隐私层面,CHAI 采用了类似医疗场景中 HIPAA 标准的隐私保护机制。所有对话内容都会存放在经过加密的服务器上,内部审查流程也严格执行去标识化处理,尽量降低隐私泄露风险。CHAI 表示,作为一家快速成长的独角兽公司,这一系列安排旨在为 AI 行业树立“安全优先”的样本,确保技术在持续扩张的过程中,始终与人类的伦理和价值观保持一致。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞9 分享