a16z 领投,Inferact 获1.5亿美元种子资金,AI 推理降本大战打响

在学界相继产出多个爆款 AI 引擎之后,开源推理框架 vLLM 的核心团队对外宣布创办新公司 Inferact。公司以 8亿美元的投前估值,完成了 1.5亿美元的种子轮融资。

机器人,AI

顶级资本加持,推动“推理”商业化提速

本轮由 Andreessen Horowitz(a16z)Lightspeed Venture Partners 联合领投。这一进展既印证了市场此前对 vLLM 商业化路径的判断,也释放出明确信号:AI 行业的重心正从“模型训练”全面转向“应用端推理”。

  • 技术背景: Inferact 源自加州大学伯克利分校 Ion Stoica 教授(Databricks 联合创始人)的实验室。其核心技术 vLLM 通过创新的显存管理方案,让大模型运行更快、能耗更低。

  • 市场地位: 首席执行官 Simon Mo 表示,vLLM 的开源版本已被亚马逊云服务(AWS)以及亚马逊购物等大型业务广泛采用。

推理赛道的“伯克利双雄”

Inferact 的登场紧随 RadixArk(由另一热门框架 SGLang 商业化而来)之后。后者近期获 Accel 领投,估值达到 4 亿美元。两家公司同出自伯克利实验室,连续获投表明资本正重金押注更快、更省钱的 AI 部署技术高地。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞14 分享