a16z 领投!Inferact 带着1.5亿美元入局,打响 AI 推理成本“降本”之战

在学术界接连诞生多款现象级 AI 引擎之后,开源推理框架 vLLM 的核心团队正式创立初创公司 Inferact。该公司以 8亿美元的投前估值,拿下 1.5亿美元的种子轮融资。

机器人,AI

顶级资本押注,加速“推理”商业化落地

本轮融资由 Andreessen Horowitz (a16z)Lightspeed Venture Partners 共同领投。这一步不仅坐实了市场对 vLLM 商业化路线的预期,也意味着 AI 行业的重心正从“模型训练”快速转向“应用推理”。

  • 技术背景: Inferact 源于加州大学伯克利分校 Ion Stoica 教授(Databricks 联合创始人)的实验室。其核心技术 vLLM 通过创新的显存管理机制,大幅提升大模型运行效率,并降低能耗。

  • 市场地位: 首席执行官 Simon Mo 表示,vLLM 的开源版本已被亚马逊云服务(AWS)以及亚马逊购物等大型业务广泛采用。

推理赛道的“伯克利双子星”

Inferact 的登场紧随 RadixArk(由另一热门框架 SGLang 商业化而来)之后。后者近期获 Accel 领投、估值达 4 亿美元。两者同出自伯克利实验室,连续获投表明资本正加码押注更快、更省的 AI 部署与推理技术高地。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞14 分享