在学术界接连诞生多款现象级 AI 引擎之后,开源推理框架 vLLM 的核心团队正式创立初创公司 Inferact。该公司以 8亿美元的投前估值,拿下 1.5亿美元的种子轮融资。

顶级资本押注,加速“推理”商业化落地
本轮融资由 Andreessen Horowitz (a16z) 和 Lightspeed Venture Partners 共同领投。这一步不仅坐实了市场对 vLLM 商业化路线的预期,也意味着 AI 行业的重心正从“模型训练”快速转向“应用推理”。
-
技术背景: Inferact 源于加州大学伯克利分校 Ion Stoica 教授(Databricks 联合创始人)的实验室。其核心技术 vLLM 通过创新的显存管理机制,大幅提升大模型运行效率,并降低能耗。
-
市场地位: 首席执行官 Simon Mo 表示,vLLM 的开源版本已被亚马逊云服务(AWS)以及亚马逊购物等大型业务广泛采用。
推理赛道的“伯克利双子星”
Inferact 的登场紧随 RadixArk(由另一热门框架 SGLang 商业化而来)之后。后者近期获 Accel 领投、估值达 4 亿美元。两者同出自伯克利实验室,连续获投表明资本正加码押注更快、更省的 AI 部署与推理技术高地。
© 版权声明
AI智能体所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服处理。
THE END

















用户38505528 5个月前0
粘贴不了啊用户12648782 6个月前0
用法杂不对呢?yfarer 6个月前0
草稿id无法下载,是什么问题?