在学界相继产出多个爆款 AI 引擎之后,开源推理框架 vLLM 的核心团队对外宣布创办新公司 Inferact。公司以 8亿美元的投前估值,完成了 1.5亿美元的种子轮融资。

顶级资本加持,推动“推理”商业化提速
本轮由 Andreessen Horowitz(a16z) 和 Lightspeed Venture Partners 联合领投。这一进展既印证了市场此前对 vLLM 商业化路径的判断,也释放出明确信号:AI 行业的重心正从“模型训练”全面转向“应用端推理”。
-
技术背景: Inferact 源自加州大学伯克利分校 Ion Stoica 教授(Databricks 联合创始人)的实验室。其核心技术 vLLM 通过创新的显存管理方案,让大模型运行更快、能耗更低。
-
市场地位: 首席执行官 Simon Mo 表示,vLLM 的开源版本已被亚马逊云服务(AWS)以及亚马逊购物等大型业务广泛采用。
推理赛道的“伯克利双雄”
Inferact 的登场紧随 RadixArk(由另一热门框架 SGLang 商业化而来)之后。后者近期获 Accel 领投,估值达到 4 亿美元。两家公司同出自伯克利实验室,连续获投表明资本正重金押注更快、更省钱的 AI 部署技术高地。
© 版权声明
AI智能体所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服处理。
THE END


















用户38505528 5个月前0
粘贴不了啊用户12648782 6个月前0
用法杂不对呢?yfarer 6个月前0
草稿id无法下载,是什么问题?