估值达8亿美元的算力“核弹”登场:vLLM核心团队创立Inferact,瞄准全球AI推理第一

当全球AI的目光仍停留在那些吞噬万亿参数的庞大模型上时,一场围绕算力效率的变革,已在底层代码世界悄悄展开。来自开源圈的顶尖推理引擎vLLM的原班团队,今日正式宣布成立AI基础设施公司Inferact,计划在AI推理的荒原上建立全新规则。这不仅是一跃式的技术进步,更是一份关于让人工智能真正迈入实用时代的庄重宣言

资本市场对这位“含着金钥匙”出生的新公司表现出近乎狂热的关注。相关消息称,Inferact在种子轮融资就拿到约8亿美元的估值,并获得1.5亿美元的资金支持。背后的出资方阵容豪华:由Andreessen Horowitz与光速创投领投,红杉资本、Altimeter Capital、红点创投以及真格基金等知名机构悉数入场,为这台未来的推理引擎注入强劲动能

image.png

作为开源社区的热门项目,vLLM早已在开发者群体中打下深刻印记。它一套架构支撑500多类模型,在200多种硬件加速器上运转顺畅,并承担起全球规模的推理任务。而Inferact的目标更明确也更宏大:他们要把vLLM推向世界领先的位置,拆解高昂的推理成本,用极致的速度把AI能力送到每一个计算节点

在AI发展的长河里,如果说训练是漫长的“闭门打磨”,那么推理就是走向真实场景的实战。随着大模型应用全面落地,推理阶段的算力消耗如滚雪球般增长,已成为商业成败的关键变量。Inferact的出现,意味着行业的关注点从昂贵的训练转向高效的部署与执行。这不仅再次证明开源技术在商业世界的强大张力,也宣告AI基础设施竞争已进入追求极致效能的下半场

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞15 分享