云原生应用管理持续升级:Rainbond v6.9.0 发布,迈入大模型私有化部署新阶段

近日,云原生应用管理平台Rainbond正式上线 v6.9.0 版本。此次更新通过架构重塑和功能增强,把 AI 大模型私有化部署能力进一步开放给企业用户,打通了从模型选择、一键部署到兼容 OpenAI 接口调用的完整流程。

对于想要在本地资源环境中搭建 AI 能力的企业来说,v6.9.0 提供了一套更加省心的“开箱即用”方案。开发者在启用内置 AI 大模型插件后,工作空间会立即开放模型仓库、实例管理、API 密钥和模型监控四个核心功能模块。在模型来源方面,平台既支持系统预置的常见模型,也可从 ModelScope 社区拉取,同时还支持通过 HTTP 地址、本地路径或直接上传文件的方式部署自有模型。部署过程中,系统默认采用 vLLM 高性能引擎,并针对 GPU 与 CPU 两类环境提供灵活配置,进一步降低了企业私有化部署大模型的使用门槛。

image.png

在管理效率方面,这次版本更新同样带来了明显提升。借助全新的“模型实例”管理面板,运维人员能够实时查看实例运行状态、日志详情,并在异常发生时更快完成定位和处理。为了方便业务系统接入,平台还提供了兼容OpenAI的 API 接口,业务侧只需要替换 base URL 和密钥,就能在基本不改动原有开发流程的情况下,平滑接入私有化部署模型。与此同时,配套监控模块还能对服务响应表现和 GPU 设备利用率进行全面可视化展示,让算力使用情况更加清晰直观。

除了在 AI 能力上的升级,v6.9.0 也进一步强化了虚拟机(VM)管理能力。围绕企业资产迁移和弹性扩展需求,新版本支持 qcow2 镜像直接部署,并新增了虚拟机规格热扩容能力,可在运行过程中无损提升 CPU 和内存配置。同时,多虚拟机应用级编排以及整套应用模板交付能力的加入,也让企业可以将复杂的虚拟机业务封装成标准化安装包,便于跨环境快速迁移与恢复。针对 Windows 场景,平台还增加了 VirtIO 驱动盘挂载功能,以提升不同虚拟化环境下的部署兼容性。

作为一次较大规模的架构更新,v6.9.0 还在底层修复了 RainAgent 偶发连接异常问题,并优化了多项工程初始化体验,进一步保障生产环境中的稳定运行。无论是面向 AI 模型的私有化训练和推理,还是面向传统 VM 业务的云原生化管理,这个版本都体现出 Rainbond 在提升企业研发效率方面的持续能力。目前,Rainbond 用户已经可以通过平台管理界面的一键升级功能体验该版本,开启云原生与 AI 深度结合的全新阶段。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞9 分享