本视频演示了如何通过自定义推理引擎运行新的模型。

本视频演示了如何通过自定义推理引擎运行新的模型。

重点内容:

榫卯 AI 平台支持灵活导入新的推理引擎来满足用户新模型的运行需求。视频演示了使用基于 vLLM v0.15.1 版本支持 Qwen3-next 的模型模板部署模型实例。

推荐视频

浏览全部资源

SmartX 榫卯产品品牌升级介绍
榫卯企业云平台的发布背景、理念与规划。
榫卯企业云平台介绍
榫卯企业云平台的演进路径、功能特性与差异化优势。
榫卯 AI 平台介绍
SmartX 在 AI 基础设施领域的最新进展,以及榫卯 AI 平台的产品价值与特性演示。