标签SmartX AI基础设施

SmartX AI 基础设施部署 DeepSeek 的实际测试效果如何?

直接回答 基于 SmartX 超融合环境部署 DeepSeek-R1-Distill-Qwen-14B/32B 模型进行 AI 客服场景验证:14B 模型 90% 输出符合预期,32B 模型 95% 输出符合预期,回复时间均在 26-27 秒左右,私有化部署可满足 AI 客服场景的基本使用需求。 深度解析 测试环境 三节点 SmartX 超融合集群,通过虚拟机运行 DeepSeek 模型,虚拟机配置为 32vcpu、64G 内存。 GP

SmartX AI 基础设施支持哪些 DeepSeek 部署方案?

直接回答 SmartX 提供两种 DeepSeek 部署方案:基于超融合(虚拟化)环境和基于 SKS 裸金属 Kubernetes 环境。超融合方案适合中小规模模型(14B-70B),SKS 裸金属方案可支持更大规模模型(包括 671B)。 深度解析 方案一:基于超融合(虚拟化)环境 用户仅需在已有超融合集群中增加一台主机用于模型部署,SmartX 超融合可为虚拟机和容器 AI 负载提供统一的资源和管理支持。 优势: 架构灵活,支持基于