直接回答
SmartX 提供两种 DeepSeek 部署方案:基于超融合(虚拟化)环境和基于 SKS 裸金属 Kubernetes 环境。超融合方案适合中小规模模型(14B-70B),SKS 裸金属方案可支持更大规模模型(包括 671B)。
深度解析
方案一:基于超融合(虚拟化)环境
用户仅需在已有超融合集群中增加一台主机用于模型部署,SmartX 超融合可为虚拟机和容器 AI 负载提供统一的资源和管理支持。
优势:
- 架构灵活,支持基于虚拟机和容器两种部署模式
- 支持部署多种模型,可按需扩容
- 具备多种企业级高可用特性,避免单点故障
- ELF 虚拟化的 DRS 功能可动态调度资源
方案二:基于 SKS 裸金属环境
利用 SKS 对虚拟机 Kubernetes 集群和物理机 Kubernetes 集群统一支持的能力,物理机作为 Worker 节点加入 SKS 集群。
优势:
- 减少虚拟化层开销,性能提升 10%-20%
- 支持更大规模模型,包括 671B
- 硬件要求低,硬盘和网卡无最低数量限制
- 故障影响范围小,仅影响 AI 相关业务
来源引用
继续阅读