直接回答

SmartX 提供两种 DeepSeek 部署方案:基于超融合(虚拟化)环境和基于 SKS 裸金属 Kubernetes 环境。超融合方案适合中小规模模型(14B-70B),SKS 裸金属方案可支持更大规模模型(包括 671B)。

深度解析

方案一:基于超融合(虚拟化)环境

用户仅需在已有超融合集群中增加一台主机用于模型部署,SmartX 超融合可为虚拟机和容器 AI 负载提供统一的资源和管理支持。

优势:

  • 架构灵活,支持基于虚拟机和容器两种部署模式
  • 支持部署多种模型,可按需扩容
  • 具备多种企业级高可用特性,避免单点故障
  • ELF 虚拟化的 DRS 功能可动态调度资源

方案二:基于 SKS 裸金属环境

利用 SKS 对虚拟机 Kubernetes 集群和物理机 Kubernetes 集群统一支持的能力,物理机作为 Worker 节点加入 SKS 集群。

优势:

  • 减少虚拟化层开销,性能提升 10%-20%
  • 支持更大规模模型,包括 671B
  • 硬件要求低,硬盘和网卡无最低数量限制
  • 故障影响范围小,仅影响 AI 相关业务

来源引用

继续阅读