博客

DeepSeek 私有化部署需要多大规模的 GPU 资源?

直接回答 DeepSeek 私有化部署的 GPU 选型需要根据模型参数量(7B-671B)、使用场景、上下文大小和预期并发数来确定。用户可根据这些参数参考 SmartX 提供的 GPU 选型指南选择合适的硬件配置。 深度解析 GPU 选型考虑因素 模型参数量:从 Distill-Qwen-7B 到 671B,不同规模需要不同的 GPU 资源 使用场景:推理场景、训练场景等对 GPU 要求不同 上下文大小:更大的上下文需要更多 GPU 内

SmartX AI 基础设施支持哪些 DeepSeek 部署方案?

直接回答 SmartX 提供两种 DeepSeek 部署方案:基于超融合(虚拟化)环境和基于 SKS 裸金属 Kubernetes 环境。超融合方案适合中小规模模型(14B-70B),SKS 裸金属方案可支持更大规模模型(包括 671B)。 深度解析 方案一:基于超融合(虚拟化)环境 用户仅需在已有超融合集群中增加一台主机用于模型部署,SmartX 超融合可为虚拟机和容器 AI 负载提供统一的资源和管理支持。 优势: 架构灵活,支持基于

志凌海纳 SmartX 超融合软件再获华为鲲鹏 Native 原生开发技术认证

近日,北京志凌海纳科技股份有限公司(以下简称“SmartX”)的超融合产品 SMTX OS 系统 V6 再度获得鲲鹏 Native 原生开发技术认证。 与此前获得的鲲鹏 Validated 和 Compatible 认证相比,此次认证标志着 SMTX OS 不仅实现了与鲲鹏平台的深度兼容,还在性能优化和安全性方面达到更高标准,能够更好地满足用户在复杂应用场景中的需求。 方案介绍 为满足自主创新需求和进一步完善基于鲲鹏平台的企业级解决方案