近日，市场咨询机构赛迪顾问发布《2024-2025 年中国私有云市场研究》（以下简称“报告”），围绕私有云市场发展、厂商竞争格局和未来预测建议，对中国私有云市场展开全面分析。报告将私有云市场划分为三大类：私有云基础设施、私有云系统平台和私有云应用软件及服务。其中私有云系统平台市场形成了以服务器厂商、云服务商、专业私有云等厂商为主要参与者的竞争格局，位于“领导者”象限的厂商包括华为云、阿里云、志凌海纳 SmartX 等。
重要趋势：AI 应用加速驱动私有云在企业内部落地
值得注意的是，在中国私有云市场趋势方面，报告指出，随着 AI 应用的快速增长，“AI+私有云”正在企业内部加速落地。
2024 年，以大模型为代表的 AI 技术快速迭代，AI Agent、企业 AI 知识库、AI 数字员工等企业级应用场景和产品不断创新发展，推动行业用户重新思考组织内部的计算需求、数据中心内部和数据中心之间的高性能连接、数据要求、安全性等，为不断变化的需求准备现有的数据中心和云战略，并制定如何随着战略发展而敏捷和弹性地采用 AI 的计划。
其中，在数据安全与合规需求持续升级的背景下，AI 私有化部署正成为企业智能化升级的重要战略选择，并推动私有云市场进入高速增长周期。一方面，AI 行业应用市场的打开带动了企业侧推理场景算力需求的爆发，但受限于敏感数据本地化存储、模型算法安全等要求，企业更倾向通过私有云构建专属 AI 基础设施。私有云平台凭借灵活的资源调度能力、异构算力兼容性及混合云协同架构，可满足 AI 场景下高并发算力需求与分布式数据处理要求。
另一方面，AI 私有化部署倒逼私有云技术迭代，驱动厂商加速布局软硬协同的智算解决方案，通过私有云平台具备的算力管理能力以应对智算硬件资源的精准切分、有效调度、动态监测，以及提高故障检测及自愈能力等智算硬件资源管理的新需求，带动私有云市场的快速发展。
关键挑战：私有云方案需加强异构算力资源管理能力
面对“AI+私有云”的快速崛起，报告指出，提升异构算力资源管理效率将成为私有云发展的一大方向。
随着人工智能应用的规模化落地，政府和行业用户对加速服务器和加速芯片的需求将持续增长，而用户应用智算硬件资源的过程中，往往面临 GPU 故障率高、运维难度高、异构 AI 芯片管理等挑战，也因此对私有云平台在异构资源管理方面的能力提出了更多要求，如：
- 灵活的计算与存储资源调度：在进⾏ AI 应⽤开发时，不同开发组对 GPU 资源的需求量不同，⼀些开发任务也不会完全占⽤⼀块 GPU 卡的资源；在使⽤ AI 应⽤时，不同应⽤对 GPU 和存储的资源需求也不尽相同，且需求量可能变化频繁。这些都要求 IT 基础设施能够灵活切分、调度计算与存储资源，同时⽀持⾼性能 CPU 与 GPU 算⼒，在提升资源利⽤率的同时满⾜不同应⽤/开发任务的资源需求。
- ⾼性能、低时延的存储⽀持：对⾏业⼤模型进⾏微调时使⽤的 GPU 规模⼤，要求存储能够为 GPU 并⾏计算提供⾼性能、低时延的数据⽀持。AI 应⽤的全流程也要⾯对多个数据源的⼤量数据读取/写⼊，源数据通过预处理，可参与到⼤模型的微调和推理过程，并对推理形成的⽂本/语⾳/视频数据进⾏保存和输出。这些⼯作都要求存储具备⾼速写⼊与读取能⼒。
在此背景下，报告强调：提升异构算力资源管理效率将成为私有云发展的重点，这要求私有云平台深度融合跨架构的资源池化抽象、智能调度引擎及全栈监控能力，实现对 CPU、GPU、FPGA 及各类加速芯片的精细化感知、弹性供给与全生命周期管控。
市场格局：多家私有云系统平台领导者厂商增强 AI 支持能力
报告指出，目前私有云系统平台市场的多家领导者厂商，都强化了其私有云方案的 AI 应用支持能力。例如：
- 阿里云飞天企业版已在异构算力池化、推理场景性能优化、AI Studio 平台等方面实现智算升级。
- 华为云 Stack 能够提供算力平台、云服务、开发套件和专业服务等完整的 AI 生产链。
- 志凌海纳 SmartX 榫卯企业云平台可提供完整的 AI 基础设施，包括 AI 应用平台和 AI 应⽤所需的计算、存储、⽹络与安全、集群管理、容器管理等全栈基础设施资源⽀持。企业可以在超融合和裸⾦属环境中实现多种⼤模型的部署，并以⼀套技术栈同时为 AI ⼤模型和企业其他业务系统运⾏提供统⼀的基础设施资源，降低企业成本投⼊和部署运维难度。
针对报告中强调的异构算力资源管理能力，SmartX 榫卯企业云平台全⾯适配 Intel 和多种信创 CPU 以及 NVIDIA、寒武纪、昇腾 GPU，⽀持 NVIDIA GPU 直通和 vGPU 以及寒武纪、昇腾 GPU 直通功能，提供可灵活调度 CPU 与 GPU 资源的综合计算平台，帮助企业用户提高资源使用效率。
更多报告解读与趋势分析，请阅读：《私有云市场高速增长，华为、阿里云、志凌海纳 SmartX等入选领导者象限》
