在生成式 AI 应用快速演进的背景下，企业在落地大模型时通常面临数据安全、成本、运维等挑战。榫卯 AI 平台应运而生，旨在助力企业在本地环境中安全、高效地管理异构算力资源，部署推理服务，加速生成式 AI 应用的落地。
您可以通过 SmartX AI 平台研发负责人余彦臻的介绍，了解 SmartX 在 AI 基础设施领域的最新进展，以及榫卯 AI 平台的产品价值与特性演示。
产品价值
榫卯 AI 平台采用灵活兼容的架构，支持多种运行环境与 GPU 类型，集成模型管理、算力调度、推理服务及权限治理等核心能力，有效提升 AI 基础设施的使用效率与稳定性，降低资源管理复杂度，强化数据与模型的可控性与安全性，为用户提供以下价值：
与榫卯企业云平台结合，构建完整的 AI 基础设施
伴随开源模型能力的增强以及模型推理部署及使用成本大幅降低的趋势，企业正将人工智能广泛应用于多种业务场景。一方面，企业需要运行各类大小模型以提供实时 AI 推理服务，另外一方面，开发并落地由多智能体协同的新一代应用，以及对现有应用进行智能化升级改造。
AI 应用不是孤立运行的“外挂”模块，而是需要运行在虚拟化、容器、数据、网络等基础设施上。同时，企业的 IT 基础设施必须能将 AI 视为一种原生能力，像管理传统应用一样，统一、高效且稳定地支撑所有新、旧智能负载的运行与创新。
榫卯 AI 平台在设计上原生支持将推理负载作为一种基础负载类型进行管理，而榫卯企业云平台所具备的计算、存储、网络安全、灾备等全栈能力，也为企业 AI 应用落地提供了最佳的基础设施选择。
通过这一融合，用户可以统一构建支持虚拟机与 Kubernetes 集群的基础架构，灵活承载混合 AI 负载，满足多样化模型训练、微调与推理的高性能运行需求。平台配套高性能块存储与文件存储，覆盖 AI 应用全生命周期的数据读写场景，实现从原始数据、标注数据到模型仓库、向量数据库的高效、安全共享与访问。依托应用级微隔离与流量可视化能力，并接入统一的可观测性平台，实现监控、日志、告警的协同管理，构建高可用、可视化、智能化的 AI 生产环境。
目前，该方案已在制造业、电商、医疗、金融等领域成功落地，解决了智能化知识管理、核心业务 AI 赋能等实际问题。展望未来，SmartX 将为 AI 平台注入更多实用能力，让 AI 真正融入业务流程。
