近期，全国信标委云计算和分布式平台分技术委员会云建设与应用标准工作组医疗行业标准应用推广组（以下简称“云国标医疗推广组”）举办了主题为“DeepSeek 在医疗行业的变革与机遇”的线上闭门研讨会。中国电子化标准化研究院、副组长单位志凌海纳 SmartX 与多位医疗领域专家围绕 DeepSeek 应用情况等话题展开深入讨论。本文将整理嘉宾的分享内容，重点总结医院在部署 DeepSeek 过程中面临的主要挑战与需求、算力平台选择、数据对接与安全考虑等关键问题。
某大型三甲医院 DeepSeek 不同算力平台部署、安全保障等经验分享
某大型三甲医院（以下简称“医院”）尚未将 DeepSeek 模型投入生产，当前主要在做逻辑性方面的场景验证。医院认为 AI 大模型的潜在应用场景包括导诊、分诊、病历录入等，如智能病历管理、辅助诊断、个性化治疗方案推荐等。
基于英伟达平台，医院测试了 70B 和 32B 版本，但精准度不理想，其他小版本并未准备投入生产使用。除 ktransformers 方案，医院曾尝试在英伟达平台上进行量化版 671B 模型的部署，尽管成功运行，但由于部署难度较大，且仅支持单并发，仅能供个人使用，无法全面投入使用。基于昇腾平台，医院部署了 671B 满血版。在精度方面，尽管无法联网搜索，但已能支撑医院行政层面的使用。
该医院的测试全部在云端进行，通过医院专线与运营商互联，避免通过互联网进行访问，降低安全隐患。内部组件之间的交互通过专用的内部接口实现。在对接方面，通过医院已有建设的数据中心和集成平台进行对接。在应用层面，除简单的聊天页面或将智能体嵌入工作站外，医院希望在应用层提供更多辅助功能的对接。
在模型使用过程中，医院将进一步关注数据脱敏、匿名化、安全传输和隐私计算等方面，确保数据安全，并已制定相应的合规与审计机制。
某大型三甲医院 DeepSeek 部署挑战、知识库对接等经验分享
某大型三甲医院在 DeepSeek 部署和应用过程中，主要面临两大问题：首先是算力的严重低估，尽管使用非满血版模型，仍然存在算力不足的挑战；其次，应用场景主要集中在临床领域，尤其是帮助临床医生完成文书工作和进行科研方面的高级 AI 检索。
医院实践中发现，不同版本的 DeepSeek 和前期知识库的工程化布置会直接影响模型的输出质量。原生态模型通过 API 调用时，输出效果可能无法达到官网的展示水平。虽然底层模型可能一样，但对比输出结果仍然有差异。
在知识库方面，医院主要面临的挑战是需要在服务器端和手机端同时部署。临床使用的手持设备（如 PDA 和手机）由于 token 数的限制，无法在长会话中充分理解上下文。在工程实施方面，医院计划整理电子病历等数据库的关系表，进行查询并调试问答流程。对于简单问题，效果较好，但对于复杂的专科问题仍需进一步精调文档以改善体验。
在安全性方面，医院非常重视越权访问问题，采用专线与运营商合作，确保患者信息在上传过程中自动脱敏，防止敏感信息泄露。医院还针对一些敏感话题制定了强制性约束规范。
当前，医院正在积极部署 DeepSeek，并与临床、行政管理和科研人员一起征集和探索应用场景，以便加快应用落地。
在算力获取上，医院在积累经验的同时，在考虑国产的算力，并以租赁投放的方式作为医院当前的主要方案。后续可能逐步转向自建，并根据使用效益增加算力。
某大型三甲医院大模型部署挑战与 AI 应用场景选择经验分享
在部署 DeepSeek 之前，某大型三甲医院已经在 2024 年部署了通义千问模型，目标是基于医院的语料进行生成式病历的训练。DeepSeek 出现后，医院已将所有开源模型，包括满血版和后续的 V3 增强版，基于医院内部的专业平台进行了部署，并进行了多轮测试。
在测试过程中，医院发现当前 DeepSeek 使用主要存在两大问题：首先是“幻觉”问题，即模型在生成病历时，可能会将不同病人的病史混淆。其次是生成病历的时效性问题，尤其是针对门诊这种要求高时效性的场景，现有模型生成速度较慢，无法满足实际需求。
在医疗场景的选择上，医院认为需要有策略地推进 AI 应用，未来可能会将低风险的场景（如行政办公、科研辅助）优先部署，而对于涉及辅助诊疗、患者服务等高风险场景，则需要更加谨慎。
出于安全考虑，医院目前的 AI 部署没有在云上运行，而是在院内的可控环境进行。虽然模型部署在可控环境中，但医院面临着一个大的挑战——数据的敏感性和分类管理。模型可能会接触到敏感数据，如用药和诊疗信息，这些信息的管理和使用必须小心谨慎。医院将结合现有的数据管理体系，确保数据的使用符合信息披露要求并做好安全管控。
某地级市医院 DeepSeek 部署策略、模型选择等经验分享
某地级市医院在选择基础架构时，综合考虑并发效率、与医院信息化系统的整合、成本控制、以及多模态支持和部署的灵活性，最终选择了 RagFlow + SGLang 模式进行本地部署，优化了并发效率并更好地适应医院的结构。针对中小型医院，建议可以采用英伟达的通用模型进行尝试和引用。
由于医院算力资源有限，目前仅有两张 A30 显卡用于多方面的测试，最终选择了 DeepSeek-R1-Distill-Qwen-32B-AWQ 模型制作 AI 智能体，但 32B 模型的输出效果仍不理想，无法用于实际生产，因此医院使用了一些对实际业务影响较小的模型进行线上分析，如合理用药。在病历质控方面，医院计划结合结构化电子病历，采用 SGLang 模型进行 AI 分析，确保病历信息的精确调控。医院也与一些医疗公司合作，尝试部署深层模型。
针对老龄化所带来的描述不清等问题，医院正在与厂商进行合作优化语言识别；同时，医院正致力于打造全形态的 AI 智能体，并通过开源模型对医生进行简单培训，推动 AI 技术融入医疗行为中。
在安全方面，医院采用两套方案：一是推动国产化，正在与国产厂商合作进行本地部署；二是在网络结构上采用逻辑隔离，确保训练与实际使用分开。医院使用相应的 API 防控设备对数据传输进行实时监控，并且定期对部署环境进行安全扫描。
总结
通过以上分享可以看到，在 DeepSeek 部署过程中，医院当前面临的主要挑战包括以下几个方面：
- 算力不足：尽管医院在部署过程中使用了不同的算力平台和模型，但由于算力资源有限，特别是在设备和显卡的配置上，医院无法充分发挥模型的潜力，导致某些模型无法满足生产需求。算力的限制使得医院不得不选择一些对实际业务影响较小的模型进行测试和部署。
- 模型输出质量与“幻觉”问题：在实际应用中，医院遇到模型输出效果不理想的问题，特别是与官网展示的效果差异。某医院还面临“幻觉”问题，即模型生成病历时可能混淆不同病人的病史，影响实际应用中的准确性。
- 多端部署难题：医院需要同时在服务器端和移动端（如 PDA 和手机）部署模型，然而，由于设备上的 token 数限制，模型在长会话中的上下文理解受限，难以实现流畅的互动和知识库的自动积累。
- 应用场景局限性：医院的应用场景主要集中在临床领域，尤其是辅助文书工作和科研检索等任务。由于任务的复杂性，医院在一些精细化的专科问题上需要进一步优化模型和文档，以提高体验和准确性。
- 数据安全和隐私保护：医院非常重视患者信息的安全，尤其是在数据传输和存储过程中，确保脱敏、匿名处理以及安全传输是首要任务。医院采用了专线、API 防控设备及定期安全扫描等多重安全措施，以防止敏感数据泄露。
此外，除发言专家外，参会专家也提到了诸如国产 GPU 与英伟达的差距、算力专网成本高昂，以及医院在应用垂直领域小模型时，面临不同科室需求差异的挑战，这使得小模型无法满足所有需求，且算力承载能力有限，容易导致模型过度发散等问题。医院在与厂商的合作中，面临技术支持不足和对未来规划的依赖，缺乏足够的参与度和自主权，且可能面临按资源收费的问题。
针对以上挑战，云国标医疗行业标准应用推广组将持续关注医疗机构在 DeepSeek 部署过程中的实践经验，积极构建行业交流平台，促进医疗机构与技术厂商之间的沟通与合作。通过分享最佳实践、解决方案和技术支持，推动行业整体发展，帮助医疗机构更好地应对算力、模型应用、数据安全等方面的挑战，推动以 DeepSeek 为代表的 AI 技术在医疗行业的广泛应用与落地。
在 DeepSeek 基础设施层面，SmartX 提供了基于 AI 基础设施的解决方案——以一套技术栈为 DeepSeek 提供包含计算、存储、网络、容器管理、集群管理、网络安全在内的全栈基础设施资源。用户可选择超融合和容器（基于虚拟机或裸金属）两种部署环境，支持包括 DeepSeek-R1-7B 至 671B 在内的多种主流模型，仅需新购带 GPU 的节点，即可快速搭建业务验证环境。
欲深入了解解决方案，请阅读：如何基于 SmartX 超融合满足企业 DeepSeek 快速落地验证需求？云国标医疗推广组也针对医疗行业上云用云发展现状、现存挑战与实践经验开展了广泛的调研，基于 186 份有效问卷数据与 13 家医疗机构的真实反馈，形成了 100+ 页《医疗行业上云用云研究报告》，点击即可免费获取报告全文！
