华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

xxn 阅读:29788 2025-02-06 18:02:02 评论:0

IT之家 2 月 6 日报道,华为技术有限公司今日发布公告,宣布其 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 以及蒸馏系列模型的本地化部署与优化。

华为 ModelEngine 是一个集大模型训练、推理及应用开发于一体的 AI 平台,提供涵盖数据预处理、模型训练、优化与部署的全方位服务。此次 ModelEngine 基于昇腾 AI 芯片,通过推理框架的优化以及 MoE 存算协同,提供动态的模型管理和统一的全局缓存,实现高并发推理与低延迟,用户可通过 ModelEngine 体验 DeepSeek 的推理性能。其主要特点包括:

灵活的部署选项:ModelEngine 可以全面支持 DeepSeek 系列模型 R1 & V3 671B 和蒸馏系列模型,开发者可通过 ModelEngine 实现“一键式部署”,避免了硬件选择、兼容性测试和环境配置等繁琐流程,使企业 AI 应用的门槛显著下降。此外,ModelEngine 的高度开放性和模块化设计大幅缩短了 DeepSeek 的本地上线时间。

企业级稳定性:ModelEngine 提供负载均衡、模型安全接入以及多用户配额管理等高级功能,确保大规模生产环境中的稳定操作。某证券公司在引入 DCS AI 全栈解决方案后,运维成本降低了 42%

此外,华为官方还指出,DCS AI 全栈解决方案即将推出 DeepSeek 的体验环境。

IT之家备注:ModelEngine 是华为 DCS(Data Center Stack)全栈 AI 训练与推理的完整工具链,是业界首个采用 AI 流式编程框架的方案,涵盖了从数据处理、知识生成到模型微调、部署,以及 RAG 应用开发等全流程,为数据处理工程师、模型工程师及应用开发者提供开箱即用的 AI 开发体验。

广告声明:文中包含的对外跳转链接(如超链接、二维码、口令等形式)旨在传递更详细信息,节省筛选时间,仅供参考。

声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容