快科技2月5日音信，本日，华为通告，DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro崇拜上线昇腾社区开云kaiyun中国官方网站，复古一键赢得DeepSeek系列模子，复古昇腾硬件平台上开箱即用。

据了解，DeepSeek-V3首个版块于2024年上线并同步开源，为自研MoE模子，671B 参数，激活37B，在14.8T token上进行了预进修。

据DeepSeek先容，DeepSeek-V3多项评测收获超过了Qwen2.5-72B和Llama-3.1-405B 等其他开源模子，并在性能上和宇宙顶尖的闭源模子GPT-4o以及Claude-3.5-Sonnet不分昆仲。

以下以Deepseek-V3为例，演示在昇腾社区怎么高效赢得模子及使用

一、硬件条件

部署DeepSeek-V3模子需竖立4台Atlas 800I A2（8*64G）奇迹器资源

二、模子调用履行

1、权重颐养

GPU：

NPU：

2、加载镜像

在昇腾社区/成立资源下载适配DeepSeek-V3的镜像包：

mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

完成之后，请使用docker images号召阐明查找具体镜像称号与标签。

3、容器动手

提供的MindIE镜像预置了DeepSeek-V3模子推理剧本，从您信任的起原自行赢得权重后，摒弃在从上述下载的模子代码的主目次下，修改模子文献夹属组为1001，奉行权限为750，动手容器。

4、奇迹化测试

竖立奇迹化环境变量，expandable_segments-使能内存池推广段功能，即捏造内存特质。

修改奇迹化参数

拉起奇迹化

出现“Daemon start success!”，则以为奇迹告捷动手。

【本文范围】如需转载请务必注明出处：快科技

职守裁剪：拾柒