独立部署模型对资源具有一定的要求,具体如下:

模型名称 总参数 使用建议

DeepSeek-R1-Distill-Qwen-1.5B

1.5B

西北 3 区 4090 24G * 1

DeepSeek-R1-Distill-Qwen-7B

7B

西北 3 区 4090 24G * 1

DeepSeek-R1-Distill-Llama-8B

8B

西北 3 区 4090 24G * 1

DeepSeek-R1-Distill-Qwen-14B

14B

西北 3 区 4090 24G * 2

DeepSeek-R1-Distill-Qwen-32B

32B

  • 西北 3 区 4090 24G * 4

  • 华北 2 区 H800 80G * 1

DeepSeek-R1-Distill-Llama-70B

70B

  • 西北3区 4090 24G * 8

  • 华北 2 区 H800 80G * 2

DeepSeek-R1

671B

华北 2 区 H800 80G * 16

DeepSeek-V3

671B

华北 2 区 H800 80G * 16