看到个本地部署无蒸馏完整Deepseek R1的硬件配置单，总成本6000美金。
主板：Gigabyte MZ73-LM0 或 MZ73-LM1
CPU：2x AMD EPYC 9004 或 9005 CPU
内存：24 x 32GB DDR5 RDIMM
机箱：Enthoo Pro 2 Server
电源：Corsair HX1000i
散热器：CoolServer AMD SP5-4U M97
跑大模型，主要是内存需求高。这个配置大概能做到6-8 tokens/s。
看到个本地部署无蒸馏完整DeepseekR1的硬件配置单，总成本6000美金。
特特新车
2025-01-31 08:47:22
0
阅读：1
