AIGC在OpenRouter上测试了下DeepSeekR1Dis

南晴评科技 2025-02-03 13:20:51

AIGC 在 OpenRouter 上测试了下 DeepSeek R1 Distill Qwen 32B ,这可能是目前正常家用AI电脑能跑的效果最好的模型。

它纸面性能数据是超过 o1-mini的、用 unsloth/DeepSeek-R1-Distill-Qwen-32B 的版本,内存消耗可以降到20G内(我记得是16G?)。

测试了下文案能力,效果比起R1完全版,还是天差地别的。感觉不太值得单独为它去搞一块20G+的显卡。

虽然比14B好一些,但依然没有达到能用的地步。还是先用我的16G MacMiniM4 跑 DeepSeek R1 Distill Qwen 14B吧。

PS:llama 70B 的版本对中文真是完全无力啊

0 阅读:34
南晴评科技

南晴评科技

感谢大家的关注