AIGC 在 OpenRouter 上测试了下 DeepSeek R1 Distill Qwen 32B ,这可能是目前正常家用AI电脑能跑的效果最好的模型。
它纸面性能数据是超过 o1-mini的、用 unsloth/DeepSeek-R1-Distill-Qwen-32B 的版本,内存消耗可以降到20G内(我记得是16G?)。
测试了下文案能力,效果比起R1完全版,还是天差地别的。感觉不太值得单独为它去搞一块20G+的显卡。
虽然比14B好一些,但依然没有达到能用的地步。还是先用我的16G MacMiniM4 跑 DeepSeek R1 Distill Qwen 14B吧。
PS:llama 70B 的版本对中文真是完全无力啊