MacMini M4 24G跑deepseek大模型测试,测试了deepseek-r1:14b没压力,吐token速度能满足,到了deepseek-r1:32b,一秒吐3-5个token左右,这个速度不能忍了。
如果是只是想体验本地大模型部署,本地搭建RAG跑跑流程这些,MacMini M4 24G能满足,还有一款零刻GTi14Ultra+官方EX扩展坞的迷你主机,价格还比MacMini M4 24G还便宜,再加块平民显卡,扩展性强。
苹果老用户建议硬盘买512G,256G很快满了,很多人说接个外置硬盘就是能解决,那只是能解决文件存储,应用程序、系统数据、MacOS存不了,我才一天就到了106GB