今天在购物平台查了一下,部署一个DeepSeek蒸馏版7B大模型就要2万多,美

成天评科技文化 2025-02-24 22:03:45

今天在购物平台查了一下,部署一个DeepSeek蒸馏版 7B大模型就要2万多,美其名曰DeepSeek一体机。 实在不巧,本人给自己2018年8000元买的笔记本上也部署了一个一样的大模型,一分钱没花,而且还是联网版。 试了一下,好用! 很简单,先下载GGUF格式的大模型,然后在LM Studio里加载,让这个模型作为本地服务器,然后在Cherry Studio里选用联网模式同时调用这个模型。 试一下,先在对话框里输入一通提示词,发现Cherry Studio在联网搜索,调用的LM Studio里的DeepSeek Distill Qwen7B R1模型对联网搜索到的内容推理分析,不一会儿就整理出了结果,还得网页链接,点进去直接可以打开。好用,不收费! 没买一体机,没买服务器,自己就愉快地用上本地部署的DeepSeek大模型。

0 阅读:91
成天评科技文化

成天评科技文化

感谢大家的关注