【[93星]DeepSeek.cpp：用纯C++实现的DeepSeek大语言模型CPU推理引擎。亮点：1. 无需Python运行时，体积小巧，代码量不到2k行；2. 支持多种数据精度，包括F8E5M2、FP16、FP32等；3. 专为低配CPU设备优化，运行效率高】
'CPU inference for the DeepSeek family of large language models in pure C++'
GitHub: github.com/andrewkchan/deepseek.cpp
大语言模型 CPU推理 C++开发
猜你喜欢
【3评论】【1点赞】
【2评论】【2点赞】
【1评论】【1点赞】
作者最新文章
热门分类
科技TOP
科技最新文章