【国产飞腾CPU完整支持DeepSeek】飞腾官方日前宣布,飞腾腾云S5000C

超大型计算机 2025-02-10 17:18:44

【国产飞腾CPU完整支持DeepSeek】飞腾官方日前宣布,飞腾腾云S5000C、飞腾腾锐D3000处理器已成功实现对DeepSeek全系列大模型的端到端支持,覆盖数据中心和终端场景。 2024年,DeepSeek-V2.5 236B大模型就已经在飞腾腾云S5000C平台成功稳定运行。DeepSeek-V3、R1版本发布后,飞腾第一时间在腾云S5000C、腾锐D3000平台上本地部署验证,形成整体解决方案,构建端到端的国产平台DeepSeek大模型智算环境。 数据中心侧,腾云S5000C服务器可以与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。同时,完整版DeepSeek R1 671B模型采用分布式推理框架,基于四机、32卡AI服务器集群,也已部署成功。 用户终端侧,基于腾锐D3000、银河麒麟V10系统的台式机,可以本地部署DeepSeek-R1 7B蒸馏版模型,再搭配1张国产推理卡,就实现了AI PC能力,能够建立安全可靠的本地知识助手。

0 阅读:34
超大型计算机

超大型计算机

感谢大家的关注