DeepSeek热度还没退,LPU强势来袭。 LPU是专门处理语言任务的硬件

疯狂小芯片 2025-02-16 01:20:14

DeepSeek热度还没退,LPU强势来袭。 LPU是专门处理语言任务的硬件处理器,由Groq公司推出。它架构独特,用SRAM,速度比GPU的存储器快约20倍,能效更高。在Meta Llama 2-70B推理任务中,比英伟达H100性能提升10倍,成本降低80% ,处理速度达每秒500 token,比GPT-4快18倍。 国产企业也没落后,无问芯穹研发出基于FPGA的无穹LPU,性价比、能效比出色。DeepSeek-R1性能强、成本低,与LPU结合,会给AI发展带来新突破。未来,LPU甚至可能让个人设备本地就能运行复杂语言模型,太值得期待啦!

0 阅读:5
疯狂小芯片

疯狂小芯片

感谢大家给我点赞关注