如果说deepseek是给英伟达的当头一棒,那清华团队的ktransformer会是对英伟达的致命一击? 现在这个东西还没发酵起来,但据说能在deepseek的基础上再把推理成本降低10倍!现在要本地部署满血版deepseek,需要8张A100起步,有些初创公司都玩不起,但用上ktransformer只需要一张4090显卡。 怎么做到的,原理是融合推理和全系统协调。本质上就是把【GPU】的一部分运算挪到【CPU+内存】上。 这样利好的方向有: 1、内存条,将会涨价。因为人人都用得起AI了,本地端一般用DRAM,而不是hbm,而DRAM是我们强项。(兆易、深科技、北京君正) 2、ai智能体,推理成本下降导致智能体用的人更多。(鼎捷数智、汉得信息)
美国一觉醒来发现,Deepseek并不是最大的敌人。西方和欧洲也傻眼了,因为他们
【8评论】【41点赞】
娇子牌香烟
变通思想才是科技创新的智慧研发思想!!这句话适合每一个科技创新的中国企业!《爱拼才会赢》+变通思想等于超越!!