号外！又一突发消息 ​英伟达H100秒成渣？被Groq公司的LPU秒成渣？是的，

犀利的小栈说 2025-02-04 17:49:11

号外！又一突发消息 ​英伟达H100秒成渣？被Groq公司的LPU秒成渣？是的，传统的AI处理器格局真的要被改变了。以“软件定义”为理念的新晋AI处理器Groq公司的LPU，不管是在处理效率还是有序性上，都要远远甩传统AI处理器（比如英伟达H100）几条街！ ​在大语言模型的推理（inference）场景上，Groq公司的LPU不仅秒H100，在速度上快了整整10倍，在推理成本上只要H100十分之一，甚至可以做到每秒500个tokens。 ​依靠Groq Cloud的加速，LPU在大模型上的表现比本地更胜一筹，速度能提升18倍。挑战H100等传统AI处理器的Groq LPU，真的有可能成为下一个王者！

0 阅读：929

评论列表

波波沙

波波沙

2
2025-02-04 18:48

硬件Groq LPU快10倍，软件DS快20倍，LPU再嵌入DS，快200倍！

猜你喜欢

犀利的小栈说

犀利的小栈说

感谢大家的关注

作者最新文章

1
女人要嫁人，哪怕丑、懒、蠢、残疾、女同、老等等都能嫁，这些都是小问题 只有一点
2
任何时候，都不要撕破脸。 任何矛盾出现时，永远啊，都不要做那个掀桌子的人。
3
如果说房租和能房贷持平的话，房价就真很难跌了。 现在楼市最大的问题。 还是在于。
4
有时候你不得不怀疑建国和振华真的在搞卧底。 出于美国国家利益所以打压华为，这符
5
川普就职典礼印度外长苏杰生飞了几十个小时到了美国，结果发现自己的位置不在第一排，
6
体制内有个不小的躺平群体，叫机关富太团，主要由领导的女儿、儿媳、夫人、二夫人组成
7
雷军：我决定了，立即招兵买马，人生最后再创一次业 ​张一鸣：谁干的，马上查，通
8
董宇辉年会中抽奖环节不如我们公司，作为公司领导怎么只是一个小奖呢，不靠谱，这个必
9
这回要“排队”买丰田了，仅7天销量破1.8万台，还要啥本田CRV？ ​全新丰田R
10
想要靠房子获得高收益。 就得加杠杆，叠负债。 如果说不加杠杆，那么就算是2015

热门分类

推荐 热榜 军事 NBA 体育 社会 明星八卦 娱乐 财经 科技 汽车 历史 国际 游戏 动漫 公益 搞笑 商业 互联网 数码 国际足球 房产 家居 时尚 科学探索 职场 育儿 股票 教育 影视 情感 热点 中国军情 武器 中国南海 中国足球 亚洲杯 科比 综合体育 CBA 投资 楼市 大咖秀 外汇 创业 风口 SUV 豪车 概念车 优惠 新能源 美国 欧洲 朝日韩 俄罗斯 孕期 街拍 恋爱攻略 婚姻 正能量

娱乐TOP

1
大S生前的最后两条微博
2
大S突然离世，最伤心的10个人1，徐妈妈2，女儿汪希月3，儿子汪希箖
3
章若楠没穿？
4
原来真的有心灵感应！大s生命最后一刻，可能在向汪小菲求救！虽然汪小菲远在泰国，但
5
雷军第一个在社媒悼念大S。发现一个现象，大S突然离世，内地的艺人，没有一个发
6
大S虽然日本病逝了，但是有一个人估计会被捧上神坛了，这个人就是——————曾经给
7
大S去世后，留下多少遗产？第一，台北豪宅两套，价值约1亿多人民币；北京四合院一套
8
央视首播《六姊妹》，入木三分，顿时打开了一定年纪的人的记忆，又是一部中老年人喜欢
9
48岁的大S，一生爱过的4个男人：1、汪小菲，4个男人里面最有钱的，还给她买了在
10
大S到死都不知道，自己看人的眼光有多差！在她最难熬的那个晚上，她最爱的妈妈和她

娱乐最新文章

1
央视首播《六姊妹》，入木三分，顿时打开了一定年纪的人的记忆，又是一部中老年人喜欢
2
大S到死都不知道，自己看人的眼光有多差！在她最难熬的那个晚上，她最爱的妈妈和她
3
原来真的有心灵感应！大s生命最后一刻，可能在向汪小菲求救！虽然汪小菲远在泰国，但
4
大S虽然日本病逝了，但是有一个人估计会被捧上神坛了，这个人就是——————曾经给
5
大S中了流感不幸离世，但是还好她留了3个后手第一个后手，在跟光头再婚前，就做了财
6
大S去世后，留下多少遗产？第一，台北豪宅两套，价值约1亿多人民币；北京四合院一套
7
大S去世后，她的韩国老公具俊晔陷入了两难境地。如果大S生前没写遗嘱，具俊晔可能连
8
雷军第一个在社媒悼念大S。发现一个现象，大S突然离世，内地的艺人，没有一个发
9
大S突然离世，最伤心的10个人1，徐妈妈2，女儿汪希月3，儿子汪希箖
10
大S生前的最后两条微博