一些个人思考

Magicflu小小汪 2024-09-02 20:48:47

2000年在sohu上市之前,我曾经在sohu研发部门任职。今天巧了,看到一个名叫sohu的AI芯片,很牛逼,号称运行速度比英伟达H100快20倍,比下一代Blackwell B200快10倍以上。Sohu芯片是由两位哈佛大学辍学生Chris Zhu和Gavin Uberti创立的Etched AI公司开发的 。就和英伟达当初的理念图形运算应该由专门的芯片来处理一样,这款芯片采用台积电4纳米工艺制造,理念就是专门为Transformer架构设计。Etched AI最近完成了1.2亿美元的A轮融资,用于开发和销售这款芯片。Etched公司宣称Sohu芯片在处理700亿参数的Llama 3模型时,吞吐量可达每秒50万tokens。预计售价:作为高端AI芯片,价格可能会比较高,可能在数万美元到十几万美元之间。参考英伟达H100的价格(约25,000-40,000美元),Sohu芯片的价格可能会在这个范围或更高。

0 阅读:0