性能激增20倍，价格大降：手机CPU天梯图预示新GPU革命？

芯片初创公司Etched近日宣布推出了一款针对Transformer架构专用的AISC芯片 "Sohu"，并声称其在AI大语言模型（LLM）推理性能方面击败了NVIDIA最新的B200 GPU，AI性能达到了H100的20倍。这也意味着Sohu芯片将可以大幅降低现有AI数据中心的采购成本和安装成本。目前，Etched公司已就其Sohu芯片的生产与台积电4nm工艺展开直接合作，并且已从供应商处获得足够的 HBM 和服务器供应，以快速提高第一年的生产能力。一些早期客户已经向Etched公司预订了数千万美元的硬件。

一、AI性能超过NVIDIA H100的20倍，是如何做到的？据Etched公司介绍，Sohu是世界上第一个基于Transformer架构的ASIC。根据Etched公司披露的数据显示，一台配备了8颗Sohu芯片的大型服务器每秒可以处理超过 500,000 个 Llama 70B Token，这个数字远远超过同样配置8张NVIDIA H100 GPU加速卡或8张最新B200 GPU加速卡服务器所能处理量级。

然而，这里还是要强调以下点，因为尽管So