速递|减少英伟达依赖!字节跳动计划向台积电订购数十万块自研5nm芯片,集群性能是H100四倍

IMG_256

根据 The Information 最新报道,字节跳动与台积电合作,计划在 2026 年量产其设计等两款芯片,从而减少对英伟达的依赖。今年以来,字节跳动已经订购了超过 20 万块英伟达 H20 芯片,价值超 20 亿美元,但仍在等待全部交货。H20 性能是 H100 的 1/4,由于美国出口限制,国内厂商需要购买更多 H20 来实现同等算力的单个集群,这无疑增加了成本。根据最新计划,字节跳动将从台积电订购数十万其设计的训练与推理芯片,希望其自有芯片驱动的集群能够以同等成本实现单个 H100 的四倍计算性能,从而节省数十亿美元的开支。今年 6 月,路透社就曾传出字节跳动当时与博通合作开发 5 nm 定制 ASIC 芯片,并交由台积电代工,仅比台积电最先进的 3 nm 工艺落后一代,与英伟达在 3 月份宣布的新一代 Blackwell 架构芯片相同。目前,ASIC 芯片开发具有这些优点:

  • 优化性能:专门针对设定的任务进行定制,提供更高的效率(即 LLM 推理;新闻推送) ;
  • 降低成本:避免使用第三方硬件,从而降低运营成本;
  • 能源效率:定制 ASIC 消耗的电量更少,这对于大型数据中心来说非常重要;
  • 增强安全性:直接控制硬件可增强数据安全性和隐私性;

当然,ASIC 芯片也具有不少缺点,例如前期在设计和制造方面需要投入大量资金,从设计到部署需要较长时间;此外,快速的技术迭代容易造成 ASIC 芯片过时。早在 2022 年,博通便成为了字节跳动的商业伙伴,其公开表示字节跳动购买了其 5nm 高性能交换机芯片以及用于 AI 计算机集群的 Bailly 交换机,定制 ASIC 芯片将帮助平台更好地处理密集型视频任务,优化用户体验与运营效率。Anthropic “第八位联合创始人”:Siri 这类产品不是创业公司机会,AI 在这些电商和社交领域有数十亿美元市场

© 版权声明
THE END
喜欢就支持一下吧
点赞10 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容