
据香港IDC新天域互联了解,在众人AI算力竞争日趋横蛮的配景下,谷歌云(Google Cloud)在最新一届App Dev & Infrastructure峰会上发布重磅新品——新一代云霄超等估量工作Hypercomputer选取六代TPU(张量处治器)Trillium,展现了其在AI基础要津范畴的宏愿。
当作现在浮点运算性能最强的TPU,Trillium的单一集群可提供高达91 exaflops的算力。与旧年发布的TPU v5e比拟,新品在AI模子试验性能上晋升了4倍,推理迷糊量晋升3倍,单芯片峰值估量性能更是晋升了4.7倍。值得收敛的是,在性能大幅晋升的同期,其动力虚耗却减少了67%,体现了谷歌在绿色估量方面的本领构陷。
在执行性能测试中,Trillium在出手Gemma 2-27B、MaxText Default-32B和Llama2-70B等大模子时,性能较上一代TPU v5p晋升超越4倍。从老本效益角度来看,Trillium比v5e跨越1.8倍,比v5p跨越2倍,展现出极具竞争力的性价比。
硬件升级方面,新品在高频内存(HBM)容量和芯片间互连带宽上齐收场了翻倍晋升。通过芯片互连本领(ICI),单个高带宽低延伸Pod最多可扩张至256个芯片,并可通过集会数百个Pod变成包含上万颗芯片的超等估量集群。互助谷歌13 Petabit/s的Jupiter数据中心集聚,可收场接近线性的性能扩张。
除了新一代TPU,谷歌云还推出了多项配套居品:搭载NVIDIA H200 Tensor Core GPU的A3 Ultra VM预览版将于11月推出,其GPU间集聚带宽和LLM推感性能较前代居品晋升1倍;基于自研Arm架构Axion处治器的C4A VM工作也已上线,较传统x86架构VM在性价比和能效方面永诀晋升65%和60%。
在集聚要津方面,新上线的Jupiter光纤交换集聚提供400Gb/s的原生集会速率和13.1Pb/s的对分带宽,据称可处治地球上所有视频图像。同期推出的AI/ML专用存储工作Hyperdisk ML在数据传输速率上达到了1.2TB/s,超越竞争敌手近100倍。
跟着AI本领快速发展尊龙凯时人生就是博,算力需求呈指数级增长。这次谷歌全面升级AI基础要津,不仅展现了其在AI芯片范畴的本领实力,更预示着新一轮算力竞争的到来。在英伟达主导的AI芯片商场中,谷歌能否凭借新品掀开地点,值得商场握续暖和。
