google母公司Alphabet在11月6日公布，其第七代自研人工智能推理芯片TPU Ironwood将于将来数周内周全开放给企业与开发者利用。这款芯片最早于本年4玉轮相，颠末测试后，现已经进入慢慢部署阶段。google暗示，Ironwood专为处置惩罚AI推理使命而设计，可以或许撑持年夜型语言模子的推理、繁杂的天生式AI以和高吞吐量的及时推理等使命。
按照google云AI与基础举措措施卖力人Amin Vahdat及计较平台卖力人Mark Lohmeyer的先容，Ironwood的峰值机能较前代TPU v5p晋升了10倍，而于推理场景中，其单芯片机能效率较TPU v6e（Trillium）晋升跨越4倍，成为google迄今为止“最强盛、最节能的定制芯片”。此外，Ironwood撑持至多9,216颗芯片互联构成超等算力集群（superpod），显著晋升数据吞吐量与推理速率，帮忙企业冲破年夜模子推理时的带宽与延迟瓶颈。
于现实运用方面，AI年夜模子公司Anthropic规划利用多达100万颗Ironwood TPU来支撑其下一代模子的推理需求。Anthropic今朝同时得到google与亚马逊的投资，被视为google芯片战略落地效果的主要互助伙伴。
与此同时，google还有公布扩大自研Arm架构CPU产物线Axion，并推出多款面向云计较市场的新实例。此中，N4A虚拟机已经进入预览阶段，google称其价格机能比同类x86虚拟机晋升两倍；另外一款C4A裸金属办事器也将很快进入预览，重要用在Android开发、车载体系、严酷授权软件、高密度测试和繁杂模仿等专业场景。
-球友会