每年一度的 Hot Chips 是半导体业界最重要的技术会议。在其中,芯片领域专家齐聚一堂,全球芯片厂商也经常选择在这里发布新产品,或是阐述未来的发展方向。
当地时间周一,在斯坦福大学举办的 Hot Chips 2023 上,英特尔首次披露了新一代数据中心芯片「Sierra Forest」,它的每瓦性能较前代提升了 240%,并有望于明年推出。
同时,英特尔首次将旗下数据中心芯片分为两类:一类是 Granite Rapids,专注于高能耗高性能;一类是 Sierra Forest,专注于高能效。
接下来看 Granite Rapids 和 Sierra Forest 这两款数据中心芯片的具体细节。
整体来讲,得益于引入了面积高效的 E 核(能效核),Granite Rapids 和 Sierra Forest 将有望成为迄今为止英特尔 Xeon(至强 )可扩展硬件生态系统中最重要的更新之一。
先来看 Sierra Forest,它是英特尔首款用于数据中心的 E 核 Xeon 可扩展芯片,还是基于 EUV 的 Intel 3 工艺的主导产品。英特尔表示,Sierra Forest 有望于明年上半年上市。同时,Granite Rapids 也采用相同的 Intel 3 工艺。
在设计上,Granite 和 Sierra 都是基于小芯片(chiplet)的设计,依赖通过英特尔 EMIB(Embedded Multi-Die Interconnect Bridge, 嵌入式多核心互联桥接)技术封装在一起的计算和 I/O 小芯片的混合。不仅如此,这次的小芯片设计还有独到之处,使用不同的计算 / IO 小芯片,而不是将「完整的」Xeon 小芯片封装在一起。
这意味着,Granite 和 Sierra 可以共享基于 Intel 7 工艺构建的、通用 I/O 小芯片。
除了共享平台的详细信息外,英特尔还首次提供了 E 核和 P 核(性能核)所用架构的高级概述。正如现在多代 Xeon 的情况一样,英特尔正在利用与其消费部件相同的基本 CPU 架构。
因此,Granite 和 Sierra 可以被认为是解构的 Meteor Lake 处理器,Granite 配备 Redwood Cove P 核心,而 Sierra 配备 Crestmont E 核心。
如前所述,这是英特尔首次尝试为 Xeon 市场提供 E 核。对英特尔来说,这意味着要针对数据中心工作负载调整 E 核设计,与上一代以消费级应用为中心的 E 核心设计大有不同。
英特尔透露,Crestmont 正在提供 6-wide 指令解码路径以及 8-wide 隐退后端。虽然不如英特尔的 P 核心强大,但 E 核心绝不是轻量级核心,英特尔的设计决策反映了这一点。尽管如此,它的设计在芯片空间和能耗方面都比 Granite 中的 P 核心要高效得多。
Crestmont 的 L1 指令高速缓存(I 高速缓存)将为 64KB,是早期设计中 I-cache 大小的两倍。与此同时,Crestmont E-core 系列的新成员可以将这些核心打包成 2 或 4 核集群,这与目前仅提供 4 核集群的 Gracemont 不同。最后,对于 Sierra/Crestmont,该芯片将提供与 Granite Rapids 尽可能接近的指令。这意味着有 BF16 数据类型支持,以及对各种指令集的支持,例如 AVX-IFMA 和 AVX-DOT-PROD-INT8。
同时对于 Granite Rapids,我们有 Redwood Cove P 核心。Redwood/Granite 是 Xeon 处理器的传统核心,对于英特尔来说,变化并不像 Sierra Forest 那样大,但这并不意味着他们没有改进。
在微架构方面,Redwood Cove 获得了与 Crestmont 相同的 64KB I 缓存,容量是其前身的 2 倍。但最值得注意的是,英特尔成功地进一步降低了浮点乘法的延迟,将其从 4/5 个周期减少到仅 3 个周期。像这样的基本指令延迟改进很少见,因此我们总是期盼能够出现。
除此之外,Redwood Cove 微架构还有分支预测和预取等特性,这是英特尔的典型优化目标。它们可以采取的任何措施来改进分支预测(并降低罕见失误的成本),经常会在性能方面带来相对较大的红利。
Redwood Cove 的 AMX 矩阵引擎获得了 FP16 支持,尤其适用于 Xeon 系列,而 FP16 的使用不如已支持的 BF16 和 INT8 那么多,但它总体上改进了 AMX 的灵活性。
对于内存加密的支持也正在得到改进。Granite Rapids 的 Redwood Cove 将支持 2048 个 256 位内存 key,而 Sapphire Rapids 则支持 128 个 key。
虽然现在谈论 Granite Rapids 和 Sierra Forest 的各个 SKU 还为时过早,但英特尔已明确告诉我们,核心数量总体正在增加。Granite Rapids 芯片将提供比 Sapphire Rapids 更多的 CPU 内核(SPR XCC 为 60 个)。当然,Sierra 的 144 个内核将提供更多的 CPU 内核。
在之前的 Xeon 推迟并花费很长时间才将 E 核 Xeon 可扩展芯片推向市场之间,英特尔并没有像以前那样在数据中心市场占据主导地位,因此 Granite Rapids 和 Sierra Forest 将标志着一个重要的拐点,给英特尔数据中心产品的未来发展指明了道路。
我们知道,为互联网和在线服务提供动力的数据中心承载着巨量的算力需求,同时也需要消耗大量电力。最近几年随着 AI 等技术的发展,科技公司正面临提升算力、降低能耗的挑战,这促使芯片公司专注于提升功耗效率。
目前,在数据中心芯片市场,英特尔的份额正一步步被 AMD 和 Ampere(前英特尔高管 Renee James 成立的初创公司)等竞争对手蚕食。
今年,Ampere 和 AMD 都已推出了自己的高效率云计算芯片,Arm 也在本次的 Hot Chips 2023 上提出了 Neoverse V2 平台。竞争愈加激烈的当下,英特尔有危机感在所难免。