1 月 8 日消息，在CES 2023展會(huì)上，AMD 披露了面向下一代數(shù)據(jù)中心的 APU 加速卡產(chǎn)品 Instinct MI300。這顆芯片將 CPU、GPU 和內(nèi)存全部封裝為一體，從而大幅縮短了 DDR 內(nèi)存行程和 CPU-GPU PCIe 行程，從而大幅提高了其性能和效率。
這款加速卡采用 Chiplet 設(shè)計(jì)，擁有 13 個(gè)小芯片，基于 3D 堆疊，包括 24 個(gè) Zen4 CPU 內(nèi)核，同時(shí)融合了 CDNA 3 和 8 個(gè) HBM3 顯存堆棧，集成了 5nm 和 6nm IP，總共包含 128GB HBM3 顯存和 1460 億晶體管，將于 2023 年下半年上市。
目前來看，AMD InstinctMI300 的晶體管數(shù)量已經(jīng)超過了英特爾 1000 億晶體管的 Ponte Vecchio，是 AMD 投產(chǎn)的最大芯片。從蘇姿豐女士手舉 Instinct MI300 的照片中我們也可以看到，它的大小已經(jīng)超越半個(gè)人手，看起來相當(dāng)夸張。
AMD 表示，它擁有 9 個(gè)基于 3D 堆疊的 5nm 小芯片(按照此前規(guī)律應(yīng)該有 3 個(gè)是 CPU、6 個(gè)是 GPU)，還有 4 個(gè)基于 6nm 的小芯片，周圍一圈是封裝的 HBM 顯存芯片，總共擁有 1460 億個(gè)晶體管部分。AMD 表示，這款加速卡的 AI 性能比上一代(MI250X)要高得多。
目前 AMD 只公布了這些信息，量產(chǎn)版芯片將于 2023 年下半年推出，屆時(shí)可能還會(huì)有NVIDIA Grace 和 Hopper GPU 等競品，不過應(yīng)該會(huì)比英特爾的 Falcon Shores 更早一些。
從 AMD 代表展示的MI300 樣品來看，這 9 顆小芯片采用有源設(shè)計(jì)，不僅可以在 I / O 瓦片之間實(shí)現(xiàn)通信，還可以實(shí)現(xiàn)與 HBM3 堆棧接口的內(nèi)存控制器之間的通信，從而帶來令人難以置信的數(shù)據(jù)吞吐量，同時(shí)還允許 CPU 和 GPU 同時(shí)處理內(nèi)存中的相同數(shù)據(jù)(零拷貝)，從而節(jié)省功耗、提高性能并簡化流程。
IT之家獲悉，AMD 聲稱 InstinctMI300 可帶來MI250 加速卡 8 倍的 AI 性能和 5 倍的每瓦性能提升(基于稀疏性 FP8 基準(zhǔn)測試)，它可以將 ChatGPT 和 DALL-E 等超大型 AI 模型的訓(xùn)練時(shí)間從幾個(gè)月減少到幾周，從而節(jié)省數(shù)百萬美元的電費(fèi)。
值得一提的是，Instinct MI300 將應(yīng)用于美國即將推出的新一代 200 億億次的 El Capitan 超算，這也代表 El Capitan 在 2023 年完成部署時(shí)將成為世界上最快的超級(jí)計(jì)算機(jī)。
