AMD Instinct加速器系列亮相Computex 2024

AMD董事長兼首席執(zhí)行官麗莎Su博士在Computex主題演講中公布了AMD Instinct加速器系列的重大進展。該公司宣布了加速器的擴展多年路線圖，承諾每年改進AI性能和內(nèi)存功能。這標志著人工智能和數(shù)據(jù)中心工作負載的創(chuàng)新新時代。

AMD Instinct MI325X加速器

更新的路線圖以新的AMD Instinct MI325X加速器開始，該加速器將于2024年第四季度上市。該加速器具有288GB的HBM3E內(nèi)存和每秒6 TB的內(nèi)存帶寬。它采用通用基板服務(wù)器設(shè)計，確保與AMD Instinct MI300系列兼容。

MI325X擁有業(yè)界領(lǐng)先的內(nèi)存容量和帶寬，性能分別是競爭對手的2倍和1.3倍。它提供了比競爭對手高1.3倍的計算性能，使其成為AI工作負載的強大工具。

下一代：MI350和MI400系列

繼MI325X之后，AMD Instinct MI350系列將采用全新的AMD CDNA 4架構(gòu)，預計將于2025年推出。該系列將在AI推理性能方面帶來實質(zhì)性飛躍，預計與AMD Instinct MI300系列相比將增加35倍。MI350X加速器將保持通用基板設(shè)計，采用先進的3nm工藝技術(shù)，支持FP4和FP6 AI數(shù)據(jù)存儲器，并具有高達288GB的HBM3E內(nèi)存。

由AMD CDNA“Next”架構(gòu)驅(qū)動的AMD Instinct MI400系列將于2026年發(fā)布。

AMD Instinct MI300X加速器的采用和影響

AMD Instinct MI 300 X加速器已被主要合作伙伴和客戶廣泛采用，包括Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo等。AMD數(shù)據(jù)中心加速計算公司副總裁布拉德·麥克雷迪（Brad McCredie）強調(diào)了MI 300 X加速器的卓越性能和價值主張，并指出了它們在推動人工智能創(chuàng)新方面的重要作用。他說：“隨著我們每年更新產(chǎn)品的節(jié)奏，我們堅持不懈地推進創(chuàng)新步伐，為人工智能行業(yè)提供領(lǐng)導能力和性能，我們的客戶希望推動數(shù)據(jù)中心人工智能培訓和推理的下一次發(fā)展。

AMD AI軟件生態(tài)系統(tǒng)的進步

AMD ROCm 6開放軟件堆棧不斷成熟，使AMD Instinct MI 300 X加速器能夠為流行的大型語言模型（LLM）提供令人印象深刻的性能。在使用八個AMD Instinct MI 300 X加速器和運行Meta Llama-3 70 B的ROCm 6的服務(wù)器上，客戶可以實現(xiàn)比競爭對手高1.3倍的推理性能和令牌生成。

此外，在Mistral-7 B上，一臺配備ROCm 6的AMD Instinct MI 300 X加速器在推理性能和令牌生成吞吐量方面的表現(xiàn)可超過競爭對手1.2倍。

AMD與最大的AI模型庫Hugging Face的合作進一步強調(diào)了生態(tài)系統(tǒng)的穩(wěn)健性。Hugging Face每晚測試700，000個最受歡迎的型號，以確保在AMD Instinct MI300X加速器上實現(xiàn)無縫功能。AMD還在繼續(xù)其與流行的AI框架（如PyTorch、TensorFlow和JAX）的上游工作，以確保廣泛的兼容性和增強的性能。

關(guān)鍵路線圖亮點

在主題演講中，AMD公布了AMD Instinct加速器路線圖的最新年度節(jié)奏，以滿足對人工智能計算不斷增長的需求。這確保了AMD Instinct加速器將繼續(xù)推動下一代前沿AI模型的開發(fā)。

- AMD Instinct MI325X加速器：將于2024年第四季度推出，該加速器將配備288GB HBM3E內(nèi)存，每秒6 TB的內(nèi)存帶寬，以及行業(yè)領(lǐng)先的內(nèi)存容量和帶寬。與競爭對手相比，它的計算性能提高了1.3倍。
- AMD Instinct MI350系列：預計在2025年，MI350X加速器將基于AMD CDNA 4架構(gòu)，并使用先進的3nm工藝技術(shù)。它將支持FP4和FP6 AI數(shù)據(jù)庫，并包括高達288GB的HBM3E內(nèi)存。
- AMD Instinct MI400系列：計劃于2026年推出，該系列將利用AMD CDNA“Next”架構(gòu)，引入新特性和功能，以增強AI訓練和推理性能。

廣泛的行業(yè)采用

對AMD Instinct MI300X加速器的需求持續(xù)增長，眾多合作伙伴和客戶利用這些加速器來處理要求苛刻的人工智能工作負載。

• Microsoft Azure：將MI300X加速器用于Azure OpenAI服務(wù)和新的Azure ND MI300X V5虛擬機。
  -Dell Technologies：在PowerEdge XE9680中集成MI300X加速器，以處理企業(yè)AI工作負載。
  - Supermicro：提供包含AMD Instinct加速器的多種解決方案。
  - Lenovo：ThinkSystem SR685a V3助力混合AI創(chuàng)新
  - HPE：使用MI300X加速器增強HPE Cray XD 675中的AI工作負載。

AMD在Computex 2024上推出了擴展的Instinct加速器路線圖，標志著該公司在人工智能和數(shù)據(jù)中心戰(zhàn)略的重要里程碑，展示了其技術(shù)創(chuàng)新和市場競爭力，同時也為未來的產(chǎn)品發(fā)展和生態(tài)系統(tǒng)建設(shè)奠定了基礎(chǔ)。