AMD oznámilo, že jej GPU MI325X vyjde koncom tohto roka a že porazí GPU NVIDIA H200 na niekoľkých frontoch.
NVIDIA je súčasným lídrom v predaji čipov pre dátové centrá, odhaduje sa, že má viac ako 70% podiel na trhu s čipmi AI, ale Intel a AMD robia pokroky so svojimi vlastnými ponukami.
Na podujatí Computex 2024 na Taiwane generálna riaditeľka AMD Lisa Su oznámila, že GPU Instinct MI325X bude vydaný koncom tohto roka. AMD hovorí, že jeho nástupca MI300 bude mať väčšiu pamäť a rýchlejšiu dátovú priepustnosť.
AMD získava širšie prijatie svojich čipov dátového centra, pričom spoločnosti ako Microsoft ich začleňujú do svojich služieb Azure Cloud Services, zatiaľ čo Microsoft, Meta a Oracle všetci prijali platformu MI300. Spoločnosť plánuje v roku 2024 tržby vo výške 4 miliardy dolárov.
Su povedal, že MI325X výrazne prevyšuje populárny GPU NVIDIA H200 v kapacite pamäte, šírke pásma a výkone.
MI325X je vybavený až 288 GB pamäte HBM3e a šírkou pásma 6 TB/s. To je viac ako dvojnásobok pamäte NVIDIA H200 s o 30 % rýchlejšou dátovou priepustnosťou.
Dosahuje špičkovú teoretickú priepustnosť 2,6 petaflopov pre 8-bitovú pohyblivú rádovú čiarku (FP8) a 1,3 petaflopov pri 16-bitovej pohyblivej rádovej čiarke (FP16). To je o 30 % viac ako H200.
Jediný server pozostávajúci z ôsmich týchto GPU kombinovaných na platforme Instinct MI325X bude mať dostatok pamäte na spustenie pokročilých modelov AI s až 1 biliónom parametrov, čo je dvojnásobok veľkosti podporovanej serverom H200.
Dnes sme na Computex odhalili viacročný, rozšírený plán akcelerátora AMD Instinct, ktorý prinesie každoročnú kadenciu špičkového výkonu umelej inteligencie a pamäťových schopností každej generácie. pic.twitter.com/PQKyVAnAVW
— AMD (@AMD) 3. júna 2024
Zatiaľ čo NVIDIA H200 je jeho vlajková loď GPU, ktorá je v súčasnosti k dispozícii, Su nespomenul, ako by sa MI325X postavil proti Blackwell GPU NVIDIA sa začne dodávať neskôr v tomto roku.
Špičkové modely Blackwell budú mať až 192 GB pamäte HBM3e so šírkou pásma 8 TB/s. To je o dosť menej pamäte, ale väčšia šírka pásma ako najvyššia ponuka AMD.
AMD hovorí, že zintenzívni vývoj nového GPU s novou rodinou GPU, ktorá sa má vydávať každý rok. To je ono rovnaká kadencia generálny riaditeľ NVIDIA Jensen Huang povedal, že NVIDIA sa zameriava na.
V roku 2050 AMD vydá MI350, ktorý bude využívať 3nm proces a bude využívať architektúru AMD CDNA 4.
Su hovorí, že architektúra CDNA 4 bude generačným skokom vo výpočtovej technike AI, ktorý prinesie 35-násobný nárast výkonu odvodenia v porovnaní so súčasnou architektúrou CDNA 3.
Presun všetkých týchto údajov medzi klastrami GPU a servermi si vyžaduje vysokorýchlostnú sieť. Su na záver svojho prejavu povedala, že „budúcnosť sietí AI musí byť otvorená“.
Oznámila, že minulý týždeň sa AMD pripojilo ku konzorciu spoločností s vysokou výpočtovou technikou s cieľom vyvinúť sieťový štandard s vysokou šírkou pásma a nízkou latenciou na pripojenie stoviek akcelerátorov AI.
NVIDIA nebola pozvaná na účasť na projekte a má svoj vlastný štandard. Su povedal, že štandard UALink bude „skvelou alternatívou k proprietárnym možnostiam“.
Bojové línie AI GPU boli nakreslené s veľmi malou jemnosťou a NVIDIA musí začínať cítiť teplo od AMD a Intelu.
