Advanced Micro Devices, kalifornijski proizvođač računalnih procesora i srodnih tehnologija, poznatiji pod kraticom AMD, podigao je haubu na svom sljedećem AI akceleratorskom čipu Instinct MI300 i pokazao ga na događanju AMD Advancing AI.

Slaganje čipleta

Riječ je, kažu, o neviđenom podvigu 3D integracije. MI300, čija će inačica pokretati superračunalo El Capitan, slojevita je torta računalstva, memorije i komunikacije visoka tri sloja silicija što omogućava do čak 3,4 puta veće brzine obrade podataka za određene izračune kritične za strojno učenje. 

MI300a slaže tri CPU čipleta (compute complex dies, ili CCD u AMD-ovom žargonu) i šest čipleta akceleratora (XCD-ova) na vrhu četiri ulazno-izlaznih matrica (IOD-a), sve na vrhu komada silicija koji ih povezuje s osam stogova DRAM-a velike propusnosti oko superčipa. U sustavima namijenjenim akceleratorima MI300x zamjenjuje CCD za još dva XCD-a. 

Najveća gustoća

"Ovaj nevjerojatan silicijski skup pruža performanse najveće gustoće koje industrija može proizvesti u ovom trenutku", pohvalili su se u AMD-u.

Integracija se provodi pomoću dvije tehnologije Taiwan Semiconductor Manufacturinga: SoIC sustava na integriranim čipovima koji manje čipove slaže na veće s pomoću hibridnog povezivanja, povezujući bakrene jastučiće na svakom čipu izravno bez lemljenja, te CoWoS čipa na pločici na podlozi koji čiplete slaže na veći komad silicija (interposer).

U jednom paketu

AMD-ova akceleratorska arhitektura CDNA3 dodaje mogućnost računanja sa skraćenim 32-bitnim brojevima nazvanim TF32 i s dva različita oblika 8-bitnih brojeva s pomičnim zarezom. Potonji se koristi za ubrzavanje obuke određenih dijelova transformatorskih neuronskih mreža poput velikih jezičnih modela. Arhitektura uključuje i shemu koja smanjuje veličinu neuronske mreže.

U mnogim računalnim sustavima AI, GPU i CPU su zasebno pakirani čipovi raspoređeni u omjeru 4 prema 1; ovdje su CPU i GPU uključeni u isti paket. MI300a integrira tri CPU matrice dizajnirane za njegovu Genoa liniju i šest XCD akceleratora koristeći AMD Infinity Fabric tehnologiju povezivanja.

GPU čipleti

AMD-ovi dizajneri odlučili su se za koncept kooptimizacije sistemske tehnologije ili STCO. To znači da su raščlanili čip na njegove funkcije i potom se odlučili za koje funkcije je potrebna koja tehnologija proizvodnje.

"Rastavili smo ga na dijelove i zatim ponovno izgradili", objašnjavaju u AMD-u. Iako to čine s već nekoliko generacija CPU-a, ovo je prvi put da je tvrtka napravila GPU čiplete i povezala ih u jedan sustav.