Nvidijina  GPU Tehnološka  konferencija (GTC) otvorena je jučer u San Joseu, Kaliforniji, i traje još dva dana, Cilj je najaviti niz novih proizvoda i platformi namijenjenih učvršćivanju Nvidijine dominacije na tržištu umjetne inteligencije. Konferenciji prisustvuju developeri, znanstvenici i tehnolozi iz vodećih kompanija, sveučilišta, istraživačkih ustanova i vladinih agencija širom svijeta. Prisutni su who-is-who iz svijeta umjetne inteligencije, OpenAI, xAI, Meta, Google i Microsoft ali i L’Oréal, Lowe’s, Jaguar Land Rover, Shell, Verizon, jer i oni koriste Nvidijine proizvode.

U svom uvodnom izlaganju Huang je najavio je sljedeću generaciju arhitekture čipova Nvidije pod kodnim imenom Blackwell, i povezane proizvode, uključujući najnoviji AI čip kompanije nazvan B200. GPU platforma je nazvana u čast matematičara Davida Harolda Blackwella i nasljeđuje arhitekturu Hopper, koja je pokrenuta prije dvije godine. Novi čipovi su puno su brži i veći od svojih prethodnika, rekao je Huang. Bit će dostupni kasnije ove godine. Analitičari UBS-a procjenjuju da bi novi čipovi Nvidije mogli koštati čak 50.000 dolara, otprilike dvostruko više od onoga što košta prethodna generacija.

Tijekom detaljne tehničke prezentacije, Huang je ilustrirao različite primjene novih čipova u kreiranju i primjeni sustava umjetne inteligencije Predstavio je i nove AI specifične mrežne preklopnike te superračunalne sustave koji integriraju ove nove čipove.

Naglasio je kako bi novi čipovi mogli biti korišteni u treniranju najnovijih i najvećih modela umjetne inteligencije. Ako se koristi dvije tisuće Blackwell GPU-a tijekom približno 90 dana, potrošnja će biti samo 4 megavata. Za usporedbu, isti bi zadatak s prethodnom generacijom čipova zahtijevao upotrebu 8.000 GPU-a i 15 megavata energije u istom vremenskom periodu. Blackwell GPU-ovi sadrže 208 milijardi tranzistora i mogu omogućiti AI modele koji se skaliraju do 10 bilijuna parametara.

Za usporedbu, OpenAI-ov GPT-3 sastoji se od 175 milijardi parametara. Blackwell će biti ugrađen u Nvidia-in GB200 Grace Blackwell Superčip, koji povezuje dva B200 Blackwell GPU-a s Grace CPU-om. Nvidia je objavila da planiraju koristiti Blackwell GPU-ove u Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI i Tesla. Nvidia je također najavila GB200 NVL72 tekuće hlađeni sustav u racku, koji sadrži 36 GB200 Grace Blackwell Superčipova. Sustav je 30 puta jači u usporedbi s njezinim trenutnim GPU-om H100.

Kompanija je također obznanila da će imati i serversku ploču, nazvanu HGX B200, koja povezuje osam B200 GPU-ova. Arhitektura GPU-a Blackwell uključuje šest transformativnih tehnologija za ubrzano računanje. Među značajnim dostignućima su novi Tensor Cores i TensorRT-LLM Compileri, koji zajedno smanjuju operativne troškove i potrošnju energije LLM-a do 25 puta.

Procjenjuju da bi novi čipovi Nvidije mogli koštati čak 50 tisuća dolara, otprilike dvostruko više od onoga što košta prethodna generacija

Huang je, osim predstavljanja novih proizvoda, iznio svoju viziju o budućim tehnologijama koje su još uvijek u razvoju, uključujući pronalazak novih lijekova, genomiku i humanoidne robote. Na pozornici pored njega, na kraju njegovog govora, postrojeno je devet humanoidnih robota različitih izgleda.

Nvidia je na vrhu, kompanija je vrijedna više od 2 bilijuna dolara, odmah iza Applea i Microsofta, Huang  se obogatio, ima oko 70 milijardi ali konkurencija ne spava. Među novajlijama koje izazivaju Nvidiju su startupi u području čipova s imenima poput Cerebras, Groq i SambaNova Systems, kao i poznatiji konkurenti poput Intela i Advanced Micro Devicesa. Pisali smo koliko sadašnji kupci žude za vlastitim čipovima. Ipak, kada vladaš s 80 postotaka tržišta, zasluženo se možeš ponašati kao rock zvijezda.

Više o tehničkim karakteristikama nove platforme, možete pročitati  na stranicama kompanije Nvidia.