Kao što ste pročitali u našoj vijesti,  na Computexu su Nvidia i Microsoft predstavili „RTX Spark", navodni superčip koji da „ponovno izmišlja Windows računalo za doba osobnih AI agenata". Zvuči kao nešto novo. Nije. To je GB10 Grace Blackwell, isti onaj čip koji već godinu dana sjedi u Nvidijinu DGX Sparku, onaj koji smo mjesecima uspoređivali s drugim platformama i rješenjima koje omogućavaju korištenje lokalnih modela (ovdje, ovdje i ovdje).

Da stvari budu bizarnije, čak je i priča koja ide uz ovaj „superčip“ reciklirana.

Prije točno dvije godine isti nas je taj Microsoft uvjeravao da nam treba „Copilot+ PC". Sjećate se? Računalo s NPU-om od najmanje 40 TOPS, naljepnica na poklopcu, obećanje da AI sad živi u vašem laptopu.

Završilo je kao fijasko: u 2024. godini takva su računala činila pola posto ukupnog tržišta. Sniženja cijena nisu pomogla, a trećina trgovaca rekla je da takvo računalo iduće godine neće ni držati na polici. Famozna „killer-aplikacija“ koja je sve to trebala opravdati - Recall, koji svakih pet sekundi snima vaš ekran - pokazala se kao sigurnosna katastrofa koja sprema vaše lozinke (brojeve kreditnih kartica, povjerljivi tekst, slike, dokumente…) u običnu, nešifriranu bazu, pa ju je Microsoft povukao uoči lansiranja i vratio gotovo godinu kasnije, posramljen.

Pa ipak, evo nas opet. Ista dva imena, isti ARM Windows, ista „premium“ cijena, ista „eto-sad-stiže-AI" retorika. Samo je naljepnica skuplja.

Brojke koje ništa ne znače

Trik je svaki put isti: idemo staviti neki broj koji djeluje moćno. Prošli put bio je to NPU i njegovih „40 TOPS“ - brojka koju prosječan korisnik nije iskoristio nikada, a niti mu išta znači bez ikakvog konteksta. A konteksta nema jer u stvarnosti NPU ne ubrzava ništa što stvarno radimo već je energetski optimiziran za AI-inferenciju, Problem je što tu inferenciju (AI) ionako odrađuje oblak, ako je ozbiljno koristimo. Egzemplarni slučajevi gdje nam je 40 TOPS dovoljno za lokalnu primjenu su 2024. u Microsoftovim promocijama bili su, recimo, on-the-fly titlovanje sugovornika na Teamsima. (Stvarno? To je prva stvar koju Microsoft misli da treba srediti na Teamsima koji se raspadaju i nikad ne znam koliko mi kad ih pokrenem treba vremena da se stvarno spoje na sastanak zbog milijun bugova koje svaki puta donesu.)
Ili automatsko pisanje transkripta i „kokreiranje slika u Paintu“. Apetitlih!

Ovaj put broj je „128 gigabajta unificirane memorije“, što zvuči impozantno i netko bi pomislio da to može pokrenuti goleme modele.

U stvarnosti - može ih učitati. Pokrenuti ih - može, ali stravično sporo - to smo izmjerili u našim testovima.

Ahilova peta GB10 čipa nije procesorska snaga nego propusnost memorije: svega 273 gigabajta u sekundi koju „novi“ RTX Spark nije popravio. Za svaki ispisani token model mora iz memorije pročitati sve svoje aktivne težine, pa je matematika okrutna i jednostavna. Na našem GB10 uređaju model od 70 milijardi parametara vrtio se na 4,8 tokena u sekundi. Qwen3 od 32 milijarde u punoj preciznosti - 3,8 tokena u sekundi. To znači da na odgovor od pola kartice teksta čekamo dvije minute. Onih 128 gigabajta u koje stane velik model marketinški je broj: kapacitet koji je besmisleno ispuniti modelom jer se stvari usporavaju do besmisla.

Jedino što na tom čipu radi su takozvani modeli tipa MoE (mixture of experts) koji po tokenu aktiviraju tek mali dio sebe - jednog od „eksperata“. Qwen3-30B kod nas je letio na 77 tokena u sekundi upravo zato što efektivno koristi šest, a ne 128 gigabajta. Drugim riječima, čip dobro radi onda kad ne koristi ono što nam prodaju kao jaku stranu čipa.

Najgore tek dolazi

Uzmemo li u obzir cijenu hardvera (amortizacija) i hrvatske cijene struje (vrlo povoljne u usporedbi s ostatkom EU i nebitne za ukupne troškove), milijun ispisanih tokena na velikom modelu na ovom čipu košta vas između 29 i 38 eura. Za usporedbu, isti milijun tokena preko Claudeovog Sonneta stoji 13,95 eura. Dakle: uređaj od četiri i po tisuće eura na velikim modelima je sporiji i dvostruko do trostruko skuplji po tokenu nego da jednostavno platimo AI u oblaku.

Isti problem pokopao je Copilot+. Prodaje nam se „lokalno rješenje“ koje se doslovce ne može mjeriti s niti jednim zadatkom koji AI u oblaku odrađuje, čak i ako zanemarimo činjenicu da su i sposobnosti AI-ja u oblaku nevjerojatno marketinški prenapuhane u odnosu na stvarnost.

Smisla ima u uskom skupu slučajeva - kad nam je privatnost nužna, kad smo offline ili za developere na CUDA-i.

To je toliko „nišno“ tržište da podsjeća na onaj intervju s Einsteinom kad mu je neki novinar rekao da se kaže da njegovu teoriju opće relativnosti trenutno (bilo je to davno) u svijetu razumije možda ukupno troje ljudi. Einstein se zamislio i rekao: pa ne znam koji bi mogao biti treći…

Tko bi mogao biti treći korisnik ovog čipa osim Nvidije i nas koji ga testiramo?

A tek u laptopu…

Vrhunac je namjera da se taj stolni, aktivno hlađeni i memorijski već zagušeni čip ugura u prijenosnik, a sam ima potrošnju od osamdesetak vata. Termalni budžet, naime, ne rješava problem jer problem nije u procesorskoj snazi nego u propusnosti memorije, a ona ostaje istih 273 gigabajta u sekundi bili mi za stolom ili ga držali na koljenima.

Onaj reklamni „jedan petaFLOP" odnosi se na FP4 računicu skrojenu za slajdove; stvarni rad s modelom limitiran je memorijom, ne FLOP-sima. Naša su mjerenja, usput, pokazala da uređaj tijekom rada s velikim modelom vuče svega četrdesetak do pedesetak vata - ne zato što je štedljiv, nego zato što grafička jezgra gladuje čekajući memoriju. Skupi silicij koji većinu vremena nije ni zaposlen, a baterija i 128 gigabajta brze memorije ipak troše svoje.

Pretopljeni sir

Razlika između priče o Copilotu+ i sadašnje priče o RTX Sparku samo je u tome koji nam se broj prodaje: ranije efikasnost NPU-a, danas kapacitet memorije. Sada je „killer-aplikacija“ promijenila ime - nekad je to bio Recall, sad su to „osobni agenti" i OpenShell - ali dokaza da itko to traži i dalje nema. Microsoft i dalje radi isti posao: prodaje priču i softverski sloj na tuđem hardveru. Nvidia samo dovozi čip koji je svejedno trebala negdje plasirati.

I tu metafora s topljenim sirom zapravo pada jer sirane barem pretope sir. Ovdje nema ni toga. Isti GB10 koji se nije probio kao razvojna kutijica za entuzijaste sada dobiva novo pakiranje i rečenicu o „dobu osobnog AI-ja". Hardver je isti, usko grlo je isto, računica je ista. Promijenila se jedino naljepnica.