Nije trebalo dugo čekati da se uvidi tko je, metaforički rečeno, slon u sobi, važni problem koji svi znaju ali se o njemu nitko ne usudi prozboriti. Slon je u ovoj priči nestašica specijaliziranih čipova koje proizvodi Nvidia. Pred njenim skladištima u redu strpljivo čekaju sve najvažnije tehnološke kompanije koje se bave umjetnom inteligencijom. Već se pred pet mjeseci pojavila vijest da OpenAI razmišlja o vlastitoj proizvodnju i da traži investitore. Ideja nije bila neočekivana, upitno je bilo kako prikupiti investicije: Sam Altman procijenio je da bi trošak uspostavljanja novih proizvodnih lokacija za poluvodiče, zajedno s potrebnom infrastrukturom, mogao iznositi do nevjerojatnih 7 bilijuna dolara. Jučer je objavljena vijest da je MGX, investicijska tvrtka, s bazom u Abu Dhabiju, ušla je u pregovore sa Samom Altmanom oko proizvodnje poluvodiča specijaliziranih za AI čipove. Ova vijest, kako izvještava Financial Times, ima dvostruku važnost, prvo, da OpenAI ili Sam Altman samostalno, potvrdno ide u proizvodnju hardvera i ima investitore, drugo, odražava opredijeljenost Ujedinjenih Arapskih Emirata da postanu važan igrač u globalnom sektoru umjetne inteligencije ubrizgavanjem enormne svota dolara.

Oskudica i troškovi

OpenAI nije jedini koji se suočava s oskudicom i visokim troškovima grafičkih procesorskih jedinica (GPU-ova), koji su ključni za pokretanje njegovih AI modela, uključujući ChatGPT. Tvrtka se, kao i drugi konkurentni, oslanja na GPU-ove Nvidije, koja dominira s više od 80% globalnog tržišta. Potražnja za procesorima koje trebaju OpenaAI, Microsoft, Meta i Google, odnedavno i Apple, je takva da je podigla vrijednost Nvidije više od Amazona i Alphabeta. Prošle godine Nvidijin promet je narastao 125 posto i iznosio je 60 milijardi dolara. Predviđa se ovogodišnji rast u rangu prošle godine. Sam Altman često napominje nedostatak naprednih procesora i "zapanjujuće" troškove povezane s poslovanjem OpenAI. Producirati ChatGPT je skup biznis. Svaki upit košta otprilike 4 centa, prema analizi Stacyja Rasgona iza analitičke kuće Bernstein. Ako upiti ChatGPT-a narastu na desetinu veličine Google pretrage, to bi zahtijevalo otprilike 48,1 milijardu dolara vrijednih GPU-ova i oko 16 milijardi dolara vrijednosti čipova godišnje kako bi ostali operativni.

„Halo, Nvidia, ovdje Zuckerberg, trebamo 350 tisuća H100 GPU-a"

Pokušaji rješavanja ovisnosti

Osnovni motiv, ne samo OpenAI, leži u želji da se minimizira troškove i smanji ovisnost o Nvidijinim specijaliziranim AI GPU-ima ali, možda važnije, da se osigura stabilna opskrba. I ostali pokušavaju riješiti isti problem. Iako Google koristi NVIDIA H100 GPU-ove za Cloud platformu Vertex AI, i ima pristup NVIDIA DGX GH200 AI superkompjuteru, koji pokreću NVIDIA GHS (Grace Hopper Superchips), pokušava s vlastitim hardverom. Google je razvio svoj TPU v5p, (TPU, skraćeno od "tensor processing unit"), poboljšanu verziju svoje prethodne tehnologije TPU, dizajniranu da znatno ubrza procese treniranja AI-a. U vlastite čipove Google je uložio, procjenjuje se, iznos od dvije do tri milijarde dolara. Amazon je potrošio prošle godine 200 milijuna dolara na sto tisuća Nvidijinih čipova, prema pisanju New York Timesa. On ovisi o Nvidiji  jer koristi vise od 16 tisuća GH200 Grace Hopper superčipova. Iako Amazon razvija vlastite čipove Trainium2 i Graviton4 za treniranje i pokretanje AI modela, i dalje postoji velika potražnja za Nvidia-inim GPU-ovima.

Nvidia čipovi koje Microsoft koristi ili planira koristiti uključuju H100 i H200 Tensor Core GPU-ove, koji pokreću Microsoftove Azure cloud i AI usluge. Međutim, Microsoft također teži razvoju vlastitih prilagođenih AI čipova, Azure Maia AI Accelerator i Azure Cobalt CPU, u projektu kodnog naziva Athena, koji je započe 2019. godine. Plan kompanije Meta za ovu godinu je kupiti 350 tisuća Nvidijinih H100 GPU. Time bi dodali tu količinu već postojećim 600 tisuća H100 GPU. Nvidia H100 GPU navodno košta oko 25.000 do 30.000 dolara po jedinici. Intel se također budi i pokreće neovisnu tvrtku posvećenu generativnoj umjetnoj inteligenciji, Articul8.

Nvidia je još uvijek čvrsto ukorijenjena u sve ove kompanije koje se neće preko noći osloboditi njene ovisnosti koliko god to pokušavali. Posebno je teško očekivati da će se brzo izgraditi nova konkurentska tvornica. Nvidia je partner s kompanijama Foxconn, TSMC, ASML i Synopsys, što omogućuju Nvidiji da iskoristi stručnost, infrastrukturu i proizvodne mogućnosti vodećih tvrtki u industriji. Izgradnja nove tvornice čipova uključuje strateška partnerstva, najnaprednije proizvodne tehnologije, značajna kapitalna ulaganja i pristup specijaliziranom talentu i stručnosti. Osim toga, sedam bilijuna je sedam bilijuna. Pred OpenAI i Samom Altamanom nije lak posao.