Nvidia lansirala GenAI "superračunalo" koje stane u dlan

Ovo računalo sposobno je izvoditi mnoge modele generativne umjetne inteligencije, naziva se Jetson Orin Nano Super i košta samo 249 dolara, pa je namijenjeno hobistima, studentima i programerima

Sandro Vrbanus petak, 20. prosinca 2024. u 12:16

Nvidija je predstavila novo minijaturno "superračunalo" specijalizirano za generativnu umjetnu inteligenciju "za po doma". Njihov novi proizvod je kompaktno desktop računalo ne tako jednostavnog naziva: Jetson Orin Nano Super Developer Kit. Riječ je o "nedovršenom" računalu bez kućišta i čvrstih diskova, sklopu koji je primarno namijenjen hobistima, kućnim developerima umjetne inteligencije i studentima, u slučaju da je primarni fokus njihovog rada upravo generativna umjetna inteligencija.

AI modeli – lokalno

Cijelo računalo stane praktički u dlan ruke, donosi do 1,7x bolje GenAI performanse od prethodnika, 70% više računalne snage s 67 INT8 TOPS-a (bilijuna operacija u sekundi) te 50% višu propusnost memorije (102 GB/s). Kao takvo, omogućit će lokalno izvođenje velikih jezičnih modela, difuzijskih, vizualnih i transformerskih modela umjetne inteligencije, rad s AI robotima te sve slične aktivnosti, inače vrlo zahtjevne za klasična kućna računala. Možda i najbolje od svega, Nvidijino novo računalo prilično je povoljno, pa mu je cijena samo 249 dolara.

Hardversku osnovu čine 6-jezgreni 64-bitni procesor Arm Cortex-A78AE v8.2, GPU s NVIDIA Ampere arhitekturom te 1024 CUDA i 32 tenzorske jezgre i 8 GB radne memorije LPDDR5. Tu su i dv apriključka za kamere (MIPI CSI-2 22-pin), dva M.2 slota, četiri USB-A i jedan USB-C utor, Ethernet priključak, DisplayPort, 40-pinski priključak za dodatke te priključak za (neuključeno) napajanje.

Svim vlasnicima novog računala dostupno je i unaprijeđeno programersko okruženje JetPack SDK, koje otključava performanse u radu s GenAI modelima. U blagdanskom ga je duhu javnosti predstavio prvi čovjek Nvidije, Jensen Huang u kratkom videu.