CRAM: hardver koji potrošnju AI energije smanjuje 1000 puta

Na razvoju novog tipa računalne memorije istraživači Sveučilišta u Missouriju radili su više od dva desetljeća 

Mladen Smrekar utorak, 30. srpnja 2024. u 12:15
Arhitektura CRAM-a omogućuje pravo računanje u memoriji i pomoću memorije te ruši zid između računanja i memorije kao ključne prepreke u tradicionalnoj von Neumannovoj arhitekturi 📷 University of Minnesota Twin Cities
Arhitektura CRAM-a omogućuje pravo računanje u memoriji i pomoću memorije te ruši zid između računanja i memorije kao ključne prepreke u tradicionalnoj von Neumannovoj arhitekturi University of Minnesota Twin Cities

Umjetna inteligencija veliki je potrošač energije pa će se potrošnja za potrebe AI-ja udvostručiti 460 TWh u 2022. na 1000 TWh u 2026. A to je količina električne energije koju trenutno godišnje troši cijeli Japan, pokazuju podaci Međunarodne agencije za energiju (IEA). Stoga ne čudi da se velika pažnja pridaje traganju za energetski učinkovitijim procesom koji bi pritom održao visoke performanse i niske troškove. 

Hardverska inovacija 

Na tom tragu su istraživači Fakulteta znanosti i inženjerstva Sveučilišta u Minnesoti demonstrirali svoj CRAM, novi model u kojem podaci nikad ne napuštaju memoriju. Ova hardverska inovacija, predstavljena u časopisu Unconventional Computing, obradom podataka unutar memorije smanjuje potrošnju energije umjetne inteligencije za najmanje 1000 puta. 

Hardverski uređaj izrađen po narudžbi planira pomoći umjetnoj inteligenciji da bude energetski učinkovitija 📷 University of Minnesota Twin Cities
Hardverski uređaj izrađen po narudžbi planira pomoći umjetnoj inteligenciji da bude energetski učinkovitija University of Minnesota Twin Cities

Ovaj projekt temelji se na revolucionarnom, patentiranom istraživanju uređaja s magnetskim tunelskim spojevima (MTJ), nanostrukturiranih uređaja koji se koriste za poboljšanje tvrdih diskova, senzora i drugih mikroelektroničkih sustava, uključujući Magnetic Random Access Memory (MRAM) u mikrokontrolerima i pametnim satovima.

Suluda ideja

"Kao iznimno energetski učinkovit digitalni računalni supstrat u memoriji, CRAM je vrlo fleksibilan i računanje može izvesti na bilo kojem mjestu u memorijskom nizu. Sukladno tome, možemo rekonfigurirati CRAM kako bi najbolje odgovarao potrebama performansi raznolikog skupa algoritama umjetne inteligencije", objašnjavaju istraživači. CRAM izvodi proračune izravno unutar memorijskih ćelija, učinkovito koristeći strukturu polja, što eliminira potrebu za sporim i energetski intenzivnim prijenosima podataka. 

Ilustracija koncepta, značajki i mogućih primjena CRAM-a  📷 University of Minnesota Twin Cities
Ilustracija koncepta, značajki i mogućih primjena CRAM-a University of Minnesota Twin Cities

Ovo istraživanje trajalo je više od dva desetljeća, a koncept obrade podataka unutar memorijskih ćelija u početku je smatran suludim. No zahvaljujući interdisciplinarnom pristupu koji je uključivao fiziku, znanost o materijalima, računalne znanosti i inženjere koji su proveli postupak od modeliranja i benchmarkinga do stvaranja hardvera, istraživači Sveučilišta u Minnesoti pokazali da je ova vrsta tehnologije izvediva i, kažu, spremna za primjenu u stvarnom životu.