CRAM: hardver koji potrošnju AI energije smanjuje 1000 puta
Na razvoju novog tipa računalne memorije istraživači Sveučilišta u Missouriju radili su više od dva desetljeća

Umjetna inteligencija veliki je potrošač energije pa će se potrošnja za potrebe AI-ja udvostručiti 460 TWh u 2022. na 1000 TWh u 2026. A to je količina električne energije koju trenutno godišnje troši cijeli Japan, pokazuju podaci Međunarodne agencije za energiju (IEA). Stoga ne čudi da se velika pažnja pridaje traganju za energetski učinkovitijim procesom koji bi pritom održao visoke performanse i niske troškove.
Hardverska inovacija
Na tom tragu su istraživači Fakulteta znanosti i inženjerstva Sveučilišta u Minnesoti demonstrirali svoj CRAM, novi model u kojem podaci nikad ne napuštaju memoriju. Ova hardverska inovacija, predstavljena u časopisu Unconventional Computing, obradom podataka unutar memorije smanjuje potrošnju energije umjetne inteligencije za najmanje 1000 puta.
Ovaj projekt temelji se na revolucionarnom, patentiranom istraživanju uređaja s magnetskim tunelskim spojevima (MTJ), nanostrukturiranih uređaja koji se koriste za poboljšanje tvrdih diskova, senzora i drugih mikroelektroničkih sustava, uključujući Magnetic Random Access Memory (MRAM) u mikrokontrolerima i pametnim satovima.
Suluda ideja
"Kao iznimno energetski učinkovit digitalni računalni supstrat u memoriji, CRAM je vrlo fleksibilan i računanje može izvesti na bilo kojem mjestu u memorijskom nizu. Sukladno tome, možemo rekonfigurirati CRAM kako bi najbolje odgovarao potrebama performansi raznolikog skupa algoritama umjetne inteligencije", objašnjavaju istraživači. CRAM izvodi proračune izravno unutar memorijskih ćelija, učinkovito koristeći strukturu polja, što eliminira potrebu za sporim i energetski intenzivnim prijenosima podataka.
Ovo istraživanje trajalo je više od dva desetljeća, a koncept obrade podataka unutar memorijskih ćelija u početku je smatran suludim. No zahvaljujući interdisciplinarnom pristupu koji je uključivao fiziku, znanost o materijalima, računalne znanosti i inženjere koji su proveli postupak od modeliranja i benchmarkinga do stvaranja hardvera, istraživači Sveučilišta u Minnesoti pokazali da je ova vrsta tehnologije izvediva i, kažu, spremna za primjenu u stvarnom životu.