Rubno računarstvo (edge computing) koje pokreće umjetna inteligencija sveprisutno je u našim životima. Dronovi, pametni nosivi uređaji i industrijski IoT senzori opremljeni su čipovima s omogućenom umjetnom inteligencijom kako bi se računarstvo moglo odvijati na "rubu" interneta, odakle potječu podaci. 

Potencijalno rješenje

Međutim, u današnjim čipovima obrada i pohrana podataka odvijaju se na različitim mjestima - računskoj i memorijskoj jedinici. Česti prijenos podataka između tih jedinica troši većinu energije tijekom UI obrade pa je smanjenje prijenosa podataka ključ za rješavanje problema energije.

Inženjeri Sveučilišta Stanford osmislili su potencijalno rješenje, predstavljeno u časopisu Nature: čip otporne memorije s izravnim pristupom (RRAM) koji UI obradu obavlja unutar same memorije, čime se eliminira razdvajanje između računalnih i memorijskih jedinica. Njihov compute-in-memory (CIM) čip, nazvan NeuRRAM, veličine je vrha prsta i obavlja više posla s ograničenom snagom baterije nego što to mogu trenutni čipovi.

Veliki modeli u malom prostoru

Kako bi prevladali usko grlo u kretanju podataka, istraživači su implementirali novu arhitekturu čipa koja izvodi UI računanje izravno unutar memorije, a ne u zasebnim računalnim jedinicama. Memorijska tehnologija koju je koristio NeuRRAM je rezistivna memorija s izravnim pristupom (RRAM). To je vrsta trajne memorije koja zadržava podatke i kad se isključi napajanje. 

RRAM može pohraniti velike UI modele na malom prostoru i troši vrlo malo energije, što ih čini savršenim za rubne uređaje male veličine i male snage.
Arhitektura NeuRRAM-a omogućuje čipu izvođenje analognih proračuna u memoriji uz malu snagu i na kompaktnom području.

Rezultati testova

Ova arhitektura omogućuje i rekonfigurabilnost u smjerovima protoka podataka, podržava različite strategije mapiranja radnog opterećenja umjetne inteligencije i može raditi s različitim vrstama algoritama umjetne inteligencije, bez žrtvovanja točnosti računanja umjetne inteligencije.

NeuRRAM se na testu pokazao 99% precizan u prepoznavanju slova iz skupa podataka MNIST, 85,7% točan u klasifikaciji slike iz skupa podataka CIFAR-10, 84,7% točan u prepoznavanju govornih naredbi, uz 70% manje pogrešaka u rekonstrukciji slike.

Učinkovit, točan, svestran

Tvorce NeuRRAM-a čeka još puno posla, ali kombinirana učinkovitost, točnost i sposobnost obavljanja različitih zadataka pokazuju potencijal čipa.

Kad bi se masovno proizvodili, ovi bi čipovi bili dovoljno jeftini, dovoljno prilagodljivi i dovoljno niske snage da bi se mogli koristiti za unapređenje tehnologija koje već poboljšavaju naše živote, od klimatskih promjena do sigurnosti hrane, kažu istraživači.