Pitate li pametni kućni uređaj za vremensku prognozu, trebat će mu nekoliko sekundi da odgovori. Do ovog kašnjenja između ostalog dolazi zato što povezani uređaji nemaju dovoljno memorije ili snage za pohranjivanje i pokretanje ogromnih modela strojnog učenja, potrebnih da uređaj shvati što korisnik od njega traži. Model se pohranjuje u serveru koji može biti stotinama kilometara daleko, gdje se odgovor izračunava i šalje uređaju.

Nova metoda

Istraživači MIT-a stvorili su novu metodu za računalstvo izravno na ovim uređajima, koja drastično smanjuje latenciju. Njihova tehnika premješta memorijski intenzivne korake pokretanja modela strojnog učenja na središnji server gdje su komponente modela kodirane u svjetlosne valove.

Valovi se na povezani uređaj prenose pomoću optičkih vlakana, što omogućuje munjevito slanje tona podataka kroz mrežu. Prijemnik zatim koristi jednostavan optički uređaj koji brzo izvodi proračune koristeći dijelove modela nošene tim svjetlosnim valovima.

Stostruka poboljšanja

Ova tehnika, opisana u časopisu Science, dovodi do više od stostrukog poboljšanja energetske učinkovitosti. To bi pak moglo poboljšati i sigurnost, budući da se podaci korisnika ne moraju prenijeti na središnje mjesto za izračunavanje.

Metoda bi mogla samovozećem automobilu omogućiti da donosi odluke u stvarnom vremenu koristeći pritom samo mali postotak energije koju trenutno zahtijevaju računala gladna energije. Također bi mogao omogućiti korisniku razgovor bez kašnjenja s pametnim kućnim uređajem, koristiti se za obradu videa uživo preko mobilnih mreža ili čak omogućiti brzu klasifikaciju slika na svemirskoj letjelici milijunima milja od Zemlje.

Neuronska mreža Netcast

Arhitektura razvijene neuronske mreže, nazvane Netcast, uključuje pohranu u središnji server, povezan s novim dijelom hardvera, pametnim primopredajnikom (smart transceiver). Ovaj čip veličine palca može primati i slati podatke, a pritom se koristi tehnologijom silicijske fotonike (silicon photonics).

Električni signali utiskuju se u svjetlosne valove. Budući da su podaci o težini kodirani kao bitovi, primopredajnik ih pretvara pomoću lasera koji se uključuje za jedinice i isključuje za nule. Ti se svjetlosni valovi kombiniraju i prenose kroz optičku mrežu pa uređaj klijenta ne treba postavljati upit serveru. 

Visoka preciznost

Kad svjetlosni valovi stignu do klijenta, jednostavna optička komponenta znana kao širokopojasni Mach-Zehnder modulator koristi ih za izvođenje superbrzog, analognog računanja. Prijemnik detektira svjetlost i mjeri rezultat izračuna. Modulator izvodi bilijune množenja u sekundi, što uvelike povećava brzinu računanja na uređaju uz korištenje male količine energije.

Testiranja su pokazala kako Netcast omogućuje strojno učenje s visokom preciznošću: 98,7 posto za klasifikaciju slike i 98,8 posto za prepoznavanje znamenki pri velikim brzinama. Istraživači sad žele postići još bolje performanse i minijaturizirati prijemnik, trenutno velik poput kutije cipela, na veličinu čipa koji bi stao u pametni uređaj poput mobilnog telefona.