Ubrzani tečaj velikih modela strojnog učenja štedi novac i vrijeme

Umjetno lišće koje proizvodi struju iz vjetra i kiše, biorazgradivo staklo i elektronička koža fleksibilna poput krokodilske samo su neki od istraživačkih dosega predstavljenih ovaj tjedan

Mladen Smrekar subota, 25. ožujka 2023. u 06:00

Nije tajna da OpenAI ChatGPT ima neke nevjerojatne mogućnosti poput pisanja soneta koji podsjećaju na Shakespeareove. Ove sposobnosti omogućene su masivnim modelom strojnog učenja na kojem je izgrađen ChatGPT. Problem je što proces obuke uključuje milijarde parametara i dugotrajan rad moćnih računala, a to sve troši i vrijeme i novac. 

Istraživači  MIT-ovog Odsjeka za elektrotehniku ​​i računarstvo i Laboratorija za računalne znanosti i umjetnu inteligenciju (CSAIL) predlažu rješenje: korištenje manjih, prethodno obučenih jezičnih modela. Uz pomoć strojnog učenja, njihova metoda uči "razviti" veći model iz manjeg modela tako da kodira znanje koje je već stekao manji model. 

Okvir koji su razvili istraživači ubrzava obuku novog, većeg modela neuronske mreže korištenjem težine u neuronima starijeg, manjeg modela kao gradivnih blokova
Okvir koji su razvili istraživači ubrzava obuku novog, većeg modela neuronske mreže korištenjem težine u neuronima starijeg, manjeg modela kao gradivnih blokova

Metoda koju nazivaju naučenim operatorom linearnog rasta (LiGO), uči proširiti širinu i dubinu veće mreže iz parametara manje mreže i pritom štedi oko 50 posto računalnih troškova potrebnih za treniranje velikog modela. Uz to, modeli obučeni ovom metodom imaju jednako dobre ili bolje rezultate od modela obučenih drugim tehnikama koje također koriste manje modele.

Model za bolje pozicioniranje košarkaša

Fizikalna teorija koja uspješno predviđa kolektivno ponašanja molekula i vinskih mušica primjenjiva je i na NBA košarkaše. Koristeći ovaj model temeljen na teoriji funkcionala gustoće, može se odrediti optimalna pozicija košarkaša u određenom scenariju. Ovaj matematički model temelji se na metodama nagrađenim Nobelovom nagradom, izvorno razvijenima za proučavanje velikih kolekcija elektrona u kvantnoj mehaničkoj interakciji.

Koristeći ovu metodu treneri bi ubuduće mogli unijeti podatke specifične za momčad ili određenog igrača kako bi razvili najkvalitetniju strategiju
Koristeći ovu metodu treneri bi ubuduće mogli unijeti podatke specifične za momčad ili određenog igrača kako bi razvili najkvalitetniju strategiju

Rad se nadovezuje na istraživanje koje kombinira matematičke koncepte i pristupe iz teorije fluktuacije funkcije gustoće za proučavanje svega, od ponašanja gomile do društvenih fenomena kao što su migracija i segregacija. Ove metode funkcioniraju i kad se analizira igra ​​poput košarke, jer ne gleda igrače pojedinačno, već kako surađuju na terenu.

Elektronička koža fleksibilna poput krokodilske

Razvoj elektroničke kože s više osjetila ključan je za zdravstvenu skrb, rehabilitaciju, razvoj protetskih udova i robotiku. Jedna od ključnih komponenti ove tehnologije su rastezljivi senzori koji mogu detektirati razne vrste dodira i pritiska. Istraživači korejskog POSTECH-a i Sveučilišta Ulsan nadahnuli su se krokodilskom kožom i razvili senzore tlaka s mikro kupolama i naboranim površinama. Tako su dobili svesmjerno rastezljivi senzor tlaka.

Priča o elektroničkoj koži završila je na naslovnici stručnog časopisa Small
Priča o elektroničkoj koži završila je na naslovnici stručnog časopisa Small

Izumom hemisferičnog elastomernog polimera s delikatnim naborima koji sadrži duge ili kratke nanožice, stvorili su uređaj koji nadmašuje trenutno dostupne senzore tlaka. Dok drugi senzori gube osjetljivost kad su izloženi mehaničkim deformacijama, ovaj novi senzor zadržava osjetljivost i kad se rasteže u jednom ili dva različita smjera.

Rastezljivi senzor, predstavljen u časopisima Small i Advanced Science News, prikladan je za širok raspon nosivih uređaja s različitim primjenama, od  protetike, preko meke robotike, do VR-a, AR-a i sučelja čovjek-stroj.

Okretni uređaj osjeća kako se kreće

Novi sustav koji su razvili istraživači s MIT-a omogućuje 3D ispis senzora izravno u pokretne dijelove mehanizma pomoću vodljive niti za 3D ispis. To uređajima daje mogućnost da osjete njihov kutni položaj, brzinu i smjer rotacije. Sustav MechSense omogućuje izradu rotacijskih mehanizama s integriranim senzorima u samo jednom prolazu pomoću 3D pisača za više materijala. 

Senzor je izrađen od četiri pločice vodljivog materijala; tri su otisnuta na nepokretnu ploču, a četvrta na rotirajući plutajući kondenzator. Ovaj kondenzator nije povezan ni s jednim strujnim krugom pa se žice neće zapetljati s rotirajućim komponentama.

Istraživači MIT-a stvorili su sustav koji proizvođačima omogućuje ugradnju senzora izravno u rotacijske mehanizme sa samo jednim prolazom kroz 3D printer
Istraživači MIT-a stvorili su sustav koji proizvođačima omogućuje ugradnju senzora izravno u rotacijske mehanizme sa samo jednim prolazom kroz 3D printer

Nepokretni dijelovi povezani su s elektronikom koja koristi posebno razvijen softver za pretvaranje neobrađenih podataka senzora u procjene kutnog položaja, smjera rotacije i brzine rotacije.

Jeftin uređaj mjeri čistoću zraka

Alat otvorenog koda Senseable City Laba omogućuje ljudima jeftinu provjeru kvalitete zraka. Detektor nazvan Flatburn može se izraditi 3D printanjem ili naručivanjem jeftinih dijelova. Istraživači su ga testirali i kalibrirali u odnosu na postojeće vrhunske strojeve i u časopisu Atmospheric Environment objavili sve informacije o njemu: kako ga izraditi, koristiti i interpretirati podatke.

Mobilni detektor onečišćenja omogućuje jeftinu provjeru kvalitete zraka bilo kada i bilo gdje
Mobilni detektor onečišćenja omogućuje jeftinu provjeru kvalitete zraka bilo kada i bilo gdje

Proveli su i nekoliko pilot projekata diljem svijeta i prototipu poboljšali hardver, softver i protokole. Flatburn je dio većeg projekta, poznatog kao City Scanner, koji koristi mobilne uređaje za bolje razumijevanje urbanog života.

Manipulacija "kvantnom svjetlošću"

Vezana fotonska stanja mogla bi unaprijediti medicinsko oslikavanje niskog intenziteta i kvantno računalstvo. Znanstvenici sa Sveučilišta u Sydneyu i Sveučilišta u Baselu u Švicarskoj pokazali su sposobnost manipuliranja i identificiranja malog broja fotona koji međusobno djeluju, paketa svjetlosne energije, s visokom korelacijom. Ovo revolucionarno postignuće u razvoju kvantnih tehnologija objavljeno je u časopisu Nature Physics.  

Istraživači su izmjerili izravno vremensko kašnjenje između jednog fotona i para vezanih fotona koji se raspršuju na jednoj kvantnoj točki, vrsti umjetno stvorenog atoma. To pak, kažu istraživači, otvara vrata manipulaciji onim što možemo nazvati "kvantnom svjetlošću"
Istraživači su izmjerili izravno vremensko kašnjenje između jednog fotona i para vezanih fotona koji se raspršuju na jednoj kvantnoj točki, vrsti umjetno stvorenog atoma. To pak, kažu istraživači, otvara vrata manipulaciji onim što možemo nazvati "kvantnom svjetlošću"

"Poduzeli smo vitalan prvi korak prema iskorištavanju kvantne svjetlosti za praktičnu upotrebu", kažu istraživači koji najavljuju buduću primjenu u širokom rasponu, od biologije do napredne proizvodnje i kvantne obrade informacija.

Biorazgradivo staklo

Istraživači Instituta za procesno inženjerstvo (IPE) Kineske akademije znanosti razvili su razvili novu vrstu ekološki prihvatljivog, biorazgradivog i reciklirajućeg stakla, proizvedenog od biološki dobivenih aminokiselina ili peptida.

Shematski dijagram konstrukcije biomolekularnog stakla i njegovih jedinstvenih svojstava
Shematski dijagram konstrukcije biomolekularnog stakla i njegovih jedinstvenih svojstava

Koncept biomolekularnog stakla mogao bi biti temelj zelenih tehnologija za održivu budućnost", kažu istraživači, no istraživanje se zasad nalazi u laboratorijskoj fazi i još je daleko od moguće komercijalizacije.

Višenamjenska hidrogel elektroda

U suradnji sa Sveučilištom Tsinghua, istraživači IPE instituta razvili su i višenamjensku hidrogel elektrodu s izvrsnom vodljivošću, adhezijom i svojstvima protiv smetnji, koja bežično prikuplja signale prefrontalne elektroencefalografije (EEG) i o tome izvjestili u časopisu Advanced Materials.

Višenamjensko hidrogel senzorsko sučelje koristi se za učinkovito prikupljanje EEG signala i procjenu razine kontinuirane pažnje
Višenamjensko hidrogel senzorsko sučelje koristi se za učinkovito prikupljanje EEG signala i procjenu razine kontinuirane pažnje

Ovaj višenamjenski hidrogel navodno je izvrsne vodljivosti, prianjanja, fleksibilnosti, elastičnosti i biokompatibilnosti, čime se premošćuje razlika između ljudskog tkiva i elektroda te osigurava učinkovit i stabilan provodni kanal za prikupljanje EEG signala. Senzorske elektrode temeljene na ovom hidrogelu pokazale su izvrsne performanse, dugoročno su stabilne i otporne na znoj i pokrete. 

Umjetni list proizvodi struju iz vjetra i kiše

Kad se lišće pomiče na vjetru, dvije se površine dodiruju i ponovno razdvajaju, stvarajući statički naboj na kutikuli lišća biljke i na uređaju. Ovi se naboji induciraju u unutarnjem staničnom tkivu biljke, gdje stvaraju struju. Ta se struja može prikupiti pomoću elektrode umetnute u biljno tkivo, ali to i nije neka novost. No, sad su talijanski istraživači prvi put ugradili umjetne listove u lišće žive biljke oleandra; pokazalo se da pojedinačne kapi vode mogu stvoriti vršne napone i struje veće od 40 volti i 15 mikroampera i mogu napajati 11 LED svjetala.

Sklop i mehanizam rada hibridnog sustava za žetvu energije vjetra i kiše
Sklop i mehanizam rada hibridnog sustava za žetvu energije vjetra i kiše

Studija, objavljena u časopisu IEEE Robotics and Automation Letters, pokazala je da je prikupljanje energije vjetra i kiše moguće, odvojeno ili istovremeno, što ovaj uređaj čini višenamjenskim skupljačem energije ili senzorom s vlastitim napajanjem. Glavna je prednost ovog sustava što može stvoriti više električne energije u vlažnim uvjetima. 

Fotosintezom do čiste energije 

Istraživači Sveučilišta u Cambridgeu "hakirali" su najranije faze fotosinteze i razvili potencijalni novi način izvlačenja energije iz procesa. Tamošnji fizičari, kemičari i biolozi proučavali su fotosintezu u živim stanicama u milijuntom dijelu milijuntinke sekunde. Koristeći ultrabrze spektroskopske tehnike, otkrili da kemikalije koje izvlače elektrone iz molekularnih struktura odgovornih za fotosintezu to čine to u početnim fazama, a ne mnogo kasnije, kako se ranije mislilo.

Ovo "preusmjeravanje" fotosinteze, opisano u časopisu Nature, moglo bi poboljšati načine na koje se ona nosi s viškom energije i stvoriti nove i učinkovitije načine korištenja svoje snage. Uz to, sposobnost reguliranja fotosinteze mogla bi pomoći usjevima da bolje toleriraju intenzivnu sunčevu svjetlost.

3D printer peče kao pravi chef

Istraživači Sveučilišta Columbia osmislili su način na koji 3D pisači prave kolače od sedam sastojaka. Oni su koristili graham krekere, maslac od kikirikija, Nutellu, pire od banane, džem od jagoda, preljev od višanja i glazuru kako bi umijesili različite oblike kolača. Najuspješniji dizajn uključivao korištenje graham krekera kao temeljnog sastojka za svaki sloj torte. Maslac od kikirikija i Nutella najbolje su korišteni kao potporni slojevi za punjenje filom od mekših sastojaka: banana i pekmez.

Trodimenzionalni sustav ispisa koji može konstruirati tortu od jestive tinte za hranu predstavljen je u NPJ Science of Food Perspective, a autori sugeriraju da bi precizni ispis višeslojnih prehrambenih artikala mogao poboljšati sigurnost hrane i omogućiti korisnicima da lakše kontroliraju sadržaj hranjivih tvari u obrocima.