Google objavio aplikaciju za pokretanje AI modela direktno na mobitelu
Google je prošlog tjedna bez velikih najava objavio novu aplikaciju Google AI Edge Gallery koja omogućuje korisnicima preuzimanje i pokretanje različitih AI modela direktno na njihovim pametnim telefonima, bez potrebe za internetskom vezom ili vanjskim uslugama

Google je odlučio na nekonvencionalan pristup lansiranja - umjesto velikih najava, aplikacija je "prokrijumčarena" u javnost kroz razvojne kanale na GitHubu.
Hugging Face modeli na dlanu
Google AI Edge Gallery koristi otvorene AI modele s popularne platforme Hugging Face, što korisnicima omogućuje pristup širokom spektru funkcionalnosti. Aplikacija može generirati slike na temelju tekstualnih opisa, odgovarati na složena pitanja, pisati i uređivati programski kod te obavljati različite druge zadatke vezane uz obradu prirodnog jezika. Ključna značajka aplikacije je potpuna izvanmrežna funkcionalnost. Nakon što korisnik preuzme određeni model, sve operacije se izvršavaju lokalno na uređaju koristeći procesorsku snagu telefona. To znači da korisnici mogu koristiti AI alate čak i u područjima bez mobilne mreže ili WiFi signala.
Performanse aplikacije direktno ovise o hardverskim specifikacijama uređaja. Noviji vrhunski telefoni s više RAM memorije i snažnijim procesorima mogu pokretati veće i složenije modele, dok će stariji uređaji biti ograničeni na manje zahtjevne inačice. Google preporučuje testiranje različitih modela kako bi korisnici pronašli najbolju ravnotežu između funkcionalnosti i performansi za svoj uređaj.
Privatnost kao glavni adut
Lokalno izvršavanje AI modela donosi nekoliko značajnih prednosti u odnosu na tradicionalna cloud rješenja. Najvažnija je privatnost - korisnici ne moraju slati svoje podatke, fotografije ili tekstove na Googleove servere ili bilo koje druge udaljene lokacije. Sve se obrađuje isključivo na korisničkom uređaju. Ova arhitektura posebno je korisna za osjetljive slučajeve korištenja poput analize poslovnih dokumenata, osobnih fotografija ili privatne korespondencije. Dodatno, aplikacija pruža potpunu autonomiju - funkcionira bez obzira na status internetske veze, što je korisno za putnike, osobe u udaljenim područjima ili situacije kada je veza nestabilna.
Google ističe da aplikacija ne prikuplja nikakve korisničke podatke niti šalje informacije o korištenju natrag u tvrtku. Sav sadržaj ostaje lokalno pohranjen i obrađen, što predstavlja značajnu razliku u odnosu na glavne AI servise poput ChatGPT-a ili Google Bard-a.
Jednostavno sučelje s naprednim mogućnostima
Aplikacija nudi intuitivno sučelje organizirano oko nekoliko glavnih kategorija. "Ask Image" funkcija omogućuje korisnicima postavljanje pitanja o fotografijama - na primjer, prepoznavanje objekata, čitanje teksta sa slika ili opisivanje sadržaja. "AI Chat" sekcija pruža razgovorni AI za opće upite i zadatke. Posebno je zanimljiv "Prompt Lab" koji je namijenjen za brze zadatke poput sažimanja dugih tekstova, prepravljanja sadržaja ili prevođenja. Korisnici mogu odabrati između različitih modela ovisno o svojem zadatku - na primjer, Googleov vlastiti Gemma 3n model koji je optimiziran za mobilne uređaje.
Aplikacija omogućuje i preuzimanje dodatnih modela iz Hugging Face ekosustava, što znači da će se lista dostupnih AI alata kontinuirano proširivati. Korisnici mogu eksperimentirati s različitim modelima i pronaći one koji najbolje odgovaraju njihovim potrebama.
Mali modeli, velika budućnost mobilnog AI-a
Googleov korak predstavlja dio šireg trenda u AI industriji - pomak prema "malim jezičnim modelima" (SLM) koji su optimizirani za pokretanje na uređajima s ograničenim resursima. Model Gemma 3 1B, koji je jedna od dostupnih opcija u aplikaciji, zauzima samo 529 MB prostora za pohranu, što je drastična razlika u odnosu na divove poput GPT-4 koji zahtijevaju ogromne serverske farme.
Unatoč manjoj veličini, ovi modeli mogu obraditi cijelu stranicu teksta u manje od sekunde na modernim pametnim telefonima. To ih čini idealnima za ugradnju u mobilne aplikacije gdje je brzina odgovora ključna za korisničko iskustvo.
Industrija već razvija biblioteke i alate specifično oblikovane za optimizaciju AI modela za mobilne platforme. Apple je predstavio svoj Core ML okvir, dok Google razvija TensorFlow Lite. Ove tehnologije omogućuju programerima da ugrade AI funkcionalnosti direktno u svoje aplikacije bez ovisnosti o vanjskim uslugama.
Otvoreni pristup potiče inovacije
Google je aplikaciju objavio pod Apache 2.0 licencom, što znači da je potpuno besplatna za komercijalnu i nekomercijalnu uporabu. Programeri mogu proučavati kod, mijenjati aplikaciju i koristiti je kao osnovu za vlastite projekte bez ikakvih licencnih ograničenja. Tvrtka aktivno poziva razvojnu zajednicu da testira aplikaciju i dijeli povratne informacije. Cilj je stvoriti robusniju platformu koja može poslužiti kao temelj za buduće AI aplikacije na mobilnim uređajima. GitHub repozitorij već bilježi značajnu aktivnost s prijedlozima poboljšanja i izvještajima o greškama.
Ovaj pristup otvorenog koda mogao bi ubrzati prihvaćanje lokalne AI tehnologije i potaknuti konkurente da razviju slična rješenja. Microsoft već eksperimentira s lokalnim AI modelima za Windows uređaje, dok Apple radi na ugradnji AI-a u iOS ekosustav kroz svoje Neural Engine čipove.
Aplikacija je trenutno dostupna za Android uređaje putem GitHub repozitorija kao alfa verzija, dok se podrška za iOS platformu očekuje u bliskoj budućnosti.