Ovim alatom možete vidjeti koliko struje troši vaše korištenje AI-ja
Za sve one zabrinute za ekologiju, ali i poklonike umjetne inteligencije, izrađen je prvi alat koji će procijeniti koliko energije je potrošio svaki njihov prompt poslan popularnim jezičnim modelima
Mnogo se u posljednje vrijeme govori o velikog "gladi" za energijom koju pokazuju modeli generativne umjetne inteligencije. Kako bi odgovorili na neka otvorena pitanja, primjerice "koliko energije troši jedan upit ChatGPT-u" ili "koliko košta jedno hvala", stručnjaci Hugging Facea izradili su priručni alat. On nadgleda vaše razgovore s AI chatbotima te procjenjuje koliko je svaki poslani prompt generirao potrošnje električne energije dok je jezični model na njega odgovarao.
Koliki je energetski otisak vaših chatova?
Njihov je alat integriran u sučelje chatbota otvorena kôda Chat UI, u kojem se može popričati s popularnim AI modelima također otvorena kôda, kao što su Metina Llama, Googleova Gemma, Mistralov Nemo ili Microsoftov Phi. Kad na ovom mjestu pošaljete upit nekom od tih modela, on će na njega normalno odgovoriti, ali će vas obavijestiti i o tome koliko je pritom energije utrošeno. Kako bi trošak učinili usporedivim s primjerima iz stvarnog života, osim u kilovatima potrošnja će biti izražena u jedinicama kao što su punjenje mobitela, vožnja automobilom, korištenje kućanskih aparata i slično.
Za primjer, dali smo prva dva odlomka ovog teksta njihovom vlastitom modelu Qwen 2.5 da ih prevede na engleski – akcija je trajala 13 sekundi i pritom potrošila 0,26 Wh energije, odnosno oko 1,37% struje potrebne za jedno punjenje mobitela. Odgovor "hvala" generirao je poduži odlomak teksta o tome što ovaj sustav zaista radi i kako procjenjuje potrošnju, na što je "otišlo" još 0,24 Wh energije – dakle, zahvaljivanje AI alatima očito zaista stvara nezanemarive troškove.
Sve u svemu, zanimljiv alat za one koji se brinu za svoj "energetski otisak" ili žele bolje razumjeti koliko zaista energije troše njihovi razgovori s umjetnom inteligencijom. Jednog dana, smatraju autori ovog rješenja, podaci o utrošku energije na AI alatima mogli bi biti sveprisutni kao što su to danas naljepnice s nutritivnim vrijednostima na hrani.
