Google je ovoga tjedna, u nizu ažuriranja svojih AI modela, predstavio Gemini Decisions API, novo sučelje za brzo donošenje odluka unutar unaprijed zadanog skupa opcija, koje pokreće novi model Gemini Decision 1. Kako su na službenom blogu objavili iz odjela Google DeepMind, sustav je za sada dostupan putem sučelja Gemini API u razvojnom okruženju Google AI Studio. Namijenjen je zadacima s ograničenim izborom, poput odabira alata, provjere pravila, usmjeravanja modela i ocjenjivanja konteksta, pri čemu u jednom zahtjevu može obraditi jedan zajednički multimodalni unos i do čak tisuću neovisnih pitanja.

Brza procjena opcija

Za razliku od klasičnih jezičnih modela koji odgovor sastavljaju token po token, Gemini Decision 1 oslanja se na nedavno stečenu popularnost modela Jev i sličnih alata. Zadatak mu je evaluirati postavljena pitanja, a potom umjesto generiranja teksta kao odgovora, vraća vjerojatnosti i razinu pouzdanosti. To pak donosi velike koristi u razvoju softvera, jer programskom kodu omogućuje da dvosmislene slučajeve proslijedi rezervnom sustavu ili preusmjeri ljudima na daljnje odlučivanje.

Medijan računalne obrade novog modela iznosi između 50 i 100 milisekundi, dok je ukupna latencija od početka do kraja zahtjeva između 150 i 250 milisekundi za kontekste do 16 tisuća tokena. Ta brzina ostaje gotovo nepromijenjena bez obzira na to postavlja li se u jednom zahtjevu jedno ili stotinu pitanja.

Jeftino odlučivanje

Prema Googleovim mjerenjima na testovima koji obuhvaćaju usmjeravanje agenata, zaključivanje, rangiranje i multimodalno razumijevanje, Gemini Decision 1 ostvaruje vodeće rezultate u usporedbi s modelima Jev 1.14 i GPT-& Luna (Decisions API).

Programeri mogu kombinirati različite formate u istom unosu, primjerice spojiti snimku telefonskog poziva s podacima o korisničkom računu ili skenirani PDF odštetni zahtjev s fotografijama štete Unutar jednog zahtjeva moguće je kombinirati tri vrste odluka: binarnu procjenu "da" ili "ne", višestruki izbor između do 255 ponuđenih opcija te ocjenjivanje prema uređenoj bodovnoj ljestvici.

Korištenje modela stoji tek 10 američkih centi po milijunu ulaznih tokena, dok se izlazni tokeni uopće ne naplaćuju. Zajednički ulazni podaci naplaćuju se samo jednom po zahtjevu neovisno o broju postavljenih pitanja. Zbog toga je ovaj pristup gotovo pet puta jeftiniji od njihovog modela Gemini 3.5 Flash-Lite uz sučelje Interactions API.