Thinking Machines Lab, AI kompanija koju je osnovala bivša tehnička direktorica OpenAI-ja Mira Murati, objavila je istraživački pregled svojih novih "interakcijskih modela" umjetne inteligencije. Prvi je to put da imamo priliku "zaviriti" unutar tajanstvenog startupa, za koji se od početka znalo tek da će se baviti naprednom umjetnom inteligencijom.

Trenutačni modeli

Za razliku od dosadašnjih AI sustava koji rade na principu izmjene redova — gdje korisnik postavlja upit, a zatim čeka da model obradi podatke i generira odgovor — Thinking Machines je osmislio modele za rad u stvarnom vremenu. Njihovi sustavi obučeni su da istovremeno percipiraju audio i vizualne signale te na njih odgovaraju bez uobičajenih pauza, kakve karakteriziraju današnju interakciju s umjetnom inteligencijom.

Srž njihove inovacije leži u "full-duplex" arhitekturi, što znači da model može slušati i gledati dok istodobno govori. Umjesto da konzumira cijeli korisnički unos prije početka generiranja, sustav obrađuje podatke u mikro-ciklusima od 200 milisekundi. Takav pristup omogućuje modelu prepoznati upadice, ispravke usred rečenice ili promjene u vizualnom okruženju, reagirajući na njih trenutno, baš kao što bi to činio čovjek.

Tehnička rješenja

Model TML-Interaction-Small, koji služi kao predvodnik ove tehnologije, koristi sustav mješavine stručnjaka (Mixture-of-Experts) s 276 milijardi parametara. Ključna tehnička prednost je "rana fuzija bez enkodera", koja omogućuje modelu da izravno prima sirove audio i video signale izravno u svoj transformer model. Time se drastično smanjuje latencija jer sustav ne mora koristiti vanjske alate za prevođenje zvuka ili slika u jezik koji model razumije.

Rezultati testiranja pokazuju da ovaj model postiže latenciju od svega 0,4 sekunde, što je značajno brže od konkurentskih sustava poput Googleovog Geminija 3.1 Flash Live (0,57 s) ili GPT-realtime-2.0 (1,18 s). Osim brzine, model posjeduje i izravan osjećaj za protok vremena, što mu omogućuje da prati trajanje određenih procesa ili podsjeti korisnika na zadatke bez potrebe za vanjskim mjeračima vremena.

Dvostruka arhitektura

Kako bi se osigurala ravnoteža između brzine i dubokog razmišljanja, Thinking Machines koristi dvostruku arhitekturu. Dok interakcijski model održava fluidan razgovor i reagira na trenutne promjene, on u pozadini delegira složenije zadatke, poput pretraživanja weba ili naprednog rezoniranja, asinkronom "pozadinskom modelu". Na taj način korisnik ne gubi nit razgovora dok sustav obrađuje zahtjevne operacije, a rezultati se neprimjetno integriraju u dijalog čim postanu dostupni.

Primjene ovakvog sustava nadilaze obične chatbotove. Tvrtka ističe potencijal u medicini, proizvodnji i laboratorijskim istraživanjima, gdje AI može proaktivno reagirati na vizualne podražaje — primjerice, upozoriti na sigurnosni propust u trenutku kad se on dogodi. Trenutačno su interakcijski modeli dostupni samo ograničenom broju istraživačkih partnera, dok se šira javna objava očekuje krajem ove godine.