Aco Momčilović - GPT 4: Promjene i pitanja koja otvara

Godina obično počne ili završi s raznim vrstama predikcija. Dosad sam pisao o nekim smjerovima razvoja i aplikacija za koje smatram kako je vjerojatno da se dogode u 2023. godini ili nedugo nakon

Aco Momčilović četvrtak, 19. siječnja 2023. u 05:00

Dodatno, htio bih se fokusirati na samo jedan segment tehnologije unutar AI područja, koji se čini posebno zanimljiv. GPT – (Generative Pre-training Transformer) izašao je 2018. godine, u svojoj prvoj verziji. Verzija 3.5, koja se trenutačno koristi, i koja je izazvala mnogo interesa, koristi oko 175 milijardi parametara. Jasno je da je GPT 4, nakon pobuđenog interesa prethodnika, još iščekivaniji, i nagađa se o nekim njegovim parametrima, s obzirom na to da svi detalji još nisu javni. Iako je bilo mišljenja da neće biti značajnih skokova u povećanju broja parametara koje će koristiti, postoje i neke informacije da bi mogao koristiti 170 trilijuna (bilijardi?) parametara, i tako biti stotinama puta "jači" od modela u upotrebi. Naravno, neki su već prije upozorili da veće ne znači nužno i bolje. Znamo da će imati verziju dosadašnje arhitekture, što će vrlo vjerojatno imati za posljedicu i slične greške koje će raditi. Kakva su realna predviđanja o novom sustavu?

Članak dostupan pretplatnicima

Kako bi mogao pročitati cijeli članak, moraš biti prijavljen na Bug.hr sa svojim podacima te imati status pretplatnika.

Mreza 2 / 2023 veljača 2023.