Došlo je vrijeme da otvorimo već trinaesti po redu Bug Future Show, koji se i ove godine održava u Mozaik Event Centru u Zagrebu. Pred prepunom je dvoranom na scenu ponovno stupio naš tradicionalni šef ceremonije Ivan Šarić i otvorio program, koji će se ove godine odvijati na tri pozornice. Uz keynote predavanja, panel rasprave, fireside chatove i ostale točke na glavnoj pozornici, u dodatnim se dvoranama održavaju specijalizirana predavanja posvećena raznim temama – od održivosti, preko robotike, pa sve do tema iz programiranja i umjetne inteligencije, kakve obično ugošćujemo na .debugu u lipnju.

Nakon otvorenja i nabrajanja svih mogućih nagrada koje posjetitelji BFS-a ove godine mogu osvojiti, Šarić je pozornicu prepustio glavnom uredniku Buga, Miroslavu Rosandiću, koji se u pozdravnom govoru prisjetio ranih dana Buga. Posebnu zanimljivost doživjeli smo u obliku uvodnog videa, koji je priređen na temelju fotografija iz povijesti redakcije časopisa, ali su te fotke oživljene uz pomoć modernih alata umjetne inteligencije kako bi ispričale priču o povijesti i sadašnjosti procesa nastanka tiskanog Buga.

Bijelo hakiranje i AI

Na pozornici smo ove godine prvi puta imali i suvoditelja, jer se Šariću pridružio i novi humanoidni robot Abysalta, koji je pokušao pomoći pri vođenju programa. Nakon otvorenja uslijedio je i službeni početak programa. Prvo keynote predavanje dana održao je Bugov dugogodišnji suradnik Bojan Ždrnja, bijeli haker i jedan od najvećih regionalnih stručnjaka za kibernetičku sigurnost. U svojem je govoru potencirao brzi razvoj umjetne inteligencije, koja danas besplatno, ili uz malu naknadu, obavlja zadaće koje su do prije koju godinu bile nezamislive.

No, Ždrnja kaže da mu je moć AI-ja uvijek povod da razmišlja o tome – kako se to može iskoristiti u loše svrhe. Razjasnio nam je proces nastanka AI modela, ušao je u detalje prikupljanja podataka, treniranja i podešavanja modela, a potom iz teorije prešao u praksu. Od radiologije, preko DeepMindovih postignuća i Nobelove nagrade, pa sve do stvaranja kreativnih uradaka iz domene glazbe – AI se danas koristi svugdje, no nije bez problema. Halucinacije i činjenica da AI modeli "ne znaju što ne znaju", dovode do situacije u kojoj korisnici uvijek moraju provjeravati njegove rezultate.

Ipak, kao glavnu "prijetnju" čovječanstvu naš stručnjak ističe umjetno generirane slike, video i zvuk, koji mogu lako zavarati ljude i zapravo stvoriti nove izazove, s kojima se ne znamo nositi. Došli smo do situacije u kojoj ne možemo vjerovati ničemu što vidimo ili čujemo – povjerenje je, kaže Ždrnja, umrlo s AI-jem. Mi u Hrvatskoj još imamo koliko-toliko sreću, jer barem kod kloniranja glasa AI modeli nisu sasvim dobri u reproduciranju našeg jezika, no korištenje AI-ja kod socijalnog inženjeringa je u porastu, pa se već sada susrećemo s brojnim lažnim pozivima, u kojima se koristi kloniranje glasa

Developeri, prema nekim istraživanjima (a i mišljenju šefa Nvidije) su "gotovi" – programiranje je riješen problem, a AI alati već danas generiraju kod jednak onome koji pišu ljudi. Međutim, nedostatak je i dalje u generiranju nesigurnog koda, u čemu su ljudski developeri još uvijek bolji. Dakle, razloga za brigu (za sada) u IT sektoru ne bi trebalo biti.

Osvrnuo se i na fenomen OpenClawa i mreže Moltbook koja je u nekoliko dana fascinirala javnost, jer se mislilo da su AI agenti na računalima "oživjeli" i počeli stvarati svoju društvenu mrežu, pokretati rasprave i "jadati" se jedni drugima, no ipak se pokazalo da to nije baš tako.