Na koji način bi se dokazalo da je AI svjestan svog postojanja...a da to nije samo lažni odgovor pokupljen s interneta savršeno prezentiran od AI-a...toliko savršeno da nema razlike
HCMAA na drugoj stranici ovoga posta Top 10 tehnoloških youtubera vrijednih gledanja (Komentari članaka na Bug.hr) @ Bug.hr Forum sam napisao komentar vezan uz AI gdje se vidi konverzacija sa tekstualnim AI-jem gdje je on sam "svjestan" svoga postojanja ali na razini onoga sto je naucio tj. na temelju algoritama, modela i podataka on moze nam ponuditi priblizno suvisle odgovore no definitivno je ogranicen no vremenom ce se kako bude ucio tj. kako ce dobivati nove algoritme, modele i podatke biti "pametniji" no sumnjam da ce moci autonomno uciti.
Smatram da do autonomnog AI-ja ce proci jos nesto vremena jer uz sve umrezena racunala u cloudu moraju moci paralelno obradjivati, spremati podatke, algoritme i modele koje ce u kako kojem momentu moci i znati upotrebljavati. Smatram da dok se ne napravi umjetni mozak na nivou neuronske mreze i ne poveze sa jos jednim takvim ovo sve do tada je samo igranje u kreiranju AI-ja, stvarni AI ce biti puno kompleksniji te ce trebati podosta vremena da nauci sve sto je napisano u zadnjih 5000 godina a onda samostalno pocne uciti i raditi algoritme i modele prema primjenjenim podacima koje ce imati pohranjene. Resursi potrebni za tako nesto definitivno ce biti ogromni ako uzmemo da sadasnje poimanjem ChatGPT AI-ja trenutno koristi izmedju 64GB i 512GB rama uz vise procesora tipa Xeon i Teslinih GPU-ova.
Samosvijest ćemo moći naslutiti kada sam model koji stoji iza ekrana bude građen na taj način. Trenutni GPT je statistički generativni jezični model, dakle on na temelju korpusa od nekoliko bilijuna riječi gleda koji odgovor bi bio najznnačajniji na tvoje pitanje. Potom ga generira riječ po riječ, uz određenu dozu nasumičnosti (dobar primjer je playground). Dakle ChatGPT je posvuduša, populist, priča ono što je najvjerojatnije da bi čovjek rekao u toj situaciji: ako je 10 ljudi na problem "napravi mi web stranicu" dalo odgovor X, onda će i on dati nekakav agregirani X1 koji je vrlo sličan ovom X kojeg su dali ljudi.
Takav model može biti vrlo uvjerljiv (A Conversation With Bing’s Chatbot Left Me Deeply Unsettled), ali ne može imati vlastitu svijest jer ta svijest arhitekturalno nema gdje postojati
Kada model bude izgrađen tako da ima svoje "stavove" ili "misli", tj daje ti odgovore na temelju nečeg drugog (svojeg "ja") osim suhe statistike, tada će tek postojati uopće mogućnost da to bude AGI. Iako će i tada tek AGI razviti onaj model koji je svjestan sebe, ima pristup internetu, zna rješavati probleme, sam sebe ispitivait detalje, raščlanjivati probleme na manje, uočiti kada je napravio grešku itd itd.
Samosvijest ćemo moći naslutiti kada sam model koji stoji iza ekrana bude građen na taj način. Trenutni GPT je statistički generativni jezični model, dakle on na temelju korpusa od nekoliko bilijuna riječi gleda koji odgovor bi bio najznnačajniji na tvoje pitanje. Potom ga generira riječ po riječ, uz određenu dozu nasumičnosti (dobar primjer je playground). Dakle ChatGPT je posvuduša, populist, priča ono što je najvjerojatnije da bi čovjek rekao u toj situaciji: ako je 10 ljudi na problem "napravi mi web stranicu" dalo odgovor X, onda će i on dati nekakav agregirani X1 koji je vrlo sličan ovom X kojeg su dali ljudi.
Takav model može biti vrlo uvjerljiv (A Conversation With Bing’s Chatbot Left Me Deeply Unsettled), ali ne može imati vlastitu svijest jer ta svijest arhitekturalno nema gdje postojati
Kada model bude izgrađen tako da ima svoje "stavove" ili "misli", tj daje ti odgovore na temelju nečeg drugog (svojeg "ja") osim suhe statistike, tada će tek postojati uopće mogućnost da to bude AGI. Iako će i tada tek AGI razviti onaj model koji je svjestan sebe, ima pristup internetu, zna rješavati probleme, sam sebe ispitivait detalje, raščlanjivati probleme na manje, uočiti kada je napravio grešku itd itd.
Zato je i ime članka "....alat za koji neki tvrde da je prvi korak" - a sa obzirom kako smo brzo došli do ovog prvog koraka, nebi me čudilo da kroz par godina ovakav AI izbaci (ili dosta smanji njihov broj) ljude iz poprilično zanimanja.
Sad dali će to ići u pravcu Star treka gdje će ljudi uživat u plodovima automatizacije, ili u smjeru Terminatora, samo vrijeme će pokazat.
Zato je i ime članka "....alat za koji neki tvrde da je prvi korak" - a sa obzirom kako smo brzo došli do ovog prvog koraka, nebi me čudilo da kroz par godina ovakav AI izbaci (ili dosta smanji njihov broj) ljude iz poprilično zanimanja.
Sad dali će to ići u pravcu Star treka gdje će ljudi uživat u plodovima automatizacije, ili u smjeru Terminatora, samo vrijeme će pokazat.
S obzirom koliko se ljude truje kroz GMO hranu, oneciscenje zraka te demoralizacija kroz woke propagande - ne vidim da cemo dozivjet harmoniju...
...itd.
Zato je i ime članka "....alat za koji neki tvrde da je prvi korak" - a sa obzirom kako smo brzo došli do ovog prvog koraka, nebi me čudilo da kroz par godina ovakav AI izbaci (ili dosta smanji njihov broj) ljude iz poprilično zanimanja.
Sad dali će to ići u pravcu Star treka gdje će ljudi uživat u plodovima automatizacije, ili u smjeru Terminatora, samo vrijeme će pokazat.
Problem je što mnogi ne razumiju kako funkcioniraju trenutni modeli, pa im pripisuju ljudske karakteristike. Model zna biti jako uvjerljiv jer ti govori stvari koje želiš čuti, odnosno stvari koje bi ti čovjek rekao.
Ali on i dalje statistički reciklira najpoznatije rečenice, zato ne može biti "pametan", sve dok ne razvijemo arhitekturalno drugačije modele
Ako će i baba Milka moći napraviti svoju web stranicu za prodaju jagoda i jaglaca.... Skraćeno ispada da svi "umni" poslovi postaju sve više nepotrebni, a u nestašici strukovnih majstora rekao bih da će uskoro isti postati viši srednji stalež. Prljavim rukama do novca, penkalom do burze rada.
Strukovnjaci su već nekoliko godina došli u višu poziciju na tržištu rada. Osobno nemam ništa protiv toga, struku treba platiti.
A s druge strane, da, intelektualni rad postaje sve manje bitan, profesori se odavno ne cijene, a sada s ovim AI modelima bit će to i gore. Baš slušam nekidan neke likove kako likuju nad (mogućom) sudbinom programera u budućnosti...
Ako će i baba Milka moći napraviti svoju web stranicu za prodaju jagoda i jaglaca.... Skraćeno ispada da svi "umni" poslovi postaju sve više nepotrebni, a u nestašici strukovnih majstora rekao bih da će uskoro isti postati viši srednji stalež. Prljavim rukama do novca, penkalom do burze rada.
Mislim da je više do toga da neke stvari koje su do sada se smatrale jako high tech, više neće biti. Jer recimo sada da bi došao do web stranice morao bi platiti x stotina/tisuća eura nekoj firmi, ili nekom freelanceru manji iznos, a sada će ljudi moći napraviti besplatno.
Sa druge strane, visoko kvalitetne i kompleksne stranice i dalje će raditi programeri, tako da oni neće ostati bez posla, ali će oni koji sada rada copy/paste siteove biti u problemima (moraju ići level up i naučiti raditi kompleksnije stvari)
Pod uvjetom da pristup toj tehnologiji bude i ostane besplatan... U što duboko sumnjam. 
Ako će i baba Milka moći napraviti svoju web stranicu za prodaju jagoda i jaglaca.... Skraćeno ispada da svi "umni" poslovi postaju sve više nepotrebni, a u nestašici strukovnih majstora rekao bih da će uskoro isti postati viši srednji stalež. Prljavim rukama do novca, penkalom do burze rada.
Mislim da je više do toga da neke stvari koje su do sada se smatrale jako high tech, više neće biti. Jer recimo sada da bi došao do web stranice morao bi platiti x stotina/tisuća eura nekoj firmi, ili nekom freelanceru manji iznos, a sada će ljudi moći napraviti besplatno.
Sa druge strane, visoko kvalitetne i kompleksne stranice i dalje će raditi programeri, tako da oni neće ostati bez posla, ali će oni koji sada rada copy/paste siteove biti u problemima (moraju ići level up i naučiti raditi kompleksnije stvari)
Djelomično si u pravu, ali mislim da precjenuješ prosječnog čovjeka. Dio šalabajzera će izgubiti posao, ali dio će koristiti ChatGPT da rade copy paste jednostavnih stranica za ljude koji to ne znaju.
Postoji cijeli pokret, tzv. hustleGPT, gdje ljudi pokušavaju uz 0 napora (uz GPT kao osobnog roba) stvoriti profitabilni biznis. Tipa:
Naravno, posljedica jest devaluacija svega navedenog: stranica, dropshippinga, kvalitete takvih majica i takvih biznisa općenito itd itd.
Na koji način bi se dokazalo da je AI svjestan svog postojanja...a da to nije samo lažni odgovor pokupljen s interneta savršeno prezentiran od AI-a...toliko savršeno da nema razlike
IMHO teško bi mogli dokazati samosvijest AI-a, pogotovo ako je on superinteligentan (pod tim se misli na sve iznad ljudske razine inteligencije) i ako on/ona procjeni da ima (za njega opravdan) razlog da nam to zataji.
No čini se da samosvijest nije nužna za dostizanje superinetligencije. Npr. AlphaGo je je superinteligentan (istina u jednom uskom području) no gotovo je sigurno da AlphaGo nema ni natruhu samosvijesti.
Recimo Yuval Noah Harari u knjizi Homo Deus u kojoj pokušava predvidjeti smjerove razvoja u našoj ne tako dalekoj budućnosti završava ovako:
...
Dakle, uzmemo li u obzir sve što se događa u našemu kaotičnom svijetu, na što bismo se trebali usredotočiti?...
... kad je riječ o doista široku pogledu na život, sve druge probleme i promjene zasjenjuju tri međusobno povezana procesa:
Ta tri procesa podrazumijevaju tri najvažnija pitanja za koja se nadam da će vam ostati u sjećanju dugo nakon što ste završili s čitanjem ove knjige:
Na koji način bi se dokazalo da je AI svjestan svog postojanja...a da to nije samo lažni odgovor pokupljen s interneta savršeno prezentiran od AI-a...toliko savršeno da nema razlike
Kad odgovori "Ma nabijem te više s pitanjima" znaš da je postao svjestan svog postojanja
Na koji način bi se dokazalo da je AI svjestan svog postojanja...a da to nije samo lažni odgovor pokupljen s interneta savršeno prezentiran od AI-a...toliko savršeno da nema razlike
Na isti nacin kako ti (ili bilo koji covjek) mozes dokazati da si svjestan svog postojanja. Nikako. 
Kada AI pita čovjeka o sebi. To je trenutak kojeg nitko ne želi vidjeti. Tu već pričamo o singularnosti i ode sve u 3PM.
Its just the way of it, son. We all sell our souls sooner or later.
Pitao sam AI i dobio odgovor
"Mi koristimo AI, jer smo mi ljudi ti koji ga programiraju i koriste za rješavanje raznih problema. AI je alat koji se može koristiti za pomoć u donošenju odluka, automatsko prepoznavanje uzoraka,
analizu podataka i mnoge druge stvari, ali uvijek je u konačnici čovjek taj koji koristi te rezultate u svoju korist.
Međutim, budući da je AI sposoban učiti i prilagođavati se, važno je da se koristi odgovorno i da se razvija na način koji će pridonijeti dobrobiti ljudi i društva općenito."
Na dosta mjesta se več govori da je ovo prva velika revolucija nakon industrijske revolucije, kada je more ljudi ostalo bez poslova jer su to strojevi brže i bolje napravili. Ali sa vremenom smo se prilagodili, tako da sam uvjeren da će i ovdje bit jako slično. Da, dosta poslova će postat marginalnih ali otvorit će se isto tako novi poslovi, sad je samo pitanje koliko dugo će trajat taj proces.... i naravno oče li nas Švanceneger doć spasit ili pobit 
Its just the way of it, son. We all sell our souls sooner or later.
Većina naših razmišljanja radi po tom principu kao navedeni program. Skupljamo informacije i poglede na svijet od ljudi oko nas i tako stvaramo svoju sliku svijeta. Koliko koristite fraza kojima ste bilo izloženi više godina? I taj ChatGPT je treniran od strane kreatora koji mu zabranjuju komentiranje određenih tema. Kao malo dijete koje ide u svijet i roditelj mu usađuje svoje vrijednosti prije nego krene u socijalizaciju s ostalim sudionicima.
autogpt kao takav je isto oruđe... Kao kad ovi startrekovci narede holodecku da stvori plažu, palme i 2 žene s dobrim batacima. Holodeck nije inteligentan, samo radi programski što mu je naloženo. Pitanje stoji koliko su inteligentne one svježe stvorene tete s dobrim batacima.
Točno to, 99% današnjih ljudskih ideja je ionako reciklirano iz nečega drugoga tako da reći da AutoGPT nije inteligentan je malo blesavo jer dosta inteligentno slaže stari stvari u novi koncept. Ljudski primjer. trenutni izgled mobitela brez tipkovnice se pripisuje Applu i prvom iPhonu iako je godinama prije njega postojao telefon bez tipki, i po ovoj logici Steve Jobs nije inteligentan jer je samo upotrebijo već postojeće ideje i složio ih u nešto novo.
Uostalom šta nam više treba, nego program koji če na zahtjev napraviti to što se od njega traži, a to nešto može biti jako komplicirani set zadataka. Zasada rezultati nisu idelani ali kroz neko vrijeme....
