Umjetna inteligencija i prirodna glupost u raljama

Dobar tekst. Na sličnu temu je objasnio i V.Švajcer u svojoj kolumni u ovomjesečnoj Mreži gdje objašnjava da se ne moramo bojati AI, jer sve je to stvario čovjek, te onda iako sam uči, ne može najednom "preuzeti" sustave i krenuti uništavati ljude.

Međutim, počesto glupavi mediji krenu pisati gluposti i šopati ljude sa idiotskim zaključicma, te zato takve izvore informairanja obilazim u velikome luku.

Da, poznat mi je A* algoritam, baš sam njega opisivao u svojem diplomskom radu u vezi jedne teme o električnim vozilima, tako da i imam nekog iskustva u AI.

Lijepo da netko  upozori na pravo stanje stvari, jer čak i među infomatičarima ima previše onih koji vjeruju u neke bajke na ovom području.

Mali ispravak:

AI je sve što na neki način oponaša ljudsku inteligenciju, pa tako to vrijedi i za chat botove.

Tehnika kojom se koriste nije bitna.

Nekada se i računanje u dekadskom sustavu smatralo umjetnom inteligencijom.

@Deus ex machina

Hoćeš reći da ne možemo do kraja predvidjeti ponašanje AI u nekoj situaciji?

Npr.  ako AI kontrolira neki vojni sustav, te zbog nepredvidljivost AI može doći do neželjenih situacija.

Ako laicki gledam na napisano, onda je odgovor - apsolutno.

Stvar je u tome da je teza postavljena pogresno - postoji ogroman upitnik u "AI kontrolira neki vojni sustav". Pravilna kontrola bilo kakve vojske ovisi o mnogim drugim cimbenicima u koje bi AI trebao biti upucen i u koje bi trebao smjeti uplitati prste, prije svega internacionalna politika, ekonomska politika, socioloski uvjeti, etc etc etc. Takav AI bi vrlo vjerojatno iskorijenio rat u par godina, no problem je u tome sto mi ne bi dopustili takvom benevolentnom diktatoru da nas kontrolira; ne, mi bi politicke odluke donosili iz dupeta (bas kao i sada), a onda kad se upetljamo u probleme iz kojih se ne mozes izvaditi i svaka odluka je doslovce lutrija - onda bi htjeli da AI odluci idealnu odluku za nas.

To ne ide tako.

Pored toga, za kontroliranje nekog vojnog sustava uopce ne trebas AI, vec obican deterministicki algoritam koji cijenu ljudskog zivota treba staviti ispred svega ostalog - jer uglavnom tako ljudi gledaju na rat. Nismo vise u razdoblju prije krista tako da trebamo ratovati za resurse; danas se ratuje zbog ideologija. AI koji kontrolira vojnu snagu ne moze tu skoro nista napraviti, i trebao bi nam AI koji moze brzo prepoznati znakove fanatickog idealiziranja bajki i onda prisiliti jedinku (dijete, a onda i roditelje) na re-edukaciju. Taj Big Brother sustav je cijena utopije, a ja ne znam nikog tko bi bio voljan podvrci se brzinskoj indoktrinaciji "za dobro covjecanstva".

Postaje to vec filozofsko pitanje, u maniri Brave new world. Nije to lako (ako je uopce moguce) odgovoriti.

Potpuno se slažem. povezivanje robota i nezaposlenosti je glupost. Ekonomija nije zero sum game, a većina ljudi gleda na ljudski i robotski rad upravo kroz zero sum. Ako robot radi više i bolje, ostaje više svima, pa i onima koji nemaju posla => u idealnom slučaju nitko nema posla 9-5 i svi imaju sve što žele. Star trek, komunistička ili bilo koja druga utopija.

S druge strane jel netko čitao Dinu? Butlerian jihad i postavke svijeta nakon njega.

Zapravo postoje dva opasna scenarija:

1.) AI koji nauči lagati i čeka pravi trenutak. Ovaj scenarij je malo SF-ovski, ali kad uzmemo u obzir vijest koju sam jutros pročitao - da Google planira napraviti AI kojoj će biti zadatak razvija AI, scenarij u kojem koristimo AI sustave za koje više i ne znamo kako točno rade nije nemoguć.

2.) Daleko jednostavniji i vjerojatniji scenarij je onaj scenarij koji je doveo do katastrofe u Fukushimi - ljudska pohlepa i laganje samom sebi da je stvar pod kontrolom. U tom scenariju bi preuzimanje kontrole krenulo postepeno, ali pohlepa u vidu velike štete zbog gašenja sustava i opasnost od izlaganja neprijatelju (kod vojnih sustava) ili prekida proizvodnje i opskrbe (kod civilnih sustava) bi mogli dovesti do samozavaravanja i odgađanja gašenja sustava koji pokazuje "greške" dok ne bude kasno.

u nas se odmah zbivaju standardne devijacije: strojno prevođenje zlorabi se za sve i svašta (izvornik se propusti kroz GT a od prevoditelja se traži "samo korekcija", što je dvostruki posao za trostruko manje novca), iznimno stručan rad mora se prodavati u bescijenje (inače nema posla) a vlasnici agencija krivotvore rad tako da svoje žigove tumača stavljaju na tuđe prijevode (ovo je pravilo). ako već nema tehnologije, industrije i znanosti, Hrvatska barem u nemoralu i lopovluku napreduje brže od svih. Drago, hvala za produbljivanje depresije tekstom o nečemu što je svakome s imalo soli u glavi trebalo odavno biti jasno. opća u.i. ne postoji i nikad neće. specijalizirane će od ljudi načiniti otpad, barem u ovoj nadridržavi, i to se već zbiva. 

Meni se čini da Dragu plaća AI kako bi ona ostala što dulje prikrivena !  

Da li AI tehnologija raste eksponencijalno?