Tweet posvađao znanstvenike: je li AI doista posta

Presporadično sam bio ovdje, daj mi malo vremena da se nakupi crnilo. Za par tjedana ću razviti i thousand-yard-stare.

 Nije. Računalni resursi, zbog stvari koje je već ElektričnaOvca objašnjavao, jednostavno nisu usporedivi s "resursima mozga". Računalni resursi, ako ćemo gledati najgeneralnije, u praksi povećavaju samo količinu dostupne memorije i broj operacija koje se mogu izvrtiti u jedinici vremena. 

S tim da je Mooreov zakon već prestao vrijediti, i s sa samim smanjivanjem tranzistora se ne može još puno dalje ići. Pa se optimizira mikroarhitektura procesora, rade se tipa koprocesori za specifične namjene, stvari se paraleliziraju kao GPU-u ovima (gdje imaš puno manjih coreova koje paralelno izvode iste operacije, što se pokazalo ključnim za razvoj dubokih neuronskih mreža kakve imamo danas).

Kažeš nije, a onda sam objasniš kako se resursi ipak povećavaju.

Ako ne znamo kako svijest u mozgu nastaje kako ti i ovca znate da ju je na računalni način nemoguće postići? Ne bi li za isključenje nekog ishoda trebalo dobro poznavati proces koji do njega dovodi?

Ja eto ne znam kako je iluzionist izvukao zeca iz šešira, ali tvrdim da ga ne može izvući iz kartonske kutije. Jer šešir i kutija su očito vrlo različiti.

Ja ne znam jesu li ljudi koji ovo komentiraju ikada isprogramirali išta na računalu općenito, nevezano uz specifično AI programiranje.

Računala i kad imaju neki ekvivalent naših funkcija, tipa dijeljenje ili množenje dva broja ili izračun neke malo složenije funkcije - rade to na POSVE drugačiji način od načina na koji ljudski mozak funkcionira. Dio učenja programiranja je učenje sintakse i prebacivanja naših koncepata u format s kojim računala mogu nešto napraviti (izračunat neki izraz, bilo koji, algebarski, logički, alfanumerički - bilo šta). I još kad iz viših programskih jezika to spustiš na asembler u kojem se stvarno sve odvija, odnosno op kodove i mikrokod... to nema veze s ničim s čime ljudski mozak operira. 

A AI... ne znam šta ljudi misle da računala na kojima se vrti neki AI program rade kad ne rade točno ono za što su programirana - prepoznavanje i transkripciju govora, prepoznavanje optičkih uzoraka, OCR... između sebe se dogovaraju nešto deseto ili šta? Nema NOP ciklusa nego se domunđavaju i razvijaju "samosvijest"? 

Sav taj današnji "AI", "deep learning" i sl. buzzwords kojima se hvali sve više firmi, su samo hrpa algoritama po kojima računalo izvršava točno određene zadane stvari, kao i sve ostale aplikacije. Jeste nešto kompleksnije ali se sve svodi na ono je kretor napisao.

Da napišeš "auto-optimizacija", nitko se ne bi osvrnuo. Napišeš "umjetna inteligencija" - svak ima nešto za reći. 

A* po kojem DOTA ljudeki traže put je "umjetna inteligencija". Šah na kompjuteru. Idem popričati sa svojim Amstradom CPC 464, na njemu je bilo par dobrih šahova, do sada se sigurno već razvio u genija...

 Naša samosvijest nije nastala projektiranjem mozga baš za nju, pa ni umjetna ne mora nastati tako. Svako povećanje procesne snage, nove arhitekture, algoritmi, kao i nova znanja koja ljudi stječu je povećanje resursa, a to se neprestano događa bez naznake da će stati. Nekoć nije bilo računala uopće, pa su bila mehanička, pa cijevna, poluvodička, danas imamo i kvantna. Je li moguće da ćemo sad tu stati i ništa novo se neće više smisliti, samo ćemo dodavati jezgre slijedećih petsto godina?

Kao i ostali u raspravi ni ti ne pokušavaš razumjeti što ja pišem, a što sam višekratno ponovio, da grana koja neprestano raste vremenom mora prestići onu koja stoji na mjestu, ma koliku ova imala prednost, nego svi preko mene liječite frustracije koje imate jer tamo netko tvrdi da danas već imamo umjetnu inteligenciju. I sva argumentacija vam je cijelo vrijeme isključivo o današnjim računalima.

Sve što je stvoreno prirodnim putem može se, uz poznavanje procesa i dovoljne resurse, stvoriti i umjetnim. Vi ističete kako ne znamo procese i nemamo resurse, ali odbijate priznati da nijedno nije trajno nerješiv problem, samo čini stvar u dogledno vrijeme neizvedivom. Recimo za putovanje brže od svjetlosti ili skokove kroz vrijeme možemo reći da imaju inherentne probleme s izvedivošću, ali za ovo ne znamo da postoji neka nesavladiva prepreka.

 Da to je čest problem u neuronskim mrežama, ali to spada u Supervised Learning .

Ali ako gledamo kako AI pobjeđuje u igricama (Starcraft 2 , Alpha Go) to spada u Reinforcement learning, tj. radi na principu - loš pas/ dobar pas. 

Isto kao kad psa ili čak malo dijete (namjerno povlačim analogiju s ljudima) nagrađujemo ako nešto dobro uradi, i kažnjavamo ako nešto loše uradi.

I nakon nekog vremena treniranja on "nauči" šta je dobro i šta je loše.

Pričati na ovakav način o AI-u, a imamo malo sposobnije mikrovalne i napredak da eto mogu prepoznat kad su gotove kokice... ili ćemo nanovo definirati riječi ili ćemo se ponašat kao djeca kad se u igrici pucaju protiv AIa, a realno nabijaju botove. 

Ali AI je seksi pa se svi ložimo na mentalno nenadjebiv mozak, savršeno mućko đubre. Ali nije yebač onaj koji yebe skoro svaki dan.

Ne da nismo blizu AIa, nismo ni na putu ka AIu. Sa ovom mehanikom računala možemo doći do "smart" tostera i traktora koji će obavljat poslove za koje čovjek nema ili gubi motivaciju tipa prebiranje nezrelih rajčica, čišćenje kanalizacija ili proizvodnja hemoroida u sjedištima kamiona, ali AI je toliko velik skok naspram ovog što sad imamo da je distanca od kotača do ljudske kolonije na Marsu goli kurac.

AI je s razlogom posljednje što će čovjek izmisliti. Pitanje je je li covjek uopce sposoban ne proizvesti AI vec pojmiti prvi korak ka stvaranju AIa.

 Nemamo mi što priznati, mi raspravljamo o onome konkrentno znamo i o stvarnom značenju određenih termina. Ti s druge strane o "računalnim resursima" govoriš u vrlo generalnom značenju, doslovno onako kako se koristi u znanstvenoj fantastici. Pa su tako za tebe računalni resursi i ovo što imamo danas, i što razvija danas, i ono nešto što ćemo možda imao 500, 1000 ili više godina (ako poživimo toliko), a što će biti nešto što nema veze s onim što danas smatramo računalom.

 Ti se prvo odluči hoćemo li rapravljati o današnjim računalima, o trenutnim smjerovima njihova razvoja i njihovim konrekntim "računalnim resursima", ili ćemo raspravljati o nepostojećim znanstvenofantastičnim računalima koje imaju "resurse" za umjetnu inteligenciju.

Mi uopće nismo spominjali nikakve resurse, ti si njih uveo u priču. Mi nismo govorili da možda nekada nećemo shvatiti procese umjetne inteligencije i reproducirati, ali govorili smo o trenutnim računalima, njihovim stupnjevima razvoja, i smjerovima razvoja, i kako to njihovo konkrentno povećavanje računalnih resursa nas uopće ne približava umjetnoj inteligenciji.

Okej, ti ćeš sad reći, mi ne znamo procese svijesti, pa možda ovo što se radi s računalima, s totalno drugom svrhom i specifičnim namjenama u pitanju, nam nekim čudom povećava te famozne resurze za samosvijest, ali to je prazna tvrdnja koja ne govori ništa. Onda za bilokoju ljudsku radnju možeš tvrditi da možda povećava te famozne resurse za samosvijest.

Beyond help.

 I kako onda da ubedimo AI da je računar????

Odgovor će doći sam od sebe kad jednog dana bomba skuži da postoji.

#darkstar

Thinker kaže...

Mislim da jako omalovažavate sposobnost računala da uči i da donosi zaključke.

Evo vam jedan primjer:

 

Ne kažem da je to AI, ali ako je rezultat nešto što iznenadi i samog kreatora, onda se moraš zapitati što se tu krije "ispod haube". Ponavljam, neki od vas direktno poistovjećuju stupanj pojma svjesnosti sa stupnjem pojma inteligencije, na što sam kroz prethodne postove skretao pozornost, imate filmiće s majmunom i macom.

 

Ja opet postavljam pitanje, možete li biti sigurni da ovaj OpenAI u jednom trenutku nije u nekom svom procesoru uzviknuo: - Jupiii, igram se skrivača! - i nastavio se igrati kao što to napravi malo dijete? Taj OpenAI u tom trenutku sigurno nije u stanju na ekranu terminala napisati: - Halo, ja sam tu unutra! - iz čistog razloga što nije isporgramiran za komunikaciju niti su mu poznati pojmovi vezani za komunikaciju, ekran, pojam "unutra" itd. već samo za igranje skrivača. Znači li to da računalo ne može imati svjesnost o nečemu što radi?

 

Gdje i kako ćemo odrediti granicu kada bismo za neko računalo mogli raći da ima svjesnost? Po stupnju inteligencije to zasigurno ne možemo određivati.

 -ponekad hrpa pametnih ne može odgovoriti na recimo glupo pitanje (dok glupa pitanja ne postoje..). Naivno, pod utjecajem filmova ili po sasvim pogrešnom kriteriju što je AI ili bez prefixa, inteligencija.

.. ne kažeš da je to AI, ali .. -odluči se, kažeš ili ne? rečenica u kojoj nastavljaš s ali je suprotna od onog do ali. Ako staneš na zarezu? Kažeš upravo to da je AI-inteligencija, ali ne daješ argumente ili misliš da su argumenti no nisu.

-možemo li (ili mogu li) biti sigurni da čip nije uzviknuo 'jupi'? -da. Točno, da je to uzviknuo, tad bi čip imao svijest, inteligenciju. .. odnosno čak ima 'inteligenciju' ako gledamo po američanskom (moj-distorzirani izmišljeni) korjen riječi, intel-proizođač čipa-cpu, ili kao u kratici cia gdje se inteligence odnosi na podatke, baza, .. podatci npr policije o imenu osobe, adresi, oib. tj obradu tih podataka.. no to nije ono što se želi reći za AI ili svijest.

-drago u jednom postu dobro natukne, oni koji nisu nikad programirali ne znaju kako računalo-cpu radi, sve im izgleda .. pa upravo kako filmovi sugeriraju, kao AI. .. ali nije, naprosto nakupina algoritama unaprijed zadanih pravila, if-then, kao kvadrat-korjen, pi itd.

-zašto se griješi u recimo etiketiranju, calculator je za matematiku AI.. jer brže i točno izračunava bilo koji zadatak-formulu.. ali nema svijest, razum, nema inteligenciju (osim baze podataka kao drugo značenje). Jednako kao što lopata nije AI mada je jača od ruke-dlana, nije ni bager ai.. nije ni stroj koji bi radio bilo što, automatski, sve dok sam nešto ne odluči raditi ili pecati, no stroj kao bager će uvjek samo kopati, neće pecati, neće sam odlučiti napraviti nešto, piramidu, sliku.. igrati nogomet, prevariti poreznu ili se odati alkoholu..

-lopata, čekić, kramp, su jači i efikasniji od ljudske ruke, nisu ti predmeti ai, nego je čovjek taj koji ih je stvorio onaj koji to posjeduje, kao znanje, koje primjenjuje.

-primjer bilo kojeg riješavanja problema, kao i igre šah ili go. .. i računalo (kao) ''ai'' rastura! .. to nije AI.. to je samo jači calculator koji brže-točno pronađe ono što osoba bez pomagala ne može u razumnom vremenu, jednako kao što ne možeš nositi 10-tona a glupi šleper može, čak i magarac može više ... i taj magarac ima osnovnu inteligenciju, koju šleper nema mada je sastavljen od dosega znanja civilizacije kao kotač i gps..

-u igri go-šah, računalo je 'samo' brže, preciznije, time pobjeđuje, klasičan bruteforce i jednako tako ako krampom probiješ vrata nije to inteligentan način otvaranja, nije ai nego kramp mada je obavio posao koji bi inače obavio ključ-brave ..

-tj, u igri kao šah-go.. gdje postoje bezbrojne kombinacije, permutacije, svugdje gdje je više od x parametara pri čemu je x recimo 12-14-više znamenki i sl. je problem normalne osobe, možeš istovremeno u kontroli leta pratiti koliko aviona, 2,3, 4.. 7.. 77? postoje granice, sigurnost. Stroj nema takvu grancu, šleper može 10t može i 20t, tj koliko mu resursa damo toliko može, ako može hendlati 777 aviona tad može toliko, 778mi će biti višak, pad. To nije inteligencija, svijest, znanje, to je naprosto resurs ili ono što klade valja (dok um caruje) kao s lopatom i bagerom. Ako računalo nema dovoljno rama za neki task, ne može, ne radi, padne. Svijest, ai kako se prikazuje bi tad našla drugi način, jednako kao što su ljudi smislili lopatu-čekić-bager-šleper.. kao što svaki dan smisle jači cpu-gpu koji može više-jače, no i dalje je isti čip-tranzistor, u osnovi prekidač-šalter on-off za svjetlo. Jedan tranzistor je beskoristan, 2-3-4.. s 4-više se već nešto može. Danas cpu ima milijarde tranzistora i može izračunavati svašta, no i dalje je samo nakupina tranzistora, ne svijest, ništa više od bagera, tj čak manje jer je samo dio bez ostalih komponenti pa se može reći samo motor-pogon bagera i sl.

-računala rade, soft, os, apps.. to nije ai, nije algoritam kao go.. no to recimo prihvaćaš da obična računala s win-osom i wordom nisu ai.. pa jednako tako nije ni superračunalo koje vrti go, jer radi isto-identično samo ima više resursa + soft + namjenu, ne za surfanje i tipkanje nego igru go. To što pobjedi nije inteligencija nego bruteforce .. ili ok, može se reći, inteligencija ali ne čipa-silicija-tranzistora nego kreatora-čovjeka, istog koji je stvorio lopatu, bager .. a to nije stvorilo računalo, kao što nije otišlo na pecanje ili gledati crtiće. Jedina inteligencija u čipu je ona uloženog znanja inženjera-programera sve do pitagore za trokut i prvog paljenja vatre ili izuma kotača.. inteligencija osobe-čovjeka-znanja koje se prenosi-održava i dalje razvija. Čip to nema, nije. Čip jednostavno obavi task kao što kramp ili lopata ili običan calculator.

-lopata je alat, računalo je alat, ne ai, kao i poluga kojom možeš pomaknuti veći teret, nije poluga -inteligentna ili samosvijesna nego um koji je to otkrio, čovjek-inteligencija-znanje dok je poluga samo poluga, komad željeza nula inteligencije, alat.

-privid da ai u igri go stvara neki svoj algoritam je privid, tj broj permutacija-operacija koje može osoba (ograničeno) i superračunalo s više resursa (više kao bager-šleper) na temelju 'glupog' pravila kao u shemi tictactoe dođe do pobjede, jer je brži-precizniji, ne inteligentan nego bruteforcan kao provala vrata..

-kad taj algoritam poželi pecati, trčati i sl. tad će postati samosvjestan, on-nešto, ai ili inteligentan pa i glup ovisi što tad odluči, no ne prije, do tad je običan calculator-tranzistor.

-jel taj ai uzviknuo jupi? -nije. Sam to postaviš kao kriterij (recimo kad bi to bio kriterij) no zaključuješ kao da je upravo to napravio, viknuo jupi.. nije.

 Slažem se s tobom da to nije obični bruteforce, tj. da igra po uobičajenim taktikama.

Isto tako je zanimljivo da u Stracraft 2 pobjeđuje igrače sa strategijama koje nikad nisu koristili TOP igrači, već sam stvara svoje taktike.

Također i u Gran Turismo .