"Sadržaj generiran uz AI možda nije točan", piše ispod Copilota.

"Odgovori AI-ja mogu sadržavati pogreške", piše ispod Googleova Geminija.

"Claude is AI and can make mistakes. Please double-check responses", piše ispod Claudea.

Sitni sivi font, izvan okvira, ispod svega, na mjestu gdje se inače pišu uvjeti korištenja i pravila o kolačićima. Rečenica koju nitko ne čita jer je postavljena tako da se ne čita.
Pretpostavimo na trenutak da je čitamo. Što nam točno nalaže? Da provjerimo odgovor. Dobro, čime? Ako otvorimo drugi model, ispod njegova okvira stoji ista rečenica. Ako pitamo taj drugi model da provjeri prvi, dobili smo dva nepouzdana izvora umjesto jednog - kako je to bolje? Možemo ih pustiti da se naizmjence provjeravaju sve dok se mi ne onesvijestimo ili dok podatkovnom centru ne nestane struje, ovisno o tome što dođe prvo. Ograda je, dakle, uputa koja nema izvedivu drugu polovicu savjeta. Kaže nam što moramo, ne kaže nam kako. Ručno? Što će mi onda AI?

Me'sečini industrija

Industrija za to stanje ima lijep termin koji zvuči vrlo učeno - nedeterministički model. Znači da isto pitanje sutra može dati drugi odgovor i to nije kvar nego arhitektura. Ic fićer, kako kaže poslovica.

Kod Googleovih AI sažetaka to je doslovno tako. Sažetak ne postoji dok ga ne zatražimo, nastane u trenutku posluživanja, iz nekoliko izvora koje sustav u tom času povuče, uz ugrađenu dozu nasumičnosti. Nema izvornika, nema uredničke provjere, nema nikoga tko ga pročita prije nas. Napisan je, poslužen i pročitan u jednom potezu.

U engleskom ima termin posuđen od inženjera koji su projektirali avione prije računala. Imali su za takav postupak kraticu, TLAR - that looks about right. Odokativno. Otprilike dobro. 
Radilo je iznenađujuće često i zato je i preživjelo kao izraz, ali nitko ga nikada nije stavio na naslovnicu tehničke dokumentacije kao prodajni argument. 
Mi kažemo me'sečini. Čovjek koji nema pojma, ali mu je neugodno šutjeti, pa prizna. Nedeterministički model isporučuje isti sadržaj u čistoj bijeloj kutiji na vrhu stranice, u istom fontu i s istom sigurnošću kojom bi nam rekao koliko je dva plus dva. Jedini preostali trag oklijevanja je ona rečenica u sivom i sad je jasno zašto je baš tamo gdje jest.

U svibnju je sud u Münchenu odlučivao o slučaju dvaju münchenskih izdavača koji su tužili Google. Googleov AI sažetak povezao ih je s prijevarama, pretplatničkim zamkama i sumnjivim poslovnim praksama. Model je pobrkao tvrtke, izmislio vezu, sam sebi napisao popis upozoravajućih znakova da se radi o prevarantima i savjete kako izbjeći prijevaru. Ništa od toga nije pisalo ni u jednom izvoru koji je naveo ispod teksta.

Sud je zaključio da AI sažetak nije popis tuđih rezultata nego Googleov vlastiti sadržaj, "samostalne, nove, sadržajne izjave" i da dosadašnja pravila o ograničenoj odgovornosti tražilica na njega ne idu. Tražilica upućuje na tuđe stranice, generator piše nove tvrdnje, to su dvije različite djelatnosti i nose različitu odgovornost.

Google se branio time da korisnici "mogu sami provjeriti navedene izvore" i da ionako "svi znaju" kako se AI-ju ne vjeruje slijepo. Prevedeno: branio se ogradom ispod okvira za prompt. Sud je odgovorio da mogućnost naknadnog opovrgavanja tvrdnje ne oslobađa onoga tko ju je objavio od odgovornosti za nju. Istraživanje Pew Research Centera u međuvremenu je izmjerilo koliko ljudi klikne na izvor unutar AI sažetka - jedan posto. 

Ti valjda spadaju u rubriku "Neobični hobiji".

Mišljenje umjetne inteligencije, piše sud, nije izraz stečenog uvjerenja onoga tko ga izriče, nego rezultat algoritma. To je sudska definicija me'sečini poslovnog modela. Zbog nje je Google ostao i bez zaštite slobode izražavanja, jer nema uvjerenja koje bi se štitilo, ima izlaz.

Odluka je privremena mjera prvostupanjskog suda, Google će se gotovo sigurno žaliti i nije ni približno kraj priče, ali obrazloženje je izvrstan opis onoga što tehnologija radi.

Poslastica za kraj - advokati koji potpisuju bez čitanja 

U lipnju je savezna sutkinja u Mississippiju otkazala suđenje u sporu oko odvjetničkog honorara jer su obje strane u podneske stavile presedane koji ne postoje. Četvorica odvjetnika s položenim pravosudnim ispitom potpisala su tekst koji su dobila od modela i poslala ga saveznom sudu, a da nisu provjerila postoje li presude koje citiraju. Sutkinja je sve četvero maknula s predmeta, dvojici ukinula pravo nastupanja pred tim sudom na dvije godine i izrekla ukupno osam tisuća dolara kazne.

Model je ovdje radio točno ono što modeli rade. Proizveo je uvjerljiv tekst. Zakazalo je ono po čemu se struka razlikuje - ili bi se trebala razlikovati od generatora rečenica - velikog jezičnog modela. 

Što kaže Next-door Sysadmin iz videa na genijalnom kanalu Kai Lentit: Knowledge goes in, it doesn't come out.

Informacije iz magičnih izvora

Startup Oumi je za New York Times izmjerio točnost Googleovih AI sažetaka i dobio 91 posto. Devet posto pogrešnih odgovora, na pet bilijuna pretraga godišnje, ali na izrazito teškim pitanjima kakva nisu uobičajena pitanja koja idu u tražilicu.
Zanimljiviji je drugi nalaz iste studije, onaj koji se rjeđe citira. Među odgovorima koji su bili točni, njih 56 posto navodilo je izvore koji tu tvrdnju ne potkrepljuju. Model kaže istinu i ispod nje stavi fusnotu koja s njom nema veze. "Ionako to nitko ne provjerava", što kažu Googleovi advokati.
Ako vas to ne plaši, onda ste Prle, Tihi i James Bond.

"Marice, dajte mi provjerite ovo..."

Provjera nije regresija u beskonačnost. Provjera je postupak koji ima kraj i taj kraj je kad se netko potpiše pod napisano.
Zato ograda ispod okvira za prompt nije upozorenje nego prebacivanje tereta dokazivanja s onoga tko tvrdi na onoga tko čita. (Inače, dosta česta taktika u online diskusijama - "Dokaži da nije!"...)
U svakoj drugoj djelatnosti to se zove izdavačka odgovornost i ne može se otkloniti fusnotom u sivom fontu ispod stranice. 
Smisao pomoćnika kojeg moramo provjeravati postoji, ali nije sigurno da su korisnici svjesni da je AI taj tip "pomoćnika" koji na nas svaljuje posao za koji smo mislili da dajemo njemu.

Gdje su sada tvrdnje da će "AI učiniti milijune radnih mjesta nepotrebnima"? Izgleda prije kao da će se "za svaki AI" morati otvoriti i mjesto ljudskog "Povjerenika za provjeru AI-ja". Poslovni model prodaje smanjenja troškova poslovanja povećanjem troškova poslovanja jer sad plaćamo i tokene i čovjeka koji ih provjerava. 

Post-industrijska ekonomija 21. stoljeća - razumiju je samo oni s IQ-om ravnim IQ-u velikih jezičnih modela.