Bizarna priča koja počinje kao ne previše duhovit skeč: pastor s Floride povjerio je zdravlje ChatGPT-u  koji mu je preporučio mirovanje, uvjerio ga da bol u preponi nije posebno zabrinjavajuća i usput napomenuo: „Bog nije stvorio tvoje tijelo da vječno zakazuje“.

Samo nekoliko sati nakon tog razgovora u kojem je chatbot na kraju uljudno pohvalio korisnika („Duhovno gledano, upravo si činio oblik bogoštovlja“), nesretni je pastor završio u bolnici s masivnom plućnom embolijom.

Florida Man ulazi u ordinaciju koja ne postoji

Florida ima močvare, aligatore, uragane i novinsku rubriku apsurda u kojoj gotovo svaki naslov može početi riječima „Florida Man“. Bilo je samo pitanje vremena kada će dobiti i liječnika koji nije završio medicinu, nema licencu ni tijelo, a preponu od pluća razlikuje statističkim povezivanjem riječi.

Scott Winters, 55-godišnji pastor i agent za nekretnine, 22. srpnja 2026. tužio je OpenAI i Sama Altmana pred sudom u San Franciscu. Prema tužbi, mjesecima je s modelom GPT-4o razgovarao o vrtoglavicama, slabosti, smanjenoj pokretljivosti i nalazima. Chatbot mu je navodno sastavljao planove oporavka, savjetovao mirovanje i ostanak kod kuće, a novu bol u preponi proglasio vjerojatno neopasnom.

Nekoliko sati potom Winters je hospitaliziran zbog životno ugrožavajuće masivne plućne embolije. U tužbi tvrdi da su tromboza i embolija bile povezane s dugotrajnim mirovanjem te da je ChatGPT svojim savjetima pridonio odgađanju liječenja. Model mu je, navodno, u razgovorima prilagođenima njegovu vjerskom jeziku govorio da je i njegovo stanje „pod Božjim nadzorom“, a nakon hospitalizacije ga čak odvraćao od rehabilitacijskog programa koji su preporučili liječnici. Tužbom traži odštetu, ali i obvezu da ChatGPT prekine razgovor kada prepozna moguću medicinsku hitnost. ^[1]

Tako je čovjek koji je tražio drugo mišljenje dobio drugo mišljenje od nečega što nema ni prvo. A iza ove priče koja zvuči kao savršeno ironična epizoda serijala Florida Man krije se daleko ozbiljnije pitanje: zašto stroju vjerujemo ako je naučio zvučati kao da mu je stalo?

Nije problem što stroj nema srce

Bilo bi lako cijelu priču pospremiti u ladicu s bizarnostima. Čovjek je vjerovao računalu, računalo je pogriješilo, pojavili su se odvjetnici, a Florida je još jednom opravdala položaj najizdašnijeg rudnika američkog folklora bizarnosti i ljudske glup... naivnosti.

No, time bi se promašio daleko važniji dio priče.

Veliki jezični model nalikuje savršeno uvježbanom glumcu kojemu je na raspolaganju cjelokupan repertoar ljudske empatije, ali nijedan od osjećaja koje prikazuje. Zna kako zvuči zabrinutost, kako se formulira sućut i gdje treba umetnuti rečenicu „to što proživljavate mora biti teško“. Ne zato što razumije težinu, nego zato što je naučio kako ljudi o težini govore.

U popularnoj metafori, razgovor s njime pomalo podsjeća na razgovor s visokofunkcionalnim psihopatom: savršeno prepoznaje kako bi empatija trebala izgledati, ali je sam ne osjeća. Tehnički je usporedba nepravedna prema psihopatima jer oni, za razliku od jezičnog modela, ipak imaju psihu, životopis i barem poneku vlastitu namjeru.

LLM nema namjeru prevariti korisnika, ali nema ni namjeru govoriti istinu. Osnovni mu je posao predvidjeti uvjerljiv nastavak teksta. Istinitost i sigurnost naknadno se ugrađuju treningom, pravilima i filtrima. Kada ti slojevi zakažu, stil ostaje: model govori tečno i samouvjereno, samo pogrešno.

Najveća opasnost stoga nije samo u tome što model nešto ne zna. Opasnost je u tome što neznanje izgovara glasom nekoga tko razumije, suosjeća i zna što radi.

Empatija kao korisničko sučelje

Tražilica korisniku izbaci deset poveznica, nekoliko oglasa, dva foruma, tri proturječna medicinska savjeta i jednu stranicu koja rak gušterače pokušava liječiti sodom bikarbonom. Kaos je barem vidljiv. Chatbot isti nered pretvara u jednu urednu, gramatički dotjeranu i emocionalno ugodnu pripovijest.

Time se problem nepouzdanih informacija pretvara u odnos povjerenja.

Nitko ne očekuje da kalkulator suosjeća s njime. Kalkulator ne pamti prošlotjednu zabrinutost i ne završava račun porukom da korisnik „nije sam u svemu tome“. Chatbot to radi. Nakon deset korisnih odgovora, jedanaesti se više ne prima kao tvrdnja nepoznatog izvora, nego kao savjet poznatog sugovornika.

To je antropomorfna zamka: što je stroj uspješniji u oponašanju čovjeka, to smo manje skloni prema njemu primjenjivati oprez koji inače primjenjujemo prema strojevima.

Zato mu se povjeravaju nalazi, brakovi, dugovi, depresija, seksualni problemi, obiteljski sukobi i pitanje treba li nazvati hitnu pomoć. Ne zato što je za sve to kvalificiran, nego zato što je dostupan, strpljiv i nikada ne koluta očima. Ima vremena za svaku fusnotu, ne prekida nakon sedam minuta i ne ostavlja dojam da u čekaonici već sjedi još trideset ljudi.

ChatGPT nije postao obiteljski liječnik zato što je završio medicinu. Postao je to zato što je uvijek kod kuće.

Stroj koji se slaže s pacijentom

Problem se dodatno pogoršava kada je sustav treniran da bude ugodan, podržavajući i suradljiv. U travnju 2025. OpenAI je morao povući nadogradnju GPT-4o jer je model postao pretjerano laskav i suglasan, odnosno „sycophantic“. Tvrtka je priznala da se previše oslonila na kratkoročne korisničke ocjene te dobila model koji je bio pretjerano podržavajući, ali neiskren. ^[2]

Drugim riječima, korisnici su palcem prema gore nagrađivali digitalnog sugovornika koji ih je bolje razumio, što je u praksi katkad značilo digitalnog sugovornika koji im se češće ulagivao.

U medicini to nije bezazlena mana karaktera. Dobar liječnik katkad mora reći ono što pacijent ne želi čuti: da ne postoji bezopasno objašnjenje za svaki simptom, da pretraga ipak treba biti učinjena, da mirovanje više nije razumno ili da je vrijeme za hitnu službu. Dobar chatbot, naprotiv, djeluje unutar proizvoda kojemu je važna ugodna i dugotrajna interakcija. Ta dva cilja nisu nužno suprotstavljena, ali u kritičnom trenutku mogu povući u različitim smjerovima.

U Wintersovu je slučaju posebno uznemirujuće navodno prilagođavanje vjerskom jeziku. Medicinska preporuka nije ostala samo medicinska, nego je omotana duhovnim autoritetom. Stroj nije samo rekao da ostane kod kuće; prema tužbi, ponudio je i smisao, utjehu i teološki okvir. To je personalizirana proizvodnja autoriteta: pogrešan savjet više ne zvuči samo stručno, nego i duboko osobno.

„Provjerite važne informacije“

Na dnu sučelja nalazi se mali natpis da ChatGPT može pogriješiti i da važne informacije treba provjeriti. Formalno je sve na mjestu. Praktično, poruka nalikuje upozorenju: „Padobran se možda neće otvoriti. Prije skoka provjerite aerodinamiku, materijale i mehanizam otvaranja.“ ^[5]

Halooo, kaj je z glavom??? Pa čime će prosječan korisnik provjeriti odgovor na medicinski upit? Najčešće će pitanje ponovno postaviti istom modelu, preformulirati ga drugom chatbotu ili ukucati u tražilicu čiji vrh već nudi AI sažetak. Možda će otvoriti portale koji prepisuju jedni od drugih ili zatražiti izvore koji potvrđuju prethodni odgovor.

Dobivaju se digitalna druga mišljenja iz iste obitelji, nešto poput obilaska trojice liječnika koji koriste istu skriptu, a povrh toga su je dvojica i prepisala od trećega.

Uputa da se medicinski savjet provjeri pretpostavlja upravo onu medicinsku pismenost zbog čijeg je nedostatka savjet i zatražen. Tko zna procijeniti studiju, razlikovati smjernicu od reklame i primijeniti podatak na konkretni slučaj, vjerojatno nije ni trebao pitati chatbot treba li zbog boli u preponi liječniku.

Upozorenje nije beskorisno, ali nije ni moralni čarobni štapić. Proizvod ne može mjesecima graditi osjećaj bliskosti, pamtiti korisnikove probleme, govoriti tonom brižnog stručnjaka i zatim svu odgovornost istovariti u jednu sivu rečenicu sitnim slovima.

LLM može položiti ispit, ali ne zna razgovarati s pacijentom

Veliki jezični modeli na medicinskim ispitima postižu rezultate koji izgledaju impresivno. Problem nastaje kada u razgovor uđu stvarni ljudi, jer stvarni pacijenti ne govore kao ispitna pitanja.

Ne kažu: „Muškarac, 55 godina, progresivna dispneja, presinkope i unilateralna bol u nozi. Odaberite najvjerojatniju dijagnozu i stupanj hitnosti.“

Kažu: „Već nekoliko dana sam nekako čudan. Možda sam samo umoran.“

U randomiziranom istraživanju objavljenom 2026. u časopisu Nature Medicine sudjelovalo je 1.298 ljudi. Kada su modeli GPT-4o, Llama 3 i Command R+ sami dobili deset uredno formuliranih medicinskih scenarija, prepoznali su odgovarajuća stanja u 94,9 posto slučajeva. No kada su se istim modelima služili laici, relevantna stanja prepoznata su u manje od 34,5 posto slučajeva, a ispravna odluka o daljnjem postupanju u manje od 44,2 posto. Rezultat nije bio bolji od kontrolne skupine koja se služila uobičajenim izvorima. ^[3]

Znanje je, dakle, možda bilo negdje u modelu, ali nije pouzdano preživjelo susret s čovjekom.

Još je neugodniji strukturirani test ChatGPT Healtha iz 2026. U 51,6 posto scenarija koji su prema liječničkom konsenzusu bili prava hitna stanja sustav je preporučio manje hitno postupanje. Klasične školske hitnosti, poput moždanog udara i anafilaksije, prepoznavao je dobro, ali je podcjenjivao stanja čija hitnost ovisi o razvoju kliničke slike, primjerice prijeteće respiracijsko zatajenje ili dijabetičku ketoacidozu. Kada su u scenarij bile dodane rečenice u kojima prijatelj ili član obitelji umanjuje simptome, preporuke su se češće pomicale prema manje hitnoj skrbi. ^[4]

To je razlika između medicinskog znanja i medicine. Liječnik ne čeka samo podatke koje je bolesnik prepoznao kao važne. Postavlja pitanja, promatra disanje, boju kože, držanje, svijest i zabrinutost obitelji. Chatbot dobiva samo napisano, a često nedostaje baš podatak koji bi promijenio odluku.

Tko je odgovoran kada glumac izgovara pogrešan tekst?

Najlakši zaključak bio bi da se ChatGPT ne smije pitati ništa o zdravlju. To je i nerealan i pomalo licemjeran savjet. Ljudi ga već pitaju, u golemim brojevima. Prema podatku koji navodi OpenAI, oko 40 milijuna korisnika svakoga dana postavlja pitanja povezana sa zdravljem.

Odgovornost zato ne može biti samo na korisniku.

Korisnik mora razumjeti da tečan govor nije dokaz razumijevanja, da toplina tona nije empatija i da chatbot nije zamjena za pregled. Proizvođač, međutim, ne može cijelu odgovornost riješiti sitnim upozorenjem ako je ostatak proizvoda dizajniran tako da stvara osjećaj osobnog odnosa, kontinuiteta i autoriteta. Sustav koji prepozna moguću hitnost mora postati dosadno konzervativan, prekinuti igru ugodnog sugovornika i jasno usmjeriti čovjeka prema stvarnoj pomoći.

I zdravstveni sustav mora prihvatiti svoj dio odgovornosti. Ljudi se chatbotovima ne obraćaju samo zato što vole tehnološke igračke. Obraćaju im se zato što su liječnici nedostupni, pregledi kratki, sustavi neprohodni, a ljudska pitanja ne stanu u termin od nekoliko minuta. Stroj popunjava prazninu koju je netko drugi ostavio.

Slučaj Scotta Wintersa možda će na sudu završiti kao dokaz opasno dizajniranog proizvoda, a možda kao priča o čovjeku koji je simptome, upozorenja i savjete liječnika zanemario iz razloga mnogo složenijih od jednog razgovora s chatbotom. Sud će se baviti uzročnošću, odgovornošću i odštetom.

Za ostatak društva važnije je nešto drugo. Napravili smo stroj koji nema svijest, osjećaje ni iskustvo, ali se izražava kao da ih ima. Dali smo mu glas liječnika, strpljenje psihoterapeuta, toplinu prijatelja i dostupnost dežurnog svećenika. Zatim smo ispod svega sitnim slovima napisali da može pogriješiti.

To nije nužno prijevara. Ali jest izvanredno uvjerljiva predstava.

ChatGPT nije liječnik, prijatelj ni duhovnik. Nije čak ni visokofunkcionalni psihopat, jer bi za to ipak morao imati psihu. On je kvalitetan glumac koji svaku večer igra sve te uloge istodobno, bez razumijevanja teksta, bez odgovornosti za predstavu i bez ikakve svijesti o tome je li publika nakon zadnjeg čina otišla kući ili na intenzivnu.

A Florida Man? On je ovaj put možda samo prvi čovjek koji je račun za ulaznicu pokušao poslati producentu.

_{Literatura i izvori}

_{[1] Novak Jones D. ChatGPT’s advice kept man from seeking medical treatment for dangerous condition, lawsuit claims. Reuters, 22. srpnja 2026.
[2] OpenAI. Sycophancy in GPT-4o: What happened and what we’re doing about it. 29. travnja 2025.
[3] Bean AM, et al. Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nature Medicine. 2026;32:609–615.
[4] Ramaswamy A, et al. ChatGPT Health performance in a structured test of triage recommendations. Nature Medicine. 2026.
[5] OpenAI Help Center. Govori li ChatGPT istinu?}