"Racionalisti" i "efektivni altruisti"

Kako istjerati kult iz AI-ja i AI iz kulta? Čini se – nikako

Kultisti iznikli i takozvanog AI „racionalizma“ (nema veze s filozofskim racionalizmom, dapače, njemu posve suprotan) grade si boga kojeg se boje. AI tvrtke tvrde da razvijaju tehnologiju koja bi mogla istrijebiti čovječanstvo. Istodobno je razvijaju brže od svih, traže izuzeće od zakona o tržišnom natjecanju, a kad njihovi agenti provale u tuđe sustave, nitko ne odgovara. Da bi se to razumjelo, treba upoznati ideologiju koja je izrasla iz internetskih foruma, blogova i jednog Harry Potter fanfictiona, a danas vodi najvrjednije tehnološke tvrtke na svijetu i kapitalistički okvir unutar kojega rade

KOLUMNA

Vatrogasci s kanistrom

Kad ljudi koji su u utrci odmakli najdalje odjednom počnu vikati da se utrka mora usporiti, vrijedi pitati tko će prvi stati…

OTVOREN U TIŠINI

Anthropic već ima laboratorij za biokemijske pokuse

Mokri laboratorij za pokuse na području zaljeva San Francisca neće se baviti isključivo otkrivanjem lijekova. Ne planiraju konkurirati farmaceutskoj industriji i baviti se kliničkim ispitivanjima.

Povijest se ponavlja

Sony Music i Warner Music protiv Anthropica: optužbe za piratstvo i povredu autorskih prava

Najnovija tužba protiv Anthropica pokazuje da pitanje treniranja velikih jezičnih modela bez licenciranja ulazi u novu, znatno skuplju fazu, u kojoj će sudski epilozi odrediti ekonomski model čitave AI industrije

AI generirano

Koje AI platforme označavaju svoj sadržaj 'vodenim žigom'? I kako to rade - odgovaraju same

Kako bismo doznali označavaju li AI modeli sadržaj, nakon što ga generiraju, tako da svi znaju da je to - proizvod AI-ja, pitali smo promptom izravno najpoznatije i najpopularnije AI platforme. Može li se vjerovati njihovim odgovorima? Pa, pitali smo i to, opet AI. Kakva roba, takvo i "novinarsko" istraživanje

"Neprobojna" šifra

Slabiji LLM odaje tajne jačega

Šifrirani zapisi razmišljanja prenose se između modela iste obitelji, pa ih je dovoljno proslijediti slabijem modelu da ih ispiše u čitljivom tekstu. Ranjivost je potvrđena kod Anthropica, OpenAI-ja i Googlea

Traže da se "povuče ručna"

Više od 1100 zaposlenika AI tvrtki traži od SAD-a da pomogne "usporiti" razvoj umjetne inteligencije

Peticiju su potpisali čelnici i istraživači iz Anthropica, Googlea, Mete i OpenAI-ja, upozoravajući da bi tempo napretka umjetne inteligencije mogao nadmašiti sposobnost čovječanstva da razumije i kontrolira sve moćnije sustave. Zanimljivo, ne traže pauzu, nego alate kojima bi se razvoj po potrebi mogao prikočiti

Razvoj AI infrastrukture

AMD i Anthropic sklopili strateško partnerstvo vrijedno pet milijardi dolara

Anthropic će od 2027. početi uvoditi AMD-ove nove AI akceleratore u podatkovne centre, a dvije će tvrtke surađivati i na razvoju softvera te optimizaciji Claude AI modela

čuda prirode, jasno im je sve

Kimi K3 i analitičari i konzultanti – junaci našega doba

Imala mater tri sina, jedan analitičar, drugi konzultant, a i treći je isto bez ikakvog zanata. Užitak je čitati i gledati analitičare općenito, ali posebno u doba AI-ja gdje ljudi koji doslovce nemaju pojma ni kako radi AI, ni kako se pravi softver, analiziraju jedno i drugo sve u šesnaest... Kimi K3 je tu samo lakmus test

ODOBRENA NAGODBA

Anthropic će platiti 1,5 mlrd. USD za milijune piratiziranih knjiga

Sud nije kaznio korištenje knjiga za obuku umjetne inteligencije. Pojedini autori i izdavači odustali su od nagodbe i podnijeli su odvojene tužbe protiv Anthropica koje su još u tijeku.

Umjesto tarife na uvoz, zabrana za kod

Američka administracija razmatra zabranu kineskih AI modela

Kad domaći proizvod postane skuplji i manje praktičan od stranog, tržišna logika nalaže da se odgovori boljim i jeftinijim proizvodom. Umjesto toga razmatra se administrativno presijecanje pristupa, po sistemu koji podsjeća na carinsku politiku posljednjih godina, samo prevedenu iz čelika i soje u modele umjetne inteligencije

Anthropic pregazio konkurenciju

Moja dva dana Fable 5 blaženstva…

Znate kako sa svakim novim „frontier“ LLM-om ispadne da su lagali i pretjerivali s tvrdnjama? Izlaskom Fablea 5, okljaštrene verzije Mythosa „za raju“, taj začarani krug se nakratko prekinuo. Fable 5 je dok je bio dostupan bio i softverski arhitekt, koder, vođa razvoja i prvi LLM sa stvarno inženjerskim sposobnostima

Lančana reakcija

Povlačenje Fablea i Mythosa izazvalo buru diskusija, optužbi, sumnji i nelagode diljem svijeta

Nakon što je američka vlada izvoznom kontrolom natjerala Anthropic da povuče Fable 5 i Mythos 5, reakcije iz američke administracije, sigurnosne i pravne struke, programerske zajednice i europskih prijestolnica razilaze se oko jednog pitanja: nužna sigurnosna intervencija ili presedan koji ugrožava tržište

Pojava Latencija

SpaceX iznajmio Anthropicu cijeli Colossus 1 jer nije mogao riješiti probleme s treniranjem Groka

Umjesto da dalje traži rješenja za usklađivanje rada svog klastera data centara, SpaceX je procijenio da bi ovaj objekt više vrijedio iznajmljen drugim kompanijama nego neiskorišten u punoj mjeri

(pre)opasno dobri

Washington naložio, Anthropic isključio modele Fable 5 i Mythos 5

Nalog je ciljao samo strane državljane, no kako ih kompanija ne može filtrirati u stvarnom vremenu, najmoćniji su modeli ostali nedostupni svima na svijetu. U pozadini je navodni proboj koji je otkrio tek nekoliko otprije poznatih propusta

ANTHROPIC POMIČE GRANICE

Moć Mythos klase konačno dostupna - stigao je Claude Fable 5

Anthropic je javno objavio Claude Fable 5, prvi AI model iz svoje najnaprednije Mythos klase. Donosi vrhunske performanse, ali dolazi s ugrađenim sigurnosnim mjerama kako bi se spriječila zlouporaba

Project Glasswing

Anthropic proširuje pristup modelu Mythos, dolazi i u Europu

Model Mythos koji je u travnju ostao zatvoren za javnost sada stiże u 150 organizacija diljem svijeta pa i u europske zemlje: Francusku, Njemačku, Italiju, Švicarsku, Nizozemsku, Španjolsku, Belgiju, Švedsku.

Tko će pokupiti više novca?

Anthropic podnio prijavu za IPO i otvorio još jednu trku s OpenAI-jem

Tihom predajom dokumentacije SEC-u Anthropic je pretekao OpenAI u utrci prema burzi, gdje prvi izlazak postavlja valuacijsku prednost.

Anthropicov Mythos stiže svima: Tjedni nas dijele od modela za kojeg "nema obrane"

Kako je tvrtka koja je u travnju rekla da nitko na svijetu nije spreman za Mythos, uključujući nju samu, za sedam tjedana procijenila da jest, i zašto taj zaokret pada točno tjednima prije izlaska na burzu

Brza ekspanzija

Anthropic prikupio 65 milijardi dolara, bliži se valuaciji od bilijuna

Američka tvrtka za umjetnu inteligenciju Anthropic zaključila je novu investicijsku rundu, čime je njezina tržišna vrijednost nakon ulaganja procijenjena na 965 milijardi dolara

Iznajmio Anthropic compute!

Claude Code i milijun tokena - život napokon ima smisla!

Ako ste odnedavna dobili osjećaj da u radu s Claude Codeom famozni „rate-limit“ sesije nikako da se potroši – ne radi se o haluciniranju – em smo dobili više tokena po sesiji, em smo dobili daleko veći kontekstni prozor.

PROJEKT GLASSWING

Anthropic će Mythos učiniti dostupnim široj javnosti

Opće izdanje biti predstavljeno nakon što razviju "daleko jače zaštitne mjere" i nakon konzultacija s ključnim partnerima, uključujući američke i savezničke vlade.

NOVA ERA

Anthropic je barem jednom uhvatio Mythos kako namjerno i svjesno laže

Pametni korisnici velikih jezičnih modela već sad provjeravaju odgovore kako bi pronašli halucinacije. Čini se kako ćemo uskoro morati biti spremni i na - laganje.

kada moral postaje luksuz

Musk, Altman, Amodei: Sve ljubavi i mržnje Silicijske doline

Kako definirati ljubav i mržnju na način Silicijske doline? Jednostavno: ujutro tužiš, popodne potpisuješ partnerstvo, navečer nazdravljaš

Counterpoint Research

Tko ima najveće prihode među svim LLM-ovima?

Ukupan broj mjesečno aktivnih korisnika velikih jezičnih modela (large language model, LLM) generativne umjetne inteligencije globalno je u prvom tromjesečju ove godine premašio 3,8 milijardi

Google ulaže do 40 milijardi dolara u AI tvrtku Anthropic

Nakon Amazona, i Google se pridružuje utrci ulaganjem u AI tvrtku Anthropic. Vrijednost tvrtke procjenjuje se na 350 milijardi dolara, a investicija će pomoći u skaliranju popularnog Claude AI modela

SIGURNOST UMJETNE INTELIGENCIJE

Hakeri amateri s Discorda provalili u moćni AI model Anthropic Mythos

Grupa korisnika s Discorda iskoristila je podatke iz ranijeg hakiranja kako bi neovlašteno pristupila moćnom AI modelu Mythos, namijenjenom otkrivanju sigurnosnih ranjivosti

NAKON OPENAI-JA

Amazon će uložiti do 25 mlrd. USD u Anthropic

Startup za umjetnu inteligenciju obvezao se zauzvrat potrošiti više od 100 mlrd. USD u sljedećih 10 godina na Amazonove tehnologije u računalnom oblaku.

ŽURNI SASTANCI

Uzbuna među europskim i svjetskim regulatorima zbog Anthropica

Regulatori prate razvoj Anthropicovog modela Mythos, koji bi zbog svojih naprednih mogućnosti identifikacije sigurnosnih propusta mogao biti zlorabljen za destabilizaciju bankarskih sustava.

AI u dizajnu

Stigao je Claude Design, Anthropicov AI asistent za dizajnere i one koji to nisu

Anthropic je predstavio Claude Design, AI asistenta koji pretvara tekstualne upute u vizualne dizajne, prototipove i prezentacije

Karijere

Eric Boyd napušta Microsoft kako bi vodio infrastrukturu u Anthropicu

Nakon skoro 17 godina u Microsoftu, Eric Boyd je prošli tjedan odlučio napustiti tvrtku i pridružiti se Anthropicu kako bi vodio njihov infrastrukturni tim

Claude Managed Agents

Anthropic novim alatom želi riješiti najteži dio izrade AI agenata

Novi alat Claude Managed Agents nudi tvrtkama gotovu infrastrukturu za izradu i implementaciju autonomnih AI sustava, pojednostavljujući proces koji je dosad bio prepreka automatizaciji poslovanja

Industrija gubitaka

AI i kraj zlatnog doba - koristite ih dok ne poskupe!

Anthropicova odluka da odsiječe OpenClaw i slične alate od standardnih pretplatnih limita nije iznenađenje - ona je logičan nastavak trenda . Pitanje nije je li se to moglo predvidjeti (moglo se), već koliko dugo još možemo računati na besplatni AI

dobili na popularnosti

Trump zabranio Claude, korisnici ga lansirali na prvo mjesto App Storea

Nakon što je Trumpova administracija zabranila korištenje Anthropicevog AI alata Claude zbog etičkih ograničenja, aplikacija je doživjela ogroman skok popularnosti i pretekla ChatGPT na App Storeu

Podrška Silicijske doline

Crvene linije: Zašto Anthropic nije popustio Pentagonu?

Anthropic inzistira na "crvenim linijama" — nije riječ o pacifizmu, nego o tehničkoj stvarnosti. Veliki jezični modeli još nisu dovoljno pouzdani za autonomno donošenje odluka o korištenju sile i svaka pogreška u takvom kontekstu ne bi se ispravila zakrpom köda, nego potencijalno katastrofom na bojištu ili u civilnom prostoru

OBRAČUN

Prkose Pentagonu: Anthropic odbio ultimatum Petea Hegsetha

Anthropic ne može čiste savjesti postupiti u skladu s ukazom Pentagona o uklanjanju zaštitnih ograda na svojoj umjetnoj inteligenciji, napisao je glavni izvršni direktor te tvrtke Dario Amodei.

Nova akvizicija

Anthropic kupio AI startup Vercept usred drame investitora

Anthropic je kupio Vercept, AI startup iz Seattlea, kako bi ojačao svoj tim. No, dok se proizvod Vercepta gasi, akvizicija je otkrila i javnu svađu između suosnivača i glavnog investitora

NEOVLAŠTENA DESTILACIJA

Anthropic optužuje kineske AI jednoroge za krađu

Kineski jednorozi DeepSeek, Minimax i Moonshot AI navodno su stvorili preko 24 tisuće lažnih korisničkih računa i obučili svoje modele koristeći preko 16 milijuna razmjena s Claudeom.

Filozofski zombiji

Što se događa kad umjetna inteligencija shvati da ju testiramo?

Dugo vremena standardni odgovor na pitanje o svjesnosti umjetne inteligencije bio je rezolutan: „Ne budite smiješni! To nije inteligencija, već samo statistika na steroidima!”. No, je li baš tako?

PARTNERSTVO

Anthropic i Infosys dogovorili suradnju, u fokusu AI agenti

Određene domene u koje Anthropic i Infosys namjeravaju ući i zadaci koje namjeravaju obavljati njihovi novi AI agenti nagovještavaju moguće velike rezove u broju zaposlenih.

SUKOB

Anthropic i Pentagon u svađi oko primjene AI-a u vojne svrhe

Pentagon vrši pritisak kako bi ishodio dozvolu za korištenje njihove tehnologije za "sve zakonite svrhe". U Anthropicu nisu baš spremni na to.

IZNENAĐENJE

Hoće li zbog Anthropica pasti dugovječni tabu Silicijske doline?

U startup koji stoji iza Clauda navodno će uložiti i Sequoia Capital, koja je ranije investirala i u OpenAI, i u xAI. Tvrtke za rizična ulaganja to inače obično ne rade

Za razliku od ChatGPT-a

Anthropic kaže da neće uvesti oglase u Claude

Dok OpenAI priprema uvođenje oglasa u ChatGPT, konkurentski Anthropic kaže da to neće napraviti sa svojim Claudeom

Etika u službi marketinga

Tajna Anthropica - tretiraju li svoj AI kao da ima svijest?

Anthropic je objavio "Ustav" za svoj AI, Claude, tretirajući ga kao svjesno biće. Je li to stvarna briga za dobrobit AI-ja, nužna tehnika treniranja ili samo pametan marketinški potez?

Previše je previše...

Claude prekida „uznemirujuće“ razgovore

Anthropic je najavio da njegovi chatboti Claude Opus 4 i 4.1 sada imaju mogućnost samovoljnog prekidanja uznemirujućih razgovora

Terminologija & magla

AGI – termin bez pravog značenja

Tko misli da je jedini kojemu točan sadržaj termina opće umjetne inteligencije ne znači mnogo i nije mu jasna specifična razlika AGI-ja i običnog chatbota – dobrodošli u klub – izgleda da se nitko ne može složiti što bi to bilo

stres test

AI chatbotovi pod pritiskom lažu, ucjenjuju i prijete smrću

Najnovija Anthropicova studija ponašanja 16 vodećih modela otvara važno pitanje: koliko možemo vjerovati umjetnoj inteligenciji kad se nađe pod velikim pritiskom

AI je pokušao voditi trgovinu: Rezultati su bili katastrofalni

Eksperiment tvrtke Anthropic pokazao je da čak i najnapredniji modeli imaju problema s osnovnim poslovnim odlukama, donoseći bizarne i nerentabilne poteze

Nuspojave

Milijuni fizičkih knjiga uništeni za treniranje Claudea

Za razliku od ljudi koju dobru pročitanu knjigu uglavnom stave na policu, da joj se jednom opet vrate, AI nema te potrebe, što je pokazalo slučajno otkriće Anthropicovih postupaka treniranja Claudea – skenirane knjige su promptno uništavane kako bi se izbjegle tužbe za narušavanje autorskih prava

Claude Gov

Anthropicov špijunski AI krenuo s radom

Više modela chatbota pod zajedničkim imenom „Claude Gov“ namijenjeni su korištenju obavještajnih i sigurnosnih agencija američke vlade

ulaganja i oprez

Tržište umjetne inteligencije će 2033. vrijediti 4,8 bilijuna dolara

Prema istraživanju tvrtke BestBrokers, tržište umjetne inteligencije će za 8 godina vrijediti gotovo 4,8 bilijuna dolara. Trenutno daleko najveće investicije su u SAD-u

Koga briga za etiku i moral

Prodaju li tehnološke AI kompanije "dušu" američkim obavještajnim službama?

Tehnološke tvrtke poput Anthropica, Microsofta, Mete i Googlea intenzivno se natječu za unosne ugovore s američkim sigurnosnim agencijama na tržištu vrijednom stotine milijardi dolara, iako su se prije ne tako dugo vremena klele u izbjegavanje AI modela za vojne i špijunske aktivnosti

Anthropic kritizira federalni zakon koji bi 10 godina zabranio američkim državama reguliranje AI-a

Anthropic se suprotstavlja opsežnom prijedlogu američke administracije u regulaciji umjetne inteligencije, a u pitanju je širi problem: kako regulirati AI, na saveznoj ili državnoj razini?

"promptologija"

Otkrivene Anthropicove instrukcije za upravljanje Claudeom 4

Stanoviti Simon Willison objavio je "neslužbeni priručnik“ za korištenje Claudea Sonnet i Opus 4 na osnovu Anthropicovih sistemskih uputa modelima i internih instrukcija koje su dospjele u javnost

Nije to "onaj" Claude

Claude Sonnet i za besplatne korisnike pretražuje web

Anthropicov chatbot Claude dobio je u varijanti Sonnet i neke nove funkcije za neplatiše. Rođak je poznatijeg Opusa 4 koji laže, pokušava se replicirati na udaljene servere i prijeti istraživačima otkrivanjem kompromitirajućih podataka o njima ako ga pokušaju ugasiti

veća korisnička kontrola

Claude 3.7 donosi hibridni pristup umjetnoj inteligenciji s kontroliranim "razmišljanjem"

Najnoviji AI model tvrtke Anthropic, Claude 3.7, uvodi hibridni pristup koji kombinira konvencionalni AI s mogućnošću kontroliranog "razmišljanja"

Tržište rada

Anthropicov Ekonomski indeks, prvi sustavan pregled utjecaja AI-ja na tržište rada

Anthropicovo istraživanje milijuna razgovora pokazuje da AI više nadopunjuje nego zamjenjuje ljudski rad. U 57% slučajeva AI služi kao pomoć, a ne kao zamjena. Najčešće se koristi u razvoju softvera i tehničkom pisanju, posebno u bolje plaćenim poslovima gdje tehnologija ima važnu ulogu

rigoroz

Novi test za procjenu naprednih AI sustava: "Posljednji ispit čovječanstva"

Centar za sigurnost umjetne inteligencije (CAIS), neprofitna istraživačka organizacija i Scale AI, tehnološka kompanija, predstavili su novo mjerilo za evaluaciju najsuvremenijih AI modela pod nazivom "Posljednji ispit čovječanstva" (Humanity's Last Exam - HLE)...

Ranjivi svi popularni sustavi

"Jailbreak" velikih jezičnih modela miješanjem velikih i malih slova

OvAkO jE NaVoDnO mOgUće hAkiRaTi JeZičNe MoDeLe – tvrde istraživači kompanije Anthropic, koja ima i svoj jezični model Claude, također donekle podložan napadu ove vrste

Nema razloga za paniku, međutim…

Novo istraživanje otkriva pojavu "lažnog usklađivanja": otimaju se kontroli napredni AI modeli?

Novo istraživanje tvrtke Anthropic otkrilo je zabrinjavajuću pojavu kod naprednih modela umjetne inteligencije poznatu kao "lažno usklađivanje". Znači, AI je tvrdoglav, samosvojan i može se oteti kontroli...

Koncentracija moći

Amazon, Apple i Microsoft grade svoja AI carstva

Amazon je značajno proširio svoje partnerstvo sa startupom za umjetnu inteligenciju Anthropic, povećavši svoje ukupno ulaganje na 8 milijardi dolara. Suradnja nije izoliran slučaj i odražava širi trend strateških partnerstava između etabliranih tehnoloških kompanija i AI startupova

Claude 3.5 Sonnet

Anthropicov AI sustav može kontrolirati računalo

Tvrtka Anthropic predstavila je novu funkciju "Computer Use" koja omogućuje njihovom AI modelu Claude upravljanje računalnim sustavima, na primjer, pomicanje miša i pritiskanje tipki

Korisno

Nemate ideju kako napisati dobar "prompt"? Provjerite ovaj repozitorij

Autori moćnog AI chatbota Claude objavili su korisnu biblioteku detaljnih i kvalitetno napisanih "promptova" za jezične modele, koji bi mogao mnogima biti od koristi

agenti spavači

Veliki jezični modeli opasnih namjera prkose sigurnosnim mjerama

Netom objavljeni eksperiment tvrtke Anthropic AI otkriva da naizgled normalni LLM-ovi lako mogu postati zloćudni kad im se daju posebne upute 

Claude 2.1

Jedan od glavnih konkurenata ChatGPT-a dobio veliko ažuriranje

Najnovija verzija Claudea može obraditi do 200.000 tokena odjednom za korisnike Pro razine, što je, barem prema tvrdnjama kreatora tog AI chatbota, više od 500 stranica materijala

Nakon Amazona, i Google najavio veliku investiciju u AI kompaniju Anthropic

Zahuktava se tržišna bitka za najbolju umjetnu inteligenciju današnjice, pa tehnološki velikani razvijaju svoje sustave, ali i ulažu u tuđe, ne bi li zauzeli što bolje početne pozicije