Appleova kreditna kartica diskriminira korisnike p

Ma da, lako je relativizirati.

Npr ljudi su po prirodi sebični, pa je onda u redu da nemamo socijalno društvo. itd.

@sustavi

Pretpostavljam da spontanu anarhiju ne smatraš pod tim sustavima (ona nam se prirodno dešava).

(Ne brkati sa nenasilnim konceptom Trockog, Bakunjina) 

Potvrdu čega? Imaš opciju jedne kartice s više korisnika koja se izdaje na jednu osobu, a onda ta osoba traži izdavanje drugih povezanih kartica, s tim da sve kartice terete isti račun. Tu je limit zajednički.

Druga opcija je izdavanje potpuno odvojenih kartica, što je tu slučaj. Sporno je to što su izdane na temelju navodno istih podataka.

To je inherentni problem s AI, ona uči i stvara vlastite algoritme koji nisu poznati tvorcima. Tek kada se uoče neželjeni (ne može se reći pogrešni) rezultati može se reagirati i mijenjati parametrizacija.

Ako je određeno ponašanje (npr. impulzivna kupnja) označeno kao rizično, onda je moguće da od dvije osobe koje žive zajedno i sve dijele jedna bude ocijenjena rizičnijom.

Problem je što se danas svaka razlika prikazuje kao diskriminacija. Da, diskriminacija je povijesno bila ogromna, a i danas je prisutna i treba ju suzbijati, ali nije svako razlikovanje diskriminacija. Možda je negdje muž dobio niži, a žena viši limit, samo se nisu javili, jer to ne izgleda kao rodna dikriminacija.

Ako procitate originalni thread na Twitteru, vidjeti ce te da su oni trazili razlog od Apple-a za nizi score limit njegove zene, no oni ga nisu mogli dati, vec cu se opravavali algoritmom (sto je samo po sebi odvratno).

Cak i kada su zatrazili credit score njega i njegove zene, njegova zena je zapravo imala veci/bolji.

 Mislim da me nisi shvatio. Sad vidim da sam dva puta upotrijebio rijec score, moje isprike. Probaj procitati originalni Twitter thread.

Zeni je odredjen manji limit. Ali, kada su zatrazili objasnjenje i nisu ga dobili, odlucili su provjeriti kreditni score (posto je to jedna od stavki koje algoritam uzima u obzir, sto je i logicno), i zena je zapravo imama bolji score.

Nije odvratno sto algoritam odredjuje limit, odvratno je sto se ljudi skrivaju iza odluke algoritma i opravdavaju seksizam/diskriminaciju tim istim algoritmom - Nemamo mi nista s tim, to je algoritam.

A algoritam je napravljen od strane white male inzinjera..

 Kao što i sam kažeš kreditni rejting je jedna od stvari koja utječe na limit. Znači postoje i druge i moguće je da su te druge bile razlog.

Recimo banke, odnosno kartičarske kuće, pod određenim uvjetima kompenziraju štetu koja nastane zloupotrebom ukradene kartice. To znači da ih visoki limit direktno izlaže većim troškovima, a čak i ako štetu ne plate oni nego vlasnik kartice (jer npr. nije na vrijeme prijavio krađu), velika je vjerojatnost da će korisnikova ljutnja biti proporcionalna iznosu i motivirati ga da banku blati u medijima. Znači banci je u interesu da korisnici imaju veliki limit kako bi trošili, ali s druge strane ako netko nije veliki potrošač korisno je smanjiti mu limit, bez obzira na kreditni rejting. To je jedan mogući razlog.

Takvi u pravilu mogu od banke tražiti povećanje ako im stvarno treba, npr. kad idu na put.

Banka ima puno pravo odlučiti kome će i koliko posuditi, samo ne smije odluku bazirati na osobnim podacima poput spola, boje kože, vjere i sl. Nema nikakvih dokaza da se ovdje o tome radilo, ali vjerojatno će biti proveden nakakav nadzor.

 Apple je 'izdao' karticu, ali podršku daje banka. Apple ne zna koje algoritme banka koristi i jedino što može reći je upravo to što su rekli. Nema ničeg odvratnog u tome. Ukoliko se primjeti da takvih slučajeva ima puno postoje nadzorne službe koje mogu otići u banku i tražiti analizu algoritma, no Wozniak sigurno neće dobiti algoritam na kućnu adresu da ga sam proučava.

Meni je recimo odbojno trčanje pred rudo i donošenje ekstremnih zaključaka na temelju tako šturih informacija. Tu karticu koriste deseci ili stotine tisuća ljudi. Ako dvoje dobije niži limit to još ništa ne dokazuje.

A tvrdnja da su svi inžinjeri u američkim bankama bijelci i muškarci, koji pišu programe motivirani svojom dominacijom, osim što je netočna, je zapravo daleko veći rasizam i seksizam od ovoga o čemu pričamo.

 Ummm, da, ima? Insinuiras da je za diskriminaciju uvijek potrebna aktivna zloba onoga tko pise algoritme, ali to je daleko od istine. Dapace, cesto se diskriminacija dogadja samo zato sto se algoritmi treniraju na inputu iz svijeta koji vec je diskriminantan.

A to sto je sustav identificirao sta god da je identificirao ne oslobadja firmu odgovornosti za seksizam algoritma na displeju. Oni su donijeli odluku da taj algoritam upotrijeve in the first place, znaci snose i odgovornost za dobre i lose odluke tog istog algoritma.

Nije uvijek potrebna aktivna zloba, najčešće je dovoljno naučeno ponašanje koje ide po inerciji. Međutim, tu logiku primjeniti na algoritme je žešći fail jer takvi algoritmi mogu biti daleko efikasniji od ljudskih odluka, pa se ne treniraju na način da uče što su ljudi odlučili, već je set podataka za treniranje temeljen na obrascima ponašanja korisnika, podaci o pritužbama, te podaci o šteti nastaloj iz korištenja kartice. Ako takvi podaci upućuju da je neki obrazac visokorizičan, strojno učenje će to prepoznati, čak i onda kada ljudi to ne mogu jednostavno povezati.

Ako algoritam nema podataka o spolu, kako uopće možemo govoriti o seksizmu? Banka je poslovni subjekt kojem je cilj maksimizirati profit uz minimizaciju rizika i ima puno pravo postavljati pravila prema kojima posluje, sve dok su ta pravila jednako primjenjena na sve. Ako analiza podataka kaže da je neopravdan rizik onome tko karticu koristi za dnevne troškove dati veliki limit, a onome tko povremeno koristi za kupovanje kućanskih aparata je opravdano dizanje limita (jer će, ako prije svake veće kupnje mora kontaktirati banku da mu podignu limit, promijeniti banku), to će rezultirati time da će par koji ravnomjerno koristi kartice imati jednak limit, a par koji jednu karticu koristi za dnevne troškove, a drugu za izvanredne, će imati različite limite.

S jedne strane vidiš seksizam tamo gdje ga najvjerojatnije nema, a s druge izbacuješ brzoplete zaključke temeljene na vlastitim predrasudama koje uključuju rasizam i seksizam. 

Koliko god vjerujem u i poštujem AI, ne smatram je nepogriješivom. Slažem se s ovim za strojno učenje, korelacije i big data - tu je AI, generalno, nedostižna. No opet: kreativnost može uključivati potpuno nelogičan faktor, koji nije u skupu za predviđanje. Uostalom, čak i da su dobiveni rezultati 100% logični i točni, oni ne moraju biti kompatibilni sa trenutno važećim društvenim konvencijama (jer one ne moraju biti takve, 100% logične). Nekmoli sa tržišnom isplativošću (npr ovo može vrlo lako dobiti #metoo negativni tag i, ovisno o odzivu, završiti sa potpunim bojkotom produkta. Nešto slično su doživjeli super brandovi poput Ariela, Barille, kod nas Velebitsko pivo).