.jpg)
Veliki brat nas gleda ili Novo doba, nova pravila? Svet se deli na protivnike i pristalice računarskih programa bez kojih se uskoro više neće moći, a lakši život stiže sa cenom. Kako ćemo je platiti?
Možda vam je nečuveno što u 21. veku neki ljudi za birokratske poslove još stoje za šalterima i ručno popunjavaju formulare. Ako jeste, onda ste verovatno među prvima koristili e-usluge javnih poslova čim je to postalo moguće. Iako je u mnogim oblastima digitalizacija neophodna, ona stiže sa cenom. Dok nesumnjivo menja kvalitet života u nekim oblastima, napredna tehnologija ume da zadaje bol i nepravdu. Zato ponekada priželjkujemo da se vratimo nazad, u staromodno, analogno doba.
Svetom je prošle godine odjeknuo slučaj britanskog onlajn servisa koji je odbio da izda pasoš građaninu Džošui Badu. On je sistemu dao odgovarajúu fotografiju, ali ga je sistem upozorio da na zvaničnoj fotograiji ne smeju da budu otvorena usta. Badu ne preostaje ništa drugo nego da napiše sistemu da su mu usta zatvorena, ali da ima velike usne.
Bad je, naime, crnac. Slučaj je podigao veliku prašinu, pale su i optužbe na račun rasne diskriminacije, sve dok se neko nije dosetio: galimatijas je nastao jer je zahtev za pasoš obrađivao računar, a ne ljudsko biće. Kada je algoritamski ideal na delu, vaša sudbina je u rukama sistema, a ne smrtnika od krvi i mesa – piše u svojoj knjizi Homo Deus: Kratka istorija budućnosti izraelski filozof i pisac Juval Noa Harari, jedan od najistaknutijih humanista 21.veka.
Kako je onda moguće da sistem bez emocija i svesti o tome šta radi – a to je obavljanje vrlo specifičnog zadatka – može imati tako zamagljen sud? Dalje, Harari objašnjava da je algoritam integralni skup koraka koji se mogu koristiti za izvođenje proračuna, rešavanje problema i donošenje odluka.
NEKO NAS POSMATRA
Kulinarski recept je dobar primer šta je algoritam, jer se sastojci u spravljanju jela koriste po određenom redosledu. Umesite testa od predviđenih količina brašna, kvasca, vode i soli, ručno ili mikserom. Ako nadgledamo dizanje testa i ispečemo ga prema receptu, pred sobom ćemo imati mirisni hleb. Računari takođe u sebi nose niz algoritama – to je svojevrsni recept koji definiše redosled koraka za obavljanje posla. Ceo internet radi na principu slanja poruka između računara.
Razvojem tehnologije i prijemom ogromnih količina podataka sa nebrojenih platformi na kojima (sa)učestvujemo svakog dana, ovim istim računarima omogućen je uvid u sve delove naših života. Nikad umorni, ometeni ili nemarni, algoritmi analiziraju beskrajne kombinacije podataka danju i noću, razvrstavaju ih po kategorijama, a onda im dodaju etikete i vrednosne sudove. Oni prilagođavaju podatke koje im sami nesvesno dajemo čim izađemo na internet, i u skladu sa rezultatima sopstvene analize podataka iz istorije pretrage – stvaraju sliku o nama.
Dakle, algoritmi pomažu računaru da brzo uči. Ali, ko im je propisao nastavni plan i program? Pa, mi. Svoje slike i druge informacije smo im predali bez mnogo oklevanja. Uz svaku veb pretragu, algoritmi pažljivo beleže istoriju naših pretraga. Podaci se čuvaju o sadržaju koji smo tražili, kao i informacije o tome koliko dugo smo ostali na određenim stranicama. Uz sve ovo, zar još nekoga čudi zašto nam se na telefonu pojavljuju reklame za pet-šopove ili za nameštaj? Nismo li do malopre pretraživali hranu za psa ili birali novi trosed?
Rezultati naše pretrage biće donekle drugačiji od rezultata nekoga sa sličnim interesovanjima, a biće drastično drugačiji od rezultata pretrage nekoga ko ima potpuno drugačije navike, uverenja i stil života.
Razlog leži u tome da algoritmi, koji funkcionišu iza svih veb procesa, različito opažaju i ciljaju nas: prepoznaju naše sličnosti, i još bolje, sve naše razlike. Dobro je imati na umu da su algoritmi koji rade na pretraživačima i društvenim mrežama uglavnom na usluzi marketinškim alatima, a naši kolačić i, čije mrvice ostavljamo svuda, pomažu da nas čitaju kao otvorenu knjigu. S druge strane, algoritmi uvek znaju šta je u trendu, a šta se prodaje, pa vam to i nude. Ili nameć u, kako vam drago.
Britanski diplomci su na početku pandemije krenuli u specifične masovne proteste. Povod su bili nepromišljeno i tajno korišćeni algoritmi statističkog modeliranja. Kako studenti nisu mogli da polažu ispite zbog antikovid mera, britanski obrazovni regulator Ofqual je na zahtev vlade upotrebio sumnjivi model za odlučivanje o uspehustudenata. Algoritam je smanjio uspeh za celu jednu ocenu kod 35,6 odsto britanskih diplomaca.
Učenici iz nižih društvenih slojeva su bili posebno loši u ovakvom ocenjivanju. Za mnoge studente to je značilo gubitak mesta na željenom fakultetu, pa su na transparentima, sa kojima su izašli na ulice, ispisali brojne slogane poput Uništio si mi budućnost i J.beš algoritam.
Algoritmi takođe odlučuju i šta je pravda. Harm Assesement Risk Tool (HART), na primer, jedan je od najčešće korišćenih statističkih modela u kriminologiji, a procenjuje rizik od ponovljenog krivičnog dela. Pre nego što odluči da li da oslobodi zatvorenika, algoritam uzima u obzir različite podatke: da li je osoba prethodno kažnjavana, koliko puta je kažnjavana ili privedena, koliko je imala godina kada je prvi put uhapšena… Potom se zatvorenik ocenjuje da li je lice sa niskim, srednjim ili visokim rizikom od ponovljenog krivičnog dela. S obzirom da se na taj način čovek gleda samo kroz brojke, a zanemaruju osobenost svakog slučaja, jasno je koliko algoritamski sudija može da pogreši i upro pasti nečiji život zauvek.
ĐAVO JE U DETALJIMA
Zagovornici upotrebe algoritama su uvereni da su oni neprocenjivi pomagač u donošenju odluka u mnogim oblastima. Osim toga, uvođenje neživih poslova znači niže troškove u mnogim javnim uslugama. Međutim, nemoguće je predvideti koliko bi dalekosežne i razorne mogle biti društveno-političke posledice ako se previše moć i prebrzo prenese na tehnologiju čija etička upotreba tek treba da bude prepoznata i regulisana.
Čovek se u osnovi plaši pojava koje ne razume, dok se isto vreme, upravo u ovom trenutku, razvija svest o digitalnoj pismenosti kao ključnom obrazovanju za 21. vek. Digitalizacija nije zlo, ali je treba je oblikovati, kao i sve nove tehnologije u istoriji. U suprotnom, postaćemo upravo ono što je Veliki brat želeo – neznalice.
Suočeni sa algoritmom koji odlučuje umesto nas o važnim pitanjima, imamo izbora. Ne moramo biti tehnološki pesimisti niti se priključiti pokretu novih ludista. Dovoljno smo svesni problema ukoliko nas obuzme nostalgija kada stanemo pred onlajn formular umesto šalterske službenice, koja je ovde dobila urnebesni omaž u skeču o Mici Ubici. Neko sa kim bi, ako ništa drugo, mogao bar da se svađaš kao čovek.
Foto: Pexels
Tekst: Milica Đorđević
