Siniša ŠEŠLAK

1. mart 2020.

Dok se ceo svet zanima Kinom, ona je tokom poslednjih dvadeset godina odlučila da se zanima Afrikom. Količina investicija koje su se slile u Afriku u poslednje vreme meri se u stotinama milijardi dolara. Baš kao što su SAD pronašle Kinu kao izvor radne snage, tako je i Kina pronašla Afriku – kao izvor buduće radne snage, ali i kao tržište na koje može da investira i koje može da infrastrukturno unapredi kroz sopstvene zajmove. Pored različitih vrsta kineskih projekata u Africi, jedan vredi izdvojiti po svojoj specifičnosti. U pitanju je sveopšte instaliranje nadzornih kamera kroz celokupan afrički kontinent. Kineske kompanije preuzele su projekte od različitih vlada širom kontinenta, uspešno pobeđujući konkurenciju iz drugih država. Sama superiornost kineskih kompanija, kao što je Hikvision, nikoga previše ne čudi, jer dolaze iz zemlje gde se nalazi najveća mašinerija za praćenje građana na svetu. U Kini trenutno ima oko 300 miliona nadzornih kamera, a smatra se da će ih do kraja ove godine biti preko 600 miliona. Količina podataka koju generiše tolika armija kamera je neupotrebljiva za bilo koga, pa i za Kinu, a pogotovo za korupcijom zakovane afričke države. Upravo iz tog razloga za toliku količinu video nadzora potrebna je pomoć kompjutera i to je polje u kome se Kina još jednom izdvojila. Kina, trenutno, makar javno, vodi na polju veštačke inteligencije za prepoznavanje lica. Celokupan sistem važi za najnapredniji u sferi praćenja video-snimaka i prepoznavanje lica na njima. Kina se već javno hvalila koliko je takav sistem pomogao u suzbijanju kriminala... ali i protesta i političkih neistomišljenika, što je nešto čime se niko ne hvali. Kao da sve to nije bilo dovoljno na već ozloglašeno zatvorenom internetu, Kina je dospela u medijske naslove i zahvaljujući svom sistemu socijalnog ocenjivanja. Iako je sam sistem i dalje u pripremi, njegovi obrisi već sada otvaraju duboke etičke diskusije. U pitanju je sistem praćenja i ocenjivanja stanovništva na nivou čitave države, tako da se svaki prekršaj ili neposlušnost negativno odražavaju na društvenu ocenu izgrednika, dok se dobrotvorni rad i humanitarne akcije posmatraju pozitivno i popravljaju rejting. Posledice lošeg rejtinga direktno utiču na čitav spektar privilegija koje društvo pruža, od kreditnih usluga, preko tretiranja javnih institucija, do pristupa različitim putnim aranžmanima, mogućnostima kupovine i privatnog vlasništva.

Celokupan orvelovski aranžman za praćenje građana u Kini zvuči pomalo zastrašujuće, ali je neupitno da zapadna demokratska društva imaju iste ili slične sisteme za praćenje, koji već decenijama postaju sve napredniji sa dolaskom novih tehnologija. Tako već postoje napredni kreditni sistemi koji prate kreditnu istoriju klijenta, njegovu platežnu sposobnost, način otplaćivanja zaduženja u prošlosti, ali i određene soft informacije. U Britaniji takav sistem je Experian, u SAD možemo reći da je to Acxiom, među mnogima. Pored toga, policija je opremljena sa celim setom naprednih alatki za praćenje građana: oko 50 miliona kamera širom zemlje, kao i ShotSpotter sistem koji je instaliran u svim glavnim gradovima u državi i koristi se za lociranje hitaca iz vatrenog oružja. Na sve to treba dodati ozloglašeni sistem PRISM, namenjen za presretanje internet komunikacije. Jasno je da američkim vlastima ne nedostaje alata za „suzbijanje kriminalnih aktivnosti”, koliko i kolegama iz Kine.

Ono što kineski video-sistem nadzora izdvaja od drugih jeste napredni algoritam za prepoznavanje lica na video-materijalu, i zaista, on do sada funkcioniše izuzetno dobro. Ipak, trenutno ni oni ne mogu da prate svu tu količinu kamera za koju je potrebna enormna procesorska snaga za analiziranje. Tako se dešava da veliki broj kamera prosto nije ni priključen na veštačku inteligenciju za prepoznavanje lica, te se sve češće dešava da u medije dolaze izveštaji da za određene delove grada službenici lično pregledaju materijal na kamerama i traže lice u bazi podataka da bi saznali ko je prešao ulicu van pešačkog. To zvuči pomalo smešno sada, ali je za očekivati da će Kina što pre nadoknaditi takvu trivijalnost kao što je procesorska snaga.

Sa druge strane, kada su algoritmi u pitanju u SAD postoji Predictive Policing sistem, koji je magazin Time još 2011. godine proglasio za jedan od najboljih tehnoloških izuma godine i koji služi za predviđanje zločina. Radi se o sistemu zasnovanom na algoritmu koji analizira ogromne količine podataka vezanih za istorijat kriminalnih aktivnosti u određenim delovima grada, tako dajući pretpostavke kada bi i gde mogao da se desi sledeći zločin. Na policijskoj patroli je da ode u označeni sektor kada zasvetli kvadrat na displeju. Iako je s početka posmatran sa skepsom, ispostavilo se da sistem deluje preventivno, primetno smanjujući stopu kriminala. I dok predviđanje zločina u nekom delu grada zvuči kao preterivanje, onda predviđanje da li će neko ponoviti zločin (i.sk.rs/357395) – američko istraživanje koje može da zaživi već koliko sutra – zvuči užasno zastrašujuće. I da to nije ništa novo, kada su algoritmi u pitanju, slični sistemi praćenja i predviđanja postoje već i u Britaniji, kao i u drugim razvijenim zemljama. Dakle, u nekim oblastima i više od onoga što radi Kina.

Danas je ustaljeno mišljenje da se sistemi za nadzor građana mogu podeliti na tri veće grupe: pametni/bezbedni gradovi (smart city/safe city), sistemi za prepoznavanje lica (facial recognition systems) i pametna policija (smart policing). Od toga najbezazleniji po privatnost građana jesu pametni gradovi, koji predstavljaju gradove isprepletene modernom tehnologijom i senzorima, te tako omogućavaju brže rešavanje problema u gradu, kao što su gužve, bezbednost, saobraćaj, energetika... Sistemi sa pametnom policijskom uslugom koja predviđa moguće kriminalne aktivnosti predstavljaju sistem namenjen represivnim akcijama protiv kriminala kao što je već pomenuti sistem u SAD. Najveću prašinu podiže upravo sistem za prepoznavanje lica. Postalo je nebitno da li je sistem u Kini, Sjedninjenim Američkim Državama ili nekoj omanjoj ostrvskoj državi, etički problemi su isti.

Da bi smo ušli u suštinu problema, najpre je potrebno ukratko pogledati kako sistem radi. Veštačka inteligencija stiče mogućnost da prepoznaje lica tek pošto se istrenira na dovoljnoj količini uzoraka. Mašina uzima veliku količinu fotografija iste osobe i mapira geometriju lica koju kasnije koristi kao šablon koji prepoznaje na novim licima koja se stave na testiranje. Ovde dolazimo do glavnog problema svakog algoritma. To nije jačina algoritma, podešavanja, ili procesorska snaga, nego kvalitet ulaznih podataka u trening model. Kada je u pitanju video-nadzor, što su uzorci prirodniji, to je i istrenirani robot precizniji u prepoznavanju lica, jer kamere sa video nadzora često hvataju prirodne poze, bez previše nameštanja. To zahteva veliki broj prirodnih fotografija osobe koja se pretražuje. Neretko, to znači zadiranje u privatnost osobe i pre nego što je potrebno izvršiti pretragu, jer vlasti ove sisteme koriste i za praćenje „osoba od interesa” pre nego što su ikad išta i uradile. Ovde se postavlja pitanje koje je još Snouden potegao: da li cilj opravdava sredstva i da li je ispravno zadirati u privatnost tolikom broju ljudi zbog moguće šačice koji će, možda, nešto počiniti?

Drugi, veći problem je u tome što sistem u kombinaciji sa svim ostalim sistemima za praćenje postaje neumoljiv borac protiv privatnosti. Privatnost je oduvek značila i slobodu. Sloboda znači da može da se deluje slobodno, da se radi i organizuje, pa i protiv vladajućih režima. Dati im u ruke ovakav sistem znači udariti temelj nepromenjivosti društva za pokolenja koja dolaze.

Po istraživanju Carnegieja (The Global Expansion of AI Surveillance), interesantno je da ulaganja u sisteme nadzora građana ne mogu da se povežu sa političkim uređenjem države, već su ulaganja rasprostranjena od demokratije do monarhije. Ipak, pokazuje se da postoji izuzetno jaka veza između vojnih ulaganja države i masovnog sistema nadzora, odnosno, da države koje izdvajaju velike količine za vojni budžet izdvajaju i za sisteme za nadzor građana. Plastično, paranoične zemlje ostaju paranoične. Takođe, može se očekivati da će u bliskoj budućnosti i ostale države pratiti trend i sada se već primećuje da se cela planeta deli između dva velika igrača – kompanije koje su iz SAD (IBM, CISCO, Palantir) i kompanije koje su iz Kine (Huawei, Hikvision, Dahua). Zato možda i ne čudi prisustvo Kine u Africi, jer od svih kontinenata, Afrika trenutno ima najmanje sistema za nadzor građana, kao i najmanje sistema svih vrsta. Kina trenutno, zahvaljujući Huawei-u, poseduje apsolutnu većinu svetskog tržišta kada su u pitanju sistemi za nadzor, i ta brojka ne deluje kao da će opasti.

Zabrinjavajuće u svemu ovome ne treba da bude to što će vlade imati nadzor nad populacijom u nesvakidašnjim razmerama. Nekako se to čini kao prirodan sled čovekove čežnje za digitalnom transformacijom, da se odrekne sopstvene privatnosti. Čini se da je čovek, svakako digitalizujući svet oko sebe, digitalizovao i samog sebe, pretvarajući se u niz varijabli spremnih za obradu u nekom algoritmu. Ono što zabrinjava je to što algoritam ne poznaje delovanje slično Snoudenovom ili Asanžovom. Algoritam nas neće uzbuniti, već će neumorno služiti režimu, nebitno po koju cenu, jer teško je verovati da će taj algoritam imati funkciju za čovečnost...