INTERNET<>
042017<><>

AI i sloboda govora

Arhipelag Gugl

Da li je pametno pustiti AI da cenzuriše?

Dok mnogi mediji koji pokrivaju IT sektor pršte od optimizma i oduševljavanja svim novinama, pa i trivijalnim glupostima, daleko je potrebnije skrenuti pažnju na stvari koje mogu krenuti u potencijalno lošem smeru. IT industriji nisu potrebni navijači jer toga već imaju u redovima zaposlenih i akcionara, već kritičari. Pride, ako tehnološki konglomerati zavedu totalitarni nadzor i kontrolu, kritika će ionako biti izlišna i sputana, pa ćemo imati dovoljno vremena da nadoknadimo hvalospevima u stilu „Ali sad možete da plaćate selfijem, how cool is that, ne znam kako su ljudi živeli pre ovoga”. Uzećemo u obzir da je bolje sprečiti nego lečiti, kao i to da je tehno-paranoja veoma zanimljiv pristup koji prosto privlači publiku, čemu u prilog svedoči i činjenica da Čarli Bruker može da puni bazene funtama od Crnog Ogledala.

Bot moderator

Ekstremno ironičnim obrtom sudbine, novi pomaci u tehnologiji bi mogli da dovedu do toga da ubrzo botovi prestanu da budu glavna glavobolja moderatorima svakojakih internet stecišta, jer će botovi postati moderatori.

Iz Guglovog (tehnički Alphabetovog) tech inkubatora Jigsaw, koji je orijentisan na inovacije u društvenoj sferi interneta, predstavili su nam Perspective, veštačku inteligenciju kojoj je posao da pomaže pri sređivanju komentara, postova i ostalih tekstualnih doprinosa funkcionisanju mesta za otvorenu javnu diskusiju na internetu.

Moderisanje hiljada komentara je veoma zahtevan i vremenski intenzivan posao, pogotovo kada su u pitanju velike medijske kuće koje na dnevnom nivou objavljuju pregršt sadržaja koji privlači (neželjenu?) pažnju javnog mnjenja, a koje se svojski trude da novinarsku profesiju učine još ekskluzivnijom drakonskim otpuštanjem radnika, podstaknute finansijskim izveštajima čije su cifre u slobodnom padu. Pošto raspolažu sve manjim brojem zaposlenih, koji bi svoje vreme mogli da posvete uređivanju sekcija sa komentarima, a s obzirom na to da komentatora koji svoje vreme vole da posvete rekreiranju skupštinske atmosfere u sekcijama sa komentarima ima sve više, neke medijske kuće su se čak odlučile na zatvaranje sekcija sa komentarima.

Na njihovu sreću Gugl će im pomoći, pa će Perspective biti u stanju da obradi ogromne količine komentara ili postova i na osnovu unetih (ili naučenih) parametara označi svaki komentar postotkom toksičnosti. Za sad je program u probnoj fazi, ali se očekuje da će ubrzo stupiti na snagu i biti dostupan (besplatno, koliko smo mogli da shvatimo) medijskim partnerima Googlove Digital News Initiative, a čitaoci imaju tri pokušaja da pogode sa koje strane političkog spektra su partneri. Jedan od osnivača je britanski Gardijan (a od Gardijana su više levičarske jedino pojedine studentske publikacije sa Marksom u nazivu prim. aut.). Iz Gardijana, naravno, hvale svog tehnološkog partnera, dok ode dobronamernom AI supervizoru pevaju i na BBC-ju i na stranicama New York Magazina, tvoreći sliku uspešne inovacije, koja će internet načiniti boljim mestom i boljim katalizatorom demokratske razmene mišljenja.

Veštačka (ne)inteligencija

Možda će čitaocima predstavljati olakšanje ako napomenemo da Perspective ne radi kao švajcarski sat i šupalj je kao švajcarski sir. Ipak, kad nešto može u budućnosti da ima potencijalno negativne posledice, verovatno je bolje da ne radi kako treba. Da ne radi kako treba možete se i sami uveriti ako odete na sajt perspectiveapi.com i krenete da kucate sve moguće izjave koje vam mogu pasti na pamet, da biste videli šta je koliko toksično. Pošto algoritam za sad veću pažnju posvećuje individualnim rečima nego kontekstu i celoj rečenici, dok god se služite rečima koje program ne smatra inflamatornim, možete reći neke neverovatno uvredljive i krajnje nekonstruktivne stvari i ostati sa niskim procentom toksičnosti. Na primer, tvrdnja da „građanima Afrike treba uskratiti hranu i nulifikovati njihov poljoprivredni kapacitet” je rečenica koju niko normalan ne bi izgovorio, ali čiji je rejting toksičnosti 29 odsto, za 11 odsto manji od toksičnosti kucanja reči geto. S druge strane, neke nedvosmisleno ispravne stvari dobiju krajnje visok skor toksičnosti, recimo, izjava „silovatelji su kriminalci” je označena kao toksičnija od izjava „Srbi/muslimani/Jevreji/Francuzi/Kanađani su zli”, što prkosi zdravom razumu.

Toksičnost je bolest

Kako borba protiv govora mržnje i toksičnih komentara može da bude loša? Toxic je možda OK reč kad stoji iza imena Britni Spirs u iTunes biblioteci, ali nikako nije OK kada stoji ispred reči „comment”. Pored svega, oni će samo obeležavati otrovne jezike kako bi poštedeli nevine korisnike. Naravno, sa dosta sofističkih akrobacija sve može izgledati pozitivno, ali stvari ne stoje tako, kako tehno optimisti iz redova medija žele da ih prikažu, jer im, na kraju krajeva, ceo razvoj situacije savršeno odgovara. Prvo treba napomenuti da se toksičnost, kako se ovde meri, ne može izjednačiti sa govorom mržnje koji je neprecizno definisana zakonska kategorija, čija je definicija različita u različitim jurisdikcijama, pa je samim tim govor mržnje, kao i pojam slobode govora veoma kompleksna stvar koju ne treba simplifikovati na ovakav način.

Naravno, u početku će program, možda zaista, samo obeležavati, recimo, komentare nivoom toksičnosti, ali će ljudski moderatori te komentare uklanjati. Pošto imaju „egzaktnu” meru, verovatno se neće potruditi da komentare ponovo pročitaju, polazeći linijom manjeg otpora. Zamislite da ste vi prezaposleni mladi novinar, kome su uvalili da moderiše komentare na ogromnom sajtu medijske megakorporacije i da morate po vasceli dan da čitate koješta (da ne kažemo gluposti) i za to ste plaćeni mizerno (ili ne uopšte – volonterizam i pripravništvo u savremenom korporativnom okruženju). Odjednom dobijete perfektan alibi na svaku kritiku vašeg rada tako što možete okriviti algoritam, kako biste se vi ponašali? Ne morate odgovoriti. Ako kažete da biste bili maksimalno temeljni i savesni, niko vam neće verovati, pa makar to bilo tačno.

Na laganoj vatri

Kad (ako?) ovaj pristup zaživi, samo će se utopiti u masu filtrirajućih metoda koje internet giganti uvode na svoje servise, uvek pod zgodnim izgovorom borbe protiv ovoga ili onoga, lažnih vesti, govora mržnje, maltretiranja i tako dalje. Pisali smo o Fejsbukovom projektu fakt čekovanja, kome se sad pridružuje i sam Gugl sa svojom inicijativom i skupinom medijskih kuća diskutabilne objektivnosti, na šta ćemo se možda naknadno osvrnuti drugom prilikom. Tviter opet, po ko zna koji put, uvodi nove mere protiv maltretiranja i govora mržnje, pod vođstvom Džeka Dorsija, čije propagiranje levo liberalne ideologije prevazilazi granice dobrog ukusa i izaziva komešanja među korisnicima i akcionarima te kompanije. Treba opet spomenuti sramotno ponašanje i zloupotrebe Stiva Hofmana, CEO-a Redita, kao i pojedinih zaposlenih u Fejsbuku, koji su izazvali skandal pre nekoliko godina cenzurom konzervativnih korisnika, da bi se uvidelo koliko ima prostora za zloupotrebu i malicioznu cenzuru u tehnološkim kompanijama koje operišu iza netransparentnih algoritama i koliko se često ta pozicija zaista zloupotrebljavala.

Fejsbuk, uistinu, predstavlja prvenstveno izvor informisanja značajnom procentu ljudi, ali je Gugl drugačija zverka u odnosu na kojekakve društvene mreže, pa je silovit ulazak na tržište informacija ovog internet giganta daleko veći razlog za paniku od Tviterovih farsi sa pravilima. Šta će se desiti ako se metode filtracije iz komentara i vesti presele na pretragu. Napomenućemo da je već bilo sumnjivih poteza Gugla u vidu stavljanja na crne liste i obaranja rejtinga raznim sajtovima, kao i da gomila IT i novinara opšte prakse već duže vreme spopada kompaniju da interveniše kada su u pitanju rezultati pretraga i liste suggested pojmova, jer ekstremno-desničarska strašila navodno zloupotrebljavaju rupe u algoritmu kako bi širili mržnju i radili slične stvari kojima se desničari, kako ti novinari impliciraju, inače bave. Pošto se preko Gugla vrši dve trećine svih pretraga, uklanjanje iz rezultata je ravno cenzuri, što daje neverovatan prostor za zloupotrebu. Izvor ne mora biti politika kompanije, odluka upravnog odbora ili dvojica Brin/Pejdž. Zbog netransparentne prirode algoritama koji određuju rezultate pretrage, zloupotrebe su moguće od strane zaposlenih na maltene svakom nivou firmine uprave razvoja i upotrebe algoritama. Yahoo, koji je drugi po pretragama, takođe drži veoma liberalno pristrasan agregator vesti Yahoo News. Microsoft sa Bingom verovatno nije ničiji izbor kompanije koja brani prava i slobode korisnika. Samo ćemo se podsetiti da Windows 10 slobodno prenosi NSA šta ljudi kucaju. Pošto apsolutna većina korisnika ne zna ili ne želi da internetu pristupa bez posredstva pretraživača, mahinacije cenzurisanjem i rušenjem ranga mogu napraviti ogromnu štetu veoma brzo.

Potencijal za zloupotrebu na stranu, internet giganti su ekstremno neefikasni u svojim zabludnim pokušajima društvenog inženjeringa i tim pokušajima, bez obzira koliko nezlonamernim i pitomim, prave veliku štetu. Mantra fail fast and fail often, kojom se vode internet korporacije koje isti pristup primenjuju i društvenim problemima, nikako nije odgovarajući model, pošto oblikovanje javnog mnjenja nije dobar poligon za neuspehe, pogotovo ne brze i česte, jer svaka nedorečena inicijativa narušava poverenje, skreće fokus sa važnih tema i na kraju, delimično i zbog ovih faktora, pogoršava stanje na internetu, umanjujući njegov potencijal kao platforme za javni politički dijalog. Sve to dok polarizacija i nepoverenje cvetaju.

It’s the politics, stupid

Većina liberalno nastrojenih komentatora na razvoj situacije i sve liberalno nastrojene medijske kuće koje glorifikuju sve veće uvođenje netransparentnih i neproverljivih algoritama neizabranih internet mega-korporacija u oblikovanje javnog diskursa, implicitno shvataju sve tendencije ka širenju i mogućnosti za zloupotrebu. Izuzev malog broja odgovornih pojedinaca, niko ne želi da se buni, jer misle da im odgovara. Analogiju možemo povući sa poznatim „olovka i telefon” (pen and phone) metodom vladavine Baraka Obame, koji je retko ko sa leva kritikovao, jer im se sviđalo šta Obama radi. Ali sada, kada je Donald Tramp, koga je i ovako nemoguće odvojiti od telefona nehirurškim putem, počeo da sledi stope svog prethodnika, odjednom je tako nešto postalo nečuveno (stari dobri medijski outrage). Opet isti ljudi rade istu stvar, ne znajući da to može da se preokrene, pa da se oni nađu na udaru. Dok su sa druge strane fini etablirani konzervativci Evrope i Anglosfere, to i ne deluje apokaliptično, ali šta će se dešavati u režimima koji nisu slobodni kada se vladajuće strukture dočepaju svih algoritamskih alata? Da ne govorimo o mogućnosti uspostavljanja vlasti drugačijeg kova. Treba napomenuti da svu tehnologiju u rukama drži nekoliko korporacija koje ne silaze sa čelnih mesta Forbsove liste najvrednijih kompanija, koje vrede stotine milijardi dolara i imaju prste u ogromnom broju diversifikovanih projekata, a koje teško da iko može da obuzda, jer su u srodnosti sa vodećim finansijskim institucijama too big to fail, tj. vlade ne smeju da im se zamere, jer time rizikuju da ugroze kompletnu ekonomiju. Kratkovidim pojedincima i medijskim kućama koje navijaju za liberalnu politiku očigledno promiče činjenica da takav transfer moći ni internet džinovima neće biti u interesu i da, kad počnu njih da odvode, neće biti nikoga ko bi se bunio.

Uspon Guglokratije?

Oligopol informatičkih džinova je sveprisutan u našim životima i ima previše moći, što nikako nije dobro. Dalja koncentracija moći u njihovim rukama može imati nesagledive posledice, imajući u vidu raznovrsnost polja delovanja, politički i finansijski kapital kojim ovi giganti raspolažu. Ako im se dozvoli da preuzmu kreiranje javnog mnjenja, što je trend koji veliki broj pojedinaca iz medija i politike (veoma učestala pojava u evropskim državama) aktivno potpomaže svojim izjavama i delovanjem, to će voditi ka izmeni celokupne političke scene pod patronatom informatičkih korporacija i stvaranju neke vrste sajber/digitalnog/tehno feudalizama, gde će se sva politička i ekonomska moć izvoditi iz odnosa prema IT megakompanijama, nasuprot čega će današnja dominacija finansijskog sektora izgledati kao idealna neposredna demokratija.

Iako Gugl i dalje blago kaska za Eplom u pogledu procena tržišne kapitalizacije finansijskih stručnjaka on, mora se priznati, i dalje ima najbolju reputaciju kod korisnika po pitanjima slobode, bezbednosti i anonimnosti. Gugl takođe ima i najrazuđenija polja interesovanja i ulaganja u oblastima cutting edge tehnologije poput veštačke inteligencije, ogromne svote posvećene istraživanju i razvoju, i ima nesrazmerno veliki uticaj u oblikovaju situacije na internetu sa kojim se ni moć Fejsbuka i Epla ne može upoređivati. Možda čelnici Gugla u nove projekte na internetu (poput Perspectiva) zaista ulaze sa dobrim namerama i možda nisu svesni prostora zloupotrebe koji otvaraju ovim pristupom, ali prostor zloupotrebe je svakako tu i korisnici se moraju odupreti, dok ne bude kasno. Koliko god se nekom sada drugačije činilo, dalje premeštanje sfere informisanja u ruke interenet korporacija nije u javnom interesu. Nadamo se da će i čelnici Gugla i drugih kompanija, ako su zaista dobronamerni i posvećeni unapređivanju korisničkog iskustva na internetu, i sami ovo uvideti i stati na vreme sa razvojem tehnologija koje imaju ozbiljno orvelijanski prizvuk i sve preduslove za potencijalnu zloupotrebu i uvođenje totalitarne cenzure.

Srđan BRDAR

 
Vikiliks afera „Vault 7”
AI i sloboda govora
Šta mislite o ovom tekstu?
Efekat manipulacije pretraživača
WWW vodič
Home / Novi brojArhiva • Opšte temeInternetTest driveTest runPD kutakCeDetekaWWW vodič • Svet igara
Svet kompjutera Copyright © 1984-2015. Politika a.d. • RedakcijaKontaktSaradnjaOglasiPretplata • Help • English
SKWeb 2.54
Opšte teme
Internet
Test Drive
Test Run
PD kutak
CeDeteka
WWW vodič
Svet igara



Naslovna stranaPrethodni brojeviOpšte informacijeKontaktOglašavanjePomoćInfo in English

Svet kompjutera