Isključite algoritme

Autor: Johnny Ryan, direktor odeljenja za primenu prava na internetu Irskog saveta za građanske slobode, Izvor: The Guardian, Prevela: Milica Jovanović

Najnoviji pokušaji direktnog političkog mešanja Ilona Maska ilustruju ozbiljnu opasnost s kojom se suočava Evropa. Najpre je predložio svrgavanje britanske vlade i pitao da li bi „Amerika trebalo da oslobodi narod Britanije od njegove tiranske vlasti“. Tri dana kasnije, u živom prenosu diskusije na platformi X, čiji je vlasnik, ugostio je kandidatkinju krajnje desnice za kancelarku na predstojećim izborima u Nemačkoj. Po svemu sudeći, oba javna istupa videlo je više miliona ljudi zahvaljujući podešenim algoritmima. Početkom meseca takođe smo saznali i da bi Maskova kompanija SpaceX mogla da uđe u posao sa značajnim delom italijanske odbrambene mreže.

Evropski lideri bi ove postupke trebalo da shvate kao znak onoga što nam se sprema. Budalasto smo dopustili da se kontrola digitalnih medija i infrastrukture koncentriše u rukama nekolicine američkih tehnoloških oligarha. Krupni tehnološki biznis je sada oruđe Donalda Trampa.

Džef Bezos je sterilisao Vašington post, Mark Zakerberg je ukinuo moderaciju sadržaja na Meti, dok će Gugl verovatno slediti njihov primer. Američki tehnološki oligarsi – Bezos, Zakerberg, Sundar Pičaj, Sem Altman, Tim Kuk i Satja Nadela iz Majkrosofta – dali su Trampu donacije od po milion dolara za inauguraciju.

Tramp je bacio oko na Evropu, a krupna tehnologija je sada pod njegovim okriljem. Zakerberg je nedavno na podkastu Džoa Rogana rekao da veruje da će Trampova administracija braniti krupne američke tehno kompanije od Evropske unije. Poučna je pretnja koju je budući Trampov potpredsednik Vans izrekao u novembru, da će SAD finansijski izgladnjivati NATO ako EU primeni svoja pravila protiv mreže X.

Evropa je u makazama između zapada i istoka. Tokom proteklih meseci, Rusija je zamalo uspela sa uplitanjem u izbore u državi članici EU Rumuniji i kandidatu za članstvo u EU Moldaviji, koristeći TikTok i Metu. Priča se da bi Mask mogao da kupi i američki ogranak TikToka.

Ovo je kriza. Liberalna demokratija će biti raskomadana ukoliko Ursula fon der Lajen i visoka predstavnica EU za bezbednost Hena Virkunen ne preduzmu brze i promišljene mere. Američki i kineski tehnološki oligarsi kontrolišu algoritme koji oblikuju način na koji Evropljani vide svet na društvenim mrežama. Njihovi sistemi pojačavaju gnev i okreću naše zajednice jedne protiv drugih. Zabeleženo je i da promovišu samopovređivanje i samoubistvo na dečijim nalozima.

Šta bi Evropa trebalo da uradi? Brisel mora da razbije manipulativnu mašineriju krupne tehnologije. Zakerbergova najava da će Meta ukinuti timove za proveru činjenica na svojim mrežama ne znači ništa. Čelnici kompanije su odavno svesni da nikakvo moderiranje sadržaja ne može da reši problem koji je napravio njen vlastiti algoritam. U internom istraživanju koje je pre dve godine procurilo u javnost, izričito se kaže: „Nikada nećemo ukloniti sve što je štetno iz komunikacionog medija koji koristi toliko mnogo ljudi, ali bar bismo mogli da umanjimo širenje štetnog sadržaja kroz neprirodnu distribuciju.“

U analizi Fejsbukovih algoritama iz 2016. navodi se da je „64% slučajeva pridruživanja ekstremističkim grupama posledica naših alata za preporuke… naši sistemi za preporuke produbljuju problem“. Ipak, Zakerberg je jedva pomenuo algoritme, osim što je rekao da će od sada Meta pojačati preporuke političkog sadržaja.

Fon der Lajen i Virkunen bi trebalo hitno da urade tri stvari za zaštitu demokratije. Prvo, treba radikalno ubrzati pravne postupke u skladu sa Zakonom o digitalnim uslugama protiv korišćenja algoritama koji manipulišu političke debate.

Drugo, treba izvršiti ozbiljan politički pritisak na Irsku i prinuditi je da primeni propise Evropske unije o zaštiti podataka – Opštu uredbu o zaštiti podataka (GDPR) – protiv krupnih tehno kompanija. To je od suštinskog značaja jer se njihovi algoritmi hrane intimnim podacima o našim sklonostima i motivaciji i drže nas prikovane za ekran kako bi prodali što više oglasa. GDPR zabranjuje obradu ličnih podataka koji otkrivaju naše političke stavove, uverenja i seksualne želje, ukoliko nismo pristali da uključimo sistem takve obrade, uz upozorenje na posledice i ponovljen zahtev da potvrdimo da je to zaista ono što hoćemo. Tehnološke platforme to ne rade.

Dosledna primena tih pravila bi momentalno isključila algoritme krupnih tehno kompanija i vratila X i ostale platforme u zlatno doba pre 2014. Odluke o tome šta će reći, videti i podeliti sa svojim prijateljima ponovo bi donosili ljudi, a ne algoritmi.

Međutim, jedna rupa u evropskom zakonu omogućava irskoj Komisiji za zaštitu podataka (DPC) jedinstvenu poziciju u vođenju istraga i postupaka protiv krupnih tehnoloških kompanija zbog zloupotrebe podataka za čitavu Evropu. Ova irska služba je vodeći GDPR autoritet za Jutjub i Gugl, Metu, TikTok, Majkrosoft i Epl – jer se evropska sedišta svih tih kompanija nalaze upravo u Irskoj.

To je paralisalo primenu EU zakona protiv kompanija čije mahinacije sa ličnim podacima irski DPC u velikoj meri nije osporio. Nešto malo ograničene primene zakona uglavnom je rezultat pritiska drugih nadzornih organa u EU. Kada su druge nacionalne službe za zaštitu podataka kolektivno odlučile da irski DPC mora da istraži kako Meta koristi najintimnije podatke ljudi, umesto da istraži poslovanje Mete, DPC je tužio evropske službe. Evropski sud tek treba da donese odluku o tom slučaju.

Iznenađujuće, Irska ne trpi značajan pritisak iz Brisela da prestane da usporava primenu zakona. Za to vreme, posledice nasumične ili pogrešne primene GDPR-a trpe evropska mala preduzeća, dok svima iskaču besmisleni upiti za saglasnost.

Treće, nacionalne vlasti širom Evrope treba da preduzmu ozbiljne mere, pa čak i da isključe algoritme krupnih tehnoloških kompanija sa svojih tržišta (možda putem direktive o audiovizuelnim medijskim uslugama, u velikoj meri zanemarenog propisa EU koji reguliše audiovizuelni sadržaj) ako se odupru regulaciji. U suprotnom, države bi mogle da pribegnu manje ciljanim merama, kao što je aktuelna namera Albanije, kandidatkinje za članstvo u EU, da zabrani TikTok na godinu dana.

Na duge staze, Brisel bi trebalo da ukloni preostale regulatorne barijere između zemalja-članica koje sprečavaju da se evropski tehnološki startapi šire izvan svojih granica. Evropi je takođe potrebna digitalna infrastruktura koja se ne oslanja na strane sile.

Ubrzan proces odvajanja od ruske energije pokazao je da Evropa može da deluje odlučno. Fon der Lajen mora da reaguje brzo i smelo. Evropskoj demokratiji preti velika opasnost. To je bitka koja se ne može izbeći.

Tekst je prenet sa portala Peščanik.