Početkom maja 2022. godine, nekoliko dana prije pokretanja kontroverznog prijedloga Uredbe o sprječavanju i borbi protiv seksualnog zlostavljanja djece, tadašnja komesarka Evropske unije za unutrašnje poslove Ylva Johansson poslala je pismo američkoj organizaciji Thorn, koju su 2012. godine osnovale filmske zvijezde Ashton Kutcher i Demi Moore.
Thorn razvija alate umjetne inteligencije za pretraživanje sadržaja seksualnog zlostavljanja djece na internetu, a uredba, koju je inicirala Ylva Johansson, osmišljena je kako bi se ograničilo širenje takvog sadržaja na aplikacijama za razmjenu poruka. Švedska političarka, koja više nije europska povjerenica, zatražila je od izvršne direktorice Thorna, Julie Cordu, da podrži njenu kampanju.
Kao što je Index već pisao , uredba bi obavezala digitalne komunikacijske platforme, poput Facebooka, Telegrama, WhatsAppa, Signala, Snapchata, TikToka, cloud servisa i web stranica za online igre, da otkriju i prijave sve tragove materijala o seksualnom zlostavljanju djece (CSAM) u svojim sistemima i u privatnim razgovorima korisnika.
Iako su ga pozdravile neke organizacije za zaštitu djece, uredba, kolokvijalno nazvana Chat Control 2.0, još nije stupila na snagu, ali godinama izaziva široke kritike zagovornika privatnosti i tehnoloških stručnjaka koji kažu da zapravo uspostavlja ogroman sistem nadzora koji će potkopati end-to-end enkripciju, trenutno najviši nivo zaštite digitalne komunikacije.
Neviđen pokušaj kontrole privatne komunikacije
Istraga otkriva mrežu utjecaja u moćnoj koaliciji raznih neprofitnih dobrotvornih organizacija i neprofitnih organizacija koje stoje iza prijedloga Evropske komisije o skeniranju materijala o seksualnom zlostavljanju djece na internetu.
Kritičari poput Patricka Breyera , aktiviste za digitalna prava i bivšeg člana Evropskog parlamenta, osudili su uredbu kao neviđeni pokušaj kontrole privatne komunikacije koji dovodi u opasnost prava građana i uvodi nove ranjivosti podrivanjem enkripcije.
Evropski nadzornik za zaštitu podataka Wojciech Wiewiorowski upozorio je Johanssona na rizike još 2020. godine, „Ovi planovi predstavljaju 'prelazak Rubikona' kada je u pitanju masovni nadzor građana EU. Oni bi fundamentalno promijenili internet i digitalnu komunikaciju kakvu poznajemo.“
Ko će imati koristi od regulacije?
Na osnovu intervjua, dokumenata i uvida u interne diskusije unutar Evropske komisije, BIRN povezuje ključne aktere koji finansiraju i organizuju kampanju za uredbu i otkriva njihove veze sa bivšom komesarkom Johansson i njenim saradnicima. Neke kompanije za vještačku inteligenciju i lobističke grupe su tako stekle visok stepen uticaja na kreiranje politika EU.
„Na predloženu uredbu previše utiču kompanije koje se predstavljaju kao nevladine organizacije, ali posluju više kao tehnološke kompanije. Grupe poput Thorna koriste sve što mogu da proguraju uredbu, ne samo zato što vjeruju da je to put naprijed u borbi protiv seksualnog zlostavljanja djece, već i zato što imaju komercijalni interes u tome“, rekao je Arda Gerkens, bivši direktor Centra za stručnost o zlostavljanju djece na internetu, pitajući: „Ko će imati koristi od uredbe? Djeca neće.“
Ashton Kutcher je u septembru 2023. godine podnio ostavku na mjesto predsjednika upravnog odbora kompanije Thorn zbog kontroverze koju je izazvao pismom podrške osuđenom silovatelju i kolegi iz serije "That '70s Show", Dannyju Mastersonu. Međutim, do tada je Kutcher godinama bio prepoznatljivo lice kampanje za uklanjanje materijala o seksualnom zlostavljanju djece (CSAM) s interneta.
Thornovi podnesci Registru transparentnosti EU navode sastanke sa saradnicima tadašnjih visokih zvaničnika Komisije koji su imali uticaj na sigurnosnu ili digitalnu politiku, uključujući Johanssona, Margrethe Vestager, Margaritisa Schinasa i Thierryja Bretona.
Dobrotvorna organizacija koja posluje na tržištu
U novembru 2020. godine, na red je došla predsjednica Komisije Ursula von der Leyen, koja je učestvovala u video konferenciji s Kutcherom i organizacijom registrovanom u malom holandskom gradu Lisseu – WeProtect Global Alliance.
Iako je registrovan kao dobrotvorna organizacija, Thorn prodaje svoje AI alate na tržištu radi profita. Od 2018. godine, Ministarstvo domovinske sigurnosti SAD-a kupilo je softverske licence od Thorna u ukupnoj vrijednosti od 4,3 miliona dolara. Njegove alate koriste kompanije poput Vimea, Flickra i OpenAI-a, kao i agencije za provođenje zakona širom svijeta.
U novembru 2022. godine, Kutcher i Johansson bili su glavni govornici na samitu koji je organizovala tadašnja potpredsjednica Evropskog parlamenta Eva Kaili, koja je uhapšena i smijenjena s dužnosti tri sedmice kasnije zbog istrage afere Qatargate.
Šest mjeseci prije ostavke, Kutcher se obratio zakonodavcima u Briselu, nastojeći ublažiti zabrinutost zbog potencijalnih zloupotreba i nedostataka postojeće tehnologije. Tehnologija može skenirati sumnjiv materijal bez kršenja privatnosti, rekao je poznati glumac, tvrdnju koju je Evropska grupa za digitalna prava nazvala "duboko obmanjujućom".
Bliska veza Thorna i Johansson
Komunikacija između Thornea i Johanssonovog odjela otkriva kontinuiran i blizak odnos između dvije strane u mjesecima nakon što je predstavljen prijedlog CSAM-a, pri čemu je Komisija više puta olakšala Thorneu pristup ključnim mjestima donošenja odluka kojima su prisustvovali ministri i predstavnici EU.
Među rijetkim tragovima Thornove aktivnosti u Registru transparentnosti EU je donacija od 219.000 eura iz 2021. godine organizaciji WeProtect Global Alliance, organizaciji koja je krajem 2020. godine održala video konferenciju s Kutcherom i von der Leyen.
WeProtect je transformisan iz entiteta finansiranog od strane britanske vlade u navodno nezavisnu "fondaciju" registrovanu na adresi stanovanja u Lisseu. Članovi uključuju moćne sigurnosne agencije, brojne nacionalne vlade, menadžere tehnoloških kompanija, nevladine organizacije i jednog od Johanssonovih zvaničnika kabineta, Antonia Labradora Jimeneza, koji je zadužen za borbu protiv CSAM-a.
Zvaničnik Evropske komisije u sukobu interesa?
Komisija je izjavila da Labrador Jimenez "ne prima nikakvu naknadu za učešće u Upravnom odboru WeProtect Global Alliance i da ovu funkciju obavlja u okviru svojih dužnosti u Komisiji". Međutim, pozicija Labradora Jimeneza u WeProtectu pokreće pitanja o tome kako Komisija koristi svoje učešće u organizaciji za promociju Johanssonovog prijedloga.
Labrador Jimenez je odigrao centralnu ulogu u izradi i promociji propisa, istog prijedloga za koji WeProtect aktivno vodi kampanju uz finansiranje EU. On sjedi u odboru zajedno s Julie Cordua iz Thorna, kao i vladinim zvaničnicima iz SAD-a i Velike Britanije, Interpola i pukovnikom Ujedinjenih Arapskih Emirata, Danom Humaidom Al Marzouqijem, koji predsjedava brojnim međunarodnim policijskim snagama.
Oko 200 kilometara sjeverno od Brisela, u holandskom gradu Amsterdamu, na rubu poznate gradske četvrti crvenih svjetala, nalazi se ured organizacije koja je na prvoj liniji borbe za identifikaciju i eliminaciju CSAM-a u Evropi.
Offlimits, ranije poznat kao Agencija za ekspertizu o online zlostavljanju djece (EOKM), najstarija je evropska telefonska linija za djecu i odrasle koji žele prijaviti zlostavljanje, kako online tako i u stvarnom životu.
"Pozvao sam Johansson ovdje, ali ona nikada nije došla"
U 2022. godini, sedam analitičara Offlimits-a obradilo je 144.000 prijava, od kojih se 60 posto odnosilo na ilegalni online sadržaj. Vruća linija šalje zahtjeve za uklanjanje sadržaja pružateljima internet hostinga, a ako se materijal smatra posebno ozbiljnim, prijava se šalje policiji i Interpolu.
Direktorica organizacije Offlimits od 2015. do septembra 2023. godine, Arda Gerkens, dobro je upoznata s politikom EU o ovom pitanju. Ipak, za razliku od organizacija poput Thorn, nije imala puno uspjeha u pristupu Johansson. „Pozvala sam je ovdje, ali nikada nije došla“, rekla je Gerkens, bivša članica Socijalističke partije u holandskom parlamentu.
„Komesarica Johansson i njeni saradnici posjetili su Silicijumsku dolinu i velike sjevernoameričke kompanije“, rekao je Gerkens. Kompanije koje se predstavljaju kao nevladine organizacije, ali posluju više kao tehnološke kompanije, uticale su na Johanssonovu regulaciju, rekao je Gerkens, tvrdeći da Thorn i slične grupe „imaju komercijalni interes“.
Šifriranje je također ključno za zaštitu djece
Gerkens je rekao da borba protiv zlostavljanja djece mora biti fundamentalno poboljšana i uključivati sveobuhvatan pristup koji obuhvata socijalnu zaštitu, obrazovanje i potrebu zaštite privatnosti djece: "Šifriranje je također ključno za zaštitu djece: predatori hakuju račune tražeći slike."
Ovo gledište se odražava u nekim od zabrinutosti koje su Holanđani izrazili tokom pregovora o kompromisnom tekstu u Vijeću EU, zalažući se za manje nametljiv pristup koji štiti šifrirane komunikacije i bavi se samo materijalom koji su nadzorne grupe i vlasti već identificirale i označile kao CSAM.
Zvaničnik holandske vlade, koji je razgovarao pod uslovom anonimnosti, rekao je: „Holandija ima ozbiljne zabrinutosti zbog trenutnih prijedloga za otkrivanje nepoznatog CSAM-a i borbu protiv dotjerivanja djece, jer trenutne tehnologije dovode do velikog broja lažno pozitivnih rezultata. Rezultirajuće miješanje u temeljna prava nije proporcionalno.“
U junu 2022. godine, ubrzo nakon što je Johansson predstavila predloženu uredbu, predstavnici kompanije Thorn sastali su se s njenom kolegicom Monicom Maglione. Interni izvještaj sa sastanka navodi da je Thorn bio zainteresiran za razumijevanje kako će se riješiti „uska grla u procesu od procjene rizika do naloga za otkrivanje“.
Skeniranje sadržaja umjesto pojedinaca ili grupa
Nalozi za detekciju su ključna komponenta procesa predviđenog Johanssonovim predloženim propisom; oni određuju broj ljudi koji će biti praćeni i koliko često.
Izvori iz Evropskog parlamenta navode da je španski zastupnik u Evropskom parlamentu Javier Zarzalejos, kao izvjestitelj o predloženoj uredbi, na tehničkim sastancima zagovarao naloge za otkrivanje koji se ne fokusiraju nužno na pojedince ili grupe osumnjičenih, već su kalibrirani tako da omogućavaju skeniranje sumnjivog sadržaja.
Stručnjaci tvrde da bi to otvorilo vrata općem i masovnom nadzoru građana EU. Na istom sastanku s Maglioneom, predstavnici Thorna izrazili su "spremnost za blisku saradnju s Evropskom komisijom kad god je to korisno, posebno u pogledu stvaranja baze podataka indikatora koju će održavati EU centar", kao i pripreme "komunikacijskog materijala o seksualnom zlostavljanju djece na internetu".
Centar EU za sprečavanje i borbu protiv seksualnog zlostavljanja djece, koji bi bio osnovan prema Johanssonovom prijedlogu, igrao bi ključnu ulogu u pomaganju državama članicama i kompanijama u provedbi zakona.
Također bi pregledavao i odobravao tehnologije skeniranja, kao i kupovao i nudio ih malim i srednjim preduzećima. Kao proizvođač takvih tehnologija skeniranja, Thorn bi imao ulogu u podršci izgradnji kapaciteta baze podataka EU Centra od značajnog komercijalnog interesa.
"Platite nam i mi ćemo održavati sistem vještačke inteligencije"
Meredith Whittaker, predsjednica Signal Foundation, američke neprofitne fondacije koja stoji iza šifrirane aplikacije za chat Signal, kaže da se kompanije koje se bave umjetnom inteligencijom i proizvode sisteme za skeniranje u suštini promoviraju kao centri za razmjenu informacija i zaštitu od odgovornosti za velike tehnološke kompanije, osluškujući tržišni potencijal.
„Što više to predstavljaju kao ogroman problem u javnom diskursu i pred regulatornim tijelima, to više ohrabruju velike tehnološke kompanije da im dozvole da riješe ove probleme“, rekao je Whittaker.
U suštini, takve AI kompanije nude tehnološkim kompanijama "besplatnu kartu za oslobađanje od odgovornosti", rekao je Whittaker, rekavši im: "Platite nam i mi ćemo održavati AI sistem i učiniti sve što je potrebno da magično riješimo ovaj problem."
"Dakle, sasvim je jasno da, bez obzira na njihov pravni status, oni imaju lični interes u promovisanju eksploatacije djece kao problema koji se dešava 'na internetu', a zatim nude brza i profitabilna tehnička rješenja za ono što je u stvarnosti duboki društveni i kulturni problem."
"Mislim da vlade ne razumiju koliko su ovi sistemi skupi i manjkavi. Ne govorimo o jednokratnom trošku, već o stotinama miliona dolara tokom neodređenog perioda, s obzirom na razmjere u kojima se ovo predlaže."
Mogućnosti detekcije ostaju iste uprkos regulaciji
Johansson je potom odbacila ideju da bi pristup koji ona zagovara uveo nešto novo ili ekstremno, rekavši zastupnicima Evropskog parlamenta 2022. godine da je „potpuno pogrešno tvrditi da će s novom uredbom postojati nove mogućnosti detekcije koje danas ne postoje“. Ali stručnjaci dovode u pitanje naučnu osnovu za to.
Matthew Daniel Green, kriptograf i stručnjak za sigurnosne tehnologije na Univerzitetu Johns Hopkins, kaže da postoji očigledan nedostatak naučnog doprinosa u izradi nacrta uredbe: „U prvoj procjeni uticaja Evropske komisije gotovo da nije bilo vanjskog naučnog doprinosa, a to je zaista nevjerovatno s obzirom na to da Evropa ima odličnu naučnu infrastrukturu.“
Upozorio je da tehnologija skeniranja zasnovana na vještačkoj inteligenciji rizikuje izlaganje digitalnih platformi zlonamjernim napadima i da bi potkopala enkripciju: "Ako dirate ugrađene modele enkripcije, uvodite ranjivosti. Ideja da ćemo moći voditi šifrirane razgovore potpuno je nekompatibilna s ovim automatiziranim sistemima skeniranja. I to je namjerno."
Udarac zagovornicima skeniranja CSAM-a pomoću vještačke inteligencije došao je kada je američki tehnološki gigant Apple rekao da je nemoguće provesti skeniranje CSAM-a uz očuvanje privatnosti i sigurnosti digitalne komunikacije.
Ne postoji nadzor koji ne narušava privatnost
Istovremeno, britanski zvaničnici su iza zatvorenih vrata priznali tehnološkim kompanijama da ne postoji tehnologija koja bi mogla skenirati poruke šifrirane od početka do kraja bez kršenja privatnosti korisnika.
Prema istraživanju naučnika Imperial Collegea Ane-Marie Cretu i Shubhama Jaina, objavljenom u maju 2023. godine, sistemi za skeniranje na strani klijenta zasnovani na vještačkoj inteligenciji mogli bi se tiho prilagoditi za prepoznavanje lica na korisničkim uređajima bez njihovog znanja.
Upozorili su da još uvijek postoje ranjivosti koje treba identificirati. "Kada se ova tehnologija jednom implementira na milijardama uređaja širom svijeta, ne možete je vratiti", rekli su Ana-Maria Cretu i Shubham Jain.
Agencije za provođenje zakona već razmatraju mogućnosti koje to nudi. U julu 2022. godine, šefica Johanssonovog odjela, Monique Pariat, posjetila je Europol kako bi razgovarala o doprinosu koji bi policijska agencija EU mogla dati borbi protiv CSAM-a, na sastanku kojem je prisustvovala i izvršna direktorica Europola Catherine de Bolle.
Obavještajne službe vole plašiti političare
Zvaničnici Europola iznijeli su ideju o korištenju predloženog Centra za skeniranje EU za skeniranje izvan okvira CSAM-a, rekavši Komisiji: „Postoje i druga područja kriminala koja bi imala koristi od otkrivanja.“ Prema zapisniku, zvaničnik Komisije „izrazio je razumijevanje za dodatne želje“, ali je „naglasio potrebu za realističnim očekivanjima, s obzirom na brojne osjetljivosti koje okružuju prijedlog.“
Ross Anderson, profesor sigurnosnog inženjerstva na Univerzitetu u Cambridgeu, rekao je da je diskusija o skeniranju CSAM-a pomoću umjetne inteligencije ignorirala potencijal za manipulaciju od strane agencija za provođenje zakona.
"Sigurnosna i obavještajna zajednica oduvijek je koristila probleme koji plaše zakonodavce, poput djece i terorizma, kako bi potkopala privatnost na internetu. Svi znamo kako to funkcionira i kada se dogodi sljedeći teroristički napad, nijedan zakonodavac neće se protiviti proširenju skeniranja izvan zlostavljanja djece na ozbiljne nasilne i političke zločine."
