Kada je stvoren World Wide Web, javnosti je obećana era demokratskog učešća, digitalno tržište za novi milenijum. Stvarnost se pokazala mnogo problematičnijom: predatorski algoritmi potkopavaju civilno društvo, iskrivljuju istinu i podstiču podjele među građanima...
Na vrhuncu Hladnog rata, čovjek po imenu Ewald-Heinrich von Kleist-Schmenzin okupio je vodeće zapadne stručnjake za sigurnost u Münchenu. Kao borac otpora iz Drugog svjetskog rata i član Stauffenbergovog kruga koji je pokušao svrgnuti Hitlera, imao je jasan cilj: spriječiti Treći svjetski rat. Ostatak svog života posvetio je podsticanju otvorenog dijaloga, dijeljenju odbrambenih strategija i smanjenju tenzija.
Sutra, kada se svjetski lideri ponovo okupljaju na godišnjoj Minhenskoj sigurnosnoj konferenciji, prijetnje s kojima se suočavaju nisu ništa manje ozbiljne od onih od prije nekih 60 godina, iako su mnoge od njih mnogo manje vidljive.
Da, ratovi se vode na nekoliko kontinenata, savezi se testiraju, a tenzije eskaliraju preko granica i okeana. Međutim, autor ovog mišljenja tvrdi da bi, da je von Kleist-Schmenzin danas živ, prepoznao da se najznačajniji sukob našeg vremena možda uopće neće dogoditi na tradicionalnim bojnim poljima. Odvija se u digitalnom prostoru, gdje kontrola nad ličnim podacima, nad našim digitalnim identitetom, predstavlja centralni izvor moći i utjecaja u modernom svijetu.
Kada je stvoren World Wide Web, javnosti je obećana era demokratskog učešća, digitalno tržište za novi milenijum. Prema autoru, stvarnost se pokazala mnogo problematičnijom: predatorski algoritmi potkopavaju civilno društvo, iskrivljuju istinu i podstiču podjele među građanima, dok mali broj tehnoloških kompanija zna više o svojim korisnicima nego bilo koja obavještajna agencija u prošlosti.
On ističe da se uticaj interneta osjeća na nacionalnom nivou, gdje polarizacija i dezinformacije slabe društvenu koheziju, utiču na izbore i potresaju međunarodni poredak. Uticaj se osjeća i u porodičnom životu, gdje automatizovani svjetovi i razdorni glasovi utiču na mentalno i socijalno zdravlje djece.
Prema autoru, ova situacija nije slučajnost, već rezultat modela koji su izgradile velike tehnološke kompanije. On tvrdi da je od trenutka kada je Facebook uveo dugme „sviđa mi se“, internet počeo da se transformiše iz otvorenog izvora znanja u sistem optimizovan za ljutnju, ovisnost i profit, koji nagrađuje podjele i zanemaruje istinu.
Poslovni model, tvrdi on, je jednostavan: algoritmi su dizajnirani da privuku i iskoriste pažnju korisnika, a ne da ih informišu ili povežu. Iz finansijske perspektive, ovaj model se pokazao izuzetno profitabilnim. Velike tehnološke kompanije su u rekordnom roku prikupile trilione dolara, akumulirajući ono što autor naziva najvrednijim resursom u ljudskoj historiji, ličnim podacima. On tvrdi da se ovi podaci prikupljaju putem mehanizama praćenja velikih razmjera.
S porastom vještačke inteligencije, kaže autor, iste kompanije predstavljaju novu narativu: novo poglavlje za internet, daleko moćnije i naizgled profitabilnije. Ipak, on tvrdi da osnovna logika ostaje ista. Novi sistemi se i dalje dizajniraju kako bi izvlačili više podataka, vršili veću kontrolu i produbljivali manipulaciju, ovaj put u još većim razmjerima.
On posebno upozorava na ono što naziva "agentskom mrežom", gdje autonomni sistemi vještačke inteligencije više nisu ograničeni na interpretaciju informacija, već im je data moć da djeluju na osnovu njih, često uz minimalan nadzor i nedovoljne sigurnosne mehanizme. Primjer je OpenClaw, autonomni asistent otvorenog koda, koji ilustruje prelazak sa konzumiranja informacija na delegiranje akcija digitalnim agentima. Prema autoru, pojedinci daju ovim sistemima široka ovlaštenja za interakciju s drugim sistemima u realnom vremenu, povećavajući rizik od konkretne štete i koordinirane manipulacije.
Dodaje da se oni koji izražavaju zabrinutost zbog ove koncentracije moći i sigurnosnih rizika često etiketiraju kao protivnici napretka ili kao prepreke u tehnološkoj utrci s Kinom. Ali autor jasno stavlja do znanja da se, po njegovom mišljenju, demokratije ne mogu takmičiti usvajanjem autoritarnih modela algoritama, centralizirane moći i masovnog nadzora.
Da bi promijenio ovu stvarnost, on predlaže izgradnju alternativnih sistema koji poštuju individualna prava, vraćaju građanima vlasništvo i kontrolu nad njihovim ličnim podacima i poštuju demokratske principe. Tehnologije koje oblikuju svakodnevni život, tvrdi on, trebale bi biti dizajnirane da štite građane, a ne da ih izlažu rizicima.
Autor ističe da se takva tehnologija već razvija. Prema njegovim riječima, tehnolozi, univerziteti, kompanije i vlade širom svijeta rade na stvaranju nove paradigme za vještačku inteligenciju: otvorenog koda, transparentnih sistema, pod nadzorom javnog sektora i civilnog društva. Njegova organizacija, Projekt Liberty, predstavljena je kao dio ovog napora, zasnovanog na uvjerenju da se vještačka inteligencija može i treba graditi u skladu s temeljnim demokratskim vrijednostima.
U ovoj viziji, nova arhitektura umjetne inteligencije ima za cilj ljudski razvoj, daje pojedincima glas u načinu na koji platforme funkcioniraju, stvarne izbore nad korištenjem podataka i sudjelovanje u ekonomskoj vrijednosti stvorenoj na internetu. Ovu arhitekturu, prema autoru, moraju pratiti politike i mehanizmi upravljanja koji štite demokratiju, slobodu i javno povjerenje.
Zaključno, poziva svjetske lidere, dok se okupljaju u Münchenu, da izgrade jači temelj za razvoj umjetne inteligencije, integrirajući demokratske vrijednosti i štiteći buduće generacije u onome što on opisuje kao novi front u borbi za demokratiju.
