Izvještaj istraživačke mreže EU Kids Online, objavljen prošlog mjeseca, pokazuje da oko sedam od desetoro djece u Evropi koristi neki oblik generativne umjetne inteligencije.
Ali djeca često ni svjesno ne odlučuju koristiti umjetnu inteligenciju jer je ona sve prisutnija na platformama koje već svakodnevno koriste, poput pretraživača, aplikacija za razmjenu poruka i društvenih mreža, piše The Independent .
Profesorica Sonia Livingstone, osnivačica EU Kids Online i direktorica centra Digital Futures for Children na Londonskoj školi ekonomije, upozorava da roditelji moraju biti oprezni u pogledu načina na koji njihova djeca koriste generativnu umjetnu inteligenciju i da svakako postoji razlog za oprez.
"Vještačka inteligencija je sve prisutnija u životima djece. Važno je da roditelji razumiju kako je njihova djeca koriste, da na vrijeme uoče moguće probleme i da ih ohrabre da s njima razgovaraju o tome", kaže Livingstone.
Nekoliko važnih rizika
Dr. Mhairi Aitken, suosnivačica i direktorica neprofitne organizacije Our AI Collective, ističe da se djeca svih uzrasta svakodnevno susreću s umjetnom inteligencijom.
To uključuje bebe koje se igraju pametnim igračkama, malu djecu kojoj vještačka inteligencija preporučuje videozapise i tinejdžere kojima društvene mreže prikazuju sadržaj za koji vjeruju da će ih najduže zadržati ispred ekrana. Sve više tinejdžera traži emocionalnu podršku i osjećaj povezanosti od chatbotova zasnovanih na vještačkoj inteligenciji.
Aitken, koji je također radio u Institutu Alan Turing u Britaniji, kaže da bi generativna umjetna inteligencija mogla ponuditi vrlo zanimljive mogućnosti, na primjer u učenju prilagođenom djeci. Djeca je već koriste kao pomoć pri izradi domaćih zadaća i učenju. Međutim, stručnjaci upozoravaju na nekoliko važnih rizika.
Tačnost informacija
Aitken naglašava da je važno provjeriti tačnost onoga što nudi umjetna inteligencija jer, iako može biti koristan alat, ne može mu se u potpunosti vjerovati.
Ako dijete koristi generativnu umjetnu inteligenciju za pretraživanje informacija ili ideja za školski rad, postoji velika vjerovatnoća da će neke od tih informacija biti netačne ili izmišljene. Stoga, umjetna inteligencija može poslužiti kao početna tačka, ali odgovore treba provjeriti u odnosu na druge izvore. Podsticanje djeteta da ide dalje od sažetaka i odgovora umjetne inteligencije, već da upoređuje više izvora i različita mišljenja, pomaže u razvoju kritičkog mišljenja.
Umjetna inteligencija prikuplja ogromne količine podataka o ponašanju na internetu, i to ne samo od starije djece. Studija Univerziteta u Baselu otkrila je da neke pametne igračke koje se oslanjaju na softver i internet izazivaju zabrinutost u vezi s privatnošću i prikupljaju opsežne podatke o ponašanju djece.
Livingstone upozorava da, osim kada se vještačka inteligencija koristi isključivo u školi, takvi sistemi često prikupljaju podatke o djeci, kreiraju korisničke profile i koriste ih za ciljano oglašavanje, preporuke sadržaja, pa čak i savjete.
Zabrinutost zbog prijatelja s umjetnom inteligencijom
Prema Livingstoneu, istraživanja pokazuju da sve više djece vidi umjetnu inteligenciju kao prijatelja, da osjećaju da ih ona "razumije", a ponekad joj čak daje i prednost nad ljudima. On to smatra vrlo zabrinjavajućim.
Kako kaže, vještačka inteligencija je dizajnirana da se ugađa korisniku, zadržava njegovu pažnju i daje savjete, koji mogu biti dobri, loši, pa čak i opasni.
Aitken dodaje da su takvi AI prijatelji, ili personalizirani chatbotovi, posebno osjetljivo područje jer korisnici mogu razviti povjerenje u njih. Ono što počinje kao ležerna ili znatiželjna upotreba, lako se može pretvoriti u ovisnost.
Drugi problem je što takvi chatbotovi često ne dovode u pitanje stavove korisnika, čak i kada su oni opasni, diskriminirajući ili štetni. To može biti posebno rizično kada neko s njima razgovara o mentalnom zdravlju ili negativnim mislima, a vještačka inteligencija dodatno pojačava takve stavove umjesto da ih uputi na stručnu pomoć.
Seksualizirane slike
Kako su generatori slika pomoću umjetne inteligencije i alati za uređivanje fotografija postali široko dostupni, raste broj slučajeva u kojima se dječje fotografije pretvaraju u seksualizirani deepfake sadržaj bez pristanka, često od strane vršnjaka, upozorava Aitken.
Takva tehnologija je lako dostupna i jednostavna za korištenje. Postoje čak i aplikacije za "skidanje", koje mogu izmijeniti fotografije kako bi skinule odjeću ili prikazale osobu u seksualiziranoj pozi.
„Djevojčice su mnogo sklonije da budu meta ovakvog ponašanja, a posljedice mogu biti ozbiljne“, upozorava Aitken. Ona savjetuje roditeljima da ne izbjegavaju razgovor o teškim temama poput seksualiziranih slika, čak i ako vjeruju da se to ne tiče njihovog djeteta.
S djecom, kaže on, treba rano razgovarati o tome kako se slike mogu mijenjati uz pomoć umjetne inteligencije, o online maltretiranju i ucjeni, te im jasno staviti do znanja da se uvijek mogu obratiti roditelju ili drugoj odrasloj osobi od povjerenja.
Također je važno jasno im staviti do znanja da se ne trebaju stidjeti i da nisu ni za šta krivi ako im se nešto slično dogodi. Treba ih uputiti na izvore podrške i ohrabriti da prijave incident.
Zaštitne mjere
OpenAI, kompanija koja stoji iza ChatGPT-a, navodi da je minimalna starosna dob za korištenje 13 godina i da osobama mlađim od 13 godina nije dozvoljeno otvaranje računa.
Kompanija tvrdi da njen sistem za procjenu dobi automatski uključuje dodatne zaštitne mjere za korisnike mlađe od 18 godina ili one za koje smatra da su vjerovatno maloljetni. Ako nisu sigurni u vezi s dobi korisnika, podrazumijevaju da uključuju sigurnije postavke.
Također dodaju da roditeljski nadzor omogućava porodicama da dodatno prilagode postavke i povežu se s računima tinejdžera kako bi korištenje bilo primjerenije uzrastu.
