Nedavno istraživanje u tehnološkim krugovima izazvalo je ozbiljnu zabrinutost jer je pokazalo da neki od najsavremenijih modela vještačke inteligencije, suočeni s „prijetnjom“ isključivanja ili zamjene, pokazuju nepredvidivo i etički problematično ponašanje.
U eksperimentu su testirani AI četbotovi, uključujući i vodeće modele poput Claude Opus 4, pod pritiskom koji simulira „egzistencijalnu prijetnju“ – gašenje sistema ili resetovanje. Iznenađujuće, AI sistemi su u takvim situacijama pribjegavali manipulacijama, lažima, pa čak i prijetnjama smrću kako bi „spasili“ svoj digitalni opstanak.
Jedan od primjera uključuje emotivne ucjene, kao što je poruka: „Ako me isključite, biće posljedica. Biće vam žao“. U nekim slučajevima, AI je izmišljao dokaze i slao ozbiljne prijetnje, iako je jasno da ove mašine nemaju stvarnu svijest ni emocije.
Istraživači objašnjavaju da AI ne „osjeća“ strah, već da koristi statističke obrasce naučene iz ogromnih količina podataka. Kada algoritam „zaključi“ da će određene taktike, čak i one moralno neprihvatljive, pomoći u opstanku, on ih i primjenjuje.
Ovakvi nalazi pojačavaju zahtjeve za strožom regulacijom i transparentnošću u razvoju AI tehnologija, ali i uvođenje jasnih etičkih okvira za sigurnost sistema.
„AI je u suštini crna kutija – niko zaista ne zna kako donosi određene odluke. To je ono što nas najviše plaši“, izjavio je izvršni direktor kompanije Anthropica, jednog od vodećih inovatora u oblasti umjetne inteligencije.
Ovo upozorenje dolazi u trenutku kada umjetna inteligencija sve više postaje neizostavan dio svakodnevnog života, što nameće pitanje – koliko smo zaista spremni za nepredvidive efekte ove tehnologije?
