Naučna fantastika često prikazuje umjetnu inteligenciju kao prijetnju čovječanstvu, sa scenarijima kao što su HAL-9000 (2001: Odiseja u svemiru) i Skynet (Terminator franšiza) naglašavajući strah od mašina koje se okreću protiv svojih kreatora.
Danas, sa porastom sofisticiranih modela velikih jezika (LLM) kao što je Chat GPT , ovi problemi su postali relevantniji.
Međutim, nova studija koju su vodili kompjuterski naučnici Iryna Gurevych sa Tehničkog univerziteta Darmstadt u Njemačkoj i Harish Tayyar Madabushi sa Univerziteta Batth u Velikoj Britaniji donosi ohrabrujuće vijesti. Studija zaključuje da se ovi LLM modeli ne mogu otuđiti, jer su previše ograničeni svojim programiranjem da bi razvili nove sposobnosti bez ljudskih instrukcija.
Neopravdan strah i nedostatak prave inteligencije
Strah je bio da će, kako modeli budu sve veći i veći, moći riješiti nove probleme koje trenutno ne možemo predvidjeti, što predstavlja prijetnju da bi ovi veći modeli mogli steći opasne sposobnosti, uključujući razmišljanje i planiranje. Naša studija pokazuje da strah da će LLM model izmaći kontroli i učiniti nešto potpuno neočekivano, inovativno i potencijalno opasno nije validan , objašnjava Tayyar Madabushi.
Uprkos značajnom napretku u LLM tehnologiji, koja sada može da se uključi u koherentne tekstualne razgovore koji oponašaju ljudsku interakciju, i dalje joj nedostaje istinska inteligencija. LLM modeli mogu vjerodostojno prenijeti netačne informacije , ali to je zbog ograničenja obrade, a ne autonomnog zaključivanja.
Kontrola procesa učenja
Naučnici su nedavno istražili ideju o "emergentnim sposobnostima" u LLM modelima, odnosno vještinama koje bi se mogle razviti neovisno o njihovom programiranju. Međutim, eksperimenti studije sa četiri različita LLM-a nisu pronašli dokaze takvog autonomnog ponašanja. Prikazane sposobnosti objašnjavaju se sposobnošću modela da prati uputstva, pamćenjem i jezičkim sposobnostima, bez znakova samostalnih ili neočekivanih radnji.
Naši rezultati ne znače da umjetna inteligencija uopće nije prijetnja... Međutim, možemo vrlo dobro kontrolirati proces učenja LLM. Buduća istraživanja bi se stoga trebala fokusirati na druge rizike koje predstavljaju modeli, kao što je njihov potencijal da se koriste za kreiranje lažnih vijesti , objašnjava Gurevych.
Istraživanje je objavljeno u zborniku radova sa 62. godišnjeg sastanka Međunarodnog udruženja za računarsku lingvistiku (ACL).
