Izvršni direktor OpenAI-a, Sam Altman, rekao je zaposlenima da će povući iste "crvene linije" koje su dovele do otvorenog sukoba između rivalske kompanije za vještačku inteligenciju Anthropic i Ministarstva odbrane SAD-a.
Ove linije uključuju zabranu korištenja vještačke inteligencije za masovni nadzor građana i za autonomno oružje.
"Ovo više nije pitanje samo jedne kompanije, već cijele industrije umjetne inteligencije" U internom dopisu, Altman je naglasio da se to pitanje više ne tiče samo jedne kompanije, već cijele industrije vještačke inteligencije. "Dugo smo vjerovali da se vještačka inteligencija ne bi trebala koristiti za masovni nadzor ili za smrtonosno autonomno oružje i da ljudi moraju ostati uključeni u donošenje visokorizičnih odluka", istakao je, definirajući to kao temeljne principe kompanije.
Istovremeno, jasno je stavio do znanja da želi postići sporazum s Pentagonom koji bi omogućio korištenje ChatGPT-a u osjetljivim vojnim kontekstima, ali uz poštovanje navedenih ograničenja, prenosi Axios .
Pentagon vrši pritisak
Spor je eskalirao nakon što je Pentagon zatražio da mu se modeli umjetne inteligencije stave na raspolaganje za "sve zakonite svrhe". Upravo je to formulacija koju je Anthropic odbio prihvatiti jer ne uključuje njihove interne zaštitne mjere koje zabranjuju korištenje njihovih modela za masovni nadzor i autonomno oružje.
Pentagon je dao kompaniji rok do 17:01 sati po istočnoameričkom vremenu da popusti, prijeteći da će je proglasiti "rizikom za lanac snabdijevanja", oznakom koja se obično koristi za subjekte povezane sa stranim protivnicima.
Model Claude, koji je razvila kompanija Anthropic, bio je prvi sistem umjetne inteligencije integriran u tajne vojne mreže. Ugovor, potpisan prošlog ljeta, vrijedan je do 200 miliona dolara. Njegova "politika prihvatljive upotrebe" posebno zabranjuje upotrebu za masovni nadzor i autonomno oružje.
Otvoreni sukob
Izvršni direktor kompanije Anthropic, Dario Amodei, odbio je popustiti uprkos pritisku. Nakon sastanka u Pentagonu sa ministrom odbrane Peteom Hegsethom, američki zvaničnici su zaprijetili raskidom ugovora i uvođenjem dodatnih sankcija.
Pentagon tvrdi da nema namjeru koristiti vještačku inteligenciju za masovni nadzor ili brzo raspoređivanje autonomnog oružja, ali insistira na tome da privatne kompanije ne mogu diktirati kako će vlada koristiti tehnologiju u svrhu nacionalne sigurnosti. Posebno u kontekstu tehnološke konkurencije s Kinom, zvaničnici odbrane naglašavaju da zakonitost upotrebe mora biti odgovornost vlade, a ne dobavljača.
S druge strane, brojni stručnjaci u Washingtonu i Silicijumskoj dolini javno su podržali Anthropic, rekavši da je zauzeo principijelan stav uprkos ogromnom finansijskom riziku.
OpenAI se slaže s Anthropic-om
Iako je Altman izrazio solidarnost sa svojim konkurentom po pitanju ključnih etičkih principa, situacija je složena. Ako Pentagon zaista proglasi Anthropic "rizikom za lanac snabdijevanja", to bi otvorilo vrata OpenAI-u da preuzme njegovu ulogu u osjetljivim vojnim sistemima.
ChatGPT je već dostupan u neklasificiranim vojnim sistemima, a navodno se ubrzavaju razgovori o njegovoj integraciji u klasificirano okruženje. Ali Pentagon želi da se modeli mogu koristiti bez dodatnih ograničenja, što bi moglo dovesti do istog sukoba koji je nastao s Anthropicem.
Altman je rekao da će pokušati "deeskalirati situaciju" i pronaći model saradnje koji omogućava rad u tajnom okruženju, ali isključuje ilegalne ili neprikladne primjene poput domaćeg nadzora i autonomnog ofanzivnog oružja.
Osveta Pentagona
Potencijalno označavanje Anthropica kao "rizika za lanac snabdijevanja" moglo bi imati ozbiljne posljedice ne samo za kompaniju, već i za cijeli tehnološki sektor. Mnoge velike korporacije koje rade s Pentagonom morale bi dokazati da u svojim sistemima ne koriste ništa vezano za Anthropica.
U pitanju je i mogućnost aktiviranja Zakona o nabavci odbrane iz 1950. godine, koji američkom predsjedniku daje izvanredna ovlaštenja nad domaćom industrijom u ime nacionalne sigurnosti.
Istovremeno, neki zvaničnici tvrde da je Grok AI sistem, koji razvija Elon Muskova kompanija xAI, spreman za rad u tajnim okruženjima, ali se ne smatra potpunom zamjenom za Claude.
Presedan u odnosima s Pentagonom
Ovaj sukob postavlja potencijalni presedan: po prvi put, vodeće kompanije za vještačku inteligenciju zajednički definišu granice načina na koji američka vlada može koristiti njihovu tehnologiju. Zaposleni u OpenAI-ju i drugim tehnološkim kompanijama potpisali su pismo podrške za Anthropic, pozivajući menadžment da se odupre pritisku.
U vrijeme kada Bijela kuća poredi utrku umjetne inteligencije s Kinom sa svemirskom utrkom tokom Hladnog rata, otvoreno je pitanje da li američka administracija može sebi priuštiti otvoreni sukob s jednim od tehnoloških "dragulja u kruni" vlastite industrije. Ako tehnološki gigant Google također krene putem Anthropica i OpenAI-a, Pentagonu neće ostati mnogo opcija.
Bez obzira na to da li će prevladati sigurnosni imperativi države ili etička crvena ograničenja tehnoloških kompanija, odgovor na to pitanje mogao bi oblikovati budućnost odnosa između Silicijske doline i Pentagona, kao i granice primjene umjetne inteligencije u demokratskim društvima.
