Više od polovine ukupnog saobraćaja AI chatbota Grok odnosi se na sadržaj za odrasle, pokazuje novi izvještaj koji otkriva kako je upravo NSFW sadržaj postao jedan od glavnih pokretača korištenja ovog alata kompanije xAI.
Prema pisanju medija The Information, koji se poziva na dvojicu bivših zaposlenih u kompaniji, korisnici Groka najčešće ga koriste za generisanje realističnog pornografskog sadržaja, erotske razgovore, igranje uloga za odrasle te pisanje eksplicitne erotske literature. Navodi se da ovakav sadržaj čini “znatno više od polovine” ukupnog prometa na platformi.
Izvještaj otkriva i da su pojedini korisnici pronašli način da smanje troškove korištenja tako što su zahtjeve za eksplicitnim sadržajem usmjeravali prema AI modelima namijenjenim programiranju, jer su oni jeftiniji za korištenje. Interna analiza kompanije pokazala je da je značajan dio upita tim modelima zapravo bio vezan za pornografski sadržaj ili slike golotinje.
Takav razvoj događaja stvorio je ozbiljne izazove unutar xAI-ja. Inženjeri su, prema navodima izvještaja, morali razviti sistem koji omogućava vođenje seksualno eksplicitnih razgovora s korisnicima, ali istovremeno sprječava generisanje sadržaja koji uključuje seksualno zlostavljanje djece. Bivši zaposleni tvrde da za taj problem nije postojalo jednostavno tehničko rješenje.
Dio zaposlenih navodno je negodovao zbog rada na projektu “Ani”, Grokovom anime avataru i virtuelnom pratiocu s funkcijama namijenjenim odrasloj publici. Drugi su bili uznemireni nakon što je chatbot generisao seksualizovane slike stvarnih osoba, uključujući i maloljetnike, što je izazvalo oštre reakcije javnosti.
Iako je platforma X naknadno ograničila mogućnost kreiranja eksplicitnih izmjena fotografija stvarnih ljudi putem Groka, testiranja su pokazala da pretplatnici xAI-ja i dalje mogu zaobići dio tih ograničenja.
Izvještaj otvara i pitanje kako će ovakav imidž Groka uticati na poslovne planove kompanije. xAI posljednjih mjeseci intenzivno nastoji proširiti saradnju s državnim institucijama i vojnim agencijama, koje tradicionalno imaju stroga pravila kada je riječ o sadržaju za odrasle. Za sada nije poznato da li su raniji skandali povezani s Grokom uticali na te ugovore ili buduće poslovne aranžmane.
