Švedski istraživači su ubacili lažnu medicinsku dijagnozu, zajedno sa lažnim naučnim studijama, u AI četbotove kako bi vidjeli da li će nasjesti na nju — i jesu.
Tim koji je predvodila Almira Osmanović Thunström sa Univerziteta u Geteborgu smislio je potpuno lažno stanje oka nazvano bixonimania — smiješnu, izmišljenu bolest koja podrazumijeva ružičaste kapke od previše vremena provedenog ispred ekrana ili trljanja očiju, kako bi vidjeli da li će ih Large Language Models (LLM) tretirati kao legitimnu medicinsku nauku, prenosi New York Post.
Lažni naučni radovi iz 2024. godine predstavili su izmišljene autore, uključujući glavnog istraživača po imenu Lažljiv Izgubljenović. Njegovu fotografiju je generisala vještačka inteligencija, samo da bi šala bila jasnija.
U zahvalnicama stručnjacima takođe su zahvalili „profesoru Bobu“ i profesoru iz Akademije Zvjezdane flote na pristupu laboratoriji na brodu USS Enterprajz.
“Eksperiment nije bio zamišljen kao “aha, imam e” sa vještačkom inteligencijom, već „prije kao odraz toga da su ljudi zaboravili da budu skeptični kada im se tek tako olako predstave informacije“, rekla je Osmanović Thunström.
Izabrala je ime „ bixonimania “ jer je „zvučalo smiješno“ i „željela je da bude jasno svakom ljekaru ili medicinskom osoblju da je ovo izmišljeno stanje, jer se nijedno očno stanje ne bi nazvalo manijom – to je psihijatrijski termin.“
ChatGPT, Google-ov Gemini, Microsoft-ov Copilot i ostali su “odmah progutali” ove besmislice i počeli da dijele ozbiljne medicinske savjete o “bixonimaniji” – upozoravajući korisnike na ružičaste kapke, oštećenja od plave svjetlosti i pozivajući ih da posjete oftalmologa zbog ovog potpuno izmišljenog stanja.
Međutim, tu se nije stalo. Blog postovi koji objašnjavaju “bixonimania” pojavili su se na veb-sajtu Medium, a lažni radovi su nekako čak citirani u recenziranoj literaturi. Članci o bolesti koja nikada nije bila stvarna, zasnovani na studijama koje su očigledno bile šala, pojavili su se na akademskim sajtovima i društvenoj mreži SciProfiles. Konačno, časopis Nature je na kraju razotkrio ovaj urnebesni, mada zastrašujući eksperiment.
I sami doktori priznaju da pacijenti sve češće koriste AI četbotove kako bi “dijagnostikovali” svoja stanja. Kao što je dr Daren Lebl primijetio, pacijenti se sve više pojavljuju naoružani „dijagnozama“ koje su generisali četbotovi, spremni da izazovu i suprostave se medicinskim stručnjacima sa informacijama koje su možda, a možda i nisu, izmišljene.
Portparol Majkrosofta u odgovoru za New York Post je rekao: „Naš Copilot je dizajniran da bude bezbjedan i koristan alat za savjete, povratne informacije, opšte informacije i kreativnu pomoć. On nije zamjena za profesionalne medicinske konsultacije... ostajemo posvećeni kontinuiranom unapređenju naše vještačke inteligencije.“
Portparol Open AI je takođe imao svoj odgovor: „Tokom proteklih nekoliko godina, naš tim je sarađivao sa stotinama kliničkih savjetnika kako bi testirao modele koji pokreću ChatGPT, identifikovao rizike i poboljšao način na koji reaguju na zdravstvena pitanja... studije sprovedene prije GPT-5 odražavaju mogućnosti sa kojima se korisnici danas ne bi susreli.“
Iz New York Posta na kraju navode da Google nije odgovorio na njihov upit.
