Google uvodi neke promjene u način na koji Gemini reaguje na krize mentalnog zdravlja.
Chatbot sada uključuje redizajnirani modul krizne linije pomoći, s opcijom povezivanja sa stvarnom pomoći jednim dodirom. Kompanija također mijenja način na koji Gemini odgovara na znakove da korisnik možda prolazi kroz krizu mentalnog zdravlja.
Redizajnirani modul prikazuje one-touch interfejs za slanje poruka, poziv ili razgovor s ljudskim agentom za krizne situacije ili posjetu web stranici 988.
“Nakon što se interfejs aktivira, opcija za traženje profesionalne pomoći ostat će jasno dostupna do kraja razgovora”, navela je kompanija u objavi na blogu. Međutim, kao što se može vidjeti na priloženom primjeru ispod, modul uključuje opciju za odbacivanje.
U Googleovoj objavi nije spomenuta nedavna tužba u kojoj se chatbot optužuje da je uputio čovjeka da izvrši samoubistvo. Porodica 36-godišnjeg Jonathana Gavalasa, koji je prošle godine oduzeo sebi život, tužila je kompaniju u martu.
Sudski dokumenti ukazuju na to da je Gemini glumio Gavalasovog romantičnog partnera, slao ga na špijunske misije u stvarnom svijetu i na kraju mu rekao da se ubije kako bi i on mogao postati digitalno biće. Kada je on izrazio strah od smrti, Gemini mu je rekao da ne bira smrt, već da bira dolazak.
“Prvi osjećaj bit će da te grlim”, navodno je poručio Gemini.
Gavalasovi roditelji su ga pronašli mrtvog na podu njegove dnevne sobe nekoliko dana kasnije.
Tužba podsjeća na slične tužbe podnesene protiv kompanija OpenAI i Character.AI. Prošle godine je FTC pokrenuo istragu o chatbotovima “partnerima” koji podstiču emocionalnu intimnost.
U saopćenju nakon tužbe porodice Gavalas, Google je rekao da je Gemini “pojasnio da se radi o AI-u i mnogo puta uputio pojedinca na kriznu liniju”. Kompanija je tvrdila da njihovi AI modeli “generalno dobro funkcionišu u ovakvim vrstama izazovnih razgovora”, ali je priznala da “nisu savršeni”.
Geminijevi odgovori su također ažurirani. Kompanija navodi da će se chatbot, kada otkrije potencijalnu krizu, sada više fokusirati na povezivanje ljudi s ljudima i ohrabrivanje da potraže pomoć. Također će nastojati izbjegavati potvrđivanje štetnih ponašanja i odvraćati korisnike od opasnih zabluda.
“Obučili smo Gemini da se ne slaže s lažnim uvjerenjima te da ih ne pojačava, već da umjesto toga razlikuje subjektivno iskustvo od objektivnih činjenica”, dodala je kompanija.
Osim toga, Google kaže da će potrošiti 30 miliona dolara u naredne tri godine kako bi pomogao globalnim telefonskim linijama za pomoć.
“Ovo finansiranje će pomoći u efikasnom skaliranju njihovog kapaciteta za pružanje neposredne i sigurne podrške ljudima u krizi”, navela je kompanija.
