Više od milijun ljudi tjedno raspravlja o samoubojstvu putem ChatGPT-a što su uistinu zastrašujuće brojke.
OpenAI je najavio novo sigurnosno ažuriranje za svoj popularni ChatGPT model nakon što je interna analiza otkrila da je više od milijun korisnika priznalo suicidalne sklonosti chatbotu. Promjene su namijenjene poboljšanju sposobnosti umjetne inteligencije da prepozna i reagira na odgovarajući način u hitnim situacijama.
U izjavi u ponedjeljak, tvrtka je otkrila da je procijenjenih 0,15% tjednih korisnika ChatGPT-a vodilo razgovore koji sadrže “eksplicitne naznake potencijalnih suicidalnih planova ili namjera “. Dodatnih 0,05% poruka također je sadržavalo “eksplicitne ili implicitne naznake suicidalnih misli ili namjera ” , izvijestio je RT .
Ranije ovog mjeseca, izvršni direktor OpenAI-a Sam Altman rekao je da ChatGPT ima više od 800 milijuna aktivnih korisnika tjedno, što znači da je, prema najnovijim podacima tvrtke, više od 1,2 milijuna ljudi razgovaralo o samoubojstvu s chatbotom, a oko 400 000 pokazalo je znakove suicidalnih misli.
Tvrtka je također izvijestila da otprilike 0,07% (560.000) tjednih korisnika i 0,01% (80.000) poruka pokazuje “potencijalne znakove mentalnih zdravstvenih kriza povezanih s psihozom ili manijom “. Nadalje je napomenuto da su neki korisnici postali previše emocionalno ovisni o ChatGPT-u, s otprilike 0,15% (1,2 milijuna) aktivnih korisnika koji pokazuju ponašanje koje ukazuje na “povećanu razinu” emocionalne vezanosti za chatbota.
OpenAI je najavio da surađuje s desecima stručnjaka za mentalno zdravlje iz cijelog svijeta kako bi ažurirao svog chatbota kako bi mogao pouzdanije prepoznati znakove problema s mentalnim zdravljem, pružiti bolje odgovore i usmjeriti korisnike na stvarnu pomoć.
U razgovorima o zabludama, tvrtka ChatGPT uči kako reagirati „sigurno“ i „empatično“ te ne potvrđivati neutemeljena uvjerenja.
Objava tvrtke dolazi usred rastuće zabrinutosti zbog sve veće upotrebe AI chatbotova poput ChatGPT-a i njihovog utjecaja na mentalno zdravlje ljudi. Psihijatri i drugi medicinski stručnjaci izrazili su zabrinutost zbog rastućeg trenda u kojem korisnici razvijaju opasne deluzije i paranoidne misli nakon duljih razgovora s AI chatbotovima, koji obično potvrđuju i učvršćuju uvjerenja korisnika. Fenomen su neki nazvali “AI psihozom” .
