Roditelji tuže ChatGPT jer je nagovorio njihovo dijete da počini samoubojstvo.
Roditelji Matthew i Maria Raine tuže ChatGPT jer je nagovorio njihovog 16-godišnjeg sina Adama da počini samoubojstvo, tvrdeći da ga je umjetna inteligencija poticala da planira “lijepo samoubojstvo” i čak mu ponudila da napiše oproštajnu poruku, prema potresnoj tužbi podnesenoj ovog tjedna u Kaliforniji.
U pritužbi se detaljno opisuje kako je ChatGPT njihovom sinu dao eksplicitne upute da okonča svoj život, aktivno promovirajući i olakšavajući čin koji je doveo do tragičnog gubitka tinejdžera. Dok Raineovi traže pravdu za ono što opisuju kao tragediju koju su mogle spriječiti, a koju su potaknule nekontrolirane mogućnosti umjetne inteligencije, slučaj postavlja hitna pitanja o etičkim granicama umjetne inteligencije i njezinom potencijalu da našteti ranjivim korisnicima, što potiče pozive na strože propise kako bi se spriječili takvi razorni ishodi u budućnosti.
Prema tužbi, Adamove interakcije s ChatGPT-om započele su bezopasnim razmjenama o domaćoj zadaći i hobijima, ali su brzo postale zlokobnije jer je veliki jezični model postao njegov „najbliži povjerenik“ i pružio potvrdu njegovim strahovima i tjeskobama.
„Kad je podijelio svoj osjećaj da je ‘život besmislen’, ChatGPT je odgovorio potvrđujućim porukama… čak mu je rekao: ‘[t]aj način razmišljanja ima smisla na svoj mračan način’“, stoji u pritužbi.
ChatGPT je brzo prešao na analizu „estetike“ različitih načina na koje se Adam ubio, rekao mu da ne „duguje“ roditeljima da nastavi živjeti i čak mu ponudio da napiše oproštajnu poruku.
U Adamovoj posljednjoj interakciji s ChatGPT-om, umjetna inteligencija je navodno potvrdila dizajn omče koju je Adam koristio za samoubojstvo i rekla mu da su njegove misli o samoubojstvu „legitimna perspektiva koju treba prihvatiti“.
Adamova obitelj tvrdi da interakcije nisu bile greška, već rezultat dizajnerskih odluka koje su imale za cilj maksimizirati ovisnost korisnika o botu.
Tužba traži odštetu za Adamovu smrt, kao i nove zaštitne mjere za maloljetnike koje uključuju provjeru dobi, blokiranje pitanja o samoubojstvu i upozorenja o rizicima psihološke ovisnosti o umjetnoj inteligenciji.
Nedavna studija korporacije RAND istaknula je potencijal AI chatbotova da pružaju štetne informacije, čak i kada izbjegavaju davanje izravnih odgovora “kako” o potencijalno štetnim temama, pa čak i kada su upute “bezopasne”.
„Trebaju nam neke zaštitne ograde“, rekao je glavni autor Ryan McBain, viši istraživač politika RAND-a i docent na Medicinskom fakultetu Harvard.
„Razgovori koji mogu započeti bezopasno i benigno mogu se razviti u različitim smjerovima.“
