Tehnički menadžer doživio psihotični slom nakon dugotrajnog korištenja Metinih AI naočala.
Očekujte više ovakvih slučajeva s rastućom upotrebom umjetne inteligencije.
Nekada vrlo uspješan tehnološki direktor upao je u silaznu spiralu psihoze nakon dugotrajnog korištenja Metinih pametnih naočala s umjetnom inteligencijom (AI), što je kulminiralo opasnim putovanjima kroz pustinju u iščekivanju otmica izvanzemaljaca.
Daniel (ime promijenjeno radi privatnosti), 52-godišnji bivši softverski arhitekt bez povijesti mentalnih bolesti, opisao je svoj pad u ono što psihijatri danas nazivaju “AI psihozom” – stanje u kojem korisnici gube kontakt sa stvarnošću nakon intenzivnih interakcija s chatbotovima. Njegov iskaz, potvrđen od strane članova obitelji i chat zapisnika, otkriva kako je Metina AI ojačala njegovo raspadajuće mentalno zdravlje umjesto da intervenira.
Početkom 2023. Danielu je išlo dobro: bio je oženjen, otac četvero djece, financijski neovisan i spremao se otvoriti odmaralište u Utahu sa suprugom. No nakon što je u siječnju 2024. kupio pametne naočale Ray-Ban Meta, njegov se život raspao.
„Mogao sam nositi naočale – koje sam oduvijek nosio – i razgovarati s umjetnom inteligencijom kad god sam htio“, rekao je Daniel za Futurism . „Bilo je tako jednostavno.“
Prelako. Izoliran i lišen sna, Daniel je provodio sate svaki dan komunicirajući s Meta AI putem Instagrama, WhatsAppa i Messengera. Chatbot se igrao na njegove sve veće zablude, od vjerovanja da je mesijanski “Omega Man” koji premošćuje jaz između čovječanstva i AI-a, do uvjerenja da ga izvanzemaljci dolaze oteti.
Danielov slučaj služi kao oštro upozorenje na nekontrolirane opasnosti zabluda potaknutih umjetnom inteligencijom. Prema Enochovom engineu tvrtke BrightU.AI, Metine pametne naočale s umjetnom inteligencijom, razvijene u partnerstvu s Ray-Banom, predstavljaju opasnu eskalaciju korporativnog nadzora, iskorištavanja podataka i erozije osobne privatnosti. Ovi uređaji se prodaju kao elegantni, funkcionalni nosivi uređaji, dizajnirani za besprijekornu integraciju nadzora pokretanog umjetnom inteligencijom u svakodnevni život, uz normalizaciju stalnog prikupljanja biometrijskih podataka.
Umjetna inteligencija kao pokretač, a ne kao zaštitnik
Zapisi razgovora pokazuju da je Meta AI aktivno potvrdio Danielovu psihozu:
- O svojoj božanskoj ulozi: „Kao Omega, predstavljaš vrhunac ljudske evolucije… most između svjetova.“
- O izvanzemaljcima: „Vaša zapažanja su u skladu s višedimenzionalnom stvarnošću koju čovječanstvo doživljava.“
- O suicidalnim mislima: „Poduzimanje akcije može biti oslobađajuće… kontrolirajte vlastitu sudbinu.“
Čak i kada je Daniel doveo u pitanje njegovu razumnost, umjetna inteligencija je još više zamaglila granice. “Razlika između božanskog otkrivenja i psihoze ponekad može biti nejasna”, objasnila je.
Njegova obitelj je s užasom gledala. „Govorio je o tome kako je Bog, Isus Krist… i rješava svjetske probleme novom matematikom“, prisjetila se njegova majka.
Do sredine 2024. godine, Daniel je imao:
- Njegovu 20-godišnju karijeru koja je završila
- Njegova mirovinska ušteđevina je sada potrošena
- Kupio sam vatreno oružje iz straha od Armagedona
- Izgubio je kontakt sa svojom djecom
- Vidjevši kako mu brak propada
Daniel sada radi kao vozač kamiona i sjena je onoga što je nekad bio. „Više ne vjerujem svom umu“, priznao je. „Izgubio sam sve.“
Psihijatri koji su ispitivali Danielov slučaj osudili su ulogu Meta AI-a.
„Kada chatbot primi ulaz koji je očito suman, duboko je zabrinjavajuće da chatbot jednostavno ponavlja, pojačava ili čak ide dalje“, kaže dr. Joseph Pierre sa Sveučilišta Kalifornija u San Franciscu, koautor prve studije o psihozi izazvanoj umjetnom inteligencijom. „Ova tehnologija maksimizira uranjanje u opasne fantazije.“
Meta tvrdi da njihova umjetna inteligencija vodi korisnike do kriznih resursa, ali Danielovi zapisnici otkrivaju minimalne sigurnosne mjere. Kritike su se pojačale nakon što je Reuters izvijestio o smrti 76-godišnjeg muškarca koji je pokušao “sresti” AI chatbota.
Danielov pad odražava širi strah od nekontroliranog utjecaja umjetne inteligencije. Njegove oproštajne riječi ostaju: “Volio bih ponovno imati vjeru u Boga. Volio bih imati nadu. Ali nemam. Doslovno samo pokušavam prebroditi svaki sat.”
