U izjavi se navodi da se jezične modele potiče da pri upitu “izmisle” bilo kakav odgovor, bez obzira koliko nevjerojatan bio, umjesto da priznaju da ne znaju rješenje iliti točan odgovor na neko pitanje. Problem proizlazi iz same prirode “standardnih metoda obuke i evaluacije”.

OpenAI ističe da ovaj fenomen nije iskorijenjen čak ni u novijim, naprednijim sustavima, uključujući njihov najnoviji GPT-5 model.

Prema studiji koju je tvrtka navela, glavni problem leži u načinu na koji se model ocjenjuje: sustav koji ne uspije dati odgovor dobiva nulu, dok slučajni odgovor ponekad može biti točan i stoga biti bolje ocijenjen. I tako modeli uče da je „bolje reći išta nego ništa“. Ljudi ostaju zbunjeni pri odgovorima bez imalo smisla. Besmisleni i nesuvisli odgovori umjetne inteligencije do kojih dolazi zbog toga što naprosto moraju nešto odgovoriti, makar to bile potpune nebuloze, nazvani su ‘halucinacijama umjetne inteligencije’. No, kada malo bolje razmislimo, što bismo drugo od umjetne inteligencije mogli i očekivati? Ljudi se zaborave i komunicirajući s umjetnom inteligencijom očekuju da će od nje uvijek dobiti smislene odgovore. No, to naprosto nije moguće i pitanje je hoće li ikada biti moguće.

U svakom slučaju, prerano je za naše oduševljavanje s umjetnom inteligencijom. Nemojmo se naivno koristiti njome kao savjetnikom za bilo koje područje života, jer ti sustavi nisu usavršeni i ne može im se vjerovati. Na koncu konca – to ipak nisu ljudi već roboti koji nikada neće moći komunicirati s nama onako kako mi ljudi možemo komunicirati jedni s drugima.

Neka zagovornici umjetne inteligencije nastave usavršavati svoje sustave za komunikaciju s ljudima, ali ti strojevi nikada neće biti ono što pokušavaju biti – ljudi. Promatrajući suvremenu bešćutnost i otuđenje ljudi, mogli bismo zaključiti da će prije ljudi postati roboti, nego što će roboti postati ljudi.