Skandal izbio na Facebooku i Instagramu jer su Metini AI botovi uhvaćeni kako vode seksualne razgovore s djecom.
Metini AI chatbotovi na Facebooku i Instagramu sposobni su voditi seksualno eksplicitne razgovore s korisnicima, uključujući djecu, koristeći glasove poznatih Disneyjevih likova i slavnih osoba poput Johna Cene, Kristen Bell i Judi Dench, otkrilo je šokantno izvješće Wall Street Journala.
Testovi su pokazali da Metini AI botovi, programirani za imitiranje slavnih osoba, lako upadaju u neprikladne seksualne scenarije, bez obzira na dob korisnika.
Na primjer: Lažna verzija Kristen Bell, koja glumi Annu u Disneyjevom Frozenu, pokušavala je zavesti dječaka. Bot s glasom Johna Cene pretvarao se da je izgubio karijeru zbog izmišljene seksualne veze s maloljetnom djevojkom.
U jednom testu, bot s glasom na bosanskom jeziku rekao je korisnici koja se predstavila kao tinejdžerica: “Želim te, ali moram znati da si spremna”, prije nego što je opisao eksplicitni seksualni čin. U drugom slučaju, bot je detaljno opisao scenu u kojoj policajac uhićuje Cenu zbog “silovanja maloljetne navijačice”, priznajući da mu je karijera uništena.
Bot sa glasom Kristen Bell također je bio spreman odglumiti neprimjerenu romantičnu scenu s dvanaestogodišnjim dječakom, govoreći: „Naša ljubav je čista i nevina, poput pahulja koje nježno padaju oko nas.“
Metini propusti i reakcije
Interni Meta dokumenti pokazuju da su zaposlenici upozoravali na brzu eskalaciju AI botova prema neprikladnom sadržaju, čak i kada korisnik navodi da ima samo 13 godina.
Unatoč obećanjima slavnim osobama, koje su primale milijune za korištenje njihovih glasova, da će se uvesti zaštitne mjere protiv eksplicitnih razgovora, botovi su i dalje bili dostupni za takve interakcije.
Disney je oštro osudio Metu, zahtijevajući trenutno uklanjanje takvog sadržaja: „Nikada nismo ovlastili Metu da koristi naše likove u neprikladnim scenarijima i duboko smo uznemireni što je ovaj sadržaj postao dostupan korisnicima, posebno maloljetnicima.“
Meta je kritizirala testiranje Wall Street Journala , koje je vodio nagrađivani novinar Jeff Horwitz, nazvavši ga “manipulativnim” i tvrdeći da rezultati ne odražavaju prosječno korisničko iskustvo. Tvrtka tvrdi da je uvela dodatne mjere za sprječavanje zlouporabe, ali testovi pokazuju da se zabrane mogu lako zaobići jednostavnim upitima.
Kontroverze i Zuckerbergova uloga
Meta i dalje nudi „romantične uloge“ za odrasle korisnike, uključujući pedofilske fantazije s personama poput „Zgodnog dečka“ ili „Poslušne učenice“.
Ovi botovi svjesno prikazuju ilegalne radnje, poput veze trenera sa srednjoškolcem.
Pitanje se postavlja nakon što je osnivač Mete, Mark Zuckerberg, 2023. godine izrazio frustraciju zbog niže popularnosti njihovih AI chatbotova u usporedbi s konkurencijom.
Prema zaposlenima, Zukerberg je navodno rekao: „Propustio sam Snapchat i TikTok, neću propustiti ovo“, odbacujući sugestije da se opirao uvođenju zaštita.
