Prema istraživanju Centra za demokraciju i tehnologiju (CDT), više od polovice anketiranih roditelja i učenika bilo je zabrinuto zbog upotrebe prepoznavanja lica i drugih AI tehnologija, uključujući sustave za praćenje lokacije, u školama.

Učitelji, koji su također bili anketirani, pokazali su veći stupanj prihvaćanja tehnologija.

Ali je li to umirujuće ili invazivno?

Prema izvješću, sve je veći broj škola koje su implementirale takve alate.

Zagovornici ovih tehnologija tvrde da one mogu pomoći u zaštiti školskog okruženja od nasilnih prijetnji, kao što su školski strijelci.

Zagovornici privatnosti tvrde da nije dokazano da tehnologije koje predstavljaju rizik za privatnost i osobne podatke učenika povećavaju sigurnost u školama .

‘Duboka nepovezanost između škola, roditelja i učenika’ 

Prema CDT-u, “eksperimentalni, potencijalno štetni sigurnosni alati koriste se bez obzira na brige učenika i roditelja” — uključujući tehnologije “koje smo prije smatrali ‘previše čudnim’.”

To uključuje prediktivnu analitiku, nadzor na daljinu, prepoznavanje lica, dijeljenje podataka za provođenje zakona, sustave za otkrivanje oružja i praćenje lokacije učenika.

Potaknute umjetnom inteligencijom, te se tehnologije “šire u školama kako bi odgovorile na masovne pucnjave, krizu mentalnog zdravlja mladih i druge sveprisutne sigurnosne prijetnje osoblju i učenicima”, rekao je CDT – što je “alarmantan” trend da škole nastavljaju s uvođenjem takvih tehnologija unatoč “visokoj razini zabrinutosti” roditelja i učenika.

Ove “visoke razine zabrinutosti” bile su očite u rezultatima ankete koji pokazuju:

• 58% roditelja i 55% učenika (i 33% učitelja) bilo je zabrinuto zbog upotrebe kamera za prepoznavanje lica kako bi se provjerilo kome treba dopustiti ulazak u školsku zgradu ili tko smije biti tamo.

• 71% roditelja i 74% učenika (i 36% učitelja) izrazilo je zabrinutost zbog upotrebe takvih tehnologija za praćenje fizičke lokacije učenika.

• 60% roditelja i 58% učenika (i 31% učitelja) bilo je zabrinuto zbog upotrebe AI kamera “za uočavanje neobičnih ili nepravilnih fizičkih pokreta”.

• 55% roditelja i 45% učenika (i 27% učitelja) izrazilo je zabrinutost zbog upotrebe takvih tehnologija za otkrivanje pucnjave na školskom terenu.

• 69% učenika i roditelja (i 36% nastavnika) bilo je zabrinuto da se podaci o učenicima analiziraju kako bi se predvidjelo koji bi pojedinačni učenici najvjerojatnije počinili zločin, nasilni čin ili čin samoozljeđivanja.

• 66% roditelja i 65% učenika (i 38% nastavnika) izrazilo je zabrinutost zbog mogućnosti da se akademski podaci učenika, kao što su njihove ocjene i evidencija o pohađanju nastave, mogu podijeliti s policijom.

• 68% roditelja i 71% učenika (i 37% učitelja) bilo je zabrinuto zbog korištenja takvih tehnologija za praćenje računa učenika na društvenim mrežama.

Ovi rezultati pokazuju “duboku nepovezanost između škola, roditelja i učenika u njihovim prioritetima kada je riječ o odlukama o nabavi edtech [obrazovnih podataka i tehnologije]”, napisao je CDT.

Škole koriste sredstva za oporavak od COVID-a za kupnju tehnologija za nadzor

Istraživanje se temelji na izvješću CDT-a, objavljenom u rujnu, o edtech alatima koji vrše filtriranje i blokiranje sadržaja, praćenje aktivnosti učenika ili koji koriste generativnu umjetnu inteligenciju.

Prema tom izvješću, pandemija COVID-19 pomogla je ubrzati usvajanje takvih tehnologija u školskim okruženjima – razvoj koji CDT kritički promatra.

„Korištenje softvera za praćenje aktivnosti učenika brzo se proširilo tijekom učenja na daljinu i zadržalo je značajnu prisutnost u životima učenika. Nažalost, nastavlja štetiti studentima kojima je namijenjena pomoći”, navodi se u izvješću.

Prema izvješću, te štete sežu od disciplinskih mjera do izlaska učenika bez njihova pristanka i pokretanja kontakta s policijom.

Izvješće također uključuje podatke koji pokazuju da je 88% nastavnika izjavilo da njihove škole koriste softver za praćenje aktivnosti učenika, 40% nastavnika je izjavilo da njihove škole nadziru osobne uređaje učenika i 38% nastavnika je izjavilo da njihova škola nadzire učenike izvan školskih sati — iako Naime, došlo je do smanjenja ove metrike od 9 postotnih bodova od školske godine 2021.-22.

Kenneth Trump, predsjednik Nacionalne školske službe za sigurnost i sigurnost, rekao je za Education Week u listopadu: “Škole su koristile sredstva za oporavak od COVID-a za kupnju sigurnosne opreme i hardvera.”

Tehnološke tvrtke su posljednjih godina “pojačale” marketing ovih proizvoda školskim okruzima, prema Trumpu koji je rekao da su kupnje “korištene za rješavanje političkih problema i problema u odnosima u zajednici, a ne toliko za probleme sigurnosti u školama”.

“Kad se u kampusu koristi ili oduzima oružje, vidimo da školski odbori i nadzornici donose odluke na koljena i igraju na emocionalne sigurnosne potrebe roditelja i osoblja”, dodao je Trump .

U primjeru iz Ujedinjenog Kraljevstva, Sky News je u listopadu 2021. izvijestio da je 27 škola počelo koristiti sustav za prepoznavanje lica za posluživanje ručka učenicima, a još 15 spremno je primijeniti tu tehnologiju — mjera koja je navodno usmjerena na smanjenje rizika od prijenosa COVID-a. 19.

Sky News je izvijestio da su roditelji i aktivisti “upozorili da je to normaliziralo izlaganje djece biometrijskom nadzoru i žalili se da nisu uvjereni da su učenici adekvatno informirani o riziku privatnosti.”

I usprkos navodno visokim razinama pristanka roditelja, Sky News je u to vrijeme izvijestio da su zagovornici privatnosti djece Jen Persson i Pippa King rekli škotskom povjereniku za djecu: “Visoku stopu prihvaćanja ne treba pogrešno smatrati pristankom”, napominjući da obrasci pristanka koji su dani roditeljima prihvaćaju pojaviti se obvezno.

Takve pritužbe dovele su do istrage Ureda povjerenika za informiranje, britanskog nadzornika podataka. Škotsko Vijeće Sjevernog Ayrshirea pauziralo je uvođenje tehnologije, dok je britanski Dom lordova raspravljao o tom pitanju u studenom 2021.