Per alcuni anni non è stata fantascienza né un esperimento di laboratorio, in diverse scuole cinesi è stato installato un sistema di intelligenza artificiale capace di analizzare le emozioni degli studenti durante le lezioni, monitorando attenzione, distrazione e persino il livello di “obbedienza”.
La notizia, emersa tra il 2018 e il 2020, ha suscitato un dibattito internazionale durissimo. Non solo per le implicazioni sulla privacy dei minori, ma perché ha mostrato in modo concreto come l’AI possa trasformarsi da strumento educativo a meccanismo di sorveglianza comportamentale.
Il sistema si basava su telecamere installate nelle aule, collegate a software di riconoscimento facciale ed emotivo. Attraverso l’analisi di postura e micro-espressioni del volto, l’AI assegnava agli studenti il proprio stato emotivo. I dati venivano aggregati in una dashboard per gli insegnanti, con cui potevano visualizzare in tempo reale il “livello di attenzione” della classe o del singolo studente.
Secondo i promotori, l’obiettivo era migliorare l’efficacia dell’insegnamento e intervenire rapidamente quando l’attenzione calava. Ma il confine tra supporto didattico e controllo psicologico è apparso subito sottilissimo.
Uno degli aspetti più controversi non era tanto la misurazione dell’attenzione, quanto il significato attribuito ai dati. Essere immobili, guardare dritto verso la cattedra e mantenere un’espressione neutra veniva spesso interpretato come segnale di concentrazione. Ma queste metriche riflettono davvero l’apprendimento? O piuttosto un modello di comportamento desiderato?
Il rischio evidente è quello di premiare la conformità e penalizzare modalità cognitive diverse a seconda degli studenti, che potevano essere etichettati come “poco attenti”, indipendentemente dalla loro reale comprensione. In questo senso, l’AI non misurava tanto l’attenzione, quanto la aderenza a uno standard comportamentale.
Dal punto di vista scientifico, il presupposto stesso del sistema è altamente discutibile. Le emozioni non sono grandezze misurabili in modo diretto e universale. Le espressioni facciali variano enormemente tra individui, culture e contesti. Molti studi mettono in dubbio l’idea che esista una corrispondenza univoca tra una micro-espressione e uno stato emotivo interno.
Affidare a un algoritmo il compito di riferire stati mentali complessi da pochi segnali visivi significa accettare un alto margine di errore, che in un ambiente educativo può avere conseguenze profonde.
Dopo le critiche internazionali e il crescente dibattito interno, alcune autorità cinesi hanno dichiarato di voler limitare o vietare l’uso del riconoscimento facciale nelle scuole. Diverse scuole hanno annunciato la rimozione dei sistemi ma ridurre questa storia a una “peculiarità cinese” sarebbe un errore. Sistemi di proctoring online, analisi comportamentale e monitoraggio dell’attenzione sono già presenti, in forme diverse, anche in Occidente.
La domanda fondamentale non è se l’AI possa entrare nelle aule, ma con quali limiti. L’AI che tracciava le emozioni degli studenti in Cina non è solo una storia di tecnologia avanzata, ma un campanello d’allarme etico. Quando l’intelligenza artificiale smette di aiutare l’uomo e comincia a interpretarne pensieri ed emozioni, il rischio non è l’errore tecnico, ma la normalizzazione della sorveglianza. E la scuola, luogo per eccellenza della crescita critica e della libertà intellettuale, è forse l’ultimo posto in cui dovremmo permettere che questo accada.