Nell’ambito delle dure controversie sorte in seguito alla crisi di Ceuta, culminate nella guerra diplomatica tra Spagna e Italia, emerge una nuova polemica legata al finanziamento di tecnologie di intelligenza artificiale per il controllo delle frontiere. La questione non è nuova ma torna in questi giorni a seguito della denuncia dell’europarlamentare Raquel García Hermida-Van Der Walle (RE), che in una interrogazione parlamentare ha chiesto conto di una macchina della verità sviluppata dall’istituto olandese TNO e dall’azienda Vicarvision grazie ai fondi del programma Horizon Europe. Questo software analizza i segnali non verbali delle persone interrogate, come il battito delle palpebre, i movimenti delle mani, la postura e persino il modo di ridere, con l’obiettivo di supportare gli agenti di frontiera nello stabilire se un migrante stia dicendo la verità.
Nell’interrogazione parlamentare, l’europarlamentare chiede alla Commissione Europea di spiegare le ragioni per cui ha finanziato progetti basati su macchine della verità per i controlli di frontiera, a fronte di ricerche su vasta scala che dimostrano l’impossibilità di rilevare l’inganno in questo modo. Domanda inoltre di fornire un elenco completo di tutti i progetti passati e presenti finanziati dall’Unione Europea per lo sviluppo di tali tecnologie ai confini. Infine, chiede se la Commissione intenda ritirare i finanziamenti ai progetti ancora in corso o se, in caso contrario, intenda contestare il consenso scientifico diffuso che dichiara l’inaffidabilità di questi strumenti. Il Commissario europeo per l’Immigrazione, Magnus Brunner, ha difeso gli investimenti nella ricerca sulla sicurezza civile definendoli utili a proteggere i cittadini, precisando che il finanziamento alla ricerca non implica il dispiegamento automatico delle tecnologie e che tali fondi sostengono gli Stati membri nell’attuazione degli obblighi del Codice delle frontiere Schengen.
Questo nuovo strumento rappresenta la diretta evoluzione metodologica di iBorderCtrl, un precedente progetto pilota finanziato nel 2018 sotto il programma Horizon 2020 ed esaminato sul campo intorno al 2019 in Ungheria, Grecia e Lettonia. All’epoca, la comunità scientifica internazionale, inclusi psicologi ed esperti di intelligenza artificiale, aveva bocciato la tecnologia definendola una “pseudoscienza” o “vudù tecnologico”, poiché non esistono prove biologiche universali in grado di correlare i micro-movimenti facciali all’inganno. Gli scienziati avevano evidenziato come l’algoritmo non fosse in grado di distinguere i segnali della menzogna da alterazioni fisiologiche del tutto aspecifiche prodotte dall’ansia da viaggio, dal trauma della migrazione, dalla stanchezza o dalle barriere linguistiche. Inoltre, uno storico studio dei ricercatori della Cardiff University ha dimostrato che applicare simili software su screening di massa genera fallimenti statistici, ovverosia una quota insostenibile di falsi positivi: poiché la stragrande maggioranza dei passeggeri dice la verità, anche un margine d’errore minimo del sistema finisce per etichettare ingiustamente come sospetti migliaia di cittadini onesti, rendendo lo strumento logicamente inefficace.
Documenti interni della Commissione Europea – ottenuti dall’europarlamentare Patrick Breyer dopo una lunga battaglia legale alla Corte di Giustizia Europea – avevano già dimostrato che i valutatori dell’Unione Europea erano perfettamente consapevoli dei difetti strutturali di iBorderCTRL già nel gennaio del 2016, prima ancora di approvare il finanziamento da 4,5 milioni di euro. Negli allegati etici firmati dagli stessi esperti dell’Unione Europea, veniva messo nero su bianco che il software presentava rischi non affrontati, che si basava su una standardizzazione arbitraria dei comportamenti e che avrebbe generato una quantità enorme di falsi positivi, stigmatizzando gruppi e individui. Nonostante queste esplicite critiche interne sulla mancanza di misure di mitigazione, le autorità europee avevano deciso comunque di concedere la sovvenzione pubblica. L’inaffidabilità del sistema era stata poi confermata sul campo durante le sperimentazioni ai confini tra Serbia e Ungheria, dove una giornalista indipendente che rispondeva in modo totalmente sincero alle sedici domande poste dall’avatar veniva marchiata dall’algoritmo come “soggetto potenzialmente pericoloso”.
Nonostante questo forte scetticismo accademico e i contenziosi legali sulla trasparenza che hanno accompagnato iBorderCtrl, l’Unione Europea, in buona misura su pressione dei singoli Stati membri, ha scelto di non inserire un divieto assoluto per queste tecnologie nel definitivo impianto normativo dell’AI Act. Il regolamento vieta il riconoscimento delle emozioni solo nei luoghi di lavoro e nelle scuole, ma concede una deroga per la gestione della migrazione e il controllo delle frontiere, dove questi strumenti sono semplicemente classificati come sistemi “ad alto rischio”. Questo scenario normativo, unito alla libertà lasciata ai singoli governi nazionali riguardo lo sviluppo pratico dei software, ha creato un “doppio standard” etico: mentre i cittadini europei sono tutelati dall’intelligenza artificiale affettiva nella loro vita quotidiana, i migranti e i viaggiatori extracomunitari continuano a essere esposti alla sperimentazione di macchine della verità automatizzate ai confini esterni dell’Unione.
