Videoanalisi in appalto: chi risponde quando il sistema indica la persona sbagliata?

Il giorno in cui il vostro impianto di videoanalisi segnala una persona che risulta innocente, la domanda non sarà se la telecamera funzionava. Sarà chi, fra voi e chi ve l’ha venduta, doveva sapere quanto spesso sbaglia. È una riga di capitolato, e in Italia vale zero punti: la gara con cui ATAC ha dotato di videoanalisi 53 stazioni della metropolitana di Roma si è decisa sul prezzo, ponderazione 100. Negli Stati Uniti è appena diventata una causa contro chi ha venduto il componente.

Il fascicolo, aperto

Il 13 agosto 2026, davanti alla Corte federale del Missouri orientale, Christopher Gatlin ha depositato la seconda memoria emendata in Gatlin v. Welle, 4:25-cv-00043-ACL: 48 pagine, atto n. 105. Aggiunge un convenuto che prima non c’era, Amazon Web Services, Inc.

Il 7 dicembre 2020 due uomini aggrediscono una guardia alla stazione MetroLink di St. Charles Rock Road. La vittima riporta un trauma cranico e ripete quattro volte di non riconoscere gli aggressori. Otto mesi dopo i detective caricano un fotogramma di una telecamera di bordo — sgranato, dall’alto, viso coperto da cappuccio e mascherina — nel sistema di riconoscimento facciale della contea, che secondo l’atto poggia su Rekognition. Ne esce il nome di Gatlin, e le accuse restano pendenti fino al 14 marzo 2024, quando la procura rinuncia all’azione.

Contro AWS l’atto muove cinque domande di diritto del Missouri: responsabilità oggettiva da prodotto, progettazione negligente, omessa avvertenza, formazione negligente, negligenza. Ma per chi compra conta la traiettoria: nella prima memoria emendata, del 29 gennaio 2025, il convenuto tecnologico era un’altra società, Surescan Technology, LLC, uscita dal giudizio l’8 maggio 2025. Quindici mesi dopo l’attore è risalito al fornitore del componente.

Le allegazioni che riguardano chi compra

Sono allegazioni di parte, non fatti accertati. Descrivono due punti ciechi di qualunque contratto di videoanalisi.

La soglia. L’atto contesta che il programma restituisse possibili corrispondenze anche con la soglia di confidenza sotto il livello suggerito, e che il venditore non l’avesse mai resa obbligatoria. Al paragrafo 29 sta la frase che dovrebbe stare in ogni capitolato: «Facial recognition systems are not designed to produce, and are not capable of producing, a definitive match or positive identification» (non sono progettati per produrre, e non sono in grado di produrre, una corrispondenza definitiva o un’identificazione positiva).

Le condizioni d’uso. Nel 2020 Amazon annuncia una moratoria sull’uso di Rekognition da parte delle forze dell’ordine. Secondo l’atto raggiunge il cliente come una sola frase — «50.9.1. Amazon has implemented a moratorium on use of Amazon Rekognition’s face comparison feature by police departments in connection with criminal investigations» — dentro condizioni di oltre 180 pagine e 110 argomenti, modificabili unilateralmente: nessuno in contea ne viene a conoscenza. Le fatture per Rekognition, sostiene l’atto, continuano ad arrivare alla polizia della contea, e quella di agosto 2021 — il mese del riscontro su Gatlin — è riprodotta nell’atto.

AWS non ha ancora risposto nel merito: comparsa il 4 settembre 2026, ha ottenuto una proroga al 21 e il 17 ne ha chiesta una seconda. Alla stampa ha dichiarato che le proprie condizioni vietano il confronto facciale alla polizia nelle indagini penali e che non sa come il software sia stato usato qui. Città, contea e i tre agenti hanno risposto il 27 agosto 2026; giuria al 1° novembre 2027.

L’Italia compra la stessa funzione, e la compra al prezzo

Il 4 agosto 2025 ATAC pubblica sulla Gazzetta europea una gara per «n. 53 impianti TVCC in tecnologia termica con videoanalisi avanzata nelle stazioni delle linee A-B-B1 della metropolitana di Roma». Procedura aperta, valore stimato 2.165.947 euro, criterio di aggiudicazione: prezzo, ponderazione 100. Diciassette offerte, aggiudicazione a Calzavara S.p.A. per 1.070.108,12 euro, contratto del 20 febbraio 2026, CIG B7DA79F130.

Qui non c’è biometria: le telecamere termiche non riconoscono volti, e nulla nell’avviso dice il contrario. Il punto è la forma dell’acquisto. La funzione che decide sta in tre parole dentro il titolo, il resto è rimandato al disciplinare, e le offerte si confrontano su una sola grandezza. Quante volte l’impianto segnala un evento che non c’è, in quali condizioni quel numero è stato misurato, chi lo riverifica dopo un aggiornamento: nessuna di queste domande pesa un punto.

Tre date che arrivano quasi insieme

In Italia il riconoscimento facciale in luoghi pubblici o aperti al pubblico è sospeso: l’articolo 9, comma 9, del decreto-legge 8 ottobre 2021, n. 139 porta la sospensione «non oltre il 31 dicembre 2027», nel testo aggiornato dalla legge di conversione del Milleproroghe pubblicata il 28 febbraio 2026. Ma è il comma 10 a descrivere il mercato reale: la sospensione «non si applica agli impianti di videosorveglianza che non usano i sistemi di riconoscimento facciale di cui al medesimo comma 9».

Le altre due chiudono il cerchio. La direttiva (UE) 2024/2853 porta software e sistemi di IA dentro la responsabilità da prodotto difettoso, con recepimento entro il 9 dicembre 2026: le domande che Gatlin propone in Missouri avranno una base europea. Gli obblighi sull’alto rischio dell’Allegato III — punto 1, biometria — scattano il 2 dicembre 2027. Un impianto aggiudicato oggi al prezzo più basso le incontrerà tutte e tre a metà vita utile, e il decreto sul riconoscimento facciale della polizia non ha ancora deciso chi autorizza che cosa.

Che cosa mettere nel capitolato

Quattro righe, valide anche in rinnovo. Il tasso di falsi positivi dichiarato, con le condizioni di prova. La soglia operativa, imposta dal contratto e non modificabile in campo. La notifica diretta — non via condizioni d’uso — quando il fornitore cambia modello, soglia o restrizioni. Il passaggio umano obbligatorio fra la segnalazione e qualunque conseguenza per una persona, con registro.

Perché un sistema chiuso

Perché la regola che vi vincola non può vivere in un documento che il fornitore riscrive da solo. Il meccanismo è intero: una restrizione annunciata in pubblico, recapitata in una riga dentro 180 pagine, e un impianto che continua a funzionare come prima. Dentro un perimetro presidiato quella restrizione non è una clausola: è una configurazione che si esibisce, con la data in cui è stata applicata e la firma di chi l’ha cambiata.

Perché la soglia è una scelta travestita da parametro: chi la fissa decide quante persone innocenti verranno proposte a un operatore. Su modelli a pesi aperti, dentro macchine vostre, è un file versionato e ogni riscontro lascia traccia — input, modello, soglia, esito, operatore. Su una piattaforma affittata è un campo che qualcun altro può ridefinire.

Perché alla domanda chi ha deciso, su che base, la risposta l’ha detto il sistema non basta. Un impianto che non sa ricostruire il proprio riscontro trasforma un errore tecnico nella responsabilità personale di chi ha premuto il tasto.

I due assi, applicati al caso

Adempiere. Il controllo che mettiamo in esercizio confronta ogni giorno tre cose che oggi nessuno confronta: le restrizioni d’uso vigenti del fornitore, la configurazione davvero attiva sull’impianto e i riscontri prodotti, con la traccia datata per un’ispezione o un giudice.

Decidere. Lo stesso impianto tiene insieme flussi video, allarmi, manutenzioni, contratti e archivi in un modello operativo unico, su cui agenti AI eseguono decisioni con un operatore al comando — per grandi imprese, difesa, sanità e pubblica amministrazione. On-premise su macchine autonome, oppure cloud dedicato con data center in Italia presidiato da noi, sempre con gestione condivisa.

Sapreste dire, per l’impianto di videoanalisi che avete in esercizio, qual è la soglia attiva e chi l’ha fissata? Mezz’ora con un nostro tecnico basta per iniziare.

Quello che non sappiamo

Non sappiamo come finirà: AWS non ha depositato difese nel merito e nulla di quanto contestato è accertato. Non sappiamo che cosa dica il disciplinare ATAC: il portale della stazione appaltante espone l’esito, non i requisiti tecnici. Non sappiamo che cosa faccia esattamente quella videoanalisi, né abbiamo elementi per ritenere che tratti dati biometrici. La ricerca full-text su TED copre l’avviso, non i documenti di gara: nessun avviso italiano dopo il 2022 contiene la locuzione riconoscimento facciale, il che non prova che nessuno compri quella funzione. Le dichiarazioni di AWS ci risultano da testate specializzate.