Alla fermata del 13, la mattina verso le sette e venti, c'è una ragazza che porta sempre lo stesso trucco: due bande nere di traverso sugli zigomi, i capelli tirati a coprire mezzo occhio, il resto del viso pulito. Nessuno la guarda, o la guardano come si guarda chiunque a quell'ora. Il trucco però non è pensato per noi: è disegnato perché una telecamera non le riconosca la faccia.
Il primo a costruire questi oggetti è stato l'artista Adam Harvey, con un progetto che si chiama CV Dazzle: trucchi e acconciature che rompono la simmetria geometrica su cui i sistemi di riconoscimento facciale si orientano. Poi è arrivata Adversarial Fashion di Kate Rose, stampe che mandano fuori strada i lettori automatici di targhe. Adesso quegli oggetti hanno un prezzo da negozio. Cap_able, il marchio fondato da Rachele Didero, vende maglieria con motivi pensati per rendere più difficile il riconoscimento: «quando ho iniziato, nel 2018, la gente pensava che disegnassi maschere per rapinare le banche», ha raccontato al Guardian il mese scorso. Urban Privacy, nata dopo che il suo cofondatore Daniel Preuß aveva letto le rivelazioni di Snowden, usa stampe grandi e tagli asimmetrici, e ha in catalogo un cappotto con i led nel cappuccio che emettono infrarossi per accecare le telecamere notturne.
Esistono perché la premessa non è una fantasia. Nel Regno Unito il riconoscimento facciale è entrato negli spazi pubblici, i garanti britannici della biometria hanno chiesto una legge e un'autorità che ne impedisca gli abusi, e un sondaggio recente dice che quasi sei persone su dieci lo considerano un passo verso una società di sorveglianza. C'è un dettaglio che pesa più del sondaggio: questi sistemi sbagliano, e sbagliano più spesso sui volti neri e asiatici che su quelli bianchi. Il rischio di essere identificati male non è distribuito in modo uniforme, e nemmeno il rischio di doverlo spiegare a qualcuno in uniforme.
In Europa l'AI Act vieta il riconoscimento in tempo reale negli spazi pubblici salvo eccezioni per reati gravi, il che cambia meno di quanto sembri: la telecamera alla stazione registra comunque, e fra registrare e identificare c'è solo la decisione di mettere quel fotogramma accanto a un archivio. Un archivio esiste. Clearview AI ne ha costruito uno raccogliendo miliardi di volti dai social senza chiedere niente a nessuno, ed è stata multata dalle autorità per la privacy in mezza Europa. Le multe non lo hanno cancellato.
C'è una parola tedesca per quello che questo fa a un corpo: Spielraum, la stanza del gioco, lo spazio in cui ci sentiamo liberi di muoverci. La usava lo psichiatra svizzero Ludwig Binswanger per descrivere l'angoscia: i metri quadri restano gli stessi e il mondo disponibile si restringe. Quando ci sentiamo osservati succede questo, e la paranoia diventa una risposta ragionevole. La forma clinica descrive qualcuno che si sente osservato da un sistema che non lo osserva; quando il sistema osserva per davvero la struttura affettiva resta identica, perché il corpo non ha un organo per distinguere la minaccia reale da quella immaginata. È anche il motivo per cui dire a qualcuno «ma nessuno ti sta guardando» non ha mai funzionato, nemmeno le volte in cui era vero.
Quello che indossa la ragazza del 13 è una forma di mimetismo nuova, e conviene misurare quanto sia nuova. Il mimetismo che conosciamo serve a non essere visti: la tuta del cacciatore, il ramo davanti alla faccia, il grigio del palazzo. Questo fa l'opposto e resta mimetismo, perché è costruito perché una persona a dieci metri lo noti benissimo e una macchina non ricavi dal viso le proporzioni che le servono. Il nome viene da lì: nel 1917 la marina britannica cominciò a dipingere le navi a losanghe contrastanti, il dazzle painting, e non per confonderle col mare, che sarebbe stato impossibile. Serviva a rendere illeggibili rotta e velocità a chi guardava dentro un telemetro. La nave si vedeva perfettamente. Non si capiva dove stesse andando.
Il designer olandese Jip van Leeuwenstein ha spinto questa logica fino in fondo con un oggetto che si chiama Surveillance Exclusion: una maschera trasparente, una lente curva che si porta sul viso e ne deforma i lineamenti quanto basta perché un sistema di riconoscimento non ricavi la geometria che cerca. È trasparente perché chi ti sta davanti deve continuare a vedere se stai sorridendo. Qui la distinzione si vede meglio che altrove: un passamontagna ti sottrae a tutti, questa lente ti sottrae soltanto alla macchina e lascia intatta la faccia che serve alle persone. Preuß descrive il principio del suo catalogo in modo più ruvido: i sistemi di riconoscimento vanno in confusione quando vedono molte facce insieme, e le sue stampe giocano con quel disordine.
Poi c'è la parte che rende questa storia diversa da una storia di camuffamento, e comincia nel momento in cui funziona. Ogni pattern che inganna un classificatore, appena circola, diventa un esempio: viene fotografato, catalogato, e finisce nell'addestramento del sistema che doveva ingannare, che impara a riconoscere anche quello. La contromisura alimenta la cosa a cui si oppone, quindi funziona finché sono poche a portarla, e deve restare rara per restare efficace.
I designer, a differenza di chi li compra, questo lo sanno e lo dicono. Nessun capo garantisce niente, ripete Preuß, e il valore aggiunto della moda sta nel diffondere consapevolezza. Jennifer Bell, che studia moda e cultura digitale a Nottingham, è più diretta: nessuno di questi prodotti è stato testato davvero, e molti sistemi di sorveglianza gestiscono benissimo un po' di resistenza. Restano un segno visibile, dice, e su questo ha ragione: chi li indossa afferma di avere pensato alla questione, e quanto quel pensiero sposti dentro un archivio è…
Nick Tidball, che di capi tecnici ne produce, lo mette per iscritto senza scandalizzarsi: se questi vestiti funzionassero per davvero la cosa diventerebbe politica in fretta, e potrebbero vietarli. Per adesso si possono comprare in un negozio.
Alla fermata del 13, stamattina, non c'era. Oppure c'era e non l'ho riconosciuta, che è la cosa che succede quando una persona cambia trucco. Quando c'è la vedo benissimo, le bande nere si notano da dieci metri. È la macchina che non la trova.
