La telecamera ti vede. L’AI no
Stamattina, leggendo le notizie di tecnologia, mi è saltato in mente un ricordo della mia infanzia. Parliamo di quando avevo sei o forse sette anni, quindi del 1960, forse il 1961. Non riesco ad essere più preciso.
La televisione in Italia era, più o meno, mia coetanea e attingeva a piene mani alle produzioni estere. Fra i vari programmi che seguivo, fratelli permettendo, uno mi colpì.
“L’uomo invisibile”, tratto da una serie inglese, che raccontava le vicende e le indagini di una persona diventata invisibile per cause che non ho mai capito e che, per frequentare la società, era costretto a indossare sempre gli abiti, le scarpe, una fasciatura sulla faccia e un paio di occhiali da sole.
Bene, questa mattina la notizia che mi ha fatto alzare entrambe le sopracciglia aveva questo titolo: «La maglia che inganna il riconoscimento facciale: “Così diventiamo invisibili alle telecamere”.» Una rapida ricerca in rete, giusto per capire se non si trattasse di un titolo acchiappa click, mi ha confermato il fatto e, non solo, mi ha anche fatto scoprire che non è una novità dell’ultimissima ora.
Già nel 2019 una hacker/designer, tale Kate Rose, aveva presentato una linea di abiti che chiamò Adversarial Fashion. Un’idea forse banale ma contemporaneamente geniale. Tanto geniale che è stata ripresa per creare nuovi sistemi in grado di confondere i sistemi di riconoscimento facciale.
In poche parole l’idea originale prevedeva di stampare stoffe piene di targhe per fare in modo che i sistemi di riconoscimento delle targhe si concentrassero sull’abito e non sul furbetto che imboccava il senso unico contromano.
E dar da mangiare a sistemi automatici dati-spazzatura provoca, inevitabilmente, risultati da camion del rusco.
Insomma alcuni tipi di disegni riescono a disturbare i sistemi di riconoscimento automatico. Il motivo è banale. Una intelligenza artificiale non guarda la realtà come facciamo noi. Un sistema automatico va a caccia di caratteristiche, probabilità, corrispondenze.
E succede l’inevitabile, provocato dalla nostra pretesa di continuare ad affidare a delle macchine, magari dotate di intelligenza artificiale, compiti sempre crescenti. Noi pensiamo che quello che vediamo noi sia la stessa cosa che vede la macchina.
No, guardiamo due mondi differenti.
Provate a chiedere a una qualsiasi intelligenza artificiale di aggiungere una vostra foto di oggi ad una foto di vent’anni fa. Rischiate seriamente di trovarvi in una distorsione spazio temporale e, magari, seduti per metà su un gradino e per metà su un altro.
Finché il risultato è una fotografia sbagliata possiamo anche riderci sopra. Ma quando affidiamo a quegli stessi sistemi il compito di stabilire chi è passato davanti a una telecamera, dove si trovava o che cosa stava facendo, l’errore smette di essere una curiosità tecnologica. E forse si capisce meglio perché qualcuno abbia cominciato a studiare il modo di confondere l’occhio automatico.
Negli anni Sessanta l’uomo invisibile doveva mettersi una camicia per farsi vedere. Nel 2026 potrebbe mettersene una per non farsi vedere dall’algoritmo.
L’uomo invisibile non è tornato.
È cambiato l’occhio dal quale deve nascondersi.
Regola n. 3
«Diffida di chi ha una soluzione semplice per un problema complicato. Ma diffida di più di chi ti propone una soluzione complicata per un problema semplice.»
Lascia un commento