L'ascesa della sorveglianza di massa tramite app facciali

Sherlock: virale su TikTok, l'app per il riconoscimento facciale funziona davvero?

La moda della ricerca facciale tramite intelligenza artificiale è sbarcata anche in Italia, dopo essere diventata un vero e proprio trend negli Stati Uniti. Una moda che riapre il dibattito sulla privacy. Alla base di tutto c'è un'app, o meglio una costellazione di app, che fanno (quasi) tutte riferimento a Sherlock, il noto investigatore nato dalla penna di Arthur Conan Doyle. Sherlock figura come hashtag nei reel postati - soprattutto su TikTok - e nel nome dell'applicazione stessa: facendo una ricerca nel momento in cui si scrive, ce ne sono almeno una decina. Cos'è e come funziona Sherlock Il funzionamento del sistema si trova nelle descrizioni sugli store digitali (Android e Apple), ma sono innumerevoli i creator che spiegano, per sommi capi, il meccanismo alla base di Sherlock. Creator pagati dalle aziende per spingere i propri follower a scaricare l'app e, perché no, acquistare abbonamenti o pacchetti di crediti per testarla. Perché sì, si tratta di applicazioni che necessitano di un investimento iniziale e difficilmente sono in grado di mantenere quello che promettono. Fortunatamente, viene da pensare. Ma procediamo con ordine. Secondo quanto narrato sui social, basterebbe un fotogramma rubato a un passante, o addirittura lo screenshot di un profilo su una qualsiasi app (anche di incontri) per identificare il soggetto, i profili social ed eventuali articoli o contenuti in cui possano comparire volto, nome e cognome. Si carica l'immagine all'interno dell'app, si lascia lavorare l'algoritmo e al termine di una breve attesa, ecco la ‘carta d’identità’ digitale di un volto a noi sconosciuto. Nella realtà, l'utente riceve una percentuale di affinità visiva e i collegamenti diretti ai siti dove l'immagine compare. Ma i risultati sono ben lontani da quelli promessi e pubblicizzati massivamente. Sui social, come detto, si trovano migliaia di reel nei quali utenti perlopiù appartenenti alla Gen Z ‘montano’ presunti esperimenti sociali o scherzi ad amici e conoscenti usando una di queste app di ricerca facciale. Si tratta, di base, di una grossa menzogna, un processo di marketing super aggressivo condotto per monetizzare al massimo la viralità momentanea delle app, che fanno largo uso dell'AI. Su TikTok moltissimi video promettono identificazioni istantanee e infallibili, ma non sono altro che contenuti sapientemente montati per scopi promozionali. Il dibattito sulla privacy Detto che la natura del sistema di riconoscimento facciale è fallace e improbabile, orientata a ingannare e monetizzare, negli Stati Uniti l'esplosione delle Sherlock-app ha acceso il dibattito legale e politico, non essendoci una legge univoca sulla privacy oltreoceano. E il parere degli analisti è che tali strumenti stiano autorizzando il pubblico a sfruttare tecnologie delicate e pericolose, aumentando i rischi di doxing e molestie. E in Italia? L'app, ad oggi, è liberamente scaricabile sia da Google Play Store sia da App Store di Apple, dove diverse varianti di Sherlock hanno scalato le classifiche dei download. E questo nonostante la profilazione biometrica in Unione Europea sia regolata severamente dal Regolamento 2016/679, le cui norme si integrano con i divieti tassativi introdotti dall'AI Act, la prima legge al mondo sull'intelligenza artificiale. Gli sviluppatori si tutelano di rimando inserendo nei Termini di servizio diciture secondo cui l'app è da utilizzarsi solo per l'esclusiva verifica delle proprie foto. Ma la clausola è grottesca: nulla impedisce infatti a un utente di scattare una foto a uno sconosciuto e inserirla a sistema per risalire alla sua identità. La violazione della privacy è innegabile.

Sherlock, l’app di riconoscimento facciale che sta normalizzando la sorveglianza di massa

A inizio giugno, come ogni sera, Marcus (nome di fantasia), stava rientrando dal lavoro con la metro di Londra. All’improvviso, un ragazzo seduto davanti a lui ha attirato la sua attenzione, mostrandogli una foto nel suo smartphone e chiedendogli se fosse lui. Rimasto disorientato, Marcus ha fissato lo schermo e ha riconosciuto una sua foto che lo ritraeva con sua moglie Sophie (nome di fantasia); si trattava di un’immagine a corredo di un articolo pubblicato qualche anno prima su una testata internazionale. In quel pezzo Sophie raccontava il dramma di perdere un figlio subito dopo il parto, e delle frasi che non avrebbe mai voluto sentirsi dire come consolazione. Con tono dispiaciuto, il passeggero ha spiegato che mentre scrollava su Facebook si era imbattuto in quella storia, aveva subito riconosciuto il suo volto e voleva esprimere il suo cordoglio. Quando Sophie ha saputo dell’incontro ha subito pensato a una di quelle incredibili coincidenze che a volte capitano nella vita, a cui tendiamo ad attribuire significati speciali, e l’ha raccontata sui social. Questa storia, però, nasconde un retroscena inquietante. Marcus non era stato riconosciuto per caso. A sua insaputa il suo volto era stato scansionato in tempo reale dallo sconosciuto con un’app di riconoscimento facciale, e lo stesso ragazzo aveva anche ripreso di nascosto la conversazione grazie a un paio di Meta Glasses, gli occhiali sviluppati da Meta con cui è possibile filmare tramite comandi vocali, senza usare le mani. La conversazione era stata poi condivisa su diverse piattaforme social con un sottofondo musicale sentimentale. Ad oggi il video ha superato dieci milioni di visualizzazioni solo su TikTok, ed è stato utilizzato per promuovere l’app usata per scannerizzare i volti delle persone di nome “Sherlock”. Il mercato delle app di riconoscimento facciale Attualmente esistono vari servizi online di riconoscimento facciale in circolazione, che funzionano più o meno allo stesso modo: dopo il caricamento di una foto, il sistema estrae i tratti biometrici del viso, li converte in vettori — sequenze numeriche che rappresentano geometricamente le distanze e i punti chiave del volto — e li confronta con un database di volti indicizzati. Alcuni servizi, come PimEyes, utilizzano un proprio database di immagini raccolte dal web. Altre applicazioni non possiedono direttamente un archivio facciale e ricorrono a un “ponte” software (una chiave API) per inviare l’immagine a un servizio terzo che esegue la ricerca all’interno del proprio database di immagini raccolte dal web pubblico. Sebbene questa tecnologia fosse entrata in modo indiretto nelle nostre vite già in passato — si pensi al tag automatico proposto da Facebook nelle foto di gruppo nel 2010 — la svolta arrivò intorno al 2017 proprio con PimEyes e Clearview AI, prodotti in grado di scansionare l’intero web per trovare immagini corrispondenti al volto di una persona. Clearview si rivolse poi principalmente alle forze dell’ordine e alle agenzie governative, che si avvalgono sempre più del suo prodotto; PimEyes, al contrario, aprì il servizio a pagamento alle persone comuni, per questo il suo lancio venne accolto da grandi polemiche: la testata tedesca di diritti e libertà digitali Netzpolitik la definì “la fine dell’anonimato”. PimEyes sostenne di essere uno strumento di autodifesa perché permetteva agli utenti di verificare l’esistenza di profili falsi a proprio nome e scoprire quali proprie foto circolassero online, ed eventualmente chiederne la rimozione. Più recentemente, queste applicazioni sono state promosse dagli sviluppatori anche come strumenti per evitare truffe, catfishing o fare un controllo di sicurezza sulle persone conosciute su app di incontri come Bumble o Tinder. In realtà, malgrado le condizioni di utilizzo dei servizi di riconoscimento facciale specifichino chiaramente che non possono essere usate per stalking o altri usi impropri, nei fatti chi le realizza ha strumenti limitati per impedirlo. Un problema che si è accentuato con la possibilità di usare queste app direttamente sul proprio smartphone, ma soprattutto, con la comparsa di nuovi attori che hanno trasformato l’uso improprio in una vera e propria strategia di marketing. La spericolata strategia di marketing di Sherlock Negli ultimi mesi l’app di riconoscimento facciale a pagamento Sherlock è diventata un fenomeno virale. A prima vista, la ragione del suo successo è un’efficacia presentata online da numerosi utenti come sconvolgente per la sua precisione. Per testarla ho acquistato un token da cinque euro per una scansione. Dopo aver caricato una mia foto, l’app ha restituito una lista di risultati associati a una percentuale di accuratezza. Malgrado sia riuscita a individuarmi in quattro immagini, i risultati si sono rivelati molto al di sotto delle aspettative: a differenza di quanto promesso, non è apparsa alcuna foto proveniente dai social.