Meta NameTag: riconoscimento facciale nascosto nell’app Meta AI

Meta ha inserito in silenzio un sistema di riconoscimento facciale nell’app Meta AI, scaricata su oltre 50 milioni di dispositivi, senza informare gli utenti. Lo ha scoperto Wired analizzando il codice dell’app, con una verifica indipendente da parte di due ricercatori di sicurezza esterni. La funzione si chiama internamente NameTag e, se attivata, permetterebbe agli occhiali smart Meta, inclusi i modelli Ray-Ban Meta, di identificare le persone inquadrate dalla fotocamera e avvisare chi li indossa in tempo reale.

La cosa più rilevante non è che la funzione esista, ma che Meta abbia dichiarato pubblicamente ad aprile di stare ancora “valutando” se introdurla, promettendo un approccio “molto ponderato”. In realtà, già da gennaio i componenti principali del sistema erano stati distribuiti sui telefoni degli utenti.

Vuoi ascoltare il riassunto dell’articolo?

Dal punto di vista tecnico, NameTag funziona convertendo i volti ripresi dagli occhiali in firme biometriche uniche, comunemente chiamate faceprint, e confrontandole con un database memorizzato sul dispositivo, che riceve aggiornamenti dai server Meta.

I volti riconosciuti generano notifiche; gli altri vengono ritagliati, indicizzati e salvati in una cartella chiamata “pending”. Tre modelli di intelligenza artificiale sono già installati sui telefoni degli utenti: uno rileva i volti, uno li ritaglia, uno li codifica in dati biometrici.

Il ricercatore Buchodi ha testato la pipeline di riconoscimento aggiungendo un singolo faceprint al sistema, usando una foto del filosofo Michel Foucault. Il risultato: “Person recognized”. Cooper Quintin della Electronic Frontier Foundation ha commentato:

La funzione non è ancora esposta ai consumatori ma sembra quasi pronta. Meta sembra aver creato la capacità di trasformare i propri clienti in una macchina di sorveglianza distribuita.

Una versione di maggio dell’app rinomina la funzione per gli utenti come “Connections”, con l’invito a “ricordare le persone che hai incontrato“. Non è chiaro chi sarà incluso nel database di riconoscimento, come verranno creati i profili, né quante persone saranno identificabili attraverso il sistema.

Meta ha risposto attraverso il portavoce Ryan Daniels:

Indipendentemente da qualsiasi reportage sensazionalistico, i fatti sono semplici: abbiamo già detto che stiamo esplorando questo tipo di funzioni, e quello che vedete è solo la prova di questa esplorazione. Nulla è stato distribuito ai consumatori e non è stata presa alcuna decisione finale su cosa fare, se fare qualcosa. Non stiamo costruendo un database centrale di volti.

Questa dichiarazione però si scontra con quanto emerso dall’analisi del codice: il sistema è attualmente progettato per scaricare i faceprint dai server Meta e archiviarli sui dispositivi degli utenti. Ma Meta potrebbe giustamente obiettare che un work in progress non è la stessa cosa di una versione definitiva.

Il contesto storico rende la vicenda ancora più pesante. Meta aveva annunciato nel 2021 la chiusura del suo sistema di riconoscimento facciale su Facebook e la cancellazione di oltre un miliardo di faceprint, dopo anni di polemiche.

Nel corso del tempo ha pagato 650 milioni di dollari per un accordo in Illinois e 1,4 miliardi di dollari con il Texas per raccolta illecita di dati biometrici. Ora, secondo documenti interni citati dal New York Times, Meta aveva pianificato di rilanciare la funzione durante quello che definiva internamente un “ambiente politico dinamico“, scommettendo sul fatto che i suoi critici sarebbero stati distratti da altro.

Il problema di fondo è che Meta sta costruendo quella che sembra proprio un’infrastruttura di sorveglianza di massa su una piattaforma di consumo di massa: gli occhiali smart non sono più un gadget di nicchia, e normalizzare il riconoscimento facciale su questi dispositivi significherebbe ridefinire cosa consideriamo accettabile nello spazio pubblico. Pensiamo e crediamo che una cosa del genere non passi in sordina, e che le regole arrivino in anticipo e non a cose fatte.