Instagram etichetta foto reali come AI e ignora quelle vere

Se avete notato che Instagram ha iniziato ad applicare l’etichetta “AI Content” a foto che avete scattato o modificato con strumenti normalissimi, non siete soli. Nelle ultime settimane si moltiplicano le segnalazioni di utenti che si vedono taggare come “contenuto AI” immagini che con l’intelligenza artificiale generativa non hanno nulla a che fare. E. nel frattempo, le immagini davvero generate dall’AI passano indenni, senza alcuna etichetta.

Il paradosso è che il sistema pensato per aiutarci a capire cosa è reale e cosa non lo è sta ottenendo l’effetto opposto, minando la fiducia nell’unico strumento che dovrebbe garantirla.

Vuoi ascoltare il riassunto dell’articolo?

Stando alle segnalazioni raccolte da The Verge, molti casi coinvolgono strumenti come il rimozione dello sfondo di Canva o piccoli ritocchi estetici. Un utente ha riferito che l’etichetta compariva ogni volta che usava la funzione di rimozione sfondo; un altro ha visto la propria foto taggata come AI dopo aver eliminato “una macchiolina” con Canva.

Canva stessa ha ammesso il problema, spiegando che alcuni dei suoi strumenti assistivi “venivano classificati come generativi” e ha dichiarato di aver corretto la situazione.

Eppure diversi utenti continuano a segnalare lo stesso problema anche dopo la presunta correzione.

La rimozione dello sfondo usa il machine learning, ma è lo stesso tipo di AI assistiva che Photoshop usa da oltre un decennio per selezionare oggetti. Non è la stessa cosa dei modelli generativi testo-immagine che producono contenuti dal nulla, quelli che le etichette dovrebbero effettivamente segnalare.

Ci sono anche casi ancora meno spiegabili, relativi, per esempio, ad una foto scattata con iPhone e modificata solo con l’app Foto nativa è stata taggata come AI. Il brand cosmetico About Face, fondato dalla cantante Halsey, ha visto le proprie foto etichettate, e il loro social manager ha precisato che “questa foto è stata scattata con il mio iPhone e poi leggermente modificata da me nell’app Foto. Il nostro brand usa artisti e persone reali per creare tutto ciò che vedete”.

The Verge ha condotto dei test e ha pubblicato immagini interamente generate con Google Gemini, complete di watermark invisibile SynthID e metadati C2PA che certificano l’origine artificiale, ed Instagram non le ha etichettate.

L’unico segnale che ha fatto scattare l’etichetta in modo affidabile è stato quello prodotto dai sistemi AI di Meta stessa. Foto modificate con Photoshop AI, Adobe Firefly, Gemini o le funzioni Apple Intelligence di iOS sono passate senza problemi, anche pubblicandole da un account nuovo in rapida successione.

Meta non ha risposto alle richieste di chiarimento su quali segnali scansiona esattamente e come funziona il sistema.