Google ha avviato un’iniziativa significativa nella lotta contro la disinformazione e la manipolazione delle immagini, introducendo una filigrana digitale per le fotografie modificate attraverso l’intelligenza artificiale generativa di Magic Editor. Questa nuova funzionalità, attualmente in fase di implementazione, è progettata per facilitare l’identificazione delle immagini alterate dagli utenti, grazie all’uso dello strumento “reimagine” presente in Magic Editor.
Nel mese di aprile, la multinazionale della tecnologia ha aperto l’accesso all’editor anche ai possessori di iPhone, permettendo loro di rimuovere o aggiungere elementi realistici nelle immagini. Tuttavia, questa possibilità comporta il rischio di generare contenuti potenzialmente ingannevoli. La tecnologia alla base della filigrana digitale è SynthID, un sistema sviluppato dal team DeepMind di Google, che integra un tag di metadati digitali direttamente nell’immagine. Questo consente di determinare se una foto è stata creata o modificata utilizzando strumenti di intelligenza artificiale generativa.
La filigrana è già in uso per le immagini generate tramite il modello Imagen di Google, il quale è impiegato anche dal chatbot Gemini per la creazione di grafiche. Diverse aziende specializzate, tra cui Adobe, stanno adottando sistemi analoghi per contrassegnare le opere create o modificate tramite le proprie applicazioni. Sia Google che Adobe sono membri della Coalition of Content Provenance and Authority (C2pa), un’associazione che si propone di stabilire linee guida e standard condivisi per aumentare la trasparenza delle immagini e dei video prodotti con l’intelligenza artificiale.
In una comunicazione ufficiale, Google ha chiarito che la filigrana non modifica visibilmente l’immagine e può essere rilevata esclusivamente attraverso strumenti di rilevamento dedicati all’IA. All’interno del menu “Informazioni su questa immagine” di Google Foto, gli utenti possono scoprire se una modifica è stata effettuata tramite Reimagine di Magic Editor, oltre a visualizzare dettagli aggiuntivi sulla grafica, come la data di origine del file originale.