Google ha recentemente annunciato l’introduzione di una nuova filigrana digitale per contrastare la disinformazione e favorire la trasparenza nell’era dell’intelligenza artificiale generativa. Questa iniziativa, che si inserisce in un contesto sempre più complesso legato alla manipolazione delle immagini, rappresenta un passo significativo per garantire l’autenticità dei contenuti.
Il lancio di Synthid
Il 6 febbraio 2025, Google ha rivelato che il sistema di filigrana digitale, denominato SynthID, sarà integrato in Google Photos. Questa nuova funzionalità è progettata per identificare le immagini modificate attraverso il Magic Editor, uno strumento di editing basato su intelligenza artificiale. Il debutto di SynthID è previsto per questa settimana e si propone di facilitare il riconoscimento delle immagini manipolate utilizzando la funzione “Reimmagina” di Magic Editor. SynthID, sviluppato dal team di DeepMind di Google, è un sistema di watermarking che incorpora metadati digitali direttamente nelle immagini, nei video, nell’audio e nel testo. Questo approccio consente di segnalare se i contenuti sono stati creati o alterati tramite strumenti di intelligenza artificiale. È importante notare che un sistema simile è già in uso per le immagini generate interamente dal modello text-to-image Imagen di Google.
Le sfide della manipolazione delle immagini
La funzionalità di editing delle immagini disponibile sui telefoni Pixel 9 di Google ha sollevato preoccupazioni riguardo alla facilità con cui le fotografie possono essere modificate in modo convincente. Gli utenti possono semplicemente descrivere le modifiche desiderate, rendendo il processo accessibile a chiunque. Anche se gli strumenti di editing basati su intelligenza artificiale non sono di per sé dannosi, il Magic Editor ha generato contenuti inappropriati in alcune immagini, senza fornire indicazioni evidenti sulle manipolazioni effettuate. A partire da ottobre 2024, Google ha iniziato a implementare tag nelle descrizioni dei file su Google Photos per le immagini modificate con intelligenza artificiale, ma questo non è stato sufficiente a risolvere il problema.
Il nuovo aggiornamento con SynthID cerca di affrontare queste problematiche, ma presenta delle limitazioni. La filigrana non altera visibilmente l’immagine a cui è associata e può essere identificata attraverso uno strumento di rilevamento integrato nella funzione “Informazioni su questa immagine” di Google. Tuttavia, Google ha avvertito che alcune modifiche effettuate con la funzione “Reimmagina” potrebbero essere troppo piccole per essere etichettate e rilevate da SynthID. Nonostante l’innovativa tecnologia di watermarking possa rappresentare un aiuto nell’identificazione delle manipolazioni, esperti del settore avvertono che non sarà sufficiente per garantire un’autenticità affidabile dei contenuti generati dall’intelligenza artificiale su larga scala. Sarà necessario un approccio combinato che integri diverse metodologie per affrontare efficacemente queste sfide.
