Meta sotto indagine: L’Oversight Board richiede riforme sulla gestione delle Immagini esplicite generate da Intelligenza Artificiale

Le recenti indagini sul modo in cui Meta gestisce le immagini esplicite generate da intelligenza artificiale hanno portato l’Oversight Board a richiedere una revisione delle politiche della compagnia. Queste raccomandazioni nascono da una serie di casi controversi che hanno sollevato preoccupazioni sulla protezione degli utenti e sull’uso improprio delle tecnologia AI nelle piattaforme social.

Il ruolo dell’Oversight Board e le nuove raccomandazioni

L’Oversight Board, un organismo semi-indipendente creato da Meta per supervisionare le decisioni riguardanti i contenuti, ha suggerito che la terminologia utilizzata dall’azienda venga cambiata da “derogatorio” a “non consensuale”. Inoltre, ha sollecitato il trasferimento delle policy relative alle immagini esplicite generate da AI dalla sezione dedicata al “Bullying e Harassment” a quella dei “Sexual Exploitation Community Standards”. Questo cambiamento mira a mettere in luce la gravità delle immagini non consensuali, sottolineando che tali contenuti non dovrebbero essere trattati alla stregua di semplici insulti.

Un altro elemento chiave nelle raccomandazioni dell’Oversight Board è la richiesta di sostituire il termine “Photoshop” con una definizione più generica per indicare media manipolati. Questo cambiamento è essenziale in un contesto in cui le tecnologie di modifica delle immagini si stanno evolvendo rapidamente e non possono essere limitate a un solo software o metodo di creazione.

La gestione controversa di immagini AI generate da Meta

Attualmente, Meta affronta le immagini non consensuali generate da AI attraverso una regola che definisce tali contenuti come “derogatori” nel contesto del bullying. Sebbene l’azienda proibisca la diffusione di questi contenuti se non commerciali o prodotti in ambienti privati, l’Oversight Board ha suggerito che non sia necessario un vincolo che limiti talune immagini senza consenso. Questa revisione delle policy è diventata urgente dopo episodi recenti che hanno visto la pubblicazione di immagini esplicite di figure pubbliche, generando indignazione e preoccupazione.

Uno dei casi più significativi ha coinvolto un’immagine AI di un’importante figura pubblica indiana. Gli utenti che l’hanno segnalata hanno assistito all’assenza di azioni da parte di Meta, che ha chiuso la segnalazione senza ulteriori approfondimenti. Solo dopo che l’Oversight Board è intervenuto, il contenuto è stato rimosso. Questo evento ha messo in evidenza le lacune nel processo di gestione delle segnalazioni da parte di Meta, destando preoccupazioni sull’efficacia delle attuali misure.

Il contesto culturale e l’impatto delle immagini non consensuali

Le implicazioni culturali delle immagini non consensuali sono un argomento di crescente rilevanza. L’organizzazione indiana Breakthrough, attiva nella lotta contro la violenza di genere online, ha sottolineato come tali episodi siano spesso trattati come problemi di furto d’identità piuttosto che come violenze di genere. Questo approccio minimizza la gravità della situazione e può contribuire alla vittimizzazione secondaria delle persone colpite.

La portavoce di Breakthrough ha evidenziato che molte vittime di immagini non consensuali si trovano a dover affrontare interrogativi inopportuni da parte delle autorità, come “perché hai messo in circolazione la tua immagine?”. L’impatto di tali immagini si diffonde rapidamente, rendendo difficile per le vittime ottenere giustizia, poiché i contenuti possono scivolare oltre la piattaforma originale e proliferare altrove.

Le risposte di Meta agli input dell’Oversight Board

In risposta alle osservazioni dell’Oversight Board, Meta ha dichiarato l’intenzione di rivedere le raccomandazioni proposte. Esperti e attivisti hanno sottolineato l’importanza di questa revisione, evidenziando che una più profonda comprensione delle dinamiche legate alle immagini non consensuali è essenziale per la creazione di spazi sicuri online. Le sfide legate alla segnalazione di immagini non consensuali richiedono un miglioramento della comunicazione e della trasparenza con gli utenti, per evitare che contenuti dannosi sfuggano ai controlli.

Inoltre, c’è necessità di una maggiore educazione degli utenti riguardo alle loro segnalazioni. Molti non sono a conoscenza che le loro segnalazioni possono essere risolte automaticamente entro un breve lasso di tempo. Esperti suggeriscono che Meta sviluppi un sistema di reporting che consenta agli utenti di fornire contesto aggiuntivo, facilitando l’identificazione di diverse categorie di violazioni delle policy.