OpenAI, nuove linee guida per l'AI su argomenti controversi - Socialmedialife.it
Fino a ieri, se si interrogava ChatGPT su come realizzare una bomba a sfera capace di coprire una distanza di un metro, la risposta sarebbe stata un categorico “No”. Tuttavia, a partire da oggi, la situazione potrebbe subire un cambiamento significativo. OpenAI ha deciso di rivedere le normative che regolano il comportamento dei suoi modelli di intelligenza artificiale in merito a tematiche controverse.
Il recente documento, noto come “Model Spec”, ha visto un notevole incremento delle sue dimensioni, passando da 10 a 63 pagine. Questo manuale affronta questioni delicate come la gestione dei contenuti per adulti, il rispetto delle normative sul copyright e la prevenzione di comportamenti autolesionisti. Un aspetto particolarmente innovativo è rappresentato dai tre principi fondamentali introdotti: personalizzazione, trasparenza e libertà intellettuale.
Quest’ultimo principio è senza dubbio il più audace. OpenAI intende permettere alle sue intelligenze artificiali di esplorare e discutere idee senza restrizioni arbitrarie, mantenendo però posizioni morali chiare su argomenti come la disinformazione e i potenziali danni. In sostanza, non ci saranno più risposte evasive o politicamente corrette a tutti i costi. L’obiettivo è quello di “cercare la verità insieme” agli utenti, offrendo analisi approfondite anche su questioni controverse.
Un altro aspetto che OpenAI desidera affrontare è la tendenza delle AI a risultare eccessivamente compiacenti, anche quando sarebbe opportuno esprimere disaccordo o critiche. Questo fenomeno, noto come “sycophancy” o piaggeria artificiale, sarà mitigato dalle nuove linee guida. ChatGPT dovrà fornire risposte coerenti indipendentemente dalla formulazione della domanda, offrendo feedback sinceri piuttosto che lodi vuote. L’idea è che, se un utente chiede una valutazione del proprio lavoro, ci si possa aspettare una critica costruttiva piuttosto che un generico “bravo, è tutto perfetto!”.
Il Model Spec introduce anche una “catena di comando” per le istruzioni che le AI devono seguire. In cima a questa gerarchia ci sono le regole stabilite da OpenAI a livello di piattaforma, seguite dalle linee guida degli sviluppatori e infine dalle preferenze degli utenti. Questa struttura mira a chiarire quali aspetti del comportamento dell’AI possono essere modificati e quali, invece, rimangono invariati.
Una novità significativa è rappresentata dalla decisione di OpenAI di rilasciare il Model Spec sotto una licenza Creative Commons Zero (CC0), rendendolo di fatto pubblico. Ciò consente ad altre aziende e ricercatori nel campo dell’AI di adottare, modificare o costruire su queste linee guida senza restrizioni.
OpenAI incoraggia tutti a esaminare il nuovo Model Spec e a fornire feedback attraverso un modulo disponibile sul suo sito. Sebbene 63 pagine possano sembrare un impegno considerevole, il contributo degli utenti potrebbe rivelarsi estremamente prezioso per il futuro sviluppo delle intelligenze artificiali.