Una frenetica competizione tra i principali attori del settore tecnologico per sviluppare un’intelligenza artificiale sempre più avanzata potrebbe avere conseguenze negative. Questo è quanto afferma Yoshua Bengio, informatico di fama mondiale e vincitore del Premio Turing nel 2018, nonché supervisore dell’International AI Safety Report. Questo rapporto è il risultato del lavoro di circa cento esperti provenienti da trenta paesi, supportati da organizzazioni come l’OCSE, l’Unione Europea e le Nazioni Unite. L’iniziativa è stata avviata nel 2023 durante un summit britannico dedicato alla sicurezza, e il documento finale sarà oggetto di discussione al Summit di Parigi sull’IA, previsto per il 10 e 11 febbraio 2024.
Bengio, che insegna presso l’Università di Montreal, evidenzia i rischi già noti associati all’intelligenza artificiale, come la creazione di contenuti falsi o fuorvianti online e l’impatto sul mercato del lavoro. Tuttavia, il ricercatore avverte che stanno emergendo costantemente nuove prove di rischi aggiuntivi, inclusi potenziali attacchi biologici e informatici. A lungo termine, esprime preoccupazione per una possibile “perdita di controllo” sull’IA. Bengio sollecita una regolamentazione internazionale più rigorosa e una maggiore attenzione alla ricerca sulla sicurezza dell’intelligenza artificiale, che attualmente riceve solo una frazione dei massicci investimenti diretti al settore.
Senza un intervento governativo, è difficile immaginare come potremmo affrontare questa situazione”, dichiara Bengio, riferendosi agli Stati Uniti, dove il tentativo dell’ex presidente Biden di stabilire regole per lo sviluppo dell’IA è stato abbandonato. Quando ChatGPT di OpenAI ha fatto il suo debutto pubblico due anni fa, Bengio ha avvertito l’urgenza di considerare seriamente la questione della sicurezza. “Quello che mi preoccupa di più è la possibilità che l’umanità possa estinguersi entro dieci anni”, ha affermato. Il rapporto, come sottolinea il Guardian, riconosce tali timori, ma evidenzia anche che le opinioni in merito variano notevolmente tra gli esperti.