Papa: bene IA ma attenzione a deep fake, anche io vittima

AGI – “I sistemi di intelligenza artificiale possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse” ma al tempo stesso possono essere strumenti di “inquinamento cognitivo”. Così Papa Francesco nel messaggio per la 58esima Giornata Mondiali delle Comunicazioni sociali sul tema “Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana”.

Il Pontefice mette in guardia sia dalle fake news, ma anche dalle deep fake, “immagini che sembrano perfettamente verosimili ma sono false”, “è capitato anche a me di esserne oggetto”, aggiunge riferendosi alle foto che circolavano in rete di Bergoglio con un piumone bianco o in pose da supereroe, “o di messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto”.

“A seconda dell’orientamento del cuore, ogni cosa nelle mani dell’uomo diventa opportunità o pericolo”, scrive Francesco.

“Il suo stesso corpo, creato per essere luogo di comunicazione e comunione, può diventare mezzo di aggressività. Allo stesso modo ogni prolungamento tecnico dell’uomo può essere strumento di servizio amorevole o di dominio ostile”. I sistemi di intelligenza artificiale quindi come opportunità possono ad esempio “rendere raggiungibile e comprensibile un enorme patrimonio di conoscenze scritto in epoche passate o far comunicare le persone in lingue per loro sconosciute”.

“Ma possono al tempo stesso essere strumenti di ‘inquinamento cognitivò, di alterazione della realtà tramite narrazioni parzialmente o totalmente false eppure credute – e condivise – come se fossero vere”.
“Basti pensare al problema della disinformazione che stiamo affrontando da anni nella fattispecie delle fake news e che oggi si avvale del deep fake, cioè della creazione e diffusione di immagini che sembrano perfettamente verosimili ma sono false (è capitato anche a me di esserne oggetto), o di messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto. La simulazione, che è alla base di questi programmi, può essere utile in alcuni campi specifici, ma diventa perversa là dove distorce il rapporto con gli altri e la realtà”.

“È necessario agire preventivamente, proponendo modelli di regolamentazione etica per arginare i risvolti dannosi e discriminatori, socialmente ingiusti, dei sistemi di intelligenza artificiale e per contrastare il loro utilizzo nella riduzione del pluralismo, nella polarizzazione dell’opinione pubblica o nella costruzione di un pensiero unico” ha spiegato il pontefice.

“Della prima ondata di intelligenza artificiale, quella dei social media, abbiamo già compreso l’ambivalenza toccandone con mano, accanto alle opportunità, anche i rischi e le patologie”, sottolinea il Pontefice. “Il secondo livello di intelligenze artificiali generative segna un indiscutibile salto qualitativo”. Per Bergoglio è quindi “importante avere la possibilità di comprendere, capire e regolamentare strumenti che nelle mani sbagliate potrebbero aprire scenari negativi. Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli algoritmi non sono neutri”. Il Papa rinnova, citando il Messaggio per la Giornata mondiale della Pace – dedicato sempre all’intelligenza artificiale -, il suo “appello esortando ‘la Comunità delle nazioni a lavorare unita al fine di adottare un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme”.

“Siamo chiamati a crescere insieme, in umanità e come umanità. La sfida che ci è posta dinanzi è di fare un salto di qualità per essere all’altezza di una società complessa, multietnica, pluralista, multireligiosa e multiculturale”. Così Papa Francesco nel messaggio per la 58esima Giornata Mondiali delle Comunicazioni sociali sul tema “Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana”.

“Sta a noi interrogarci sullo sviluppo teorico e sull’uso pratico di questi nuovi strumenti di comunicazione e di conoscenza – ha sottolineato il Pontefice -. Grandi possibilità di bene accompagnano il rischio che tutto si trasformi in un calcolo astratto, che riduce le persone a dati, il pensiero a uno schema, l’esperienza a un caso, il bene al profitto, e soprattutto che si finisca col negare l’unicità di ogni persona e della sua storia, col dissolvere la concretezza della realtà in una serie di dati statistici”.
La rivoluzione digitale “può renderci più liberi, ma non certo – ha aggiunto – se ci imprigiona nei modelli oggi noti come echo chamber. In questi casi, anzichè accrescere il pluralismo dell’informazione, si rischia di trovarsi sperduti in una palude anonima, assecondando gli interessi del mercato o del potere”.

Per Bergoglio “non è accettabile che l’uso dell’intelligenza artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non certificati, a una deresponsabilizzazione editoriale collettiva”. “La rappresentazione della realtà in big data, per quanto funzionale alla gestione delle macchine, implica infatti una perdita sostanziale della verità delle cose, che ostacola la comunicazione interpersonale e rischia di danneggiare la nostra stessa umanità”.