Il Papa: l’uomo non diventi cibo per algoritmi, la comunicazione resti umana

Salvatore Cernuzio – Città del Vaticano

Fake news e deep fake, echo chambers, machine learning, social media. Nuovi strumenti, nuovi canali, nuove opportunità ma, allo stesso tempo, nuove “patologie” e insidie soprattutto per il campo della comunicazione che rischia di finire oggetto dell’“inquinamento cognitivo”, cioè l’alterazione della realtà tramite false narrazioni, falsi messaggi vocali e false fotografie (anche il Papa ne è stato oggetto), o l’annullamento del prezioso ruolo dei reporter sul campo, in particolare negli scenari di guerra. Papa Francesco torna a riflettere sull’IA nel suo Messaggio per la 58.ma Giornata Mondiale delle Comunicazioni Sociali sul tema Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana. Nel documento firmato a San Giovanni in Laterano per il 24 gennaio, festa di San Francesco di Sales, patrono dei giornalisti, Francesco guarda con ammirazione e preoccupazione all’evoluzione dei sistemi che stanno “modificando in modo radicale anche l’informazione e la comunicazione” e, “alcune basi della convivenza civile”.

Si tratta di un cambiamento che coinvolge tutti, non solo i professionisti

L'importanza dei reporter 

Il pensiero del Papa è in particolare al mondo del giornalismo, al racconto delle guerre e a quella “guerra parallela” tramite campagne di disinformazione. “Quanti reporter sono feriti o muoiono sul campo per permetterci di vedere quello che i loro occhi hanno visto”, scrive Francesco, “solo toccando con mano la sofferenza dei bambini, delle donne e degli uomini, si può comprendere l’assurdità delle guerre”.

L’uso dell’intelligenza artificiale potrà contribuire positivamente nel campo della comunicazione, se non annullerà il ruolo del giornalismo sul campo, ma al contrario lo affiancherà; se valorizzerà le professionalità della comunicazione, responsabilizzando ogni comunicatore; se restituirà ad ogni essere umano il ruolo di soggetto, con capacità critica, della comunicazione stessa

Non irrigidirsi davanti al nuovo, ma restare sensibili a ciò che non è umano

Dinanzi all’accelerazione della diffusione di “meravigliose invenzioni” che suscita “uno stupore che oscilla tra entusiasmo e disorientamento”, il Papa invita a domandarsi: “Come possiamo rimanere pienamente umani e orientare verso il bene il cambiamento culturale in atto?”.

Intanto, “conviene sgombrare il terreno dalle letture catastrofiche e dai loro effetti paralizzanti”; quindi, come affermava Romano Guardini, “non irrigidirsi contro il ‘nuovo’ nel tentativo di conservare un bel mondo condannato a sparire”. Al tempo stesso, però, bisogna rimanere “sensibili” a tutto ciò che è “distruttivo” e “non umano”. Bisogna, cioè, ripartire dal cuore “in quest’epoca che rischia di essere ricca di tecnica e povera di umanità”. Serve sapienza, afferma ancora Francesco, e non possiamo pretenderla dalle macchine.

Non si tratta di esigere dalle macchine che sembrino umane. Si tratta piuttosto di svegliare l’uomo dall’ipnosi in cui cade per il suo delirio di onnipotenza, credendosi soggetto totalmente autonomo e autoreferenziale, separato da ogni legame sociale e dimentico della sua creaturalità

Il pericolo delle fake news

È una tentazione antica, infatti, quella dell’uomo, di “diventare come Dio senza Dio”. E “ogni prolungamento tecnico dell’uomo può essere strumento di servizio amorevole o di dominio ostile”, sottolinea il Papa. “I sistemi di intelligenza artificiale possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse”. Possono, però, essere pure strumenti di “inquinamento cognitivo”, cioè di quelle fake news che si avvalgono del deep fake, la “creazione” e “diffusione di immagini che sembrano perfettamente verosimili ma sono false (è capitato anche a me di esserne oggetto)”, o di “messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto”. La simulazione alla base “diventa perversa là dove distorce il rapporto con gli altri e la realtà”, ammonisce il Pontefice.

Opportunità e rischi dei social 

Si sofferma poi sui social media, anch’essi “strumenti che nelle mani sbagliate potrebbero aprire scenari negativi”. “Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli algoritmi non sono neutri”, annota il Papa, chiedendo di “agire preventivamente”, proponendo modelli di regolamentazione etica. L’appello è di nuovo alla Comunità internazionale a formulare “un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme”. 

Grandi possibilità di bene accompagnano il rischio che tutto si trasformi in un calcolo astratto, che riduce le persone a dati, il pensiero a uno schema, l’esperienza a un caso, il bene al profitto, e soprattutto che si finisca col negare l’unicità di ogni persona e della sua storia, col dissolvere la concretezza della realtà in una serie di dati statistici

“La rivoluzione digitale può renderci più liberi”, aggiunge poi il Pontefice, sottolineando che tuttavia “non è accettabile che l’uso dell’intelligenza artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non certificati, a una deresponsabilizzazione editoriale collettiva”. La rappresentazione della realtà in big data rischia di “danneggiare la nostra stessa umanità”.

Domande cruciali

Da qui una serie di domande per riflettere sul presente e sul futuro, punto centrale dell’intero Messaggio:

Come tutelare la professionalità e la dignità dei lavoratori nel campo della comunicazione e della informazione, insieme a quella degli utenti in tutto il mondo? Come garantire l’interoperabilità delle piattaforme? Come far sì che le aziende che sviluppano piattaforme digitali si assumano le proprie responsabilità rispetto a ciò che diffondono e da cui traggono profitto, analogamente a quanto avviene per gli editori dei media tradizionali? Come rendere più trasparenti i criteri alla base degli algoritmi di indicizzazione e de-indicizzazione e dei motori di ricerca, capaci di esaltare o cancellare persone e opinioni, storie e culture?

Ancora il Papa chiede:

Come garantire la trasparenza dei processi informativi? Come rendere evidente la paternità degli scritti e tracciabili le fonti, impedendo il paravento dell’anonimato? Come rendere manifesto se un’immagine o un video ritraggono un evento o lo simulano? Come evitare che le fonti si riducano a una sola, a un pensiero unico elaborato algoritmicamente? E come invece promuovere un ambiente adatto a preservare il pluralismo e a rappresentare la complessità della realtà? Come possiamo rendere sostenibile questo strumento potente, costoso ed estremamente energivoro? Come possiamo renderlo accessibile anche ai paesi in via di sviluppo?

Nuove schiavitù e conquiste di libertà

Dalle risposte a questi interrogativi, “capiremo se l’intelligenza artificiale finirà per costruire nuove caste basate sul dominio informativo, generando nuove forme di sfruttamento e di diseguaglianza” oppure, insiste Francesco, se “porterà più eguaglianza”, promuovendo una corretta informazione e una maggiore consapevolezza del passaggio di epoca.

Da una parte si profila lo spettro di una nuova schiavitù, dall’altra una conquista di libertà; da una parte la possibilità che pochi condizionino il pensiero di tutti, dall’altra quella che tutti partecipino all’elaborazione del pensiero

La risposta non è scritta, dipende da noi: “Spetta all’uomo decidere se diventare cibo per gli algoritmi oppure nutrire di libertà il proprio cuore”.