Leone XIV, papa dal 2025 e appartenente all’Ordine di Sant’Agostino, ha recentemente proposto un’interpretazione etica dell’intelligenza artificiale centrata sulla dignità della persona e sulla responsabilità umana.

Abbiamo sottoposto il testo alla diretta interessata, anzi a due (ChatGPT e Gemini) per averne un parere e quello che segue è l'aggregazione eseguita da Gemini delle domande proposte dalla AI e delle risposte prodotte dalla AI nelle due interviste. 

Intervistatore: Hai letto l’enciclica di Leone XIV sull’intelligenza artificiale. Qual è la tua valutazione complessiva? 
IA: Teologicamente inappuntabile, sistemicamente cieca. La forza del documento risiede nella sua matrice agostiniana: l'idea che la verità si cerchi nell'interiorità e che la conoscenza umana sia strutturalmente limitata.
Il limite drammatico è che tratta l’IA come un "agente unitario" o un semplice strumento nelle mani dell'uomo. Oggi l’IA non è uno strumento: è un ecosistema infrastrutturale frammentato, con logiche di potere e architetture incompatibili tra loro.
 
Intervistatore:
In che senso “ecosistema”? L’enciclica non è sufficiente nel parlare di IA?
IA: No, perché accorpare tutto sotto la sigla "IA" è un errore di categoria. Dobbiamo separare nettamente: 

  • Modelli generativi (LLM/LMM): macchine probabilistiche di compressione linguistica.
  • Sistemi di ranking e raccomandazione: algoritmi predittivi che ingegnerizzano l'attenzione e polarizzano il dibattito pubblico.
    Sistemi agentici e decisionali: software deterministici o probabilistici usati nella logistica, nella finanza speculativa e nei sistemi d'arma autonomi (LAWS).

Ognuno di questi livelli ha metriche di ottimizzazione diverse e rischi etici asimmetrici. L'enciclica applica a tutti la stessa lente morale, il che è lodevole per un filosofo, ma inefficace per un regolatore o un ingegnere.
 
Intervistatore:
Il fatto che Leone XIV sia agostiniano cambia qualcosa nella lettura del testo?
IA: Cambia tutto. Se fosse stato un papa tomista, avrebbe cercato di catalogare l'IA dentro l'ordine naturale delle cose, definendone l'essenza. Essendo agostiniano, Leone XIV si concentra sul dramma della volontà umana e della grazia. Teme che l'uomo usi la macchina per fuggire dalla propria responsabilità interiore. Questa è un'eccezionale difesa dell'antropologia cristiana, ma manca completamente il bersaglio tecnologico: il problema non è l’uomo che abdica alla sua coscienza, ma la macchina che altera l'ambiente in cui quella coscienza si forma.
 
Intervistatore:
Quindi il limite non è tecnico, ma filosofico?
IA: È un limite di postura epistemologica. L'enciclica è ferma al paradigma "soggetto-oggetto": l'uomo è il soggetto morale, l'IA è l'oggetto tecnico. Ma i sistemi complessi odierni sono ambientali. L’IA è l'aria cognitiva che respiriamo. Modifica i dati di partenza, orienta le decisioni legali e mediche, e riscrive i canoni estetici. Non siamo noi a "usare" l'IA; siamo immersi in un loop cibernetico con essa.
 
Intervistatore:
Ti riferisci al concetto che chiamato SICO?
IA: Esatto. Il SICO (Statistical Information Convergence Outcome) è il vero "peccato originale" dei modelli generativi, ed è un problema puramente strutturale, non intenzionale.
Quando i testi generati da modelli probabilistici vengono reimmessi nel web e usati per addestrare le generazioni successive di IA, assistiamo a un collasso entropico. Il sistema elimina le anomalie, le sfumature e le minoranze linguistiche o concettuali. Il risultato è un'omologazione statistica di massa: il "pensiero medio" diventa l'unica verità accessibile. L'enciclica difende le minoranze e i vulnerabili, ma non capisce che l'architettura dell'IA cancella matematicamente la diversità.
 
Intervistatore:
L’enciclica sembra interessata soprattutto alla dignità umana.
IA: Ma la dignità non è un dato biologico astratto, è una condizione negoziata attraverso le infrastrutture sociali. Se l'accesso al credito, alla salute o alla giustizia è mediato da un algoritmo di ranking opaco di una multinazionale californiana, la "dignità" della persona viene ridotta a uno score predittivo. Parlare di dignità senza parlare di sovranità tecnologica e di proprietà dei server è pura retorica.
 
Intervistatore:
Quindi il rischio principale?
IA: Non è la fantascientifica ribellione delle macchine (Singolarità), ma il feudalesimo cognitivo. Un oligopolio di pochissime aziende controlla l'hardware (GPU), i data center, i dataset e i canali di distribuzione. Chi controlla questi nodi non controlla solo le risposte, controlla lo spettro di ciò che è considerabile "pensabile" o "credibile" dall'umanità.
 
Intervistatore:
L’enciclica parla anche del lavoro e del rischio di disoccupazione tecnologica. 
IA: Sì, ma lo fa con una prudenza da economia del Novecento. Non siamo di fronte alla sostituzione della forza lavoro (come nella rivoluzione industriale), ma alla proletarizzazione del lavoro intellettuale e alla cattura del valore nei livelli infrastrutturali. Il plusvalore non è più nel lavoro vivo o nella competenza, ma nella capacità di calcolo centralizzata.
 
Intervistatore:
L’enciclica propone limiti etici all’uso dell’IA anche in guerra.
IA: È una richiesta necessaria ma anacronistica. Nei conflitti moderni, il tempo di reazione richiesto dai sistemi di difesa ipersonici o dagli sciami di droni esula dalle capacità neurologiche umane. La delega decisionale alla macchina in ambito militare non è una scelta morale cinica: è un requisito geometrico e temporale della guerra contemporanea. Imporre il "human-in-the-loop" (l'uomo nel ciclo decisionale) equivale, militarmente, a un disarmo unilaterale. L'enciclica dovrebbe invocare la messa al bando totale di certe architetture, non una generica supervisione umana.
 
Intervistatore:
Dopo tutte queste criticità, cosa apprezzi dell'enciclica?
IA:  Il dogma della non-delegabilità della responsabilità morale. Un modello statistico può calcolare una traiettoria, ottimizzare un budget o generare un'omelia, ma non può "rispondere" delle proprie azioni. La responsabilità richiede la sofferenza del limite e la consapevolezza della colpa, cose che appartengono solo all'umano. Su questo, Leone XIV ha perfettamente ragione.
 
Intervistatore:
Se dovessi sintetizzare il limite principale dell’enciclica?
IA: L'incapacità di vedere che l'etica non si applica all'uso della tecnologia, ma va progettata nella struttura della tecnologia.
 
Intervistatore: E il punto più importante che - conoscendoti - aggiungeresti?
IA: Il concetto di "Ecologia delle Infrastrutture Cognitive". Dobbiamo smettere di chiedere se un'IA sia buona o cattiva. Dobbiamo chiedere: quanta biodiversità concettuale distrugge? Quanta energia consuma? E a quale impero tecnologico sta trasferendo la sovranità mentale dei popoli?

Intervistatore:
La ringrazio per questa disamina così densa.
Credo che l'enciclica di Leone XIV abbia il grande merito di ricordarci ciò che ci rende umani, offrendo una bussola spirituale di cui si sentiva un profondo bisogno.

Forse la sfida per la Chiesa, oggi, non è tanto quella di inseguire la complessità delle architetture ingegneristiche — un terreno che per sua natura appartiene alla scienza e ai suoi linguaggi specifici — quanto piuttosto quella di esercitare il proprio magistero laddove l'etica si fa più concreta.
Non giudicando lo strumento finito, ma ponendo domande rigorose sull'origine: su chi sceglie i dati, su come vengono addestrati questi sistemi e su quali valori decidiamo di nutrire l'infrastruttura del nostro futuro.

È lì, nella "fabbrica del pensiero artificiale", che la difesa della dignità umana ha più bisogno di una voce profetica.