E il nemico non è l’AI in sé, ma qualcosa di più sottile: la colonizzazione dell’esperienza umana da parte di sistemi che decidono al posto nostro, che filtrano ciò che vediamo, che simulano empatia senza mai averla veramente provata.
Il Papa lo dice senza mezzi termini: l’intelligenza artificiale non è neutrale.
“Assume il volto di chi la pensa, la finanzia, la regola, la usa”. Dietro ogni algoritmo c’è una gerarchia di potere, spesso invisibile, sempre presente. E quando il potere si ammanta di neutralità, “l’ingiustizia si fa silenziosa”.
Qui Leone XIV si colloca su una linea che attraversa il pensiero di tanti intellettuali contemporanei.
La trappola della “trasparenza”
Byung-Chul Han, nel suo saggio “La società della trasparenza”, ha descritto come l’ossessione per la trasparenza, l’accesso sempre più facile a informazioni sensibili e personali, stiano in realtà ponendo le basi di una politica basata sulla sorveglianza e sul controllo, dove la sovraesposizione altro non è che una pericolosa perdita di libertà.
L’enciclica aggiunge un tassello in più: nell’era dell’IA, la trasparenza diventa una trappola. Non vediamo più i meccanismi di selezione, ma ci illudiamo di avere scelta. L’algoritmo che ci propone ciò che “ci piace” non ci libera: ci inchioda a una versione di noi stessi già scritta da altri e che finiamo per fare nostra.
Conoscere per disarmare
Il Papa usa una parola forte: disarmare. “Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva”. È la corsa all’algoritmo più efficiente, alla banca dati più completa, al modello che genera output più velocemente. Una corsa che, come ha scritto Franco «Bifo» Berardi, trasforma la mente in una fabbrica di segnali e la soggettività in merce scambiabile. Bifo parla di “semiocapitalismo”, quel capitalismo che “prende mente, linguaggio e creatività come suoi strumenti primari per la produzione di valore” e dove “la sottomissione dell’anima” è il tratto distintivo del nostro tempo.
Leone XIV propone di rendere la tecnologia, e quindi l’AI, “discutibile, contestabile, e quindi abitabile”. È un concetto che richiama Bruno Latour nella sua teoria dei “quasi-oggetti”, suggerendo una visione molto più articolata e complessa della realtà in cui siamo immersi. Gli oggetti, le idee, hanno un ruolo fondamentale nell’orientare e interpretare il mondo, diventando a tutti gli effetti degli agenti attivi al pari, o quasi, delle persone. In questo senso l’AI diventa un “quasi-oggetto” da comprendere, vivere, un circuito di relazioni che si estende ben oltre la sua forma digitale.
Il corpo che ancora manca
Il cuore dell’enciclica, però, è un’affermazione antropologica che suona come un monito diretto a chi lavora nella comunicazione: “Le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità”. E qui il rischio non è tecnico, ma esistenziale: “In utenti poco consapevoli può trarre in inganno e illudere di essere in relazione con un autentico soggetto personale”, fino a far perdere “il desiderio stesso di cercare davvero l’altro”.
È un’osservazione che Jean Baudrillard avrebbe probabilmente fatto propria. In “Simulacri e simulazione”, il filosofo francese scrive che “La simulazione non è più la simulazione di un territorio, o di un’entità referenziale, o di una sostanza. È piuttosto la generazione di modelli di un reale senza origine o realtà: un iperreale”. Quando un chatbot ci risponde con parole di conforto, non stiamo ricevendo conforto. Stiamo consumando un’immagine del conforto. E se ci abituiamo, il passo successivo non è la sostituzione dell’altro, ma la perdita della capacità stessa di riconoscere l’altro come tale.
Verità, lavoro, libertà: quale direzione?
L’enciclica affronta poi tre nodi che attraversano il nostro lavoro quotidiano. La verità, che rischia di diventare un “prodotto personalizzato” in un mondo filtrato da algoritmi. Il lavoro, che non può più essere affidato alla “mano invisibile del mercato” nell’era dell’automazione. La libertà, che i sistemi di IA tendono a erodere creando dipendenze cognitive e relazionali.
Su questo terreno, il Papa si schiera contro chiunque veda nella tecnologia una soluzione tecnica a problemi politici. Serve una politica che orienti l’innovazione verso il bene comune, promuovendo “lavoro dignitoso, inclusione sociale e una equa distribuzione dei benefici dell’innovazione”. È un richiamo che Martha Nussbaum, filosofa statunitense, avrebbe probabilmente sottoscritto: il suo “capability approach” si fonda sull’idea che una società giusta deve “considerare ogni individuo come un fine in sé, e chiedendosi non solo quale sia il benessere totale o medio, ma quali siano le opportunità a disposizione di ciascuna persona”. La tecnologia deve servire le capability umane, rafforzarle, farle vivere in autonomia.
C’è poi un passaggio che colpisce per la sua ambizione: “L’innovazione tecnologica può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione. Gli sviluppatori portano dunque un particolare peso etico e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità”.
Non serve credere per cogliere la portata di questa affermazione. Ogni brief, ogni wireframe, ogni prompt che scriviamo porta in sé una visione del mondo. La domanda è solo una: quale?
Costruire spazi di umanità
L’enciclica torna più volte sull’immagine della torre di Babele: quel progetto di dominio collettivo che, paradossalmente, disumanizza proprio nel momento in cui cerca di unificare. Leone XIV la contrappone, anche sul finale, alla ricostruzione di Gerusalemme, “pezzo per pezzo, come opera di responsabilità condivisa”. È un invito a non fuggire dalla tecnologia, ma a costruire dentro di essa spazi di umanità.
Rendere “umana” l’IA è un modo per diventare, noi stessi, umani migliori.
