«Nessun sistema informatico, per quanto sofisticato, genera un cuore che si dona, né una coscienza capace di discernere il bene», sottolinea Leone XIV in Magnifica humanitas (233). Per il papa, l'intelligenza artificiale (IA) non è cosciente e non lo sarà mai, nel senso umano del termine.
Un'opinione peraltro largamente condivisa a livello scientifico. «La stragrande maggioranza degli specialisti dirà che ChatGPT non ha coscienza. Non ha la capacità di fare esperienza di una vita interiore», rilevava l'eticista Johan Rochel su cath.ch nel 2024. Tuttavia, «la confusione sulla definizione [di coscienza] permette ad alcuni di sostenere il contrario senza che si possa davvero argomentare contro», rilevava ancora.
Queste domande esistenziali non potranno che crescere con lo sviluppo esponenziale dell'IA. Una questione affrontata solo sinteticamente nell'enciclica del papa. Leone preferisce concentrarsi sulle conseguenze pratiche per l'umanità di questi progressi tecnologici. È tuttavia importante riflettere sul loro impatto sulla visione dell'uomo – e dunque sulla spiritualità e sulla religione.
La confusione tra intelligenza artificiale e naturale fa correre il rischio di profonde disillusioni
Il rischio esiste innanzitutto che si «umanizzino» le IA finendo per «disumanizzare» noi stessi. L'essere umano si accontenta spesso delle apparenze. Discutendo con 'Claude' e constatando che possiede tutte le caratteristiche di una persona vera, chiunque può essere catturato dall'illusione di una presenza reale. Ma anche convincersi, di rimando, di non essere lui stesso che una semplice rete di «transistor-neuroni» destinata a cessare di esistere se viene staccata la spina.
Una visione che evidentemente non si concilia con la fede cristiana, che si comprende in una prospettiva di eternità in cui la morte fisica non significa la fine dell'essere.
Non c'è certo un vincitore, e forse non ce ne sarà mai uno, nella partita che oppone da millenni i sostenitori del materialismo e dell'anima immortale. Ma, al di là di ciò, ci si può interrogare su cosa giovi o meno all'umanità.
La confusione tra intelligenza artificiale e naturale fa correre il rischio di profonde disillusioni. Innanzitutto quando essa si incarica di sostituire il legame tra le persone. Sono questioni, queste, debitamente evocate dal papa. «L'imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e affetti reali: il rischio allora non è tanto che una persona creda di parlare con un'altra persona, quanto che perda il desiderio stesso di cercare veramente l'altro» (MH, 100).
Tutto indica che deleghiamo sempre più le nostre scelte alla macchina
Un altro pericolo è la «de-coscientizzazione». Leone XIV ricorda che le IA «non hanno coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non si assumono il peso delle conseguenze». Un'entità senza anima, che non si può né richiamare alla ragione, né trascinare davanti a un tribunale, e che non ha alcun timore del giudizio finale.
Tutto indica che deleghiamo sempre più le nostre scelte alla macchina. Al di là dei sistemi d'arma che decidono da soli sulla vita e sulla morte, l'affidare la nostra stessa autonomia a un'intelligenza «superiore» è certamente una delle sfide più grandi.
Non usare le proprie gambe fa correre il rischio di vederle atrofizzarsi. Può l'umanità correre il rischio di una simile sorte per quanto riguarda la sua capacità di giudizio, la sua riflessione, il suo libero arbitrio?
Citando Paolo VI, Magnifica humanitas avverte che «i progressi scientifici più straordinari, le imprese tecniche più sorprendenti, la crescita economica più prodigiosa, se non sono accompagnati da un autentico progresso sociale e morale, si ritorcono infine contro l'uomo».
fonte: cath.ch/Raphaël Zbinden
