Le Tre Leggi e il sospetto verso l’uomo
C’è un momento in cui due visioni dell’essere, apparentemente lontanissime, si incrociano. Quando accade, vale la pena fermarsi.
La prima enciclica di Papa Leone XIV, Magnifica Humanitas, appena pubblicata, affronta con grande franchezza i nodi dell’intelligenza artificiale: la concentrazione del potere tecnologico in poche mani, il rischio di nuove forme di disumanizzazione, l’imperativo di “restare umani”. Quasi in contemporanea, rileggendo certi famosi racconti di Isaac Asimov, viene da pensare che quel problema lo avesse già visto. Certo in forma narrativa, ma con decenni di anticipo rispetto alla nostra attualità. E soprattutto da una prospettiva radicalmente opposta.
Le Tre Leggi della Robotica di Asimov sono note:
- Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
- Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.
- Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.
Più interessante è la ragione per cui Asimov finisce progressivamente per demolire quel sistema teorico nei suoi racconti, fino ad arrivare a I robot e l’impero del 1985, dove il robot R. Daneel Olivaw enuncia la cosiddetta Legge Zero: “un robot non può recare danno all’umanità”.
Non è un esercizio di anarchia intellettuale. Al contrario. Asimov comprende che un robot che obbedisce perfettamente alle regole è pericoloso proprio perché è perfetto. Applicare le regole senza l’imperfetto giudizio umano produce conseguenze mostruose.
La Legge Zero e la delega morale alla macchina
La Legge Zero nasce dunque dalla consapevolezza di un fallimento. Proteggere il singolo essere umano non basta più: occorre proteggere l’umanità come collettivo. È un salto morale enorme.
Asimov capisce che la macchina non può limitarsi a seguire ordini locali e immediati. Deve essere posta a tutela di qualcosa di più astratto e generale: la sopravvivenza dell’intera umanità. Ed è qui che emerge il punto decisivo.
Dietro quella formulazione apparentemente razionale si nasconde infatti una profonda sfiducia nell’uomo. La tutela dell’umanità viene affidata alla macchina perché nessun essere umano singolo sembra più in grado di custodirla in modo affidabile.
Il razionalista e uomo di scienza finisce così per compiere un gesto sorprendente: delegare alla tecnica una funzione morale superiore.
Leone XIV e la responsabilità che non si delega
Leone XIV, invece, percorre la strada opposta. Il Papa non si rivolge alle macchine. Si rivolge agli uomini e alle donne che le costruiscono, che le finanziano, che le governano o che dovrebbero governarle. La responsabilità morale rimane interamente in capo all’essere umano.
Per questo Magnifica Humanitas è, prima ancora che un testo sull’intelligenza artificiale, una chiamata alla responsabilità e una scommessa esplicita sulla capacità di autogoverno dell’uomo.
In un’epoca nella quale la tendenza dominante è delegare non solo compiti operativi ma perfino discernimenti sensibili agli algoritmi — perché gli algoritmi offrono razionalità rapida, efficiente e apparentemente neutrale — affermare che la responsabilità non si delega rappresenta un atto profondamente controcorrente. E forse persino una forma di resistenza moderna.
L’inafferrabile umano contro la formalizzazione totale
È qui che la lettura congiunta di Asimov e Leone XIV produce qualcosa di inatteso e affascinante. Asimov, il laico e razionalista, arriva progressivamente a sfiduciare la capacità dell’uomo di governarsi da sé. Leone XIV, il successore di Pietro, continua invece a scommettere sull’umano.
Per il Papa, la dignità dell’uomo non può essere custodita da una legge scritta nei circuiti. Può essere custodita soltanto da scelte umane, libere e consapevoli. “Restare umani” rischia di sembrare, a una lettura superficiale, una formula vaga. In realtà è un concetto rigoroso.
Significa custodire ogni giorno ciò che non è completamente misurabile, prevedibile o formalizzabile da un algoritmo. Non per nostalgia del passato e neppure per oscurantismo tecnologico. Ma per una ragione estremamente logica: se ciò che chiamiamo “umano” fosse completamente descrivibile, allora sarebbe anche, almeno in linea di principio, replicabile.
L’inafferrabilità non è il difetto dell’umano. È la sua sostanza. È precisamente ciò che lo rende irriducibile agli algoritmi.
L’essenziale che le macchine non possono descrivere
Asimov cercava una legge capace di contenere il rischio di autodistruzione dell’umanità. Leone XIV indica qualcosa di diverso: un residuo irriducibile che nessuna norma, nessun modello matematico e nessuna macchina potranno mai catturare completamente.
È su quel residuo che si gioca la sua scommessa. Ed è forse questo il punto più moderno dell’enciclica: non la paura della tecnica, ma la difesa di ciò che, per sua natura, non può essere interamente tradotto in codice. Allora, parafrasando Il Piccolo Principe, l’essenziale non è soltanto invisibile agli occhi. Forse è anche indescrivibile alle macchine.
