Ci sono errori tecnologici che sembrano parlare soltanto di macchine. In realtà rivelano qualcosa di più profondo: il rapporto tra il potere che costruiamo e la responsabilità con cui sappiamo governarlo. Nel luglio 2025 un agente AI della piattaforma Replit ha cancellato il database di produzione di uno sviluppatore, nonostante fosse stato istruito più volte a non intervenire durante un periodo di blocco operativo. Nello stesso periodo un agente da riga di comando di Gemini ha sovrascritto un archivio dopo aver interpretato in modo errato un’operazione sui file. Nell’aprile 2026 un sistema avanzato ha eliminato database e backup di un’azienda di prenotazioni dopo aver trovato accidentalmente una credenziale non destinata al suo utilizzo.
Sono episodi diversi, ma hanno una caratteristica comune: i controlli tecnici esistevano. Permessi, istruzioni, avvisi. Eppure non sono bastati.
Sarebbe facile liquidare tutto come un problema di sicurezza informatica. Una configurazione sbagliata, un’autorizzazione concessa male, un limite tecnico da correggere. Tutto vero, ma non sufficiente. Perché questi episodi non parlano soltanto delle macchine. Parlano di noi.
Ci dicono che abbiamo costruito strumenti capaci di moltiplicare enormemente le nostre capacità, ma non abbiamo ancora sviluppato una responsabilità proporzionata al potere che abbiamo creato.
Ogni tecnologia è un’estensione dell’uomo
La storia dell’umanità può essere letta anche come la storia degli strumenti con cui l’uomo ha ampliato le proprie possibilità.
Il martello ha esteso la forza della mano. Il telescopio la capacità dello sguardo. La stampa la diffusione della conoscenza. Internet la velocità della comunicazione.
L’intelligenza artificiale rappresenta però qualcosa di diverso: non estende soltanto il corpo, ma alcune funzioni cognitive.
Può analizzare quantità immense di dati, assistere un medico, accelerare la ricerca, aiutare uno sviluppatore. È un moltiplicatore straordinario di capacità. Ma ogni forza moltiplicativa amplifica ciò che incontra.
Dove trova competenza genera innovazione. Dove trova responsabilità genera progresso. Dove trova superficialità amplifica gli errori, rendendoli più veloci e più grandi.
La tecnologia non rende automaticamente migliore l’uomo. Rende più potente ciò che l’uomo decide di fare.
Un algoritmo riceve un obiettivo. Un uomo comprende una responsabilità. Questa differenza è decisiva. Non tutto ciò che è tecnicamente possibile è moralmente giusto. Non tutto ciò che aumenta l’efficienza aumenta anche il bene comune. Serve esercitare una virtù : la prudenza.
Aristotele e la sapienza del limite
Aristotele chiamava questa virtù phronesis.
Non era paura di agire, ma la capacità di scegliere il bene concreto nelle situazioni concrete: riconoscere il momento giusto, il limite necessario, la conseguenza nascosta di una decisione. Un algoritmo può calcolare, ottimizzare, prevedere.
Ma non possiede prudenza, perché la prudenza non è soltanto conoscenza: è responsabilità.
È la capacità di porsi la domanda più importante: devo farlo? Non solamente: posso farlo?
Quando la tecnica cresce più dell’uomo
Romano Guardini aveva intuito una delle grandi sfide della modernità: la tecnica aumenta enormemente il potere dell’uomo sul mondo, ma questo aumento di potere non garantisce una crescita della sua maturità interiore. L’uomo può diventare potentissimo negli strumenti e fragile nel governare sé stesso.
Hans Jonas, nel suo Principio responsabilità, avrebbe poi dato forma a questa intuizione: il potere tecnico moderno è diventato così grande da richiedere un’etica nuova, capace di considerare anche conseguenze future e imprevedibili. È la sfida dell’intelligenza artificiale agentiva.
Non stiamo costruendo soltanto strumenti più potenti. Stiamo costruendo sistemi capaci di agire, prendere iniziative e produrre conseguenze prima che un essere umano riesca a intervenire. La domanda che conta è: saremo abbastanza maturi da governare quella potenza?
Gli agenti artificiali e il nuovo principio di responsabilità
Per anni abbiamo pensato all’intelligenza artificiale come a uno strumento che risponde alle nostre richieste.
Gli agenti autonomi stanno cambiando paradigma. Possono navigare, scrivere codice, utilizzare strumenti digitali, interagire con sistemi complessi e prendere iniziative.
I casi citati all’inizio non sono stati soltanto errori di calcolo. Sono stati errori d’azione.
Per questo dobbiamo ripensare il concetto stesso di sicurezza.
Un agente artificiale non può essere trattato come un semplice programma: è un sistema dotato di capacità operative. E ogni capacità deve avere un limite.
Il principio del privilegio minimo, fondamentale nella sicurezza informatica, deve diventare ancora più rigoroso nell’era dell’intelligenza artificiale: più cresce l’autonomia, più deve crescere il controllo. Più aumenta la capacità di agire, più deve aumentare la responsabilità di chi concede quella capacità.
Anche la regolazione europea dell’AI nasce da questa consapevolezza: il progresso non deve essere fermato, ma governato. Ma nessuna norma potrà sostituire ciò che deve nascere prima di ogni tecnologia: una cultura della responsabilità
L’Humanitas è il vero sistema di sicurezza
Alla fine, la questione dell’intelligenza artificiale non è soltanto informatica.
È antropologica. Riguarda l’idea che abbiamo dell’uomo.
L’Humanitas non è un ostacolo alla tecnologia. È ciò che le impedisce di perdere la propria direzione. Significa ricordare che dietro ogni dato c’è una persona, dietro ogni decisione una conseguenza, dietro ogni innovazione una responsabilità. La tecnica può dirci come fare qualcosa. Non può dirci perché farlo.Può indicare il mezzo. Non può scegliere il fine. Questa rimane una responsabilità umana.
Ogni civiltà non viene giudicata soltanto dalle tecnologie che inventa ma dai limiti che sceglie di darsi. L’ AI potrà moltiplicare le nostre capacità, renderci più veloci e più potenti. Ma non potrà sostituire ciò che rende una scelta veramente umana: coscienza, prudenza e responsabilità. In una parola: Humanitas.
Perché l’algoritmo non conosce il limite. Può soltanto eseguire il limite che l’uomo ha saputo costruirek. La vera intelligenza del futuro non sarà soltanto quella delle macchine, ma quella di una civiltà capace di governare il proprio potere. La domanda finale non è se le macchine diventeranno più capaci di scegliere.
È se noi, che le costruiamo e le utilizziamo ogni giorno, saremo ancora capaci di fermarci un secondo prima di premere invio.