Riccardo Ricchetti (Università Cattolica del Sacro Cuore di Milano)

1. Introduzione: l’intelligenza artificiale come res nova

Ogni mutamento radicale degli assetti di potere costringe il diritto a misurarsi con la propria funzione essenziale, ossia ricondurre l’esercizio dell’autorità entro sedi riconoscibili di imputazione, obbligo e rimedio. La rivoluzione industriale aveva sollevato tale esigenza nel vivo della dialettica tra capitale e lavoro e la Rerum novarum di Leone XIII vi rispose inaugurando una riflessione sociale capace di leggere le fratture della modernità alla luce della dignità della persona e del bene comune. Con la lettera enciclica Magnifica humanitas, Leone XIV si pone in consapevole continuità con il predecessore e riconosce nell’intelligenza artificiale (IA) una delle res novae del presente, in quanto trasformazione destinata a incidere sulle forme future della convivenza umana.

La portata dell’enciclica si comprende pienamente solo se collocata entro l’itinerario degli ultimi pontificati (cfr. Magatti). Benedetto XVI aveva già individuato una delle patologie cruciali della modernità nel restringimento della ragione a ciò che è empiricamente verificabile, tecnicamente producibile e funzionalmente calcolabile (v. discorso presso l’Università di Regensburg, 12 settembre 2006). Francesco, da parte sua, aveva ricondotto la critica del paradigma tecnocratico alla concretezza storica del vivente, mostrando come crisi ecologica, cultura dello scarto, dominio della tecnica e responsabilità politica non possano essere pensati separatamente (v. Evangelii gaudium, nn. 231-233; Laudato si’, nn. 101-114 e 137-142). Leone XIV raccoglie questa duplice eredità, la articola entro una grammatica di matrice agostiniana (cfr. De civitate Dei;, XIV, 28 e XIX, 13; De Trinitate, X, 3-4 e XIV, 15) e la orienta verso un interrogativo ulteriore: che cosa accade quando la tecnica non si limita più a fornire strumenti all’uomo, ma tende a riorganizzare le condizioni stesse del giudizio, della scelta e dell’imputazione?

L’architettura di Magnifica humanitas conferma tale ambizione. Le pagine iniziali affidano alle immagini bibliche di Babele e Gerusalemme la polarità tra un futuro imperniato sull’autosufficienza del dominio e una città comune ricostruita nella relazione e nella corresponsabilità (Magnifica humanitas, nn. 1-16, spec. nn. 7-10). Su tale fondamento, l’enciclica colloca la questione tecnologica entro i principi della Dottrina sociale della Chiesa (ivi, nn. 17-89), affronta il nesso tra tecnica e dominio, la concentrazione delle risorse digitali, la trasparenza, l’accountability e il governo dei sistemi intelligenti (ivi, nn. 90-130), per poi svilupparne la proiezione politico-istituzionale là dove la crisi del controllo umano assume la sua forma più grave, vale a dire nella guerra, nel disarmo, nella crisi del multilateralismo e nell’impiego di sistemi d’arma autonomi (ivi, nn. 182-228).

Per il giurista internazionalista, il rilievo di Magnifica humanitas emerge, anzitutto, dalla lettura del potere algoritmico come forma di autorità dispersa. Il testo pontificio individua, sul punto, un nodo strutturale della contemporaneità, ravvisabile nella progressiva separazione tra chi concepisce l’apparato tecnico, chi ne governa l’operatività, chi ne trae vantaggio e chi sopporta le conseguenze delle scelte che ne derivano. Il problema oltrepassa così la sfera tecnologica e investe la possibilità di mantenere giuridicamente leggibile un potere idoneo a incidere sui diritti, sulla sicurezza collettiva e, in ultima istanza, sull’uso della forza.

In questa prospettiva, il concetto di «custodia dell’umano», pietra angolare dell’enciclica, trascende la mera esortazione morale. Quando l’enciclica richiama la necessità che la responsabilità resti rintracciabile «in tutti i passaggi» del ciclo dei sistemi intelligenti (Magnifica humanitas, nn. 104-105), essa rifiuta che l’opacità tecnica possa diventare un argomento di resa del diritto. Custodire l’umano significa, in questo senso, risalire dall’esito automatizzato alle opzioni progettuali, economiche e istituzionali che lo hanno reso possibile, impedendo che la complessità dell’apparato spezzi il nesso tra decisione e risposta giuridica.

Il presente contributo assume come tesi che il valore giuridico più fecondo di Magnifica humanitas consiste nell’aver nominato, con il lessico proprio della riflessione sociale cristiana, una frattura centrale dell’ordinamento internazionale contemporaneo, ovverosia la necessità di preservare la riconducibilità del comando a soggetti responsabili nell’età dell’automazione. Muovendo da tale assunto, l’analisi si concentrerà sull’ambito in cui tale tensione raggiunge la sua massima intensità, vale a dire l’impiego dell’IA nei sistemi d’arma autonomi. È infatti nel passaggio dall’automazione della scelta alla selezione letale del bersaglio che la custodia dell’umano cessa di essere soltanto un criterio etico generale e diviene una questione decisiva per il diritto internazionale umanitario, per la responsabilità statale e individuale e, più in profondità, per la possibilità stessa di mantenere un limite giuridico all’esercizio della forza.

2. Custodire l’umano: dall’automazione all’imputazione

Uno dei tratti più significativi di Magnifica humanitas è l’insistenza nell’affermare che la responsabilità non debba arrestarsi all’esito prodotto dall’apparato automatizzato, ma debba risalire all’intera sequenza decisionale che ne ha reso possibile la generazione (Magnifica humanitas, nn. 102-105). La custodia dell’umano si traduce allora in esigenza di riconducibilità, secondo cui ogni esercizio di autorità suscettibile di incidere sulla persona deve restare riferibile a soggetti identificabili, capaci di assumere obblighi, violarli e rispondere delle conseguenze. L’attenzione non deve, dunque, cadere sulla macchina come oggetto isolato, bensì sugli assetti di progettazione, acquisizione, impiego, supervisione e rimedio che ne rendono possibile il funzionamento.

Il punto non è meramente terminologico. Nel linguaggio pubblico l’algoritmo decide, seleziona, premia, esclude. Nel linguaggio giuridico, invece, tali predicati devono essere ricondotti alle condizioni materiali e istituzionali che precedono l’output. L’automazione non cancella la struttura soggettiva dell’imputazione, ma ne rende più complessa la ricomposizione. Espressioni quali «decisione dell’algoritmo» o «responsabilità dell’intelligenza artificiale» rischiano perciò di occultare la riferibilità dell’azione, attribuendo al dispositivo una capacità di agire che l’ordinamento continua a riconoscere a persone fisiche, enti privati, autorità pubbliche e organizzazioni internazionali.

L’ordinamento internazionale conosce da tempo la difficoltà di ricondurre effetti dispersi nello spazio, nel tempo e tra una pluralità di attori a centri capaci di assumerne le conseguenze. La riflessione internazionalistica sul cyberspazio aveva già mostrato come la dissociazione tra territorio, infrastruttura, controllo ed effetti possa indebolire le categorie tradizionali di localizzazione dell’illecito e di imputazione della condotta (Della Morte, pp. 5-42). Nell’ambiente algoritmico questa dinamica si intensifica, poiché il pregiudizio può nascere da scelte distribuite tra raccolta dei dati, addestramento del modello, validazione tecnica, acquisizione pubblica, regole d’impiego e predisposizione delle garanzie. In tale scenario, la normatività delle architetture tecniche, sulla quale si è concentrato il pensiero costituzionalistico più recente, mostra come infrastrutture, piattaforme e sistemi automatizzati non costituiscano meri supporti neutri, ma contribuiscano a organizzare le condizioni effettive di esercizio del potere e dei diritti (cfr. Pollicino).

Sotto questo profilo, gli strumenti di diritto internazionale offrono già un primo lessico per affrontare tale dispersione. Gli Articoli sulla responsabilità degli Stati per atti internazionalmente illeciti (ARSIWA) distinguono tra attribuzione della condotta e violazione dell’obbligo primario, evitando di ridurre la responsabilità al solo autore materiale dell’atto. Gli artt. 5 e 8 ARSIWA assumono particolare rilievo, rispettivamente, quando funzioni pubbliche siano esercitate da enti formalmente distinti dallo Stato e quando persone o entità private operino sotto la direzione o il controllo di quest’ultimo. Gli Articoli sulla responsabilità delle organizzazioni internazionali (DARIO, artt. 4 ss.) replicano tale struttura, con gli adattamenti imposti dalla diversa natura giuridica dell’organizzazione internazionale, e rilevano ogni volta che sistemi automatizzati siano integrati in operazioni o programmi gestiti da enti dotati di personalità internazionale propria.

L’assenza dei presupposti per attribuire allo Stato, ovvero a un’organizzazione internazionale, la condotta del fornitore o dello sviluppatore non esaurisce, tuttavia, il problema della responsabilità. Gli obblighi positivi derivanti dai regimi internazionali di tutela dei diritti umani possono essere violati anche attraverso omissioni regolative, preventive o rimediali, ogni volta che l’autorità pubblica tolleri rischi prevedibili senza predisporre presidi adeguati di controllo, trasparenza e tutela. La distinzione tra attribuzione della condotta e violazione dell’obbligo primario impedisce, dunque, che la mancata imputazione dell’atto privato si traduca automaticamente in irrilevanza giuridica della scelta pubblica di acquisire, impiegare o lasciare operare un sistema automatizzato.

Un ulteriore livello riguarda la responsabilità penale individuale per i crimini internazionali, la quale assume una dimensione particolarmente significativa nei contesti bellici. Lo Statuto di Roma si fonda sull’assunto che le violazioni più gravi del diritto internazionale siano riconducibili a persone fisiche, secondo forme diverse di partecipazione e responsabilità, incluse quelle del superiore gerarchico (artt. 25, 28 e 30 Statuto di Roma). La mediazione algoritmica non spezza tale nesso, ma incide sulle condizioni del suo accertamento, rendendo più arduo stabilire che cosa il comandante, l’operatore, il programmatore o il soggetto coinvolto nella progettazione e nell’impiego del sistema sapesse, potesse prevedere o dovesse impedire al momento dell’azione. La questione non riguarda, dunque, la possibilità di trasferire la responsabilità alla macchina, che rimane estranea alla grammatica dell’imputazione giuridica, ma la capacità dell’ordinamento di ricostruire le condizioni concrete di conoscibilità, prevedibilità e controllo.

In questa cornice può essere utilmente richiamata la figura recentemente proposta dell’«antronomo», intesa come tentativo di riportare l’umano nelle fasi di ideazione, valutazione e governo dell’intelligenza artificiale (cfr. Peyron). Il riferimento è coerente con la logica sin qui ricostruita, poiché chiarisce che la tutela della dignità non può essere confinata alla fase successiva al danno, né affidata a dichiarazioni di principio collocate a valle della progettazione tecnica. Essa deve, piuttosto, tradursi in criteri operativi di costruzione, validazione, impiego e controllo dei sistemi, così da rendere ricostruibile la sequenza di scelte umane e istituzionali che precede l’esito automatizzato.

La custodia dell’umano non introduce, quindi, una nuova categoria dogmatica, ma opera come criterio di rilettura di istituti già noti alla luce della struttura distribuita del potere algoritmico. Contro la tentazione di imputare alla macchina ciò che resta umano nella sua origine, istituzionale nella sua organizzazione e giuridico nei suoi effetti, essa ricorda che la sottrazione alla risposta giuridica non è il destino necessario dell’innovazione, ma l’esito di un ordine che rinuncia a ricostruire le proprie catene decisionali. Tale esigenza si manifesta con particolare intensità quando l’automazione entra nel campo dell’uso della forza, poiché in quel contesto la dispersione del comando incide sulla decisione che espone una persona alla violenza.

3. Automazione della forza e imputazione della decisione letale

La riflessione di Magnifica humanitas raggiunge una delle sue implicazioni più radicali quando la questione tecnologica incontra la guerra e l’impiego militare dell’intelligenza artificiale. La scelta di concentrare l’analisi sui sistemi d’arma autonomi trova giustificazione nella loro particolare rilevanza per il diritto internazionale umanitario. Essi permettono, al tempo stesso, di interrogare il rapporto tra la centralità della pace, posta da Leone XIV al cuore del proprio pontificato sin dal principio (v. primo saluto del Santo Padre Leone XIV), e la trasformazione tecnologica dell’uso della forza. Nel contesto bellico, infatti, l’automazione investe la possibilità stessa di mantenere riferibile a un giudizio umano responsabile la scelta che espone una persona alla violenza.

Questo snodo si radica nella tradizione della Dottrina sociale della Chiesa sulla pace, che al rifiuto della guerra come strumento ordinario di regolazione dei rapporti internazionali unisce la denuncia della corsa agli armamenti e l’esigenza di disarmo e controllo effettivo (cfr. Pacem in terris, nn. 62 e 112-113; Gaudium et spes, nn. 80-82). Entro questa linea, Francesco aveva già ravvisato nei sistemi d’arma autonomi un motivo di grave preoccupazione etica e giuridica, affermando che nessuna macchina dovrebbe mai essere posta nella condizione di scegliere se togliere la vita a un essere umano (v. messaggio per la LVII Giornata mondiale della pace, 1° gennaio 2024, n. 6; discorso al G7, 14 giugno 2024). Leone XIV inscrive tale preoccupazione nell’impianto dell’enciclica e la riformula come interrogativo giuridico: se l’ordinamento internazionale possa ammettere forme di automazione della forza nelle quali la selezione letale del bersaglio non sia più riconducibile a un giudizio umano effettivo, informato e responsabile.

La nozione di sistema d’arma autonomo va intesa, a questi fini, in senso funzionale. Il tratto qualificante risiede nell’autonomia delle funzioni critiche, ossia nella capacità del dispositivo, una volta attivato, di selezionare e ingaggiare uno o più bersagli senza un ulteriore intervento umano. L’operatore definisce parametri, categorie di obiettivi e condizioni d’impiego, mentre l’applicazione concreta della forza dipende dalla reazione dell’apparato ai dati provenienti dall’ambiente. La distanza tra attivazione umana e selezione del bersaglio costituisce il punto giuridicamente decisivo, poiché rende più difficile preservare il nesso tra comando, controllo e imputazione (cfr. ICRC, Autonomous Weapon Systems. ICRC Position and Background Paper, 2021).

Il diritto internazionale umanitario non vieta in via generale l’impiego di tecnologie automatizzate nei conflitti armati, ma ne subordina l’uso al rispetto dei principi cardine di distinzione, proporzionalità e precauzione. Proprio tali principi segnano il limite della riduzione computazionale del giudizio bellico, vale a dire la qualificazione di una persona come combattente o come civile direttamente partecipe alle ostilità, l’individuazione di un obiettivo militare, l’apprezzamento del vantaggio militare concreto e diretto, la previsione del danno incidentale e l’adozione delle cautele praticamente possibili (cfr. artt. 48, 51, 52 e 57 del I Protocollo addizionale; CICR, Customary IHL Study, Rules 1, 7, 14 e 15-21). Nel caso delle armi autonome, lo jus in bello richiede un apprezzamento capace di integrare informazioni, contesto, prevedibilità degli effetti e mutamento delle circostanze.

Da qui deriva la centralità del controllo umano, inteso come potere effettivo di comprensione, indirizzo e arresto dell’azione automatizzata. La semplice presenza di un operatore nella sequenza decisionale acquista rilievo giuridico solo quando sia accompagnata da informazioni adeguate, tempo sufficiente e capacità reale di incidere sull’applicazione della forza. Tale presidio deve attraversare l’intero ciclo di vita dell’arma: progettazione, acquisizione, validazione, addestramento, delimitazione dell’ambiente operativo, tracciabilità delle operazioni e possibilità di sospensione o interruzione dell’attacco. Nella medesima direzione si muovono la posizione del Comitato internazionale della Croce Rossa e i Guiding Principles del Gruppo di esperti governativi della Convenzione su certe armi convenzionali, secondo cui il diritto internazionale umanitario continua ad applicarsi integralmente e la responsabilità umana non può essere trasferita ai sistemi automatizzati (cfr. ICRC, 2021; CCW/GGE, 2019).

La revisione giuridica delle nuove armi diviene, in tale quadro, uno strumento essenziale di anticipazione del rischio. L’art. 36 del I Protocollo addizionale impone agli Stati parti di determinare se l’impiego di una nuova arma, di un nuovo mezzo o metodo di guerra sia vietato, in alcune o in tutte le circostanze, dal Protocollo stesso o da qualsiasi altra regola di diritto internazionale applicabile. Per i sistemi d’arma autonomi, la verifica deve riguardare il concreto ambiente d’impiego: tipo di bersagli, qualità dei dati e dei sensori, prevedibilità del comportamento, delimitazione spaziale e temporale dell’operazione, meccanismi di supervisione e interruzione, addestramento degli operatori e documentazione delle decisioni. La conformità al diritto umanitario va accertata nelle fasi in cui il rischio viene progettato, autorizzato e reso operativo, soprattutto quando l’apprendimento automatico renda più difficile prevedere la condotta del sistema in contesti informativamente incompleti.

La responsabilità costituisce il banco di prova di questa architettura. Quando un sistema autonomo sia impiegato dalle forze armate statali, la mediazione algoritmica non interrompe la riferibilità dell’azione allo Stato. La condotta dell’apparato militare resta imputabile allo Stato-apparato secondo le regole ordinarie della responsabilità internazionale, anche se l’esito lesivo dipende da componenti complesse o da modelli sviluppati da soggetti privati. Gli artt. 4 e 7 ARSIWA confermano che l’atto degli organi statali, incluse le forze armate, rimane atto dello Stato anche quando ecceda le istruzioni ricevute o contravvenga alle regole interne. L’intervento di fornitori privati potrà rilevare ai sensi degli artt. 5 e 8 ARSIWA. In ogni caso, l’autorità pubblica conserva obblighi propri di revisione, regolazione, addestramento, supervisione e impiego conforme al diritto umanitario.

Accanto alla responsabilità statale si pone quella penale individuale. Lo Statuto di Roma conserva la centralità della persona fisica, tanto nelle forme di partecipazione quanto nella responsabilità del superiore gerarchico (artt. 25, 28 e 30 Statuto di Roma). Nel caso delle armi autonome, la posizione del comandante può assumere rilievo già nella scelta dell’ambiente operativo, nella definizione dei parametri della missione, nell’approvazione delle regole d’ingaggio, nella valutazione delle informazioni disponibili o nella mancata sospensione dell’operazione dinanzi a rischi prevedibili per la popolazione civile. La tecnologia non elimina il giudizio sulla condotta umana, ma ne sposta l’accertamento verso le fasi anteriori e organizzative dell’uso della forza.

Il cosiddetto responsibility gap indica, pertanto, un rischio istituzionale di dispersione dell’imputazione. La macchina non diviene titolare di obblighi, né assume intenzioni penalmente rilevanti; il problema consiste nel ricostruire chi abbia violato quale obbligo, con quale grado di conoscenza e attraverso quale contributo causale, quando l’architettura tecnica renda opache le condizioni di funzionamento o distribuisca le scelte operative tra programmatori, produttori, autorità di acquisizione, comandanti e operatori. La compatibilità con il diritto dei conflitti armati dipende allora dalla capacità di delimitare preventivamente il contesto d’uso, prevedere in modo ragionevole il comportamento del sistema, mantenere un controllo umano significativo e impedire che distinzione, proporzionalità e precauzioni siano degradate a mere funzioni tecniche (cfr. Sassòli, Mauri, 2022; Mauri, 2023).

Su questo terreno la crisi della responsabilità incontra la crisi del multilateralismo. La risoluzione 78/241dell’Assemblea generale delle Nazioni Unite ha confermato la rilevanza universale del tema, riconoscendo che i sistemi d’arma letali autonomi sollevano sfide e preoccupazioni umanitarie, giuridiche, etiche, tecnologiche e di sicurezza, e richiamando la necessità di preservare il ruolo dell’essere umano nell’uso della forza. Stabilire limiti comuni all’automazione bellica significa affermare che la superiorità tecnologica non può assorbire l’intero spazio della normatività internazionale. Quando l’innovazione precede le regole, la tecnica tende a occupare il vuoto lasciato dalla politica e a trasformare la scelta letale in amministrazione computazionale della violenza.

La custodia dell’umano assume qui il significato di una soglia giuridica e antropologica. L’esposizione di una persona alla morte o alla lesione deve restare affidata a una valutazione umana responsabile, sottratta alla normalizzazione dell’uccisione autonoma come mero effetto dell’evoluzione tecnica. In questo senso rileva anche la clausola Martens, che nei casi non espressamente disciplinati dal diritto convenzionale richiama la permanenza dei principi di umanità e delle esigenze della coscienza pubblica. Essa ricorda che il silenzio o l’incompletezza della norma convenzionale non autorizzano la dissoluzione dell’umano nel funzionamento dell’apparato. La posizione della Santa Sede sulle armi autonome può essere letta in questa direzione, come riaffermazione dei principi di umanità dinanzi alla trasformazione algoritmica della guerra (cfr. Mauri, 2020).

Alla luce del pensiero pontificio, la posta giuridica delle armi autonome può essere allora formulata con maggiore precisione. Se la responsabilità deve restare rintracciabile «in tutti i passaggi» del ciclo dei sistemi intelligenti (Magnifica humanitas, nn. 104-105), ciò vale a maggior ragione quando l’automazione entra nello spazio della guerra, del disarmo e della crisi del multilateralismo, là dove l’enciclica colloca il problema dei sistemi d’arma autonomi (ivi, nn. 182-228). In tale ambito, la custodia dell’umano non si esaurisce nella richiesta di una supervisione tecnica, ma impone che l’esercizio della forza rimanga riferibile a un giudizio umano effettivo, capace di assumere il peso della decisione e di risponderne giuridicamente. Tollerare assetti nei quali la selezione del bersaglio divenga opaca, remota o difficilmente imputabile significherebbe rinunciare non soltanto a una garanzia di responsabilità, ma a una delle condizioni che ancora distinguono la forza regolata dalla mera amministrazione tecnica della violenza.

4. Conclusione: restituire un volto umano al potere

L’analisi svolta consente di cogliere l’originalità del contributo di Papa Leone XIV nel dibattito sull’intelligenza artificiale. Magnifica humanitas offre, infatti, un’inedita chiave di lettura per interrogare le forme assunte dall’autorità quando decisione, supervisione e rimedio cessano di appartenere al medesimo spazio istituzionale. Il suo pregio risiede nell’aver nominato uno dei rischi più insidiosi dell’età dell’automazione: non la scomparsa dei soggetti, ma la loro progressiva sottrazione alla possibilità di essere individuati, raggiunti e chiamati a rispondere.

Sotto questo profilo, il diritto internazionale appare meno privo di strumenti di quanto talvolta si sostenga. Le categorie dell’attribuzione, della violazione dell’obbligo primario, degli obblighi positivi di prevenzione e controllo, della responsabilità statale e della responsabilità penale individuale permettono già di misurarsi con forme di potere distribuite e tecnicamente mediate. Il punto decisivo sta, però, nel renderle operative in contesti nei quali la scelta si disperde tra infrastrutture private, modelli opachi, standard tecnici, filiere globali di fornitura e funzioni pubbliche sempre più dipendenti da apparati che lo Stato non governa integralmente. Restituire un volto a questo potere è il compito che il diritto internazionale è chiamato ad assumere e che Magnifica humanitas traduce nel linguaggio della custodia dell’umano.

È precisamente in questo frangente che emerge il significato ultimo dell’enciclica. L’intelligenza artificiale porta impressa l’imperfezione di chi la progetta non come fattore esterno alla tecnica, bensì come traccia della condizione umana che la genera. Nella visione cristiana affermata dal Pontefice, l’uomo, pur nella sua fallibilità, riceve la propria dignità da un’Origine che lo precede e lo eccede. Alla luce di ciò, la centralità della persona deriva dal suo essere luogo originario del giudizio morale, della relazione e dell’assunzione di responsabilità.

Custodire l’umano significa allora preservare il punto in cui il potere torna ad avere un volto. Ogni artificio tecnico trae origine da un soggetto e a quest’ultimo deve poter essere ricondotto quando produce effetti sulla vita, sulla libertà o sulla dignità delle persone. Nel momento in cui il diritto domanda una risposta, non può accontentarsi del calcolo, ma deve esigere un responsabile. È in questa distanza, tra l’artificio che elabora e la persona che risponde, che Magnifica humanitas consegna al diritto internazionale la sua intuizione più durevole: nessuna innovazione è davvero umana se rende impossibile ricondurre l’esercizio del comando a un soggetto che ne porti il peso davanti all’ordinamento e alla comunità umana.