Un’arma viene attivata. Da quel momento può identificare, selezionare e ingaggiare un bersaglio senza che l’operatore intervenga in quelle tre funzioni. Il lessico è burocratico, la scena molto meno: è la formulazione contenuta nel testo di lavoro del gruppo di esperti ONU sulle armi autonome. Una formulazione ancora in discussione, quindi, e priva di valore vincolante. La tecnologia che prova a descrivere, invece, è già uscita dai documenti.
Oggi, 4 settembre, a Ginevra si chiude l’ultima sessione del 2026 del Gruppo di esperti governativi sui sistemi d’arma autonomi letali, riunito nell’ambito della Convenzione ONU su certe armi convenzionali. Il 25 agosto il segretario generale delle Nazioni Unite António Guterres e la presidente del Comitato internazionale della Croce Rossa, Mirjana Spoljaric, avevano già alzato parecchio il volume:
Siamo pericolosamente vicini a superare una linea rossa morale.
Quella del bersagliamento autonomo degli esseri umani da parte delle macchine. L’appello congiunto chiede agli Stati di aprire negoziati per nuove regole internazionali giuridicamente vincolanti.
Il motivo dell’urgenza sta nei tempi. Secondo ONU e CICR, la corsa verso livelli sempre maggiori di autonomia nei sistemi d’arma è già “ben avviata” e il divario tra capacità tecnologiche e regole continua ad allargarsi. Aspettare che queste armi diventino comuni sui campi di battaglia renderebbe molto più difficile fissare dopo i limiti. La diplomazia ha ancora qualche mese per recuperare terreno. Il software, notoriamente, non aspetta la prossima conferenza di revisione.
Dopo il via, il bersaglio preciso può non essere ancora noto
Qui serve una distinzione che cambia parecchio la storia. Autonomia e intelligenza artificiale sono due cose diverse, anche se possono sovrapporsi. L’autonomia descrive ciò che il sistema è capace di fare senza un nuovo intervento umano; l’IA può aumentare la capacità di analizzare informazioni, riconoscere elementi dell’ambiente e adattare il comportamento.
Secondo il Comitato internazionale della Croce Rossa, dopo l’attivazione un’arma autonoma può innescare un attacco sulla base delle informazioni ricevute dai propri sensori e di un profilo generale del bersaglio. L’essere umano che l’ha impiegata può quindi non conoscere in anticipo l’obiettivo specifico, il momento preciso e il luogo esatto in cui verrà applicata la forza. È questo trasferimento di una parte della decisione dal soldato alla combinazione di sensori e software a rendere il problema molto più delicato di un semplice drone telecomandato.
Armi capaci di selezionare e ingaggiare obiettivi senza intervento umano vengono già sviluppate e dispiegate in aria, a terra e in mare, riferisce il CICR. Sugli episodi più estremi, quelli in cui un sistema avrebbe scelto autonomamente una persona da colpire, le prove sono però molto più difficili da mettere in fila. Le stesse Nazioni Unite hanno parlato ad agosto di segnalazioni non confermate sull’impiego sul campo di droni pienamente autonomi e guidati dall’IA. Quell’aggettivo conviene lasciarlo dov’è: non confermate.
La differenza conta anche perché un sistema incaricato di intercettare automaticamente un oggetto militare in condizioni molto circoscritte pone problemi diversi da una macchina progettata per applicare forza direttamente contro persone. Ed è proprio su questa seconda possibilità che Croce Rossa e Nazioni Unite stanno tracciando la loro linea più netta.
Il CICR vuole vietare due categorie di armi autonome
La richiesta del CICR non consiste nel mettere al bando qualsiasi forma di automazione militare. La sua posizione ufficiale indica due categorie da proibire: i sistemi i cui effetti non possono essere sufficientemente compresi, previsti e spiegati e quelli progettati o utilizzati per applicare forza contro esseri umani. Tutti gli altri dovrebbero essere sottoposti a limiti rigorosi.
Questi limiti possono riguardare il tipo di bersaglio, l’area geografica, la durata e la scala dell’operazione, le situazioni in cui l’arma può essere impiegata e la possibilità per un essere umano di sorvegliarla, intervenire in tempo e disattivarla. Il testo discusso nel gruppo ONU va nella stessa direzione: propone di circoscrivere numero di ingaggi, durata e spazio operativo e prevede meccanismi di disattivazione o neutralizzazione. Anche qui, però, siamo ancora dentro un documento negoziale.
Le regole generali della guerra, intanto, esistono già. Con la risoluzione 80/57 adottata il 1° dicembre 2025, l’Assemblea generale delle Nazioni Unite ha ribadito che il diritto internazionale, compreso quello umanitario, si applica anche alle armi autonome. Un sistema che non può essere utilizzato rispettando quelle norme non può essere impiegato. Distinzione tra civili e obiettivi militari, proporzionalità e precauzioni nell’attacco continuano a valere anche quando dentro la catena decisionale entra un algoritmo.
Il problema arriva un istante dopo: chi esercita concretamente quel giudizio quando la macchina opera autonomamente? Nel caso di errori o violazioni, ONU e CICR avvertono inoltre che ricostruire le responsabilità può diventare sempre più difficile man mano che le decisioni vengono distribuite tra progettazione, software, comando, operatore e funzionamento del sistema.
Il “controllo umano” è ancora la parola più elastica del tavolo
Nel testo discusso a Ginevra compare la formula context-appropriate human judgement and control: giudizio e controllo umano adeguati al contesto. Suona ragionevole. Il problema comincia appena si prova a stabilire cosa significhi sul campo.
Il resoconto della sessione di marzo mostra che le delegazioni concordano ampiamente sulla centralità dell’elemento umano, mentre divergono su quanto diretto e continuo debba essere il controllo. Per diversi Stati non serve che una persona segua ogni singola fase in tempo reale; il giudizio umano può essere distribuito lungo il ciclo di vita dell’arma, dalla progettazione fino all’impiego. Altre delegazioni considerano la formula ancora troppo vaga. Il documento stesso ammette che manca una comprensione comune di come renderla operativa.
Gli Stati Uniti offrono un esempio piuttosto chiaro di questa impostazione. La direttiva del Dipartimento della Difesa sull’autonomia nei sistemi d’arma richiede che comandanti e operatori possano esercitare “livelli appropriati di giudizio umano” sull’uso della forza, insieme a test, verifiche, addestramento e procedure per attivare e disattivare le funzioni autonome. La formula garantisce un ruolo umano nel sistema complessivo; non equivale necessariamente a un nuovo via libera dell’operatore davanti a ogni singolo bersaglio.
L’Italia investe nell’IA militare e chiede che l’uomo resti al centro
Anche l’Italia è seduta a quel tavolo. Il 31 agosto, all’apertura della sessione di Ginevra, la rappresentanza italiana presso la Conferenza del Disarmo ha ribadito il sostegno a “un quadro normativo condiviso basato su proibizioni e regolamentazioni”, con il rispetto del diritto internazionale umanitario e la centralità dell’elemento umano.
Nel frattempo il Ministero della Difesa italiano sta spingendo sull’intelligenza artificiale come elemento della modernizzazione militare. La Strategia della Difesa in materia di Intelligenza Artificiale del 2026 parla di adozione dell’IA nelle capacità operative con un approccio responsabile e coerente con il diritto internazionale umanitario. La successiva Strategia digitale della Difesa 2026-2030 dedica spazio anche alla “completa autonomia”, descrivendo sistemi capaci di identificare e ingaggiare obiettivi senza controllo umano diretto e riconoscendo esplicitamente le conseguenze etiche e giuridiche che ne derivano.
È una fotografia abbastanza precisa del dilemma che attraversa ormai tutte le grandi potenze militari: sviluppare sistemi più rapidi, autonomi e capaci, continuando a stabilire quali decisioni debbano rimanere umane. Nel caso dell’Italia, i documenti della Difesa richiamano proprio la necessità di trovare un equilibrio tra autorità dell’IA e giudizio umano e di garantire il controllo dell’uomo sui sistemi.
Il prossimo passaggio arriverà presto. I Paesi riuniti questa settimana puntano a portare gli elementi condivisi alla Settima Conferenza di riesame della Convenzione su certe armi convenzionali, in programma a Ginevra dal 16 al 20 novembre 2026. ONU e CICR chiedono che quella sede serva ad aprire finalmente i negoziati per uno strumento giuridicamente vincolante.
Per ora quel trattato ancora non c’è. Ci sono armi con livelli crescenti di autonomia, sensori sempre più capaci e algoritmi che possono entrare sempre più a fondo nella catena dell’attacco. A novembre gli Stati torneranno a discutere dove fermarli. Il confine da tracciare è terribilmente concreto: il momento in cui un bersaglio è una persona e la decisione di colpirla deve restare umana.