La speranza nell'era dei droni

L’Aula Magna dell’Università, con le sue forme angolari, le immacolate sedie blu perfettamente in pendant con le magliette blu del Festivaletteratura e i microfoni a collo d’oca, sembra il luogo perfetto per una conferenza istituzionale, un luogo in cui si decide come agire a proposito delle guerre in corso. Invece, nell’evento Se un drone bussa alla tua porta, Mariarosaria Taddeo, filosofa italiana, professoressa di Digital Ethics e Defense Technologies per l’Oxford Internet Institute, nonché autrice di Codici di Guerra, insieme a Dario Bassani, autore di Giocare alla Guerra, esplorano la storia e le problematiche legate ai droni autonomi usati nelle guerre attualmente in corso, parlando proprio delle conseguenze di quelle riunioni importanti (o, più spesso, della loro assenza).

«Un argomento non allegrissimo», avvisa subito Dario Bassani, cercando di smorzare l’atmosfera tesa tra i presenti. Un argomento di cui però si ripromettono subito di parlare con sobrietà, con l’obiettivo di fare luce nel polverone creato dai titoli alla Terminator che hanno seguito gli eventi degli ultimi mesi relativi ai droni autonomi, che Bassani riassume per fare il punto di una situazione sempre più grave. Il 10 giugno 2026, la rivista New Scientist afferma che, per la prima volta, due soldati russi sono stati uccisi da droni ucraini completamente autonomi, senza supervisione umana. La notizia successiva, riportata dal New York Times il 24 agosto, racconta di un drone russo completamente autonomo, controllato dall’intelligenza artificiale, responsabile per la morte di tre non-combattenti ucraini a Zaporižžja.

La premessa del discorso di Taddeo è terminologica, e parte da una domanda che riceve sempre nel momento in cui parla di droni autonomi: a cosa serve tutto questo polverone sui droni se le mine, usate da un secolo, hanno lo stesso funzionamento? Anch’esse, d’altronde, sono macchine autonome che uccidono senza il controllo diretto di un essere umano.

Anche se le due tipologie di macchine sembrano simili, Taddeo spiega la differenza, collegandole inizialmente come evoluzione inevitabile l’una dell’altra. Parte infatti da una citazione dal Gattopardo: «Se vogliamo che tutto rimanga com’è, bisogna che tutto cambi.» Ciò che cambia sono i termini utilizzati per descrivere queste macchine. Mentre le mine sono considerate automatiche, quindi casuali, i droni invece sono autonomi: l’agente artificiale è in grado di compiere una scelta tra opzioni diverse per raggiungere un obiettivo, e lo fa senza supervisione umana. Il problema, quindi, sta nel fatto che il processo decisionale venga completamente delegato alla macchina.

E comunque, ricorda Taddeo, anche le mine sono vietate secondo uno dei principi fondamentali della condotta militare del diritto umanitario: il principio di distinzione.

Attraverso la spiegazione dei diritti umanitari, fondamentali per mettere dei confini ai conflitti armati, Taddeo esplora le più grandi questioni relative ai droni autonomi controllati dall’intelligenza artificiale. Se infatti la guerra è un’atrocità che ogni nazione dovrebbe cercare di evitare, quando scoppia deve essere limitata rigidamente. I droni autonomi stanno incrinando questa rigidità normativa, agendo in vuoti di policy che Taddeo descrive come «estremamente problematici.» Infatti nulla regolamenta il momento in cui un ufficiale possa essere in disaccordo con la macchina e fermarla. Se l’intelligenza artificiale che comanda un drone viola il principio di proporzionalità e necessità militare, come è accaduto il 28 febbraio 2026, quando un drone americano ha colpito la scuola iraniana di Minab, uccidendo più di cento non-combattenti, tra cui moltissimi bambini e bambine, è necessario che un umano la fermi. Ma il vuoto di policy è aggravato anche da un fenomeno chiamato tech-bias, dice Taddeo. Si tratta di credere ciecamente a ciò che ci dice la tecnologia. Taddeo dimostra subito il fenomeno, incalzando il pubblico con una domanda retorica: «Quanti di voi hanno mai controllato a mano il risultato di una calcolatrice?»

Se l’intelligenza artificiale comanda un drone che colpisce una scuola iraniana, uccidendo bambini e bambine, è necessario che un umano la fermi

Oltre alla tech-bias, esiste un altro problema fondamentale legato alla responsabilità e al principio della dignità dei combattenti.

«Certo,» ammette Taddeo, «un soldato accetta che in guerra potrà morire. Ma non accetta che la sua morte violi la sua dignità.» Nel momento in cui la vita e la morte di un soldato sono state messe nelle mani della macchina, come già successo nel conflitto Russo-Ucraino, è anche impossibile tracciare a ritroso i passi della creazione e del potere decisionale di tale macchina per cercare un solo, o anche diversi, responsabili. Il vuoto di policy si estende anche a questo aspetto, che rende la situazione attuale un «Far West» senza responsabilità giuridica. Se nel Processo di Norimberga i giudici affermarono che non stavano processando il Terzo Reich, ma persone, perché ogni scelta terribile era stata una scelta personale, proprio per la sua natura l’intelligenza artificiale non può essere ricondotta a singole scelte personali. Costruita da team di ingegneri, comandata da generali dell’esercito, approvata da un presidente guerrafondaio, migliorata attraverso i dati di milioni di utenti: tutti sono responsabili, nessuno lo è davvero.

La situazione attuale è un «Far West»: non c'è responsabilità giuridica

«Il confine tra guerra e atrocità è sottilissimo», e sta proprio in questi principi cardine. «Ora, siamo già nel mondo dell’atrocità». Bassani si chiede quindi se queste atrocità siano compatibili con l’esistenza delle democrazie liberali in cui viviamo. Per Taddeo, il diritto umanitario internazionale e le democrazie liberali sono «fratelli gemelli», nati entrambi dopo la seconda guerra mondiale. Se, come Taddeo ha descritto durante l’incontro, uno di questi fratelli si ammala, «presto inizierà a tossire anche l’altro». Non solo le democrazie liberali hanno iniziato a tossire, Taddeo afferma che «stanno perdendo», contro un nemico completamente incompatibile con esse, con il quale è impossibile allearsi, ma, come sintomo del malore, proprio questo sta già succedendo: megacorporazioni di intelligenza artificiale, come Palantir, sono la serpe in seno delle democrazie liberali. Negli Stati Uniti, Palantir viene già utilizzato come supporto a supporto di sistemi di sorveglianza di massa, per individuare immigrati; nel Regno Unito fa da supporto al sistema sanitario nazionale. Nonostante l’Unione Europea, con misure come il GDPR, abbia posto dei confini all’intelligenza artificiale per uso commerciale, che potrebbero essere ottimi punti di partenza per la regolamentazione, almeno per ora non ha utilizzato gli stessi metodi per l’intelligenza artificiale per uso militare.

Con tono sobrio, Taddeo conclude: «Stanno vincendo loro.»

L’ultima domanda raccolta dal pubblico, una frase, una preghiera, che sembra dare voce al fiato sospeso, all’apnea di tutti coloro che sono seduti nell’Aula Magna: «Vorrei avere un briciolo di speranza.»

La risposta di Taddeo forse non è quello che vorremmo sentirci dire: «La paura cavalca da sola, per la speranza bisogna impegnarsi.»