Codice di guerra. Etica dell’intelligenza artificiale nella difesa

Etica, morale, giusto o ingiusto. Etica basata sui valori e principi morali che guidano il comportamento umano.

L’autrice, già quindi anni fa, aveva avviato un progetto di ricerca sull’etica della guerra dell’informazione. L’esigenza di scrivere un testo legato all’etica dell’intelligenza artificiale nell’ambito della difesa nasce da questa ricerca. Analizzare, identificare, affrontare in modo sistematico e coerente le sfide etiche che nascono dall’uso corrente dell’Intelligenza Artificiale nel settore della difesa, diviene un imperativo categorico.

La guerra non è più solo un atto di forza di chi ha lo scopo di costringere un avversario a sottomettersi. Le nuove tecnologie non sono solo strumenti per ottimizzare l’uso della forza, diventano dirompenti nella concettualizzazione della guerra e delle implicazioni etiche e legali. L’autrice porta l’esempio della tecnologia nucleare. Gli ordigni nucleari sganciati su Hyroschima e Nagasaki hanno annullato la distinzione tra combattenti/soldati e non. I contendenti non corrono più rischi simili. Chi è più potente annienta chi lo è meno non in termini di solo esercito bensì di popolazione civile.

La digitalizzazione della difesa nazionale, iniziata con la prima guerra del Golfo, ha trovato nella guerra in Ucraina il suo punto di non ritorno. In questi anni è diventato evidente che la grande quantità di dati che produciamo ogni giorno unita all’intelligenza artificiale (IA) ha una notevole importanza nei processi decisionali e operativi della difesa e sicurezza nazionale: dall’intelligence, alle operazioni cibernetiche a quelle cinetiche (i veri e propri combattimenti). Tuttavia, al potenziale dell’IA si accompagnano seri rischi etici, sociali e legali, che spaziano dalle difficoltà di attribuire la responsabilità per le azioni compiute dai sistemi IA, alla loro limitata predicibilità e sicurezza, al problematico rapporto tra uso dell’IA nella difesa e Teoria della Guerra Giusta. Se la difesa è il banco di prova del rispetto dei valori democratico-liberali, l’adozione dell’IA in questo settore non può prescindere da una valutazione di tipo etico per un suo utilizzo responsabile.

Nel testo vengono sviluppati in modo puntuale i principi etici per l’IA nella difesa. L’autrice ne decrive cinque: uso giustificato e ridefinibile, sistemi e processi giusti e trasparenti, responsabilità morale umana che si esplicita nell’affermazione che gli esseri umani sono gli unici agenti moralmente responsabili degli esiti dei sistemi IA utilizzati a fini di difesa e relativo controllo, Sistemi, affidabili.

E’ estremamente urgente comprendere l’impatto dell’IA su tutte le funzioni della difesa nazionale e promuovere senza induigi l’uso etico delle tecnologie.

L’autrice mette a confronto i sistemi previsti dai Dipartimenti della difesa dei diversi stati: il DoD Department of Defense degli Stati Uniti dove si evidenzia il concetto di responsabilità. Il MoD Ministry of Defence del Regno Unito UK nel quale si concentra l’attenzione sugli esseri umani. La NATO Organizzazione del Trattato dell’Atlantico del Nord punta sulla Legalità. In tutti i sistemi previsti da tutti i dipartimenti sono presenti affidabilità e tracciabilità

Anche per il lettore più digiuno e sprovvedo sia a livello tecnologico che in tema di conflitto tutti i capitoli di questo corposo testo pongono domande “esistenziali”. L’etica, considerata come guida del nostro agire in tutti gli ambiti della vita dovrebbe essere guida a quanti hanno potere decisionale nell’uso dell’IA nel settore della difesa. Viene naturale pensare che chi ha potere decisionale deve avere la massima conoscenza di azioni e loro conseguenze.

Mariarosaria Taddeo presenta un’analisi concettuale e sistematica dei problemi che derivano dall’uso dell’IA, aprendo il dibattito su opportunità e rischi per la difesa. Fornisce raccomandazioni pratiche a decisori politici e professionisti. Sottolinea in modo esplicito che senza una governance etica dell’IA sarà impossibile mitigarne la pericolosità.

Biografia dell’autore

Mariarosaria Taddeo (PhD in Filosofia Teoretica e Pratica, Università degli Studi di Padova; Laurea Magistrale summa cum laude in Filosofia Università degli Studi di Bari) è Professore Associato e Senior Research Fellow presso l’Oxford Internet Institute dell’Università di Oxford, dove è vicedirettrice del Digital Ethics Lab. È anche Defense Science and Technology Fellow presso l’Alan Turing Institute di Londra. Il suo lavoro si concentra principalmente sull’analisi etica dell’intelligenza artificiale, dell’innovazione digitale, della sicurezza informatica e dei conflitti informatici. Le sue aree di competenza sono la filosofia ed etica dell’informazione. La sua ricerca è stata pubblicata in più di 120 saggi apparsi in riviste come Nature, Nature Machine Intelligence, Science e Science Robotics.

Nel 2020 Mariarosaria è stata ufficialmente nominata a rappresentare il Regno Unito come membro del NATO Exploratory Team on Operational Ethics: Preparation and Interventions for the Future Security Environment.

Alberta