Tecnologie avanzate di intelligenza artificiale presentano sfide etiche – Leader di pensiero

Di Alfred Crews, Jr, vicepresidente e consigliere capo per il settore Intelligence e Sicurezza di BAE Systems Inc.

All’inizio di quest’anno, prima della pandemia globale, ho partecipato alla Conferenza sull’etica dell’intelligence di The Citadel a Charleston, dove abbiamo discusso del tema dell’etica nella raccolta di informazioni in relazione alla protezione della sicurezza nazionale. Nel settore della difesa, stiamo assistendo alla proliferazione della conoscenza, dell’informatica e delle tecnologie avanzate, in particolare nell’area dell’intelligenza artificiale (AI) e dell’apprendimento automatico (ML). Tuttavia, potrebbero esserci problemi significativi quando si utilizza l’AI nel contesto della raccolta di informazioni o del combattimento in tempo reale.

L’AI accoppiata con il calcolo quantistico presenta rischi

Ciò che dobbiamo mettere in discussione, analizzare e determinare un percorso è quando si utilizza l’AI accoppiata con le capacità di calcolo quantistico nel processo di decisione in tempo di guerra. Ad esempio, ricordate il Terminator? Mentre la nostra tecnologia fa passi da gigante, la realtà di ciò che Skynet presentava è davanti a noi. Potremmo chiederci: “Sta arrivando Skynet per prendere il nostro posto?” Facciamo una passeggiata lungo la memoria con me; le macchine presero il controllo perché avevano la capacità di pensare e prendere decisioni da sole, senza un essere umano per guidarle. Quando le macchine dedussero che gli esseri umani erano un bug, si misero a distruggere l’umanità. Non fraintendetemi, l’AI ha un grande potenziale, ma credo che debba avere parametri di controllo a causa del fattore di rischio coinvolto.

Le ambiguità etiche e il dilemma filosofico dell’AI

Credo che sia proprio per questo che il Dipartimento della Difesa degli Stati Uniti (DoD) ha emanato i propri Principi etici per l’AI, perché l’uso dell’AI solleva nuove ambiguità etiche e rischi. Quando si combina l’AI con le capacità di calcolo quantistico, la capacità di prendere decisioni cambia e il rischio di perdere il controllo aumenta – più di quanto potremmo realizzare oggi. Il calcolo quantistico mette in ridicolo il nostro sistema operativo cerebrale perché i supercomputer possono effettuare calcoli esponenzialmente più rapidi e con maggiore accuratezza di quanto il nostro cervello umano possa mai fare.

Inoltre, l’uso dell’AI accoppiata con il calcolo presenta un dilemma filosofico. A quale punto il mondo permetterà alle macchine di avere una propria volontà; e, se le macchine sono autorizzate a pensare da sole, significa che la macchina stessa è diventata autoconsapevole? Essere autoconsapevoli costituisce la vita? Come società, non abbiamo ancora determinato come definire questa situazione. Pertanto, come stanno le cose oggi, le macchine che agiscono da sole senza un essere umano per controllarle potrebbero portare a conseguenze. Una macchina potrebbe annullare l’intervento di un essere umano per fermare il fuoco? Se la macchina opera da sola, saremo in grado di staccare la spina?

Come lo vedo io, utilizzare l’AI da un punto di vista difensivo è facile da fare. Tuttavia, quanto più facile sarebbe trasferirlo all’offensiva? Sull’offensiva, le macchine prenderebbero decisioni di combattimento sul posto. Una macchina che spara contro un nemico costituirebbe una violazione della Convenzione di Ginevra e delle leggi di conflitto armato? Muovendoci in questo spazio a un ritmo rapido, il mondo deve concordare che l’uso dell’AI e del calcolo quantistico nel combattimento deve essere conforme alle leggi che abbiamo attualmente in vigore.

Il DoD ha una posizione quando si utilizza l’AI con sistemi autonomi e afferma che ci sarà sempre una persona coinvolta nel processo decisionale; una persona prenderà la decisione finale di premere il grilletto per sparare un’arma. Questa è la nostra regola, ma cosa succede se un avversario decide di prendere un’altra strada e avere una macchina in grado di AI che prende tutte le decisioni finali? Allora la macchina, che, come abbiamo discusso, è già più veloce, più intelligente e più precisa, avrebbe il vantaggio.

Guardiamo un drone equipaggiato con AI e riconoscimento facciale: il drone spara di sua iniziativa a causa di un bersaglio predefinito etichettato come terrorista. Chi è effettivamente responsabile dello sparo? C’è responsabilità se c’è un errore di pregiudizio?

Pregiudizio incorporato nell’AI/ML

La ricerca dimostra che una macchina è meno propensa a commettere errori di un essere umano. Tuttavia, la ricerca dimostra anche che ci sono pregiudizi nell’apprendimento automatico basato sull'”insegnante” umano che insegna alla macchina. I cinque Principi etici dell’AI del DoD fanno riferimento ai pregiudizi esistenti quando affermano: “Il Dipartimento adotterà misure deliberate per minimizzare i pregiudizi involontari nelle capacità dell’AI”. Già sappiamo, attraverso studi comprovati, che nell’uso di applicazioni di riconoscimento facciale ci sono pregiudizi nei confronti delle persone di colore con falsi positivi. Quando una persona crea il codice che insegna alla macchina come prendere decisioni, ci saranno pregiudizi. Ciò potrebbe essere involontario perché la persona che crea l’AI non era consapevole del pregiudizio che esisteva dentro di sé.

Quindi, come si elimina il pregiudizio? L’output dell’AI è solo buono come l’input. Pertanto, ci devono essere controlli. Devi controllare i dati in entrata perché è ciò che potrebbe rendere i risultati dell’AI meno validi. Gli sviluppatori dovranno costantemente riscrivere il codice per eliminare il pregiudizio.

Il mondo deve definire il miglior uso della tecnologia

La tecnologia in sé non è buona o cattiva. È come una nazione la utilizza che potrebbe prendere le migliori intenzioni e farle andare male. Mentre la tecnologia avanza in modi che influenzano la vita umana, il mondo deve lavorare insieme per definire un’azione appropriata. Se togliamo l’essere umano dall’equazione nelle applicazioni dell’AI, togliamo anche quella pausa prima di premere il grilletto – quella bussola morale che ci guida; quella pausa quando ci fermiamo e ci chiediamo: “È giusto?” Una macchina insegnata a impegnarsi non avrà quella pausa. Quindi, la domanda è, nel futuro, il mondo tollererà questo? Quanto lontano andrà il mondo per permettere alle macchine di prendere decisioni di combattimento?