Gruppo di consulenti tecnici spinge per limiti sull’uso dell’AI del Pentagono

Il Pentagono ha reso chiara la sua intenzione di investire pesantemente nell’intelligenza artificiale, affermando che l’AI renderà l’esercito statunitense più potente e robusto di fronte a possibili minacce alla sicurezza nazionale. Come riporta Engadget, questo giovedì scorso il Defense Innovation Board ha avanzato una serie di proposte di linee guida etiche per l’uso dell’AI nel settore militare. La lista di proposte include strategie per evitare pregiudizi involontari e governare l’AI in modo che abbia procedure di arresto di emergenza che impediscano all’AI di causare danni non necessari.

Wired riporta che il Defense Innovation Board è stato creato dall’amministrazione Obama per guidare il Pentagono nell’acquisizione di esperienze e talenti del settore tecnologico. Il board è attualmente presieduto dall’ex CEO di Google (GOOGL ), Eric Schmidt. Il dipartimento è stato recentemente incaricato di stabilire linee guida per l’implementazione etica dell’AI in progetti militari. Giovedì il board ha pubblicato le sue linee guida e raccomandazioni per la revisione. Il rapporto sottolinea che è il momento di avere discussioni serie sull’uso dell’AI in un contesto militare, prima che un incidente grave richieda che ciò avvenga.

Secondo Artificial Intelligence News, un ex funzionario militare ha recentemente affermato che il Pentagono stava rimanendo indietro nell’uso dell’AI. Il Pentagono sta cercando di colmare questa lacuna e ha dichiarato che lo sviluppo e l’espansione dell’AI nel settore militare sono una priorità nazionale. Gli esperti di etica dell’AI sono preoccupati che, nella fretta del Pentagono di diventare un leader nell’AI, i sistemi di AI possano essere utilizzati in modi non etici. Mentre vari consigli di etica dell’AI indipendenti hanno avanzato le loro proposte, il Defense Innovation Board ha proposto almeno cinque principi che il settore militare dovrebbe seguire sempre quando sviluppa e implementa sistemi di AI.

Il primo principio proposto dal board è che gli esseri umani dovrebbero sempre essere responsabili dell’utilizzo, del dispiegamento e dei risultati di qualsiasi piattaforma di intelligenza artificiale utilizzata in un contesto militare. Ciò ricorda una politica del 2012 che ha stabilito che gli esseri umani dovrebbero essere sempre coinvolti nel processo decisionale quando si utilizza la forza letale. Ci sono altri principi nella lista che forniscono consigli generali, come assicurarsi che i sistemi di AI siano sempre costruiti da ingegneri che comprendono e documentano completamente i loro programmi. Un altro principio consiglia che i sistemi di AI militari dovrebbero sempre essere testati per la loro affidabilità. Queste linee guida sembrano essere di buon senso, ma il board vuole sottolineare la loro importanza.

Gli altri principi nella lista sono coinvolti nel controllo dei pregiudizi degli algoritmi di AI e nella capacità degli AI di rilevare se possono causare danni non intenzionali e di disattivarsi automaticamente. Le linee guida specificano che, se si verificherà un danno non necessario, l’AI dovrebbe essere in grado di disattivarsi e di avere un operatore umano che prenda il controllo. La bozza di principi raccomanda inoltre che l’output degli AI sia tracciabile in modo che gli analisti possano vedere cosa ha portato l’AI a prendere una determinata decisione.

L’insieme di raccomandazioni avanzate dal board sottolinea due idee diverse. I principi riflettono il fatto che l’AI sarà fondamentale per il futuro delle operazioni militari, ma che gran parte dell’AI dipende ancora dalla gestione e dalle decisioni umane.

Mentre il Pentagono non è obbligato ad adottare le raccomandazioni del board, sembra che il Pentagono stia prendendo le raccomandazioni seriamente. Come riporta Wired, il direttore del Joint Artifical Intelligence Center, il tenente generale Jack Shanahan, ha affermato che le raccomandazioni del board aiuteranno il Pentagono a “mantenere gli standard etici più alti come delineati nella strategia dell’AI del DoD, pur adottando la forte tradizione dell’esercito statunitense di applicare rigorosi standard di test e implementazione per le innovazioni tecnologiche”.

L’industria tecnologica nel suo complesso rimane diffidente nell’uso dell’AI nella creazione di hardware e software militari. I dipendenti di Microsoft (MSFT ) e Google hanno protestato contro le collaborazioni con enti militari e Google ha recentemente deciso di non rinnovare il contratto che li vedeva contribuire al Progetto Maven. Un certo numero di CEO, scienziati e ingegneri hanno anche firmato un impegno a non “partecipare né sostenere lo sviluppo, la produzione, il commercio o l’uso di armi autonome letali”. Se il Pentagono adotta le linee guida suggerite dal board, potrebbe rendere l’industria tecnologica più disposta a collaborare a progetti, anche se solo il tempo dirà.