Tecnologías avanzadas de inteligencia artificial presentan desafíos éticos – Líderes de pensamiento

Por Alfred Crews, Jr., vicepresidente y consejero general del sector de Inteligencia y Seguridad de BAE Systems Inc.

Al comienzo de este año, antes de la pandemia global, asistí a la Conferencia de Ética de Inteligencia de The Citadel en Charleston, donde discutimos el tema de la ética en la recopilación de inteligencia en relación con la protección de la seguridad nacional. En la industria de la defensa, estamos viendo la proliferación del conocimiento, la computación y las tecnologías avanzadas, especialmente en el área de la inteligencia artificial (IA) y el aprendizaje automático (ML). Sin embargo, puede haber problemas significativos al desplegar la IA en el contexto de la recopilación de inteligencia o el combate en tiempo real.

La IA combinada con la computación cuántica presenta riesgos

Lo que debemos cuestionar, analizar y determinar un camino hacia adelante es cuando se utiliza la IA combinada con capacidades de computación cuántica en el proceso de toma de decisiones en tiempos de guerra. Por ejemplo, recuerde a Terminator. A medida que nuestra tecnología da saltos y avances, la realidad de lo que presentó Skynet está ante nosotros. Podríamos estar preguntándonos, “¿Está Skynet viniendo por nosotros?” Vamos a dar un paseo por la memoria conmigo; las máquinas de IA tomaron el control porque tenían la capacidad de pensar y tomar decisiones por sí mismas, sin un ser humano para dirigirlas. Cuando las máquinas dedujeron que los humanos eran un error, se dispusieron a destruir a la humanidad. No me malinterpreten, la IA tiene un gran potencial, pero creo que debe tener parámetros de control debido al factor de riesgo involucrado.

Las ambigüedades éticas y el dilema filosófico de la IA

Creo que esta es precisamente la razón por la que el Departamento de Defensa de los Estados Unidos (DoD) emitió sus propios Principios éticos para la IA, porque el uso de la IA plantea nuevas ambigüedades éticas y riesgos. Cuando se combina la IA con capacidades de computación cuántica, la capacidad de tomar decisiones cambia y el riesgo de perder el control aumenta, más de lo que podríamos darnos cuenta hoy en día. La computación cuántica pone en vergüenza el sistema operativo de nuestro cerebro humano, ya que los supercomputadores pueden realizar cálculos exponencialmente más rápido y con más precisión de lo que nuestros cerebros humanos podrían hacer jamás.

Además, el uso de la IA combinada con la computación presenta un dilema filosófico. ¿En qué punto permitirá el mundo que las máquinas tengan su propia voluntad; y, si se permite que las máquinas piensen por sí mismas, ¿significa eso que la máquina en sí se ha vuelto autoconsciente? ¿Constituye la autoconciencia la vida? Como sociedad, aún no hemos determinado cómo definir esta situación. Por lo tanto, como está hoy en día, las máquinas que toman acción por sí mismas sin un ser humano para controlarlas podrían generar consecuencias. ¿Podría una máquina anular la intervención de un ser humano para detener el fuego? Si la máquina está operando por sí misma, ¿podremos desconectarla?

Como lo veo, utilizar la IA desde un punto de vista defensivo es fácil de hacer. Sin embargo, ¿cuánto más fácil sería transferirlo a la ofensiva? En la ofensiva, las máquinas tomarían decisiones de combate en el acto. ¿Constituiría una máquina que dispara a un enemigo una violación de la Convención de Ginebra y las leyes de conflicto armado? Al avanzar en este espacio a un ritmo rápido, el mundo debe acordar que el uso de la IA y la computación cuántica en el combate debe ajustarse a las leyes que tenemos en vigor.

El DoD tiene una posición cuando se utiliza la IA con sistemas autónomos y establece que siempre habrá una persona involucrada en el proceso de toma de decisiones; una persona tomará la decisión final de apretar el gatillo para disparar un arma. Esa es nuestra regla, pero ¿qué sucede si un adversario decide tomar otro camino y tener una máquina con capacidad de IA que tome todas las decisiones finales? Entonces, la máquina, que, como discutimos, ya es más rápida, más inteligente y más precisa, tendría la ventaja.

Vamos a ver un dron equipado con IA y reconocimiento facial: el dron dispara por su propia voluntad debido a un objetivo predeterminado etiquetado como terrorista. ¿Quién es realmente responsable del disparo? ¿Hay rendición de cuentas si hay un error sesgado?

Sesgo incorporado en la IA/ML

La investigación señala que una máquina es menos probable que cometa errores que un ser humano. Sin embargo, la investigación también demuestra que hay sesgos en el aprendizaje automático basado en el “maestro” humano que enseña a la máquina. Los cinco Principios éticos de la IA del DoD hacen referencia a los sesgos existentes cuando establecen: “El Departamento tomará medidas deliberadas para minimizar los sesgos no intencionados en las capacidades de la IA”. Ya sabemos, a través de estudios comprobados, que en el uso de aplicaciones de reconocimiento facial hay sesgos hacia las personas de color con falsos positivos. Cuando una persona crea el código que enseña a la máquina a tomar decisiones, habrá sesgos. Esto podría ser involuntario porque la persona que crea la IA no era consciente del sesgo que existía dentro de sí misma.

Entonces, ¿cómo se elimina el sesgo? La salida de la IA es tan buena como la entrada. Por lo tanto, deben haber controles. Debe controlar los datos que fluyen hacia adentro porque eso es lo que podría hacer que los resultados de la IA sean menos válidos. Los desarrolladores tendrán que reescribir constantemente el código para eliminar el sesgo.

El mundo define el mejor uso de la tecnología

La tecnología en sí misma no es buena ni mala. Es cómo una nación la utiliza lo que podría tomar las mejores intenciones y hacer que salga mal. A medida que la tecnología avanza de maneras que impactan las vidas humanas, el mundo debe trabajar juntos para definir una acción adecuada. Si sacamos al ser humano de la ecuación en las aplicaciones de la IA, también sacamos esa pausa antes de disparar – esa brújula moral que nos guía; esa pausa cuando nos detenemos y cuestionamos, “¿Esto es correcto?” Una máquina enseñada a involucrarse no tendrá esa pausa. Entonces, la pregunta es, en el futuro, ¿aceptará el mundo esto? ¿Hasta dónde llegará el mundo para permitir que las máquinas tomen decisiones de combate?