Grupo Asesor de Tecnología Insta a Limitar el Uso de la Inteligencia Artificial en el Pentágono

El Pentágono ha expresado claramente su intención de invertir fuertemente en inteligencia artificial, afirmando que la IA hará que el ejército estadounidense sea más poderoso y robusto ante posibles amenazas a la seguridad nacional. Según Engadget, el pasado jueves, la Junta de Innovación de Defensa presentó una serie de directrices éticas propuestas para el uso de la IA en el ejército. La lista de propuestas incluye estrategias para evitar sesgos no deseados y gobernar la IA que tendría procedimientos de detención de emergencia para prevenir que la IA cause daños innecesarios.

Wired informa que la Junta de Innovación de Defensa fue creada por la Administración de Obama para guiar al Pentágono en la adquisición de experiencia y talento de la industria tecnológica. La junta está actualmente presidida por el ex director ejecutivo de Google (GOOGL ), Eric Schmidt. El departamento fue recientemente encargado de establecer directrices para la implementación ética de la IA en proyectos militares. El jueves, la junta publicó sus directrices y recomendaciones para su revisión. El informe señala que es hora de tener discusiones serias sobre el uso de la IA en un contexto militar antes de que algún incidente grave exija que se haga.

Según Artificial Intelligence News, un ex funcionario militar declaró recientemente que el Pentágono se estaba quedando atrás en cuanto al uso de la IA. El Pentágono está tratando de recuperar el tiempo perdido y ha declarado que el desarrollo y la expansión de la IA en el ejército son una prioridad nacional. Los éticos de la IA están preocupados por que, en la prisa del Pentágono por convertirse en un líder en IA, los sistemas de IA puedan ser utilizados de manera poco ética. Mientras que varios consejos de ética de IA independientes han hecho sus propias sugerencias, la Junta de Innovación de Defensa ha propuesto al menos cinco principios que el ejército debe seguir en todo momento al desarrollar e implementar sistemas de IA.

El primer principio propuesto por la junta es que los humanos siempre deben ser responsables del uso, despliegue y resultados de cualquier plataforma de inteligencia artificial utilizada en un contexto militar. Esto recuerda a una política de 2012 que ordenaba que los humanos debían ser parte del proceso de toma de decisiones siempre que se pudiera utilizar la fuerza letal. Hay otros principios en la lista que brindan consejos generales, como asegurarse de que los sistemas de IA sean construidos por ingenieros que entiendan y documenten exhaustivamente sus programas. Otro principio aconseja que los sistemas de IA militares siempre deben ser probados para su confiabilidad. Estas directrices parecen ser de sentido común, pero la junta quiere subrayar su importancia.

Los otros principios de la lista están involucrados en el control de sesgos para algoritmos de IA y la capacidad de los IA para detectar si se puede causar daño no intencional y desactivarse automáticamente. Las directrices especifican que, si se produce un daño innecesario, la IA debe poder desactivarse y que un operador humano tome el control. El borrador de principios también recomienda que la salida de los IA sea rastreable para que los analistas puedan ver qué llevó a la IA a tomar una decisión determinada.

El conjunto de recomendaciones presentadas por la junta subraya dos ideas diferentes. Los principios reflejan el hecho de que la IA será fundamental para el futuro de las operaciones militares, pero que gran parte de la IA todavía depende de la gestión y toma de decisiones humanas.

Mientras que el Pentágono no tiene que adoptar las recomendaciones de la junta, parece que el Pentágono está tomando las recomendaciones en serio. Según Wired, el director del Centro Conjunto de Inteligencia Artificial, el teniente general Jack Shanahan, declaró que las recomendaciones de la junta ayudarían al Pentágono a “mantener los más altos estándares éticos, como se describen en la estrategia de IA del DoD, al mismo tiempo que se aprovecha la fuerte historia del ejército estadounidense de aplicar rigurosas pruebas y estándares de implementación para las innovaciones tecnológicas”.

La industria tecnológica en general sigue siendo cautelosa con el uso de la IA en la creación de hardware y software militar. Los empleados de Microsoft (MSFT ) y Google han protestado por colaboraciones con entidades militares, y Google ha decidido no renovar el contrato que los tenía contribuyendo al Proyecto Maven. Un número de CEOs, científicos e ingenieros también han firmado un compromiso de no “participar en ni apoyar el desarrollo, fabricación, comercio o uso de armas autónomas letales”. Si el Pentágono adopta las directrices sugeridas por la junta, podría hacer que la industria tecnológica esté más dispuesta a colaborar en proyectos, aunque solo el tiempo lo dirá.