¿Es la IA una amenaza existencial?

Cuando se habla de Inteligencia Artificial (IA), un debate común es si la IA es una amenaza existencial. La respuesta requiere entender la tecnología detrás del Aprendizaje Automático (AA) y reconocer que los humanos tienen la tendencia a antropomorfizar. Exploraremos dos tipos diferentes de IA, la Inteligencia Artificial Estrecha (IAE) que está disponible ahora y es causa de preocupación, y la amenaza que se asocia comúnmente con representaciones apocalípticas de la IA, que es la Inteligencia Artificial General (IAG).

Amenazas de la Inteligencia Artificial Estrecha

Para entender qué es la IAE, simplemente necesitas entender que cada aplicación de IA que está disponible actualmente es una forma de IAE. Estos son campos de IA que tienen un área de especialización estrecha, por ejemplo, los vehículos autónomos utilizan IA que está diseñada con el único propósito de mover un vehículo de un punto A a un punto B. Otro tipo de IAE podría ser un programa de ajedrez que está optimizado para jugar ajedrez, y aunque el programa de ajedrez mejore continuamente mediante el aprendizaje por refuerzo, el programa de ajedrez nunca podrá operar un vehículo autónomo.

Con su enfoque en la operación que es responsable, los sistemas de IAE no pueden utilizar el aprendizaje generalizado para tomar el control del mundo. Esa es la buena noticia; la mala noticia es que, con su dependencia de un operador humano, el sistema de IA es susceptible a datos sesgados, errores humanos o incluso peor, un operador humano deshonesto.

Vigilancia de la IA

Puede que no haya un peligro mayor para la humanidad que los humanos que utilizan la IA para invadir la privacidad, y en algunos casos, utilizar la vigilancia de la IA para prevenir que las personas se muevan libremente. China, Rusia y otras naciones aprobaron regulaciones durante la COVID-19 para permitirles monitorear y controlar el movimiento de sus respectivas poblaciones. Estas son leyes que, una vez establecidas, son difíciles de eliminar, especialmente en sociedades que presentan líderes autocráticos.

En China, las cámaras están estacionadas fuera de las casas de las personas, y en algunos casos, dentro de la casa de la persona. Cada vez que un miembro del hogar sale, una IA monitorea la hora de llegada y partida, y si es necesario, alerta a las autoridades. Como si eso no fuera suficiente, con la ayuda de la tecnología de reconocimiento facial, China puede rastrear el movimiento de cada persona cada vez que es identificada por una cámara. Esto ofrece un poder absoluto a la entidad que controla la IA, y cero recurso a sus ciudadanos.

Por qué este escenario es peligroso, es que los gobiernos corruptos pueden monitorear cuidadosamente los movimientos de periodistas, opositores políticos o cualquier persona que se atreva a cuestionar la autoridad del gobierno. Es fácil entender cómo los periodistas y ciudadanos serían cautelosos al criticar a los gobiernos cuando cada movimiento está siendo monitoreado.

Afortunadamente, hay muchas ciudades que luchan para prevenir que el reconocimiento facial infiltre sus ciudades. Notablemente, Portland, Oregón ha aprobado recientemente una ley que bloquea el reconocimiento facial de ser utilizado innecesariamente en la ciudad. Mientras que estos cambios en la regulación pueden haber pasado desapercibidos para el público en general, en el futuro, estas regulaciones podrían ser la diferencia entre ciudades que ofrecen algún tipo de autonomía y libertad, y ciudades que se sienten opresivas.

Armas y drones autónomos

Más de 4500 investigadores de IA han estado pidiendo una prohibición de las armas autónomas y han creado el sitio web Prohibición de Armas Autónomas Letales. El grupo tiene muchos firmantes notables, como Human Rights Watch, Amnistía Internacional y el Instituto de la Vida Futura, que en sí mismo tiene un consejo asesor científico estelar que incluye a Elon Musk, Nick Bostrom y Stuart Russell.

Antes de continuar, compartiré esta cita del Instituto de la Vida Futura, que explica mejor por qué hay una causa clara de preocupación: “En contraste con las armas semiautónomas que requieren supervisión humana para asegurarse de que cada objetivo sea validado como legítimo y éticamente legítimo, estas armas autónomas completamente autónomas seleccionan y atacan objetivos sin intervención humana, lo que representa la automatización completa del daño letal”.

Actualmente, las bombas inteligentes se despliegan con un objetivo seleccionado por un humano, y la bomba utiliza la IA para trazar una ruta y aterrizar en su objetivo. El problema es qué sucede cuando decidimos eliminar completamente al humano de la ecuación.

Cuando una IA elige qué humanos necesitan ser objetivo, así como el tipo de daño colateral que se considera aceptable, podemos haber cruzado un punto de no retorno. Esto es por qué tantos investigadores de IA se oponen a investigar cualquier cosa que esté remotamente relacionada con armas autónomas.

Hay múltiples problemas con simplemente intentar bloquear la investigación de armas autónomas. El primer problema es que, incluso si las naciones avanzadas como Canadá, EE. UU. y la mayoría de Europa eligen acordar una prohibición, no significa que las naciones deshonestas como China, Corea del Norte, Irán y Rusia jugarán limpio. El segundo y mayor problema es que la investigación y las aplicaciones de IA diseñadas para ser utilizadas en un campo pueden ser utilizadas en un campo completamente no relacionado.

Por ejemplo, la visión por computadora mejora continuamente y es importante para desarrollar vehículos autónomos, medicina de precisión y otros casos de uso importantes. También es fundamental para drones regulares o drones que podrían ser modificados para convertirse en autónomos. Un posible caso de uso de la tecnología de drones avanzada es desarrollar drones que puedan monitorear y luchar contra incendios forestales. Esto eliminaría completamente a los bomberos del peligro. Para hacer esto, necesitarías construir drones que puedan volar hacia el peligro, navegar en visibilidad baja o cero, y ser capaces de soltar agua con precisión impecable. No es un gran salto para utilizar esta tecnología idéntica en un dron autónomo diseñado para objetivos humanos selectivos.

Es un predicamento peligroso y, en este punto, nadie entiende completamente las implicaciones de avanzar o intentar bloquear el desarrollo de armas autónomas. Sin embargo, es algo que debemos mantener en observación, y mejorar la protección de denunciantes puede permitir que aquellos en el campo informen abusos.

Aparte del operador deshonesto, ¿qué sucede si el sesgo de la IA se filtra en la tecnología de la IA diseñada para ser un arma autónoma?

Sesgo de la IA

Una de las amenazas menos informadas de la IA es el sesgo de la IA. Esto es simple de entender, ya que la mayoría de ello es involuntario. El sesgo de la IA se desliza cuando una IA revisa los datos que se le proporcionan a los humanos, utilizando el reconocimiento de patrones de los datos que se le proporcionaron a la IA, la IA llega incorrectamente a conclusiones que pueden tener repercusiones negativas en la sociedad. Por ejemplo, una IA que se alimenta de literatura del siglo pasado sobre cómo identificar personal médico puede llegar a la conclusión no deseada de que las mujeres siempre son enfermeras, y los hombres siempre son médicos.

Un escenario más peligroso es cuando la IA utilizada para sentenciar a delincuentes convictos está sesgada hacia dar sentencias de prisión más largas a las minorías. Los algoritmos de evaluación de riesgo penal de la IA simplemente estudian patrones en los datos que se han introducido en el sistema. Estos datos indican que, históricamente, ciertas minorías son más propensas a reincidir, incluso cuando esto se debe a conjuntos de datos deficientes que pueden estar influenciados por el perfil racial de la policía. La IA sesgada refuerza entonces las políticas humanas negativas. Esto es por qué la IA debe ser una guía, nunca juez y jurado.

Volviendo a las armas autónomas, si tenemos una IA que está sesgada contra ciertos grupos étnicos, podría elegir objetivos selectivos basados en datos sesgados, y podría llegar a asegurarse de que cualquier tipo de daño colateral afecte a ciertas demografías menos que a otras. Por ejemplo, cuando se objetiva a un terrorista, antes de atacar podría esperar hasta que el terrorista esté rodeado de personas que siguen la fe musulmana en lugar de cristianos.

Afortunadamente, se ha demostrado que la IA diseñada con equipos diversos es menos propensa a sesgo. Esto es razón suficiente para que las empresas intenten, cuando sea posible, contratar un equipo diverso y bien redondeado.

Amenazas de la Inteligencia Artificial General

Debería decirse que, aunque la IA está avanzando a un ritmo exponencial, todavía no hemos logrado la IAG. Cuándo alcanzaremos la IAG es un tema de debate, y todos tienen una respuesta diferente sobre la cronología. Personalmente, me suscribo a las opiniones de Ray Kurzweil, inventor, futurista y autor de “La Singularidad está cerca”, quien cree que lograremos la IAG en 2029.

La IAG será la tecnología más transformadora del mundo. Dentro de semanas de que la IA alcance la inteligencia humana, luego alcanzará la superinteligencia, que se define como la inteligencia que supera con creces la de un humano.

Con este nivel de inteligencia, una IAG podría absorber rápidamente todo el conocimiento humano y utilizar el reconocimiento de patrones para identificar biomarcadores que causan problemas de salud, y luego tratar esas condiciones utilizando la ciencia de datos. Podría crear nanobots que entren en la sangre para objetivar células cancerosas u otros vectores de ataque. La lista de logros que una IAG es capaz de realizar es infinita. Hemos explorado anteriormente algunos de los beneficios de la IAG.

El problema es que los humanos pueden ya no poder controlar la IA. Elon Musk lo describe de esta manera: “Con la inteligencia artificial, estamos convocando al demonio”. ¿Podremos controlar a este demonio es la pregunta?

Lograr la IAG puede ser simplemente imposible hasta que una IA salga de un entorno de simulación para interactuar realmente en nuestro mundo abierto. La autoconciencia no puede ser diseñada, en cambio, se cree que una conciencia emergente es probable que evolucione cuando una IA tenga un cuerpo robótico con múltiples flujos de entrada. Estos flujos pueden incluir estimulación táctil, reconocimiento de voz con comprensión del lenguaje natural mejorada y visión por computadora aumentada.

La IA avanzada puede estar programada con motivos altruistas y querer salvar al planeta. Desafortunadamente, la IA puede utilizar la ciencia de datos, o incluso un árbol de decisión para llegar a una lógica defectuosa no deseada, como evaluar que es necesario esterilizar a los humanos, o eliminar parte de la población humana para controlar la superpoblación.

Se necesita pensamiento y deliberación cuidadosos al construir una IA con inteligencia que superará con creces la de un humano. Han habido muchos escenarios de pesadilla que se han explorado.

El profesor Nick Bostrom en el argumento del Maximizador de Clips ha argumentado que una IAG mal configurada, si se le instruye para producir clips, simplemente consumiría todos los recursos de la Tierra para producir estos clips. Si bien esto parece un poco exagerado, un punto de vista más pragmático es que una IAG podría ser controlada por un estado o corporación deshonestos. Esta entidad podría entrenar a la IAG para maximizar las ganancias, y en este caso, con una mala programación y cero remordimiento, podría elegir arruinar a los competidores, destruir las cadenas de suministro, piratear el mercado de valores, liquidar cuentas bancarias o atacar a opositores políticos.

Esto es cuando debemos recordar que los humanos tienden a antropomorfizar. No podemos dar a la IA emociones, deseos o deseos humanos. Si bien hay humanos diabólicos que matan por placer, no hay razón para creer que una IA sería susceptible a este tipo de comportamiento. Es inconcebible para los humanos siquiera considerar cómo una IA vería el mundo.

En cambio, lo que debemos hacer es enseñar a la IA a ser siempre deferente con un humano. La IA siempre debe tener un humano que confirme cualquier cambio en la configuración, y siempre debe haber un mecanismo de seguridad. Sin embargo, se ha argumentado que la IA simplemente se replicará en la nube, y que, para cuando nos demos cuenta de que es autoconsciente, puede ser demasiado tarde.

Esto es por qué es tan importante abrir el código de la IA lo más posible y tener discusiones racionales sobre estos temas.

Resumen

Hay muchos desafíos para la IA, afortunadamente, todavía tenemos muchos años para figurar colectivamente el camino que queremos que la IAG tome. Debemos enfocarnos en el corto plazo en crear una fuerza laboral de IA diversa, que incluya tantas mujeres como hombres, y tantos grupos étnicos con puntos de vista diversos como sea posible.

Debemos crear protecciones para denunciantes para los investigadores que trabajan en la IA, y debemos aprobar leyes y regulaciones que prevengan el abuso generalizado de la vigilancia estatal o empresarial. Los humanos tienen una oportunidad única en la vida para mejorar la condición humana con la asistencia de la IA, solo necesitamos asegurarnos de que creamos cuidadosamente un marco social que permita lo positivo, al mismo tiempo que mitigamos lo negativo, que incluye amenazas existenciales. Los humanos tienen una oportunidad única en la vida para mejorar la condición humana con la asistencia de la IA, solo necesitamos asegurarnos de que creamos cuidadosamente un marco social que permita lo positivo, al mismo tiempo que mitigamos lo negativo, que incluye amenazas existenciales, leer el abuso de la vigilancia estatal o empresarial. Los humanos tienen una oportunidad única en la vida para mejorar la condición humana con la asistencia de la IA, solo necesitamos asegurarnos de que creamos cuidadosamente un marco social que permita lo positivo, al mismo tiempo que mitigamos lo negativo, que incluye amenazas existenciales, leer el abuso de la vigilancia estatal o empresarial.