La Inteligencia Artificial y la Lucha Contra la Tecnofobia

Cuando se trata de Inteligencia Artificial Generativa y Modelos de Lenguaje Grande, como ChatGPT, el entusiasmo por la IA se mezcla con la tecnofobia. Esto es natural para el público en general: les gustan las cosas nuevas y emocionantes, pero tienen miedo de lo desconocido. Lo nuevo es que varios científicos prominentes se han convertido en tecnocépticos, si no en tecnófobos. El caso de los científicos e industrialistas que piden una prohibición de seis meses para la investigación de la IA, o el escepticismo del principal científico de la IA, el profesor A. Hinton, son ejemplos de esto. El único equivalente histórico que puedo recordar es la crítica de las bombas atómicas y nucleares por parte de una parte de la comunidad científica durante la Guerra Fría. Afortunadamente, la humanidad logró abordar estas preocupaciones de una manera bastante satisfactoria.

Por supuesto, todos tienen derecho a cuestionar el estado actual de los asuntos de la IA:

• Nadie sabe por qué los Modelos de Lenguaje Grande funcionan tan bien y si tienen un límite.
• Muchos peligros que los malos crean “bombas de IA” acechan, particularmente si los estados permanecen como espectadores pasivos en cuanto a regulaciones.

Estas son preocupaciones legítimas que alimentan el miedo a lo desconocido, incluso para científicos prominentes. Después de todo, ellos también son humanos.

Sin embargo, ¿puede detenerse la investigación de la IA, aunque sea temporalmente? En mi opinión, no, ya que la IA es la respuesta de la humanidad a una sociedad global y un mundo físico cada vez más complejos. A medida que aumentan la complejidad física y social, los procesos son muy profundos y parecen inexorables, la IA y la metamorfosis ciudadana son nuestra única esperanza para tener una transición suave de la sociedad de la información actual a una sociedad del conocimiento. De lo contrario, podemos enfrentar una implosión social catastrófica.

La solución es profundizar nuestra comprensión de los avances de la IA, acelerar su desarrollo, regular su uso para maximizar su impacto positivo, mientras se minimizan los efectos negativos ya evidentes y otros ocultos. La investigación de la IA puede y debe ser diferente: más abierta, democrática, científica y ética. A continuación, se presenta una lista de puntos para lograr esto:

• La primera palabra sobre cuestiones importantes de investigación de la IA que tienen un impacto social de gran alcance debe ser delegada a los parlamentos y gobiernos electos, en lugar de a corporaciones o científicos individuales.
• Se debe hacer todo el esfuerzo posible para facilitar la exploración de los aspectos positivos de la IA en el progreso social y financiero, y para minimizar sus aspectos negativos.
• El impacto positivo de los sistemas de IA puede superar con creces a sus aspectos negativos, si se toman las medidas regulatorias adecuadas. La tecnofobia no está justificada, ni es una solución.
• En mi opinión, la mayor amenaza actual proviene del hecho de que dichos sistemas de IA pueden engañar a muchos ciudadanos comunes que tienen poca (o media) educación y/o poca capacidad de investigación. Esto puede ser extremadamente peligroso para la democracia y cualquier forma de progreso socioeconómico.
• En el futuro cercano, debemos contrarrestar la gran amenaza que proviene del uso de LLM y/o CAN en actividades ilegales (el fraude en los exámenes universitarios es un uso relativamente benigno en el espacio de las posibilidades criminales relacionadas).
• Su impacto en el trabajo y los mercados será muy positivo, a largo plazo.
• En vista de lo anterior, los sistemas de IA deben: a) estar registrados en un “registro de sistemas de IA”, y b) notificar a sus usuarios que conversan con o utilizan los resultados de un sistema de IA.
• Los sistemas de IA tienen un impacto social enorme, y para maximizar los beneficios y el progreso socioeconómico, las tecnologías clave de los sistemas de IA deben ser abiertas.
• Los datos relacionados con la IA deben ser (al menos parcialmente) democratizados, nuevamente para maximizar los beneficios y el progreso socioeconómico.
• Se deben prever esquemas de compensación financiera adecuados para los campeones de la tecnología de la IA, para compensar cualquier pérdida de beneficios debido a la mencionada apertura, y para garantizar fuertes inversiones futuras en I+D de la IA (por ejemplo, a través de la patentación de tecnologías, esquemas de licencia obligatoria).
• El equilibrio de la investigación de la IA entre la academia y la industria debe ser repensado para maximizar la producción de investigación, mientras se mantiene la competitividad y se otorgan recompensas por los riesgos de I+D asumidos.
• Las prácticas educativas deben ser revisadas a todos los niveles de educación para maximizar los beneficios de las tecnologías de la IA, al mismo tiempo que se crea una nueva generación de ciudadanos y científicos creativos y adaptables.
• Se deben crear y reforzar mecanismos regulatorios, de supervisión y de financiación adecuados para garantizar lo anterior.

Varios de estos puntos se tratan en detalle en mi libro de 4 volúmenes sobre “Ciencia y Sociedad de la Inteligencia Artificial”, particularmente en los volúmenes A (reescrito en mayo de 2023 para cubrir LLM y Inteligencia Artificial General) y C.

Referencias del libro:

Ciencia y Sociedad de la Inteligencia Artificial Parte A: Introducción a la Ciencia de la IA y la Tecnología de la Información

Ciencia y Sociedad de la Inteligencia Artificial Parte C: Ciencia de la IA y Sociedad