Navegando el camino hacia la Inteligencia Artificial General (AGI) juntos: Un enfoque equilibrado

Como la inteligencia artificial general (AGI) avanza rápidamente, la conversación se está desplazando desde el debate filosófico hacia uno de relevancia práctica, con una enorme oportunidad para transformar negocios globales y el potencial humano.

La serie de eventos AGI Icons de Turing reúne a innovadores de IA para discutir avances prácticos y responsables de soluciones de AGI. El 24 de julio, Turing organizó nuestro segundo evento AGI Icons en SHACK15, el exclusivo hub de San Francisco para empresarios y innovadores tecnológicos. Moderado por Anita Ramaswamy, columnista financiera de The Information, me senté con el CEO de Quora, Adam D’Angelo, para discutir el camino hacia AGI y compartir perspectivas sobre los plazos de desarrollo, aplicaciones en el mundo real y principios para un despliegue responsable.

El camino desde la IA hasta la AGI

La “estrella del norte” que impulsa la investigación de IA es la búsqueda de la “inteligencia” a nivel humano. Lo que separa a la AGI de la IA estándar es su progresión más allá de la funcionalidad limitada hacia una mayor generalidad (amplitud) y rendimiento (profundidad), incluso superando las capacidades humanas.

Este es “el camino hacia la AGI”, donde la IA progresa hacia sistemas más autónomos, razonamiento superior, capacidades mejoradas y funcionalidad mejorada. Estos progresos se dividen en cinco niveles taxonómicos:

• Nivel 0: Sin IA – Herramientas simples como calculadoras
• Nivel 1: AGI emergente – LLM actuales como ChatGPT
• Nivel 2: AGI competente – Sistemas de IA que igualan a adultos capacitados en tareas específicas
• Nivel 3: AGI experta – Sistemas de IA en el percentil 90 de adultos capacitados
• Nivel 4: AGI virtuosa – Sistemas de IA en el percentil 99
• Nivel 5: AGI superhumana – Sistemas de IA que superan a todos los humanos

Fuente

Durante nuestra discusión, Adam definió el concepto de AGI como “software que puede hacer todo lo que un humano puede hacer”. Imagina un futuro donde la IA mejora a sí misma, eventualmente asumiendo tareas humanas complejas manejadas por investigadores de aprendizaje automático.

Llevando esto un paso más allá, comparé mis puntos de vista sobre AGI con los de un “cerebro artificial” capaz de realizar tareas diversas como “traducción de máquina, consultas complejas y codificación”. Esa es la distinción entre AGI y formas más predictivas de IA y ML estrechas que vinieron antes. Parece comportamiento emergente.

Plazos de desarrollo realistas en el camino hacia la AGI

Al igual que en un viaje en coche, la pregunta principal sobre AGI es “¿Ya estamos allí?”. La respuesta corta es no, pero a medida que la investigación de IA avanza, la pregunta correcta es “¿Cómo podemos equilibrar la ambición de AGI con expectativas realistas?”.

Adam destacó que la automatización aumentada de AGI cambiará los roles humanos en lugar de eliminarlos, lo que llevará a un crecimiento económico más rápido y una productividad más eficiente. “A medida que esta tecnología se vuelve más poderosa, llegaremos a un punto en el que el 90% de lo que la gente hace hoy estará automatizado, pero todos habrán cambiado a otras cosas”.

Actualmente, gran parte de la economía mundial está limitada por la cantidad de personas disponibles para trabajar. Una vez que logremos AGI, podremos crecer la economía a una tasa mucho más rápida de lo que es posible hoy.

No podemos dar un plazo definido para cuando se logrará la verdadera AGI, pero Adam y yo citamos varios ejemplos de avances de IA que allanan el camino para futuros progresos de AGI. Por ejemplo, los experimentos de Turing con herramientas de desarrollo de IA mostraron un aumento del 33% en la productividad de los desarrolladores, lo que sugiere un potencial aún mayor.

Aplicaciones y efectos en el mundo real

Una de las aplicaciones más prometedoras de AGI se encuentra en el campo del desarrollo de software. Los modelos de lenguaje grande (LLM), un precursor de AGI, ya se están utilizando para mejorar el desarrollo de software y la calidad del código. Veo esta era de IA como más cercana a la biología que a la física, donde todo tipo de trabajo de conocimiento mejorará. Habrá mucha más productividad desbloqueada para y desde la humanidad.

Mi perspectiva proviene de la experiencia, donde he presenciado un aumento de productividad personal de 10 veces cuando uso LLM y herramientas de desarrollo de IA. También estamos utilizando IA en Turing para evaluar el talento técnico y emparejar a los ingenieros de software y expertos en dominio de PhD con los trabajos adecuados.

Lo que estoy viendo en el espacio de entrenamiento de LLM, por ejemplo, es que los entrenadores aprovechan estos modelos para mejorar la productividad de los desarrolladores y acelerar los plazos de los proyectos. Al automatizar tareas de codificación rutinarias y proporcionar sugerencias de código inteligentes, los LLM liberan a los desarrolladores para centrarse en aspectos más estratégicos y creativos de su trabajo.

Adam concluyó: “Los LLM no escribirán todo el código, pero entender los fundamentos del software sigue siendo crucial. Las calculadoras no eliminaron la necesidad de aprender aritmética”. Agregó: “Los desarrolladores se vuelven más valiosos cuando utilizan estos modelos. La presencia de LLM es positiva para los trabajos de los desarrolladores y habrá muchas ganancias para los desarrolladores”.

Estamos entrando en una era dorada del desarrollo de software donde un ingeniero de software puede ser 10 veces más productivo, crear más y beneficiar al mundo.

Desafíos técnicos y de gobernanza

A pesar del potencial prometedor de AGI, es necesario abordar desafíos. Se necesitan procesos de evaluación robustos y marcos regulatorios para equilibrar la innovación de AGI con la seguridad pública.

Adam enfatizó la necesidad de pruebas exhaustivas y sandboxing para limitar los peores escenarios. “Quieres tener algún tipo de proceso de evaluación robusto… y obtener que la distribución que estás probando sea lo más cercana posible al uso real del mundo”.

Y estoy de acuerdo. El cuello de botella para el progreso de AGI es ahora la inteligencia humana, en lugar de la potencia de cómputo o los datos. La experiencia humana es crucial para afinar y personalizar los modelos de IA, por lo que Turing se centra en encontrar y emparejar a los profesionales de tecnología de alto nivel para equilibrar los modelos con la inteligencia humana.

Debemos abordar los desafíos de AGI de frente, centrándonos en capacidades en lugar de procesos, generalidad y rendimiento, y potencial.

Perspectivas sobre los desafíos: Mejorar las interacciones humanas-AGI

Algunas de las mejores prácticas para abordar los desafíos de AGI incluyen:

• Centrarse en capacidades o “qué puede hacer AGI” en lugar de procesos o “cómo lo hace”.
• Equilibrar la generalidad y el rendimiento como componentes esenciales de AGI.
• Centrarse en tareas cognitivas/metacognitivas y habilidades de aprendizaje sobre tareas físicas/salidas.
• Medir AGI por su potencial y capacidades.
• Centrarse en la validez ecológica alineando los benchmarks con tareas del mundo real que la gente valora.
• Recordar que el camino hacia AGI no es un solo punto final, es un proceso iterativo.

Sumando a estas mejores prácticas, Adam y yo enfatizamos la importancia de mejorar las interacciones humanas-AGI. Adam enfatizó el valor de aprender cómo y cuándo usar estos modelos, viéndolos como herramientas de aprendizaje poderosas que pueden enseñar rápidamente cualquier subdominio de programación, enfatizando la importancia de entender los fundamentos.

De manera similar, sugiero que hacer que cada humano sea un usuario avanzado de LLM podría mejorar significativamente la productividad y la comprensión en varios campos. Los LLM pueden hacer que la información compleja sea accesible para todos, mejorando la productividad en varios campos. Pero requiere un enfoque faseado e iterativo: comenzando con copilotos de IA que asisten a los humanos, luego moviéndose a agentes con supervisión humana y eventualmente logrando agentes completamente autónomos en tareas bien evaluadas.

Con eso, la diferenciación posterior al entrenamiento es crítica, involucrando un afinado supervisado (SFT) y aprovechando la inteligencia humana para construir modelos personalizados. Las empresas que puedan encontrar y emparejar a entrenadores, ingenieros y otros podrán acelerar sus capacidades de afinado y ingeniería personalizada. Colaborar con empresas líderes como OpenAI y Anthropic también es clave para aplicar estos modelos en diversas industrias.

Principios de desarrollo responsable de AGI

“El desarrollo de AGI debe ser responsable y ético, asegurando la seguridad y la transparencia mientras se fomenta la innovación”. – Adam D’Angelo

El desarrollo responsable de AGI requiere adherirse a varios principios básicos:

• Seguridad y seguridad: Asegurando que los sistemas de AGI sean confiables y resistentes al mal uso, especialmente a medida que los modelos escalan para acomodar nuevas entradas de datos o algoritmos.
• Transparencia: Ser realista sobre las capacidades, limitaciones y “cómo funciona” de AGI.
• Consideraciones éticas: Abordar la equidad, el sesgo y cómo AGI impactará el empleo y otros factores socioeconómicos.
• Regulación: Trabajar con gobiernos y otras organizaciones para desarrollar marcos que equilibren el progreso con la seguridad pública.
• Benchmarking: Los benchmarks futuros deben cuantificar el comportamiento y las capacidades de AGI con respecto a consideraciones éticas y niveles taxonómicos.

Conclusión: Centrarse en el camino hacia AGI, no en un solo punto final

El camino hacia AGI es complejo, pero cada parada en el camino es importante para el viaje. Al entender las mejoras iterativas de AGI, junto con sus implicaciones, las personas y las empresas podrán adoptar responsablemente esta tecnología en evolución. Esto es la esencia del desarrollo responsable de AGI, donde la interactividad del mundo real informa cómo navegamos esta nueva frontera. A lo largo del camino es importante para el viaje. Al entender las mejoras iterativas de AGI, junto con sus implicaciones, las personas y las empresas podrán adoptar responsablemente esta tecnología en evolución. Esto es la esencia del desarrollo responsable de AGI, donde la interactividad del mundo real informa cómo navegamos esta nueva frontera.