Navegando el camino hacia la Inteligencia Artificial General (AGI) juntos: Un enfoque equilibrado

A medida que la inteligencia artificial general (AGI) avanza rápidamente, la conversación se está desplazando desde el debate filosófico hacia uno de relevancia práctica, con una gran oportunidad para transformar los negocios globales y el potencial humano.

La serie de eventos AGI Icons de Turing reúne a innovadores de IA para discutir avances prácticos y responsables de las soluciones de AGI. El 24 de julio, Turing organizó nuestro segundo evento AGI Icons en SHACK15, el hub exclusivo de San Francisco para emprendedores e innovadores tecnológicos. Moderado por Anita Ramaswamy, columnista financiera de The Information, me senté con el CEO de Quora, Adam D’Angelo, para discutir el camino hacia AGI y compartir conocimientos sobre líneas de tiempo de desarrollo, aplicaciones en el mundo real y principios para una implementación responsable.

El camino desde la IA hasta la AGI

La “estrella del norte” que impulsa la investigación de IA es la búsqueda de “inteligencia” a nivel humano. Lo que separa a la AGI de la IA estándar es su progresión más allá de la funcionalidad estrecha hacia una mayor generalidad (amplitud) y rendimiento (profundidad), incluso superando las capacidades humanas.

Esto es “el camino hacia la AGI”, donde la IA progresa hacia sistemas más autónomos, razonamiento superior, capacidades mejoradas y funcionalidad mejorada. Estos progresos se dividen en cinco niveles taxonómicos:

• Nivel 0: No hay IA – Herramientas simples como calculadoras
• Nivel 1: AGI emergente – LLM actuales como ChatGPT
• Nivel 2: AGI competente – Sistemas de IA que igualan a adultos capacitados en tareas específicas
• Nivel 3: AGI experta – Sistemas de IA en el percentil 90 de adultos capacitados
• Nivel 4: AGI virtuosa – Sistemas de IA en el percentil 99
• Nivel 5: AGI superhumana – Sistemas de IA que superan a todos los humanos

Fuente

Durante nuestra discusión, Adam definió el concepto de AGI como “software que puede hacer todo lo que un humano puede hacer”. Él vislumbra un futuro donde la IA mejora a sí misma, eventualmente asumiendo tareas humanas complejas manejadas por investigadores de aprendizaje automático.

Llevando esto un paso más allá, comparé mis puntos de vista sobre AGI con los de un “cerebro artificial” capaz de realizar tareas diversas como “traducción de máquina, consultas complejas y codificación”. Esa es la distinción entre AGI y la IA predictiva y las formas estrechas de ML que vinieron antes. Parece un comportamiento emergente.

Líneas de tiempo de desarrollo realistas en el camino hacia la AGI

Al igual que en un viaje en coche, la pregunta principal sobre AGI es “¿Ya estamos allí?”. La respuesta corta es no, pero a medida que la investigación de IA se acelera, la pregunta correcta es “¿Cómo podemos equilibrar la ambición de AGI con expectativas realistas?”.

Adam destacó que la automatización aumentada de AGI cambiará los roles humanos en lugar de eliminarlos, lo que llevará a un crecimiento económico más rápido y una productividad más eficiente. “A medida que esta tecnología se vuelva más poderosa, llegaremos a un punto en el que el 90% de lo que la gente hace hoy estará automatizado, pero todos se habrán cambiado a otras cosas”.

Actualmente, gran parte de la economía mundial está limitada por la cantidad de personas disponibles para trabajar. Una vez que logremos AGI, podremos crecer la economía a una tasa mucho más rápida de lo que es posible hoy.

No podemos dar un cronograma definitivo para cuando se logre la verdadera AGI, pero Adam y yo citamos varios ejemplos de avances de IA que allanan el camino para futuros progresos de AGI. Por ejemplo, los experimentos de Turing con herramientas de desarrollo de IA mostraron un aumento del 33% en la productividad de los desarrolladores, lo que sugiere un potencial aún mayor.

Aplicaciones y efectos en el mundo real

Una de las aplicaciones más prometedoras de AGI se encuentra en el campo del desarrollo de software. Los modelos de lenguaje grande (LLM), un precursor de AGI, ya se están utilizando para mejorar el desarrollo de software y mejorar la calidad del código. Veo esta era de IA como más cercana a la biología que a la física, donde todo tipo de trabajo de conocimiento mejorará. Habrá mucha más productividad desbloqueada para y desde la humanidad.

Mi perspectiva proviene de la experiencia, donde he presenciado un aumento de productividad personal de 10 veces cuando uso LLM y herramientas de desarrollo de IA. También estamos utilizando IA en Turing para evaluar el talento técnico y emparejar a los ingenieros de software y expertos en dominio de nivel de doctorado con los trabajos adecuados.

Lo que estoy viendo en el espacio de capacitación de LLM, por ejemplo, es que los capacitadores aprovechan estos modelos para mejorar la productividad de los desarrolladores y acelerar los plazos de los proyectos. Al automatizar tareas de codificación rutinarias y proporcionar sugerencias de código inteligentes, los LLM liberan a los desarrolladores para que se concentren en aspectos más estratégicos y creativos de su trabajo.

Adam concluyó: “Los LLM no escribirán todo el código, pero entender los fundamentos del software sigue siendo crucial. Las calculadoras no eliminaron la necesidad de aprender aritmética”. Agregó: “Los desarrolladores se vuelven más valiosos cuando utilizan estos modelos. La presencia de LLM es positiva para los trabajos de desarrollador y habrá muchas ganancias para los desarrolladores”.

Estamos entrando en una era dorada del desarrollo de software donde un ingeniero de software puede ser 10 veces más productivo, crear más y beneficiar al mundo.

Desafíos técnicos y de gobernanza

A pesar del potencial prometedor de AGI, los desafíos deben abordarse. Se necesitan procesos de evaluación robustos y marcos regulatorios para equilibrar la innovación de AGI con la seguridad pública.

Adam enfatizó la necesidad de pruebas exhaustivas y sandboxing para limitar los peores escenarios. “Quieres tener algún tipo de proceso de evaluación robusto… y obtener que la distribución que estás probando se acerque lo más posible al uso real del mundo”.

Y estoy de acuerdo. El cuello de botella para el progreso de AGI es ahora la inteligencia humana, en lugar de la potencia de cómputo o los datos. La experiencia humana es crucial para afinar y personalizar los modelos de IA, por lo que Turing se centra en buscar y emparejar a profesionales de tecnología de alto nivel para equilibrar los modelos con la inteligencia humana.

Debemos abordar los desafíos de AGI de frente, centrándonos en capacidades en lugar de procesos, generalidad y rendimiento, y potencial.

Perspectivas sobre desafíos: Mejorar las interacciones humanas-AGI

Algunas de las mejores prácticas para abordar los desafíos de AGI incluyen:

• Centrarse en capacidades o “qué puede hacer la AGI” en lugar de procesos o “cómo lo hace”.
• Equilibrar la generalidad y el rendimiento como componentes esenciales de AGI.
• Centrarse en tareas cognitivas / metacognitivas y habilidades de aprendizaje en lugar de tareas físicas / salidas.
• Medir AGI por su potencial y capacidades.
• Centrarse en la validez ecológica alineando las benchmarks con tareas del mundo real que la gente valora.
• Recordar que el camino hacia AGI no es un solo punto final, es un proceso iterativo.

Sumando a estas mejores prácticas, Adam y yo enfatizamos la importancia de mejorar las interacciones humanas-AGI. Adam enfatizó el valor de aprender cómo y cuándo usar estos modelos, viéndolos como herramientas de aprendizaje poderosas que pueden enseñar rápidamente cualquier subdominio de programación, enfatizando la importancia de entender los fundamentos.

De manera similar, sugiero que hacer que cada humano sea un usuario avanzado de LLM podría mejorar significativamente la productividad y la comprensión en varios campos. Los LLM pueden hacer que la información compleja sea accesible para todos, mejorando la productividad en varios campos. Pero requiere un enfoque faseado e iterativo: comenzando con copilotos de IA que asisten a los humanos, luego moviéndose a agentes con supervisión humana y eventualmente logrando agentes completamente autónomos en tareas bien evaluadas.

Con eso, la diferenciación posterior a la capacitación es crítica, involucrando un ajuste fino supervisado (SFT) y aprovechando la inteligencia humana para construir modelos personalizados. Las empresas que puedan buscar y emparejar a capacitadores, ingenieros y otros acelerarán sus capacidades de ajuste fino y ingeniería personalizada. Colaborar con empresas líderes como OpenAI y Anthropic también es clave para aplicar estos modelos en diversas industrias.

Principios de desarrollo responsable de AGI

“El desarrollo de AGI debe ser responsable y ético, asegurando la seguridad y la transparencia mientras se fomenta la innovación”. – Adam D’Angelo

El desarrollo responsable de AGI requiere adherirse a varios principios básicos:

• Seguridad y seguridad: Asegurando que los sistemas de AGI sean confiables y resistentes al mal uso, especialmente a medida que los modelos se escalan para acomodar nuevos datos de entrada o algoritmos.
• Transparencia: Ser realista sobre las capacidades, limitaciones y “cómo funciona” de AGI.
• Consideraciones éticas: Abordar la equidad, el sesgo y cómo AGI impactará el empleo y otros factores socioeconómicos.
• Regulación: Trabajar con gobiernos y otras organizaciones para desarrollar marcos que equilibren el progreso con la seguridad pública.
• Benchmarking: Las futuras benchmarks deben cuantificar el comportamiento y las capacidades de AGI en relación con consideraciones éticas y niveles taxonómicos.

Conclusión: Centrarse en el camino hacia AGI, no en un solo punto final

El camino hacia AGI es complejo, pero cada parada en el camino es importante para el viaje. Al entender las mejoras iterativas de AGI, así como sus implicaciones, las personas y las empresas podrán adoptar responsablemente esta tecnología en evolución. Esto es la esencia del desarrollo responsable de AGI, donde la interactividad del mundo real informa cómo navegamos esta nueva frontera.