Modelos y plataformas de IA

El nuevo instinto intuitivo de la IA: Por qué pensar de manera más inteligente es más importante que pensar durante más tiempo

mm
Añade Unite.AI a tus fuentes preferidas en Google

Los avances en inteligencia artificial (IA) han estado impulsados durante mucho tiempo por la creencia de que el aumento de los datos y la potencia computacional pueden mejorar el rendimiento. Este enfoque de “fuerza bruta” ha llevado a impresionantes sistemas de IA, como GPT-3, que han funcionado de manera notable a lo largo de los años. Sin embargo, este paradigma está llegando a sus límites. A medida que los problemas de IA se vuelven más complejos, se hace evidente que simplemente agregar más potencia de procesamiento no será una solución sostenible ni efectiva para el progreso a largo plazo. Esta comprensión ha llevado a los investigadores a replantear su enfoque para el desarrollo de IA. En este contexto, el modelo Cogito v2 de Deep Cogito introduce un nuevo enfoque que podría cambiar el futuro del desarrollo de IA. En lugar de depender de más potencia de procesamiento o razonamiento extendido, Cogito v2 desarrolla “instintos intuitivos” internos que guían al modelo para identificar los caminos correctos antes de comenzar la búsqueda. Esto es un cambio de paradigma en la forma en que se desarrolla la IA, centrándose en pensar de manera más inteligente, no durante más tiempo.

Un cambio en el desarrollo de IA

Durante muchos años, la fuerza impulsora detrás de los avances en IA fue la idea de que “más es mejor”. Este enfoque ha llevado a modelos de IA que generan cadenas de razonamiento extensas para resolver problemas complejos. Los modelos de OpenAI, como GPT-3, son un ejemplo de este enfoque, donde las cadenas de razonamiento más largas han llevado a resultados impresionantes en tareas difíciles. Si bien este método ha producido resultados impresionantes, también tiene importantes desventajas. Las cadenas de razonamiento más largas requieren más recursos computacionales, lo que resulta en tiempos de inferencia más lentos y costos operativos más altos. Además, la investigación ha demostrado que estos procesos extendidos a menudo llevan a rendimientos decrecientes, donde el razonamiento más largo conduce a un mayor sesgo y menos eficiencia. El problema fundamental es que depender de cadenas de razonamiento largas y aumentar la potencia computacional ya no es una solución efectiva para abordar problemas de IA complejos. Estos enfoques están limitados por sus enormes requisitos de tiempo de procesamiento y memoria.

Por qué el “instinto intuitivo” es importante para la IA

A diferencia de los sistemas de IA actuales que dependen del razonamiento extendido, los humanos a menudo confían en lo que se llama “instinto intuitivo” (una forma de juicio intuitivo rápido) para resolver problemas. Si bien el instinto intuitivo puede parecer un concepto abstracto, a menudo es el resultado de años de experiencia, aprendizaje y procesamiento de contexto que permite a los humanos tomar decisiones rápidas sin analizar completamente todos los detalles. Es este tipo de intuición lo que separa la computación cruda del razonamiento similar al humano. Los humanos construyen este “instinto intuitivo” a través del reconocimiento de patrones y la experiencia acumulada, lo que les permite tomar decisiones sin explorar exhaustivamente todas las opciones posibles. El nuevo “instinto intuitivo” de la IA apunta a replicar este proceso.

Esta idea, también conocida como “prior de inteligencia”, podría ser clave para dotar a los sistemas de IA de un razonamiento similar al humano y hacerlos más eficientes. Los modelos de IA con un fuerte prior de inteligencia pueden anticipar qué soluciones son probablemente exitosas sin tener que pasar por métodos de búsqueda exhaustivos. En lugar de depender de métodos de búsqueda exhaustivos, el instinto intuitivo permite a los sistemas de IA aprovechar el conocimiento previo, centrándose en los caminos más efectivos hacia una solución.

Cómo Cogito v2 incorporó el “instinto intuitivo”

Cogito ha incorporado la idea del “instinto intuitivo” (más técnicamente, prior de inteligencia) en su modelo recientemente lanzado Cogito v2. Integraron esta idea utilizando un mecanismo llamado Destilación y Amplificación Iteradas (IDA). Este mecanismo permite al modelo aprender de su propio proceso de razonamiento y refinar sus habilidades de resolución de problemas con el tiempo. En lugar de depender de prompts estáticos o maestros fijos, IDA permite al modelo destilar rutas de razonamiento exitosas de regreso a sus parámetros de modelo básicos. Este proceso de auto-mejora refina la capacidad de razonamiento del modelo con el tiempo, optimizando no solo para respuestas precisas, sino también para los métodos de pensamiento más eficientes.

  • Destilación y Amplificación Iteradas (IDA)

Para entender cómo funciona IDA, podemos mirar la teoría de los dos procesos, que divide el pensamiento humano en dos sistemas: Sistema 1 y Sistema 2. El Sistema 1 se refiere a la toma de decisiones intuitiva rápida, mientras que el Sistema 2 es más lento, con un razonamiento más deliberado. La teoría sugiere que los humanos confían en el Sistema 1 para la mayoría de las tareas, pero cambian al Sistema 2 cuando se enfrentan a decisiones más complejas.

IDA es un ciclo de dos pasos: amplificación y destilación. En la fase de amplificación, el modelo utiliza métodos computacionales intensivos para generar soluciones o trazas de razonamiento de alta calidad. Esto es similar al pensamiento del Sistema 2, donde el modelo toma el tiempo para evaluar cuidadosamente las soluciones potenciales. En la fase de destilación, el modelo internaliza las ideas del proceso de amplificación, transformando el proceso de razonamiento del Sistema 2 al Sistema 1. Al igual que un conductor se vuelve más intuitivo después de ganar experiencia, un modelo de IA con IDA puede tomar decisiones más rápidas y eficientes con el tiempo.

La idea clave detrás de IDA es utilizar razonamiento computacionalmente intensivo en la fase de amplificación, y luego destilar el razonamiento mejorado de regreso a los parámetros del modelo. Este proceso permite al modelo internalizar estrategias de razonamiento efectivas que construyen su capacidad para pensar de manera intuitiva al resolver problemas. Al repetir este ciclo, el sistema de IA mejora continuamente su capacidad para tomar decisiones con menos recursos computacionales.

Ventajas de integrar el “instinto intuitivo” en la IA

Una de las principales ventajas del instinto intuitivo de la IA es su eficiencia. Modelos como Cogito v2 demuestran cadenas de razonamiento que son hasta un 60% más cortas que las de los modelos competidores. Esto significa que pueden llegar a las respuestas con menos pasos internos, reduciendo el tiempo y los recursos necesarios para la inferencia. Por ejemplo, un problema que podría tomarle a DeepSeek R1 más de 200 tokens para resolver puede ser completado por Cogito v2 en menos de 100 tokens.

Además, el costo de entrenar a Cogito v2 es significativamente menor que el de los modelos de IA tradicionales. Todo el proceso de entrenamiento para Cogito v2, que cubre una amplia gama de parámetros, costó menos de $3.5 millones, lo que es mucho menos que los gastos asociados con modelos a gran escala como GPT-4.

Cogito v2 también ha demostrado habilidades emergentes en áreas para las que no se entrenó explícitamente. Por ejemplo, a pesar de haberse entrenado principalmente en texto, Cogito v2 puede razonar sobre imágenes, sacando conclusiones sobre la composición y los hábitats de las imágenes. Esta capacidad de razonamiento transmodal es un paso importante hacia la inteligencia generalizada, un hito importante en el camino hacia la Inteligencia Artificial General (IAG).

Reconsiderando el desarrollo de IA

El éxito del prior de inteligencia sugiere que las estrategias de desarrollo de IA necesitan un cambio fundamental. En lugar de simplemente escalar el tamaño del modelo o aumentar los recursos computacionales, el desarrollo de IA debería centrarse en construir sistemas que puedan desarrollar y refinar sus propias estrategias cognitivas. Este cambio refleja el desarrollo cognitivo humano, donde la inteligencia no es el resultado de un cerebro más grande o más tiempo de pensamiento, sino de mejores modelos mentales y estrategias de razonamiento. Este cambio en el enfoque podría tener implicaciones a largo plazo. Al enfatizar un razonamiento más inteligente en lugar de la potencia bruta computacional, la IA puede volverse más versátil, adaptable y capaz de manejar nuevos desafíos. Este cambio podría acelerar la aplicación de la IA en industrias como la atención médica, la ciberseguridad y el transporte autónomo, haciendo que los sistemas de IA sean más eficientes, rentables e impactantes.

En resumen

El éxito de Cogito v2 demuestra que el futuro de la IA no se encuentra en escalar modelos o aumentar la potencia computacional, sino en refinar las arquitecturas de razonamiento y optimizar para un resolución de problemas más inteligente. Este cambio promete un futuro más sostenible y accesible para la IA, donde los sistemas pueden mejorar y adaptarse continuamente con menos dependencia de vastos recursos computacionales. Al centrarse en el razonamiento inteligente en lugar de la computación de fuerza bruta, la IA puede volverse más capaz de abordar problemas complejos y del mundo real.

El Dr. Tehseen Zia es un profesor asociado titular en la Universidad COMSATS de Islamabad, con un doctorado en Inteligencia Artificial de la Universidad Técnica de Viena, Austria. Especializado en Inteligencia Artificial, Aprendizaje Automático, Ciencia de Datos y Visión por Computadora, ha hecho contribuciones significativas con publicaciones en revistas científicas reputadas. El Dr. Tehseen también ha liderado varios proyectos industriales como investigador principal y ha servido como consultor de Inteligencia Artificial.