El Caso para la Descentralización de tu Pila de Tecnología de Inteligencia Artificial

Tanta parte de la conversación sobre el desarrollo de la inteligencia artificial se ha vuelto dominada por un debate filosófico y futurista – ¿deberíamos abordar la inteligencia artificial general, donde la inteligencia artificial se volverá lo suficientemente avanzada como para realizar cualquier tarea de la manera que un humano podría? ¿Es eso incluso posible?

Mientras que la discusión de aceleración versus desaceleración es importante y oportuna con avances como el modelo Q-star, otros aspectos también importan. Principalmente, la importancia de descentralizar tu pila de tecnología, y cómo hacerlo sin que sea una carga de costo excesiva. Estos dos desafíos pueden sentirse en conflicto: construir y desplegar modelos es increíblemente costoso, pero confiar demasiado en un solo modelo puede ser perjudicial a largo plazo. Conozco este desafío personalmente como fundador de inteligencia artificial.

Para construir inteligencia, necesitas talento, datos y cómputo escalable. Para acelerar el tiempo de comercialización y hacer más con menos, muchas empresas elegirán construir sobre modelos existentes, en lugar de construir desde cero. Y el enfoque tiene sentido cuando lo que estás construyendo es tan intensivo en recursos. Este desafío se complica por el hecho de que, a diferencia del software, la mayoría de las ganancias obtenidas hasta ahora en la inteligencia artificial se han logrado mediante la adición de más escala, lo que requiere más potencia de cómputo y, por lo tanto, costo.

Pero, ¿qué sucede cuando la empresa en la que has construido tu solución experimenta un fracaso de gobernanza o una interrupción del producto? Desde un punto de vista práctico, confiar en un solo modelo para construir tu producto significa que ahora eres parte de un efecto de onda negativa para cualquier cosa que suceda.

También debemos recordar los riesgos de trabajar con sistemas que son probabilísticos. No estamos acostumbrados a esto y el mundo en el que vivimos hasta ahora ha sido diseñado para funcionar con una respuesta definitiva. Los modelos son fluidos en términos de salida, y las empresas constantemente ajustan los modelos, lo que significa que el código que has escrito para respaldarlos y los resultados en los que tus clientes confían pueden cambiar sin tu conocimiento o control.

La centralización también crea preocupaciones de seguridad porque introduce un solo punto de falla. Cada empresa trabaja en el mejor interés de sí misma. Si hay una preocupación de seguridad o riesgo con un modelo, tienes mucho menos control sobre la solución de ese problema o menos acceso a alternativas.

¿Dónde nos deja eso?

La inteligencia artificial indiscutiblemente mejorará la forma en que vivimos. Hay mucho que puede lograr y solucionar, desde la forma en que recopilamos información hasta la forma en que entendemos grandes cantidades de datos. Pero con esa oportunidad también viene el riesgo. Si confiamos demasiado en un solo modelo, todas las empresas se abren a desafíos de seguridad y de producto.

Para solucionar esto, necesitamos reducir los costos de inferencia y hacer que sea más fácil para las empresas tener un enfoque de múltiples modelos. Y, por supuesto, todo se reduce a los datos. La propiedad y la calidad de los datos importan. Cuanto más únicos, de alta calidad y disponibles sean los datos, más útiles serán.

Para muchos problemas, puedes optimizar modelos para una aplicación específica. La última milla de la inteligencia artificial es que las empresas construyen lógica de enrutamiento, evaluaciones y capas de orquestación sobre estos diferentes modelos, especializándolos para diferentes verticales.

Ha habido múltiples inversiones sustanciales en este espacio que nos acercan a este objetivo. La reciente ronda de financiación de Mistal es un desarrollo prometedor hacia una alternativa a OpenAI. También hay empresas que ayudan a otros proveedores de inteligencia artificial a hacer que el multiplexado entre modelos sea una realidad y a reducir los costos de inferencia a través de hardware, software y destilación de modelos especializados, como algunos ejemplos.

También veremos cómo el código abierto despega, y los organismos gubernamentales deben permitir que el código abierto permanezca abierto. Con modelos de código abierto, es más fácil tener más control. Sin embargo, las brechas de rendimiento todavía existen.

Supongo que terminaremos en un mundo donde tendrás modelos junior optimizados para realizar tareas menos complejas a gran escala, mientras que los modelos superinteligentes más grandes actuarán como oráculos para actualizaciones y cada vez más dedicarán cómputo a resolver problemas más complejos. No necesitarás un modelo de un billón de parámetros para responder a una solicitud de servicio al cliente. Me recuerda a no tener a un ejecutivo senior gestionando una tarea que un intern puede manejar. Al igual que tenemos múltiples roles para contrapartes humanas, la mayoría de las empresas también confiarán en una colección de modelos con diferentes niveles de sofisticación.

Para lograr este equilibrio, necesitas una descomposición clara de tareas y benchmarking, considerando el tiempo, la complejidad computacional, el costo y la escala requerida. Dependiendo del caso de uso, puedes priorizar en consecuencia. Determina una verdad fundamental, un resultado ideal para la comparación, y un ejemplo de datos de entrada y salida, para que puedas ejecutar varias solicitudes para optimizar y obtener el resultado más cercano a la verdad fundamental.

Si las empresas de inteligencia artificial pueden descentralizar con éxito su pila de tecnología y construir sobre múltiples modelos, podemos mejorar la seguridad y la confiabilidad de estas herramientas y, por lo tanto, maximizar el impacto positivo de la inteligencia artificial. Ya no estamos en un lugar para debates teóricos – es hora de centrarnos en cómo poner la inteligencia artificial a trabajar para hacer que estas tecnologías sean más efectivas y resilientes.