Nuevas Fronteras en Inteligencia Artificial Generativa — Lejos de la Nube

Al principio, existía internet, que cambió nuestras vidas para siempre — la forma en que nos comunicamos, compramos, realizamos negocios. Y luego, por razones de latencia, privacidad y eficiencia de costos, internet se trasladó al borde de la red, dando lugar a la “internet de las cosas”.

Ahora existe la inteligencia artificial, que hace que todo lo que hacemos en internet sea más fácil, personalizado e inteligente. Sin embargo, para utilizarla, se necesitan servidores grandes y una gran capacidad de procesamiento, por lo que está confinada a la nube. Pero las mismas motivaciones — latencia, privacidad, eficiencia de costos — han llevado a empresas como Hailo a desarrollar tecnologías que permiten la inteligencia artificial en el borde.

Sin duda, la próxima gran cosa es la inteligencia artificial generativa. La inteligencia artificial generativa presenta un enorme potencial en various industrias. Puede ser utilizada para simplificar el trabajo y aumentar la eficiencia de varios creadores — abogados, escritores de contenido, diseñadores gráficos, músicos y más. Puede ayudar a descubrir nuevos medicamentos terapéuticos o ayudar en procedimientos médicos. La inteligencia artificial generativa puede mejorar la automatización industrial, desarrollar nuevo código de software y mejorar la seguridad del transporte a través de la síntesis automática de video, audio, imágenes y más.

Sin embargo, la inteligencia artificial generativa tal como existe hoy en día está limitada por la tecnología que la permite. Eso se debe a que la inteligencia artificial generativa sucede en la nube — grandes centros de datos de procesadores de computadora costosos y consumidores de energía que están lejos de los usuarios reales. Cuando alguien emite una solicitud a una herramienta de inteligencia artificial generativa como ChatGPT o una nueva solución de videoconferencia basada en inteligencia artificial, la solicitud se transmite a través de internet a la nube, donde se procesa en servidores antes de que los resultados se devuelvan a través de la red.

A medida que las empresas desarrollan nuevas aplicaciones para la inteligencia artificial generativa y las despliegan en diferentes tipos de dispositivos — cámaras de video y sistemas de seguridad, robots industriales y personales, laptops e incluso coches — la nube es un cuello de botella en términos de ancho de banda, costo y conectividad.

Y para aplicaciones como asistencia al conductor, software de computadora personal, videoconferencia y seguridad, mover constantemente datos sobre una red puede ser un riesgo para la privacidad.

La solución es permitir que estos dispositivos procesen la inteligencia artificial generativa en el borde. De hecho, la inteligencia artificial generativa basada en el borde puede beneficiar a muchas aplicaciones emergentes.

Inteligencia Artificial Generativa en Auge

Considera que en junio, Mercedes-Benz dijo que introduciría ChatGPT en sus coches. En un coche con ChatGPT mejorado, por ejemplo, un conductor podría pedirle al coche — sin usar las manos — una receta de cena basada en ingredientes que ya tiene en casa. Es decir, si el coche está conectado a internet. En un garaje o ubicación remota, todas las apuestas están fuera.

En los últimos couple de años, la videoconferencia se ha vuelto algo natural para la mayoría de nosotros. Ya, las empresas de software están integrando formas de inteligencia artificial en soluciones de videoconferencia. Tal vez sea para optimizar la calidad de audio y video en tiempo real, o para “colocar” a las personas en el mismo espacio virtual. Ahora, las videoconferencias con inteligencia artificial generativa pueden crear automáticamente actas de reuniones o incorporar información relevante de fuentes de la empresa en tiempo real a medida que se discuten diferentes temas.

Sin embargo, si un coche inteligente, un sistema de videoconferencia o cualquier otro dispositivo de borde no puede conectarse a la nube, entonces la experiencia de inteligencia artificial generativa no puede ocurrir. Pero ¿qué pasa si no tuvieran que hacerlo? Suena como una tarea abrumadora considerando el enorme procesamiento de la inteligencia artificial en la nube, pero ahora está volviéndose posible.

Inteligencia Artificial Generativa en el Borde

Ya existen herramientas de inteligencia artificial generativa, por ejemplo, que pueden crear automáticamente presentaciones de PowerPoint ricas y atractivas. Pero el usuario necesita que el sistema funcione desde cualquier lugar, incluso sin una conexión a internet.

De manera similar, ya estamos viendo una nueva clase de asistentes “copiloto” basados en inteligencia artificial generativa que cambiarán fundamentalmente la forma en que interactuamos con nuestros dispositivos de computadora al automatizar muchas tareas rutinarias, como crear informes o visualizar datos. Imagina abrir una laptop, la laptop reconociéndote a través de su cámara, y luego generando automáticamente un curso de acción para el día/semana/mes basado en tus herramientas más utilizadas, como Outlook, Teams, Slack, Trello, etc. Pero para mantener la privacidad de los datos y una buena experiencia del usuario, debes tener la opción de ejecutar la inteligencia artificial generativa de forma local.

Además de cumplir con los desafíos de las conexiones no fiables y la privacidad de los datos, la inteligencia artificial en el borde puede ayudar a reducir las demandas de ancho de banda y mejorar el rendimiento de las aplicaciones. Por ejemplo, si una aplicación de inteligencia artificial generativa está creando contenido rico en datos, como un espacio de conferencia virtual, a través de la nube, el proceso podría tener retrasos dependiendo del ancho de banda disponible (y costoso). Y ciertos tipos de aplicaciones de inteligencia artificial generativa, como la seguridad, la robótica o la atención médica, requieren respuestas de alto rendimiento y baja latencia que las conexiones a la nube no pueden manejar.

En la seguridad de video, la capacidad de reidentificar a las personas a medida que se mueven entre muchas cámaras — algunas colocadas donde las redes no pueden llegar — requiere modelos de datos y procesamiento de inteligencia artificial en las cámaras mismas. En este caso, la inteligencia artificial generativa se puede aplicar a descripciones automatizadas de lo que ven las cámaras a través de consultas simples como, “Encuentra al niño de 8 años con la camiseta roja y la gorra de béisbol”.

Esa es la inteligencia artificial generativa en el borde.

Desarrollos en Inteligencia Artificial en el Borde

A través de la adopción de una nueva clase de procesadores de inteligencia artificial y el desarrollo de modelos de inteligencia artificial generativa más delgados y eficientes, aunque no menos poderosos, los dispositivos de borde pueden ser diseñados para operar de manera inteligente donde la conectividad a la nube es imposible o indeseable.

Por supuesto, el procesamiento en la nube seguirá siendo un componente crítico de la inteligencia artificial generativa. Por ejemplo, el entrenamiento de modelos de inteligencia artificial seguirá siendo en la nube. Pero el acto de aplicar entradas de usuario a esos modelos, llamado inferencia, puede — y en muchos casos debe — ocurrir en el borde.

La industria ya está desarrollando modelos de inteligencia artificial más delgados, más pequeños y más eficientes que pueden ser cargados en dispositivos de borde. Empresas como Hailo fabrican procesadores de inteligencia artificial diseñados específicamente para realizar procesamiento de redes neuronales. Dichos procesadores de redes neuronales no solo manejan modelos de inteligencia artificial de manera increíblemente rápida, sino que también lo hacen con menos potencia, lo que los hace eficientes en términos de energía y aptos para una variedad de dispositivos de borde, desde teléfonos inteligentes hasta cámaras.

Procesar la inteligencia artificial generativa en el borde también puede equilibrar de manera efectiva las cargas de trabajo en crecimiento, permitir que las aplicaciones se escalen de manera más estable, aliviar a los centros de datos en la nube de procesamiento costoso y ayudarlos a reducir su huella de carbono.

La inteligencia artificial generativa está a punto de cambiar la computación nuevamente. En el futuro, el LLM en tu laptop puede autoactualizarse de la misma manera que tu sistema operativo hoy — y funcionar de manera similar. Pero para llegar allí, necesitaremos habilitar el procesamiento de inteligencia artificial generativa en el borde de la red. El resultado promete ser un mayor rendimiento, eficiencia energética y privacidad y seguridad. Todo lo cual conduce a aplicaciones de inteligencia artificial que cambian el mundo tanto como la inteligencia artificial generativa en sí misma.