Rob Clark, Presidente y Director de Tecnología de Seekr – Serie de Entrevistas

Rob Clark es el Presidente y Director de Tecnología (CTO) de Seekr. Rob tiene más de 20 años de experiencia en ingeniería de software, gestión de productos, operaciones y desarrollo de tecnologías de inteligencia artificial y web de vanguardia. Antes de unirse a Seekr, lideró varias soluciones de inteligencia artificial y búsqueda para algunas de las empresas de telecomunicaciones, publicación y comercio electrónico más grandes del mundo.

Seekr es una empresa de inteligencia artificial que crea modelos de lenguaje grande (LLM) confiables que identifican, califican y generan contenido confiable a escala.

Comenzando con la búsqueda en la web, la innovación continua de Seekr ha producido tecnologías patentadas que mejoran la seguridad y el valor de la web. Sus modelos, desarrollados con entrada humana experta y explicabilidad, abordan las necesidades de los clientes en evaluación de contenido, inteligencia artificial generativa y capacitación y validación de LLM confiables.

¿Puede describir la misión central de Seekr y cómo se diferencia en el competitivo panorama de la inteligencia artificial?

Fundamos Seekr en el principio simple pero importante de que todos deben tener acceso a información confiable, creíble y digna de confianza – sin importar su forma o dónde exista. No importa si eres un consumidor en línea o una empresa que utiliza esa información para tomar decisiones clave – los sistemas de inteligencia artificial responsables permiten que todos comprendamos completamente la información, ya que necesitas asegurarte de que lo que sale de la inteligencia artificial generativa es preciso y confiable.

Cuando la información es poco confiable, abarca todo el espectro, desde el sensacionalismo más benigno hasta el peor caso de comportamientos inauténticos coordinados destinados a engañar o influir en lugar de informar. El enfoque de Seekr en la inteligencia artificial es asegurarse de que el usuario tenga total transparencia en el contenido, incluida la procedencia, la línea de tiempo y la objetividad, y la capacidad de construir y aprovechar la inteligencia artificial que es transparente, confiable, tiene explicabilidad y cuenta con todas las salvaguardas para que los consumidores y las empresas puedan confiar en ella.

Además de proporcionar modelos de lenguaje grande (LLM) optimizados para la industria, Seekr ha comenzado a construir modelos de base diferenciados por una mayor transparencia y precisión, con errores y sesgos reducidos, incluidas todas las herramientas de validación. Esto es posible gracias a la colaboración de Seekr con Intel para utilizar sus aceleradores de inteligencia artificial Gaudi de última generación al mejor precio-rendimiento posible. No elegimos depender de modelos de base externos donde los datos de capacitación eran desconocidos y mostraban errores y sesgos inherentes, especialmente ya que a menudo se entrenan en datos populares en lugar de los más creíbles y confiables. Esperamos lanzar estos hacia finales de año.

Nuestro producto principal es SeekrFlow, una plataforma completa de extremo a extremo que capacita, valida, despliega y escala la inteligencia artificial confiable. Permite a las empresas aprovechar sus datos de manera segura, desarrollar rápidamente la inteligencia artificial en la que pueden confiar, optimizada para su industria.

¿Cuáles son las características críticas de SeekrFlow, y cómo simplifica el proceso de desarrollo y despliegue de la inteligencia artificial para las empresas?

SeekrFlow adopta un enfoque de arriba hacia abajo, centrado en el resultado, que permite a las empresas resolver problemas utilizando la inteligencia artificial con eficiencias operativas y nuevas oportunidades de ingresos a través de una plataforma cohesiva. Esta integración incluye acceso seguro a los datos, preparación de datos automatizada, afinación de modelos, inferencia, salvaguardas, herramientas de validación y escalabilidad, eliminando la necesidad de múltiples herramientas dispares y reduciendo la complejidad del talento técnico interno que gestiona varios aspectos del desarrollo de la inteligencia artificial por separado.

Para las empresas, la personalización es clave, ya que un enfoque de “un modelo para todos” no resuelve problemas de negocio únicos. SeekrFlow permite a los clientes aprovechar sus datos empresariales de manera segura y rentable, y alinearlos con las necesidades específicas de su industria. Esto es especialmente importante en industrias reguladas como las finanzas, la atención médica y el gobierno.

El enfoque de capacitación asistida por inteligencia artificial de Seekr reduce significativamente el costo, el tiempo y la necesidad de supervisión humana asociada con la etiquetado y adquisición de datos, mediante la síntesis de datos de alta calidad y específicos del dominio utilizando principios específicos del dominio, como documentos de políticas, directrices o datos empresariales proporcionados por el usuario.

El compromiso de Seekr con la confiabilidad y la explicabilidad está arraigado en todo SeekrFlow. Ninguna empresa quiere desplegar un modelo en producción y descubrir que está “alucinando”, dando información incorrecta o, en el peor de los casos, regalando sus productos y servicios gratuitamente. SeekrFlow incluye las herramientas necesarias para validar modelos para la confiabilidad, reducir los errores y permitir al usuario ver qué impacta la salida de un modelo, directamente hasta los datos de capacitación originales. De la misma manera que los ingenieros de software y los equipos de control de calidad pueden escanear, probar y validar su código, proporcionamos las mismas capacidades para los modelos de inteligencia artificial.

Todo esto se proporciona a un costo óptimo para las empresas. Nuestra colaboración con Intel, que se ejecuta en la nube de Intel, permite a Seekr el mejor rendimiento precio que pasamos a nuestros clientes.

¿Cómo aborda SeekrFlow problemas comunes como el costo, la complejidad, la precisión y la explicabilidad en la adopción de la inteligencia artificial?

Los altos precios y la escasez de hardware de inteligencia artificial son dos de las barreras de entrada más grandes que enfrentan las empresas. Gracias a la colaboración mencionada con Intel, SeekrFlow tiene acceso a vastas cantidades de hardware de inteligencia artificial de próxima generación que aprovechan los aceleradores de inteligencia artificial Gaudi de Intel y los procesadores Xeon optimizados para inteligencia artificial. Esto proporciona a los clientes recursos de cómputo escalables y rentables que pueden manejar cargas de trabajo de inteligencia artificial a gran escala, aprovechando tanto los aceleradores de inteligencia artificial Gaudi de Intel como los procesadores Xeon optimizados para inteligencia artificial.

Es importante destacar que SeekrFlow es agnóstico con respecto al proveedor de la nube y la plataforma, y se ejecuta en las últimas generaciones de chips de inteligencia artificial de Intel, Nvidia y más allá. Nuestro objetivo es abstraer la complejidad del hardware de inteligencia artificial y evitar el bloqueo de proveedores, mientras desbloqueamos todo el valor único de cada uno de los chips, software, herramientas y ecosistemas. Esto incluye ejecutarse tanto en la nube como en centros de datos operados localmente.

Cuando construimos SeekrFlow, claramente vimos la falta de contestabilidad que existía en otras herramientas. La contestabilidad es fundamental en Seekr, ya que queremos asegurarnos de que el usuario tenga el derecho de decir que algo no es preciso y tenga una forma sencilla de resolverlo. Con otros modelos y plataformas, a menudo es difícil o desconocido cómo corregir errores. Las soluciones puntuales después del hecho a menudo son ineficaces, por ejemplo, manipular la entrada de la promoción no garantiza que la respuesta se corrija cada vez o en cada escenario. Proporcionamos al usuario todas las herramientas para la transparencia, la explicabilidad y una forma sencilla de enseñar y corregir el modelo en una interfaz de usuario limpia. Desde construir sobre modelos de base confiables en la base hasta herramientas de prueba y medición fáciles de usar, SeekrFlow garantiza resultados precisos que se pueden comprender y validar. Es esencial comprender que las salvaguardas de la inteligencia artificial no son solo algo que es agradable tener o pensar en más tarde, sino que ofrecemos a los clientes herramientas de explicabilidad y contestabilidad fáciles de usar desde el principio de la implementación.

¿Cómo integra la plataforma la preparación de datos, la afinación, el alojamiento y la inferencia para permitir una experimentación y adaptación más rápidas de los LLM?

SeekrFlow integra el proceso de desarrollo de inteligencia artificial de extremo a extremo en una plataforma. Desde el manejo de la etiquetado y el formato de los datos con su enfoque de generación asistida por inteligencia artificial, hasta la afinación de un modelo base, y todo el camino hasta la inferencia y el monitoreo del modelo afinado. Además, las herramientas de explicabilidad de SeekrFlow permiten a los modeladores de inteligencia artificial descubrir brechas en el conocimiento del modelo, comprender por qué ocurren errores y alucinaciones, y actuar directamente sobre ellos. Este enfoque integrado y de extremo a extremo permite iteraciones y experimentación rápidas de los modelos.

¿Qué otras tecnologías o metodologías únicas ha desarrollado Seekr para garantizar la precisión y la confiabilidad de sus modelos de inteligencia artificial?

Seekr ha desarrollado tecnología de inteligencia artificial patentada para evaluar la calidad, la confiabilidad, el sesgo, la toxicidad y la veracidad del contenido, ya sea que se trate de un texto, una señal de imagen o una señal de audio. Esta tecnología proporciona datos y conocimientos ricos que se pueden fusionar en cualquier modelo de inteligencia artificial, en forma de datos de entrenamiento, algoritmos o salvaguardas del modelo. En última instancia, la tecnología de Seekr para evaluar el contenido se puede utilizar para garantizar la seguridad, la factualidad, la utilidad, la imparcialidad y la equidad de los modelos de inteligencia artificial. Un ejemplo de esto es SeekrAlign, que ayuda a las marcas y editores a aumentar su alcance y sus ingresos con inteligencia artificial responsable que examina el contexto del contenido a través de nuestra puntuación de civismo patentada.

El enfoque de Seekr en la explicabilidad garantiza que las respuestas de los modelos de inteligencia artificial sean comprensibles y rastreables. A medida que los modelos de inteligencia artificial se involucran en decisiones con consecuencias, la necesidad de que los modeladores de inteligencia artificial comprendan y cuestionen las decisiones del modelo se vuelve cada vez más importante.

¿Cómo ayuda el agente de alineación de principios de SeekrFlow a los desarrolladores a alinear los modelos de inteligencia artificial con los valores y las regulaciones de la industria de su empresa?

El agente de alineación de principios de SeekrFlow es una característica crítica que ayuda a los desarrolladores y a las empresas a reducir el costo general de sus sistemas basados en RAG y a alinear eficientemente su inteligencia artificial con sus principios, valores y regulaciones de la industria únicos, sin necesidad de recopilar y procesar datos estructurados.

El agente de Seekr utiliza algoritmos de alineación avanzados para garantizar que el comportamiento de los LLM se ajuste a estos estándares, intenciones, reglas o valores predefinidos y únicos. Durante las fases de capacitación y inferencia, el agente de alineación de principios guía a los usuarios a través de todo el proceso de preparación y afinación de los datos, integrando continuamente la entrada de expertos y las directrices éticas. Esto garantiza que nuestros modelos de inteligencia artificial operen dentro de límites aceptables.

Al proporcionar herramientas para personalizar y hacer cumplir estos principios, SeekrFlow capacita a las empresas para mantener el control sobre sus aplicaciones de inteligencia artificial, garantizando que reflejen los valores de la empresa y se ajusten a los requisitos legales y de la industria. Esta capacidad es esencial para generar confianza con los clientes y las partes interesadas, ya que demuestra un compromiso con la inteligencia artificial responsable.

¿Puede hablar sobre la colaboración con OneValley y cómo la tecnología de Seekr impulsa la plataforma de inteligencia artificial Haystack?

OneValley es un recurso de confianza para decenas de miles de empresarios y pequeñas y medianas empresas (SMB) en todo el mundo. Un problema común que enfrentan estos líderes es encontrar el consejo, los productos y los servicios adecuados para iniciar y hacer crecer su negocio. La tecnología de inteligencia artificial específica de la industria de Seekr impulsa el producto más reciente de OneValley, Haystack AI, que ofrece a los clientes acceso a vastas bases de datos de productos disponibles, sus atributos, precios, pros y contras, y más. Haystack AI hace recomendaciones inteligentes a los usuarios y responde a preguntas, todo accesible a través de un chatbot en la aplicación.

¿Qué beneficios específicos ofrece Haystack a las startups y las SMB, y cómo mejora la inteligencia artificial de Seekr estos beneficios?

Ya sea que un usuario necesite una respuesta rápida para saber qué tarjeta de crédito empresarial ofrece las mayores recompensas en efectivo con las tarifas más bajas por usuario y la tasa de interés anual más baja, o para contrastar y comparar dos sistemas de gestión de relaciones con los clientes que están considerando como la solución adecuada, Haystack AI, impulsado por Seekr, les proporciona las respuestas correctas rápidamente.

Haystack AI responde a las preguntas de los usuarios de manera rápida y rentable. Tener que esperar y preguntar a un ser humano para que responda a estas preguntas y toda la investigación que conlleva este tipo de proceso es inmanejable para los líderes empresariales extremadamente ocupados. Los clientes quieren respuestas precisas en las que puedan confiar rápidamente, sin tener que buscar en los resultados (y enlaces patrocinados) de un motor de búsqueda en la web. Su tiempo se utiliza mejor ejecutando su negocio principal. Este es un gran ejemplo de cómo la inteligencia artificial de Seekr resuelve una necesidad empresarial real.

¿Cómo garantiza Seekr que sus soluciones de inteligencia artificial sigan siendo escalables y rentables para empresas de todos los tamaños?

La respuesta simple es asegurar la escalabilidad y el bajo costo, necesitas una colaboración estratégica para acceder a la computación a escala. Entregar soluciones de inteligencia artificial escalables, rentables y confiables requiere el matrimonio de software de inteligencia artificial de clase mundial que se ejecuta en hardware de última generación. Nuestra colaboración con Intel implica un compromiso de varios años para acceder a una cantidad cada vez mayor de hardware de inteligencia artificial, incluida la actualización a través de generaciones desde la actual Gaudi 2 hasta la Gaudi 3 a principios de 2025 y más allá, hacia las próximas innovaciones de chips. Apostamos a que la mejor disponibilidad y precio de la computación provendrían del fabricante real del silicio, del cual Intel es uno de los dos en el mundo que produce sus propios chips. Esto resuelve cualquier problema de escasez, especialmente a medida que escalamos y nos aseguramos de que los clientes tengan el mejor rendimiento precio posible.

Los clientes de Seekr que ejecutan su propio servicio alojado solo pagan por el uso real. No cobramos por las GPU en reposo. SeekrFlow tiene un modelo de precios muy competitivo en comparación con los contemporáneos en el espacio, que admite las implementaciones más pequeñas hasta las más grandes.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Seekr.