Hirundo recauda $8M para abordar las alucinaciones de la IA con el desaprendizaje de máquinas

Hirundo, la primera startup dedicada al desaprendizaje de máquinas, ha recaudado $8 millones en financiación de semilla para abordar algunos de los desafíos más apremiantes en la inteligencia artificial: las alucinaciones, los sesgos y las vulnerabilidades de datos integrados. La ronda fue liderada por Maverick Ventures Israel con la participación de SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND y Plug and Play Tech Center.

Hacer que la IA olvide: La promesa del desaprendizaje de máquinas

A diferencia de las herramientas de IA tradicionales que se centran en refinar o filtrar las salidas de la IA, la innovación principal de Hirundo es el desaprendizaje de máquinas, una técnica que permite a los modelos de IA “olvidar” conocimientos o comportamientos específicos después de que ya han sido entrenados. Este enfoque permite a las empresas eliminar quirúrgicamente las alucinaciones, los sesgos, los datos personales o confidenciales y las vulnerabilidades adversas de los modelos de IA desplegados sin volver a entrenarlos desde cero. Volver a entrenar modelos a gran escala puede llevar semanas y millones de dólares; Hirundo ofrece una alternativa mucho más eficiente.

Hirundo compara este proceso con la neurocirugía de IA: la empresa identifica exactamente dónde en los parámetros de un modelo se originan las salidas no deseadas y las elimina con precisión, todo mientras mantiene el rendimiento. Esta técnica innovadora permite a las organizaciones remediar los modelos en entornos de producción y desplegar la IA con mucha más confianza.

Por qué las alucinaciones de la IA son tan peligrosas

Las alucinaciones de la IA se refieren a la tendencia de un modelo a generar información falsa o engañosa que suena plausible o incluso factual. Estas alucinaciones son especialmente problemáticas en entornos empresariales, donde las decisiones basadas en información incorrecta pueden llevar a exposición legal, errores operativos y daño a la reputación. Los estudios han demostrado que 58 a 82% de “hechos” generados por la IA para consultas legales contenían algún tipo de alucinación.

A pesar de los esfuerzos para minimizar las alucinaciones utilizando guardias o afinando, estos métodos a menudo ocultan los problemas en lugar de eliminarlos. Las guardias actúan como filtros, y la afinación generalmente no elimina la causa raíz, especialmente cuando la alucinación está profundamente integrada en los pesos aprendidos del modelo. Hirundo va más allá de esto al eliminar realmente el comportamiento o el conocimiento del modelo en sí.

Una plataforma escalable para cualquier pila de IA

La plataforma de Hirundo está diseñada para ser flexible y desplegada a nivel empresarial. Se integra con sistemas generativos y no generativos en una amplia gama de tipos de datos: lenguaje natural, visión, radar, LiDAR, tabular, habla y series temporales. La plataforma detecta automáticamente los elementos mal etiquetados, los valores atípicos y las ambigüedades en los datos de entrenamiento. Luego permite a los usuarios depurar salidas específicas defectuosas y rastrearlas hasta los datos de entrenamiento problemáticos o los comportamientos aprendidos, que se pueden desaprender instantáneamente.

Todo esto se logra sin cambiar los flujos de trabajo. El sistema de Hirundo, certificado por SOC-2, se puede ejecutar a través de SaaS, nube privada (VPC) o incluso en un entorno aislado en las instalaciones, lo que lo hace adecuado para entornos sensibles como las finanzas, la atención médica y la defensa.

Impacto demostrado en varios modelos

La empresa ya ha demostrado mejoras significativas en el rendimiento en modelos de lenguaje grande (LLM). En pruebas que utilizan Llama y DeepSeek, Hirundo logró una reducción del 55% en las alucinaciones, una disminución del 70% en los sesgos y una reducción del 85% en los ataques de inyección de prompts exitosos. Estos resultados han sido verificados utilizando benchmarks independientes como HaluEval, PurpleLlama y Bias Benchmark Q&A.

Mientras que las soluciones actuales funcionan bien con modelos de código abierto como Llama, Mistral y Gemma, Hirundo está expandiendo activamente el soporte a modelos cerrados como ChatGPT y Claude. Esto hace que su tecnología sea aplicable en todo el espectro de LLM empresariales.

Fundadores con profundidad académica e industrial

Hirundo fue fundada en 2023 por un trío de expertos en la intersección de la academia y la IA empresarial. El CEO Ben Luria es un becario Rhodes y ex becario visitante en Oxford, quien anteriormente fundó la startup de fintech Worqly y cofundó ScholarsIL, una organización sin fines de lucro que apoya la educación superior. Michael Leybovich, el CTO de Hirundo, es un ex investigador de posgrado en el Technion y un oficial de I&D galardonado en Ofek324. Prof. Oded Shmueli, el científico jefe de la empresa, es el ex decano de Ciencias de la Computación en el Technion y ha ocupado cargos de investigación en IBM, HP, AT&T y más.

Su experiencia colectiva abarca investigación de IA fundamental, despliegue en el mundo real y gestión de datos seguros, lo que los hace únicamente calificados para abordar la crisis actual de confiabilidad en la industria de la IA.

Apoio de inversores para un futuro de IA confiable

Los inversores en esta ronda están alineados con la visión de Hirundo de construir una IA confiable y lista para empresas. Yaron Carni, fundador de Maverick Ventures Israel, destacó la necesidad urgente de una plataforma que pueda eliminar la inteligencia alucinada o sesgada antes de que cause daño en el mundo real. “Sin eliminar las alucinaciones o la inteligencia sesgada de la IA, terminamos distorsionando los resultados y fomentando la desconfianza”, dijo. “Hirundo ofrece una especie de triaje de IA, eliminando mentiras o datos construidos a partir de fuentes discriminatorias y transformando completamente las posibilidades de la IA”.

El socio gerente de SuperSeed, Mads Jensen, compartió este sentimiento: “Invertimos en empresas de IA excepcionales que transforman verticales de la industria, pero esta transformación es tan poderosa como los modelos en sí son confiables. El enfoque de Hirundo en el desaprendizaje de máquinas aborda una brecha crítica en el ciclo de vida del desarrollo de la IA”.

Abordar un desafío creciente en la implementación de la IA

A medida que los sistemas de IA se integran cada vez más en la infraestructura crítica, las preocupaciones sobre alucinaciones, sesgos y datos sensibles integrados se vuelven más difíciles de ignorar. Estos problemas plantean riesgos significativos en entornos de alto riesgo, desde las finanzas hasta la atención médica y la defensa.

El desaprendizaje de máquinas está surgiendo como una herramienta crítica en la respuesta de la industria de la IA a las crecientes preocupaciones sobre la confiabilidad y la seguridad del modelo. A medida que las alucinaciones, los sesgos integrados y la exposición de datos sensibles socavan cada vez más la confianza en los sistemas de IA desplegados, el desaprendizaje ofrece una forma directa de mitigar estos riesgos, después de que un modelo esté entrenado y en uso.

En lugar de confiar en la retratificación o en soluciones de superficie como el filtrado, el desaprendizaje de máquinas permite la eliminación dirigida de comportamientos y datos problemáticos de los modelos ya en producción. Este enfoque está ganando tracción entre las empresas y las agencias gubernamentales que buscan soluciones escalables y cumplidoras para aplicaciones de alto riesgo.