Hirundo привлекла $8 млн для решения проблемы зомбирования ИИ с помощью машинного забывания

Hirundo, первый стартап, посвященный машинному забыванию, привлек $8 млн в рамках раунда seed-финансирования для решения некоторых из наиболее насущных проблем в области искусственного интеллекта: зомбирования, предвзятости и уязвимостей, связанных с встроенными данными. Раунд был возглавлен компанией Maverick Ventures Israel с участием SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND и Plug and Play Tech Center.

Сделать ИИ забыть: Обещание машинного забывания

В отличие от традиционных инструментов ИИ, которые фокусируются на совершенствовании или фильтрации выходных данных ИИ, основной инновацией Hirundo является машинное забывание – техника, позволяющая моделям ИИ “забыть” конкретные знания или поведение после их обучения. Этот подход позволяет предприятиям хирургически удалять зомбирование, предвзятость, личные или конфиденциальные данные, а также уязвимости из уже развернутых моделей ИИ без необходимости заново обучать их. Переобучение крупномасштабных моделей может занять недели и миллионы долларов; Hirundo предлагает гораздо более эффективную альтернативу.

Hirundo сравнивает этот процесс с нейрохирургией ИИ: компания определяет точное место в параметрах модели, откуда происходят нежелательные выходные данные, и точно удаляет их, сохраняя при этом производительность. Эта революционная техника позволяет организациям исправлять модели в производственной среде и развертывать ИИ с гораздо большей уверенностью.

Почему зомбирование ИИ так опасно

Зомбирование ИИ относится к тенденции модели генерировать ложную или вводящую в заблуждение информацию, которая звучит правдоподобно или даже фактически. Эти зомбирования особенно проблематичны в корпоративной среде, где решения, основанные на неверной информации, могут привести к юридической ответственности, операционным ошибкам и ущербу репутации. Исследования показали, что 58 до 82% “фактов”, сгенерированных ИИ для юридических запросов, содержали какой-то тип зомбирования.

Несмотря на усилия по минимизации зомбирования с помощью ограничений или тонкой настройки, эти методы часто маскируют проблемы, а не устраняют их. Ограничения действуют как фильтры, а тонкая настройка обычно не удаляет коренную причину – особенно когда зомбирование глубоко внедрено в веса, выученные моделью. Hirundo идет дальше, фактически удаляя поведение или знания из модели.

Масштабируемая платформа для любого стека ИИ

Платформа Hirundo построена для гибкости и корпоративного развертывания. Она интегрируется с генеративными и негенеративными системами в широком диапазоне типов данных – естественный язык, зрение, радар, лидар, табличные, речь и временные ряды. Платформа автоматически обнаруживает неправильно помеченные элементы, выбросы и неоднозначности в обучающих данных. Затем она позволяет пользователям отладить конкретные ошибочные выходные данные и отслеживать их до проблемных обучающих данных или выученных поведений, которые можно мгновенно “забыть”.

Все это достигается без изменения рабочих процессов. Система Hirundo, сертифицированная SOC-2, может работать через SaaS, частное облако (VPC) или даже воздушный зазор на месте, что делает ее подходящей для чувствительных сред, таких как финансы, здравоохранение и оборона.

Демонстрированный эффект на модели

Компания уже продемонстрировала значительное улучшение производительности в популярных крупномасштабных языковых моделях (LLM). В тестах с Llama и DeepSeek Hirundo достигла 55% сокращения зомбирования, 70% уменьшения предвзятости и 85% сокращения успешных атак по внедрению запросов. Эти результаты были подтверждены с помощью независимых бенчмарков, таких как HaluEval, PurpleLlama и Bias Benchmark Q&A.

Хотя текущие решения работают хорошо с открытыми моделями, такими как Llama, Mistral и Gemma, Hirundo активно расширяет поддержку до защищенных моделей, таких как ChatGPT и Claude. Это делает их технологию применимой во всей области корпоративных LLM.

Основатели с академической и промышленной глубиной

Hirundo была основана в 2023 году трио экспертов на пересечении академии и корпоративного ИИ. Генеральный директор Бен Лuria – стипендиат Родса и бывший приглашенный исследователь в Оксфорде, который ранее основал финтех-стартап Worqly и стал сооснователем ScholarsIL, некоммерческой организации, поддерживающей высшее образование. Михаил Лейбович, технический директор Hirundo, – бывший аспирант в Технионе и награжденный исследователь и разработчик в Ofek324. Профессор ОDED Шмуэли, главный ученый компании, – бывший декан факультета компьютерных наук в Технионе и занимал исследовательские должности в IBM, HP, AT&T (T ) и других.

Их коллективный опыт охватывает фундаментальные исследования ИИ, реальное развертывание и безопасное управление данными, что делает их уникально квалифицированными для решения текущего кризиса надежности в отрасли ИИ.

Инвесторская поддержка для достоверного будущего ИИ

Инвесторы этого раунда согласны с видением Hirundo о построении достоверного, корпоративного ИИ. Ярон Карни, основатель Maverick Ventures Israel, отметил срочную необходимость платформы, которая может удалить зомбированную или предвзятую информацию из ИИ до того, как она нанесет реальный ущерб. “Без удаления зомбирования или предвзятой информации из ИИ мы получаем искаженные результаты и поощряем недоверие”, – сказал он. “Hirundo предлагает своего рода триаж ИИ – удаление неправды или данных, построенных на дискриминационных источниках, и полную трансформацию возможностей ИИ.”

Менеджинг-партнер SuperSeed, Мадс Йенсен, подтвердил это мнение: “Мы инвестируем в исключительные компании ИИ, которые трансформируют отраслевые вертикали, но эта трансформация возможна только тогда, когда модели сами по себе достоверны. Подход Hirundo к машинному забыванию решает критический пробел в жизненном цикле разработки ИИ.”

Решение растущей проблемы в развертывании ИИ

По мере того, как системы ИИ все больше интегрируются в критическую инфраструктуру, проблемы зомбирования, предвзятости и встроенных чувствительных данных становятся все труднее игнорировать. Эти проблемы представляют значительные риски в средах с высокими ставками, от финансов до здравоохранения и обороны.

Машинное забывание становится все более важным инструментом в ответе отрасли ИИ на растущие проблемы надежности и безопасности моделей. По мере того, как зомбирование, предвзятость и раскрытие чувствительных данных все больше подрывают доверие к развернутым системам ИИ, забывание предлагает прямой способ смягчить эти риски – после того, как модель была обучена и используется.

Вместо того, чтобы полагаться на переобучение или поверхностные исправления, такие как фильтрация, машинное забывание позволяет удалять проблемное поведение и данные из моделей, уже находящихся в производстве. Этот подход набирает популярность среди предприятий и государственных агентств, ищущих масштабируемые, соответствующие решения для приложений с высокими ставками.