Компанія Hirundo залучила $8 млн для боротьби з галюцинаціями штучного інтелекту за допомогою машинного забування

Hirundo, перша компанія, яка займається машинним забуванням, залучила $8 млн у рамках раунду сіяного фінансування для вирішення деяких з найбільш нагальних проблем у сфері штучного інтелекту: галюцинацій, упередженості та вбудованих уразливостей даних. Раунд був очолений Maverick Ventures Israel з участю SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND та Plug and Play Tech Center.

Зробити штучний інтелект забути: Обіцянка машинного забування

На відміну від традиційних інструментів штучного інтелекту, які зосереджені на вдосконаленні або фільтрації виходів штучного інтелекту, основною інновацією Hirundo є машинне забування – техніка, яка дозволяє моделям штучного інтелекту “забути” конкретні знання або поведінку після їхнього навчання. Цей підхід дозволяє підприємствам хірургічно видаляти галюцинації, упередженість, особисті або власні дані, а також уразливості від моделей штучного інтелекту, які вже розгорнуті, без повторного навчання з нуля. Повторне навчання великомасштабних моделей може зайняти тижні та мільйони доларів; Hirundo пропонує значно більш ефективну альтернативу.

Hirundo порівнює цей процес з нейрохірургією штучного інтелекту: компанія точно визначає, звідки в параметрах моделі походять нежадані виходи, і точно видаляє їх, зберігаючи при цьому продуктивність. Ця революційна техніка дозволяє організаціям усунути моделі у виробничих середовищах та розгорнути штучний інтелект з значно більшою впевненістю.

Чому галюцинації штучного інтелекту так небезпечні

Галюцинації штучного інтелекту означають схильність моделі генерувати хибну або оманливу інформацію, яка звучить правдоподібно або навіть фактично. Ці галюцинації особливо проблематичні в корпоративних середовищах, де рішення, засновані на неправильній інформації, можуть привести до юридичної відповідальності, операційних помилок та шкоди репутації. Дослідження показали, що 58-82% “фактів”, згенерованих штучним інтелектом для юридичних запитів, містять деякий тип галюцинації.

Незважаючи на зусилля з мінімалізації галюцинацій за допомогою охорони або налаштування, ці методи часто маскують проблеми, а не усунення їх. Охорона діє як фільтри, а налаштування зазвичай не видаляє кореневу причину – особливо коли галюцинація закладена глибоко у ваги моделі. Hirundo йде далі, фактично видаляючи поведінку або знання з моделі.

Масштабна платформа для будь-якої стека штучного інтелекту

Платформа Hirundo побудована для гнучкості та корпоративного розгортання. Вона інтегрується з генеративними та негенеративними системами через широкий спектр типів даних – природної мови, зору, радару, лідару, таблиць, мовлення та часових рядів. Платформа автоматично виявляє неправильно позначені елементи, аутлієри та двозначності у навчальних даних. Потім вона дозволяє користувачам відладити конкретні неправильні виходи та відстежити їх до проблемних навчальних даних або вивчених поведінок, які можна забути миттєво.

Все це досягається без зміни робочих процесів. Система Hirundo, сертифікована SOC-2, може запускатися через SaaS, приватний хмарний (VPC) або навіть повітряно-ізольований локальний сервер, що робить її придатною для чутливих середовищ, таких як фінанси, охорона здоров’я та оборона.

Демонстрований вплив на моделі

Компанія вже продемонструвала сильне покращення продуктивності у популярних великомасштабних моделях мови (LLM). У тестах з Llama та DeepSeek Hirundo досягла 55% зниження галюцинацій, 70% зниження упередженості та 85% зниження успішних атак за допомогою підказок. Ці результати були підтверджені незалежними бенчмарками, такими як HaluEval, PurpleLlama та Bias Benchmark Q&A.

Хоча поточні рішення добре працюють з відкритими моделями, такими як Llama, Mistral та Gemma, Hirundo активно розширює підтримку до закритих моделей, таких як ChatGPT та Claude. Це робить їхню технологію застосовною по всьому спектру корпоративних LLM.

Засновники з академічною та промисловою глибиною

Hirundo була заснована у 2023 році тріо експертів на перетині академії та корпоративного штучного інтелекту. Генеральний директор Бен Лурія – стипендіат Родса та колишній відвідувач Оксфордського університету, який раніше заснував фінтех-стартап Worqly та співзаснував ScholarsIL, некомерційну організацію, яка підтримує вищу освіту. Майкл Лейбович, технічний директор Hirundo, – колишній аспірант Техніону та нагороджений офіцер досліджень та розробок Ofek324. Професор ОDED Шмуелі, головний вчений компанії, – колишній декан факультету комп’ютерних наук Техніону та займав дослідницькі посади в IBM, HP, AT&T (T ) та інших.

Їхній колективний досвід охоплює фундаментальні дослідження штучного інтелекту, реальне розгортання та безпечне управління даними, що робить їх унікально кваліфікованими для вирішення поточної кризи надійності штучного інтелекту.

Інвесторська підтримка для надійної майбутнього штучного інтелекту

Інвестори цього раунду підтримують бачення Hirundo щодо створення надійного, корпоративного штучного інтелекту. Ярон Карні, засновник Maverick Ventures Israel, відзначив нагальну необхідність платформи, яка може видалити галюцинації або упередженість штучного інтелекту, перш ніж вони спричинять реальну шкоду. “Без видалення галюцинацій або упередженості штучного інтелекту ми закінчуємося спотворенням результатів та заохоченням недовіри”, – сказав він. “Hirundo пропонує певний тип тріажу штучного інтелекту – видаляє неправдиві дані або дані, побудовані на дискримінаційних джерелах, і повністю змінює можливості штучного інтелекту”.

Менеджер партнеру SuperSeed, Мадс Йенсен, підтримав цю думку: “Ми інвестуємо в виняткові компанії штучного інтелекту, які трансформують галузеві вертикалі, але ця трансформація є такою ж потужною, як і самі моделі надійності. Підхід Hirundo до машинного забування вирішує критичний розрив у життєвому циклі розробки штучного інтелекту”.

Вирішення зростаючого виклику у розгортанні штучного інтелекту

Оскільки системи штучного інтелекту все більше інтегруються у критичну інфраструктуру, питання про галюцинації, упередженість та вбудовані чутливі дані стають все важче ігнорувати. Ці питання становлять значні ризики у високих ставках середовищах, від фінансів до охорони здоров’я та оборони.

Машинне забування виникає як критичний інструмент у відповіді галузі штучного інтелекту на зростаючі побоювання щодо надійності та безпеки моделей.既然 галюцинації, вбудована упередженість та вразливість даних усе більше підірвали довіру до розгорнутих систем штучного інтелекту, машинне забування пропонує прямий спосіб пом’якшення цих ризиків – після навчання моделі та її використання.

Натомість, ніж покладатися на повторне навчання або поверхневі виправлення, такі як фільтрація, машинне забування дозволяє цільове видалення проблемної поведінки та даних з моделей, які вже розгорнуті. Цей підхід набуває популярності серед підприємств та урядових агентств, які шукають масштабовані, відповідні рішення для високих ставок застосунків.