TrueFoundry придбала Seldon AI, щоб об’єднати корпоративний MLOps та Agentic AI

Компанія з інфраструктури корпоративного штучного інтелекту TrueFoundry оголосила про придбання Seldon AI, об’єднавши дві платформи, засновані на Kubernetes, з спільною метою спрощення розгортання штучного інтелекту у великому масштабі. Ця угода призначена для надання клієнтам Seldon низькоризикового шляху міграції до Agentic AI, що дозволить організаціям поєднувати традиційні моделі машинного навчання, великі мовні моделі (LLM) та автономні агенти штучного інтелекту без перебудови інфраструктури, яку вони вже використовують.

Цей крок відображає більш широкий зсув у сфері корпоративного штучного інтелекту. Хоча багато організацій успішно розгорнули передбачувальні моделі машинного навчання за останні десять років, вони тепер стикаються з викликом інтеграції агентів штучного інтелекту та систем генерації штучного інтелекту у виробництво. Натомість ніж підтримувати окремі технологічні стеки для традиційних ML та агентських робочих процесів, TrueFoundry спрямована на консолідацію обох під єдиним контролем.

Об’єднання двох доповнювальних корпоративних платформ штучного інтелекту

Заснована у 2021 році, TrueFoundry зосередилася на допомозі підприємствам у створенні, розгортанні, управлінні та спостереженні за застосуваннями штучного інтелекту в хмарі, гібридних та локальних середовищах. Її платформа центрується навколо AI Gateway, який керує маршрутизацією, управлінням, безпекою, спостереженням, управлінням запитами та дотриманням політики для моделей та агентів штучного інтелекту, що працюють у всій організації.

Компанія також пропонує інструменти розгортання для розміщення моделей基础, налаштування моделей, розгортання агентів штучного інтелекту, побудованих з використанням фреймворків, таких як LangGraph і CrewAI, та управління серверами Model Context Protocol (MCP). Оскільки платформа заснована на Kubernetes, підприємства можуть розгортати робочі навантаження без блокування в одному постачальнику хмарних послуг, зберігаючи при цьому суворі вимоги до відповідності шляхом функцій, таких як рольовий контроль доступу, реєстрація аудиту та підтримка стандартів, включаючи SOC 2, HIPAA та GDPR.

Seldon приносить доповнювальний набір можливостей. Заснована у 2014 році, британська компанія стала однією з піонерів відкритого MLOps через Seldon Core, широко прийняту платформу для підтримки моделей машинного навчання у виробництві. Seldon спеціалізується на реальному інференсі, тестуванні А/В, розгортанні канареєк, моніторингу моделей та великомасштабних розгортаннях на основі Kubernetes у високорегульованих галузях, включаючи банківську справу, охорону здоров’я, телекомунікації, страхування, ігри та роздрібну торгівлю.

Оскільки обидві компанії побудували свої платформи навколо Kubernetes та хмарно-агностичного розгортання, інтеграція їхніх технологій повинна вимагати мінімального порушення для існуючих корпоративних клієнтів.

Місткування традиційного машинного навчання та Agentic AI

Одним із найбільших оперативних викликів, з якими сьогодні стикаються корпоративні команди штучного інтелекту, є те, що передбачувальне машинне навчання та генерація штучного інтелекту часто працюють на окремих інфраструктурних стеках.

Традиційні платформи ML зазвичай зосереджені на розгортанні систем рекомендацій, систем виявлення шахрайства, моделей прогнозування та робочих навантажень класифікації. Agentic AI вводить додаткові шари, що включають маршрутизацію запитів, оркестрацію інструментів, ланцюги висновків, пам’ять, управління та автономне прийняття рішень.

Виконання цих середовищ окремо збільшує оперативну складність, створюючи дублікатні політики управління, фрагментований нагляд та несумісні засоби безпеки.

TrueFoundry вважає, що об’єднана платформа може усунути багато цих проблем, забезпечуючи уніфіковане середовище, здатне керувати кожним етапом розгортання корпоративного штучного інтелекту – від класичного висновку ML до автономних агентів штучного інтелекту.

Як пояснив Нікундь Баджай, співзасновник та генеральний директор TrueFoundry:

“Корпоративні команди штучного інтелекту працюють з традиційними ML та агентськими робочими процесами поряд та керують ними як двома окремими інфраструктурними проблемами. Seldon побудувала виробничу платформу MLOps, на яку спираються найбільш вимогливі підприємства світу. TrueFoundry приносить контрольний план для світу Agentic AI, і разом ми даємо корпоративним командам одне місце для розгортання, спостереження та управління Agentic AI на кожному етапі.”

Чому Kubernetes має значення

Придбання також підкреслює зростаючу роль Kubernetes як стандартного оперативного шару для корпоративного штучного інтелекту.

Багато великих організацій вже інвестували роки у будівництво інфраструктури Kubernetes для підтримки контейнеризованих застосунків, внутрішніх платформ розробників та сервісів машинного навчання. Заміна цих середовищ для розміщення агентів штучного інтелекту представляла б значительну вартість та оперативний ризик.

Натомість TrueFoundry та Seldon позиціонують свою об’єднану платформу як розширення існуючих розгортань Kubernetes, а не заміну.

Це дозволяє підприємствам продовжувати виконання традиційного висновку ML, поступово вводячи LLM, системи пошуку, агенти штучного інтелекту та служби Model Context Protocol, використовуючи знайомі інфраструктуру та оперативні практики. Хмарно-агностична архітектура також дозволяє розгортання у публічних хмарах, приватних хмарах, віртуальних приватних хмарах, гібридній інфраструктурі чи повністю ізольованих системах, де суверенітет даних критичний.

Що означає придбання

Придбання не означає кінець традиційного MLOps, а відображає, як інфраструктура корпоративного штучного інтелекту еволюціонує.

Моделі машинного навчання залишаються важливими для безлічі робочих навантажень у виробництві, тоді як генерація штучного інтелекту та автономні агенти стають додатковим шаром корпоративного програмного забезпечення, а не заміною. Організації все частіше потребують інфраструктури, здатної керувати обома технологіями одночасно під постійним управлінням, безпекою та оперативним контролем.

Об’єднавши встановлену виробничу платформу висновку Seldon з можливостями AI Gateway та управління агентами TrueFoundry, об’єднана платформа спрямована на надання підприємствам уніфікованого фундаменту для розгортання, моніторингу та управління передбачувальними моделями, моделями基础 та агентами штучного інтелекту, використовуючи середовища Kubernetes, яким вони вже довіряють.