TrueFoundry przejmuje Seldon AI, aby zjednoczyć przedsiębiorcze MLOps i Agentic AI

Firma TrueFoundry, specjalizująca się w infrastrukturze przedsiębiorczego sztucznego inteligentnego oprogramowania, ogłosiła przejęcie Seldon AI, łącząc dwie platformy oparte na Kubernetes z wspólną wizją uproszczenia wdrożenia sztucznej inteligencji w skali. Przejęcie ma na celu zapewnienie klientom Seldon AI bezpiecznej ścieżki migracji w kierunku Agentic AI, umożliwiając organizacjom łączenie tradycyjnych modeli machine learning, dużych modeli językowych (LLM) i autonomicznych agentów sztucznej inteligencji bez odbudowy infrastruktury, którą już operują.

Ten krok odzwierciedla szerszą zmianę w przedsiębiorczym środowisku sztucznej inteligencji. Podczas gdy wiele organizacji z powodzeniem wdrożyło przewidywalne modele machine learning w ciągu ostatniej dekady, teraz stają przed wyzwaniem integracji agentów sztucznej inteligencji i systemów generatywnych z produkcją. Zamiast utrzymywania oddzielnych stosów technologicznych dla konwencjonalnych ML i przepływów Agentic, TrueFoundry ma na celu konsolidację obu pod jedną kontrolną płaszczyzną.

Łączenie dwóch komplementarnych platform przedsiębiorczego sztucznego inteligentnego oprogramowania

TrueFoundry, założona w 2021 roku, koncentrowała się na pomocy przedsiębiorstwom w budowaniu, wdrażaniu, zarządzaniu i obserwacji aplikacji sztucznej inteligencji w chmurze, hybrydowych i lokalnych środowiskach. Jej platforma opiera się na AI Gateway, który zarządza routingiem, zarządzaniem, bezpieczeństwem, obserwowalnością, zarządzaniem promptami i egzekwowaniem polityk dla modeli i agentów sztucznej inteligencji działających w całej organizacji.

Firma oferuje również narzędzia wdrożeniowe do hostowania modeli podstawowych, dostosowywania niestandardowych modeli, wdrażania agentów sztucznej inteligencji zbudowanych z frameworków takich jak LangGraph i CrewAI oraz zarządzania Model Context Protocol (MCP) serwerami. Ponieważ platforma jest rodzima dla Kubernetes, przedsiębiorstwa mogą wdrożyć obciążenia bez uzależnienia od jednego dostawcy chmury, jednocześnie spełniając surowe wymagania zgodności dzięki funkcjom takim jak role-based access controls, audit logging i obsługa standardów, w tym SOC 2, HIPAA i GDPR.

Seldon wnosi komplementarny zestaw możliwości. Założona w 2014 roku, brytyjska firma była jednym z pionierów open-source MLOps za pośrednictwem Seldon Core, szeroko przyjętej platformy do obsługi modeli machine learning w produkcji. Seldon specjalizował się w inferencji w czasie rzeczywistym, testach A/B, wdrożeniach kanaryjskich, monitorowaniu modeli i dużych wdrożeniach opartych na Kubernetes w wysoko regulowanych branżach, takich jak bankowość, opieka zdrowotna, telekomunikacja, ubezpieczenia, gry i handel detaliczny.

Ponieważ obie firmy zbudowały swoje platformy wokół Kubernetes i wdrożeń niezależnych od chmury, integracja ich technologii powinna wymagać minimalnych zakłóceń dla istniejących klientów przedsiębiorstw.

Pomost między tradycyjnym machine learning a Agentic AI

Jednym z największych wyzwań operacyjnych stojących przed zespołami przedsiębiorczego sztucznego inteligentnego oprogramowania jest to, że przewidywalne machine learning i generatywne sztuczne inteligencje często działają na oddzielnych stosach infrastrukturalnych.

Tradycyjne platformy ML koncentrują się zwykle na wdrożeniu silników rekomendacji, systemów wykrywania oszustw, modeli prognozowania i obciążeń klasyfikacji. Agentic AI wprowadza dodatkowe warstwy, obejmujące routing promptów, orkiestrację narzędzi, łańcuchy rozumowania, pamięć, zarządzanie i autonomiczne podejmowanie decyzji.

Uruchamianie tych środowisk oddzielnie zwiększa złożoność operacyjną, tworząc zdublowane polityki zarządzania, fragmentaryczną obserwowalność i niespójne kontrole bezpieczeństwa.

TrueFoundry uważa, że połączona platforma może wyeliminować wiele z tych problemów, zapewniając środowisko, które może zarządzać każdym etapem wdrożenia przedsiębiorczego sztucznego inteligentnego oprogramowania – od klasycznej inferencji ML po autonomiczne agenty sztucznej inteligencji.

Jak wyjaśnił Nikunj Bajaj, współzałożyciel i dyrektor generalny TrueFoundry:

“Zespoły przedsiębiorczego sztucznego inteligentnego oprogramowania uruchamiają tradycyjne ML i przepływy Agentic obok siebie i zarządzają nimi jako dwa oddzielne problemy infrastrukturalne. Seldon zbudował produkcyjną podstawę MLOps, na którą najbardziej wymagające przedsiębiorstwa się powierzają. TrueFoundry wnosi kontrolną płaszczyznę dla świata Agentic AI, a razem dajemy zespołom przedsiębiorstw jedno miejsce do wdrożenia, obserwacji i zarządzania Agentic AI na każdym etapie.”

Dlaczego Kubernetes ma znaczenie

Przejęcie podkreśla również rosnącą rolę Kubernetes jako standardowej warstwy operacyjnej dla przedsiębiorczego sztucznego inteligentnego oprogramowania.

Wiele dużych organizacji już zainwestowało lata w budowę infrastruktury Kubernetes w celu obsługi kontenerowych aplikacji, wewnętrznych platform deweloperskich i usług machine learning. Zamiana tych środowisk, aby uwzględnić agenty sztucznej inteligencji, stanowiłaby znaczne koszty i ryzyko operacyjne.

Zamiast tego TrueFoundry i Seldon prezentują swoją połączoną platformę jako rozszerzenie istniejących wdrożeń Kubernetes, a nie ich zastąpienie.

To pozwala przedsiębiorstwom na kontynuowanie uruchamiania konwencjonalnej inferencji ML, stopniowo wprowadzając LLM, systemy pobierania, agenty sztucznej inteligencji i usługi Model Context Protocol, wykorzystując znajome infrastrukturę i praktyki operacyjne. Architektura niezależna od chmury umożliwia również wdrożenie w publicznych chmurach, prywatnych chmurach, wirtualnych środowiskach chmury prywatnej, hybrydowej infrastrukturze lub w pełni odizolowanych systemach, w których suwerenność danych jest kluczowa.

Co oznacza przejęcie

Przejęcie nie sygnalizuje końca tradycyjnych MLOps, lecz odzwierciedla, jak ewoluuje infrastruktura przedsiębiorczego sztucznego inteligentnego oprogramowania.

Modele machine learning pozostają niezbędne dla niezliczonych obciążeń produkcyjnych, podczas gdy generatywne sztuczne inteligencje i autonomiczne agenty stają się dodatkową warstwą oprogramowania przedsiębiorstw, a nie ich zastąpieniem. Organizacje coraz częściej potrzebują infrastruktury, która może zarządzać obiema technologiami jednocześnie pod spójnymi kontrolami zarządzania, bezpieczeństwa i operacji.

Łącząc ustaloną produkcyjną platformę inferencyjną Seldon z możliwościami bramki AI i zarządzania agentami TrueFoundry, połączona platforma ma na celu zapewnienie przedsiębiorstwom zjednoczonej podstawy do wdrożenia, monitorowania i zarządzania przewidywalnymi modelami, modelami podstawowymi i agentami sztucznej inteligencji, wykorzystując środowiska Kubernetes, którym już ufają.