Liderzy opinii

Dlaczego każda firma potrzebuje wykazu składników AI (AI BOM)

Jinsook Han Rajesh Padmakumaran
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyAI Bill of Materials jest niezbędny do zarządzania złożonymi ryzykami związanymi z…
Zobacz więcej
  • AI Bill of Materials jest niezbędny do zarządzania złożonymi ryzykami związanymi z agentycznymi systemami AI, które stają się kluczowe dla misji organizacji.
  • Kompleksowy AI BOM musi dokumentować cały ekosystem, w tym modele, zbiory danych, interfejsy API oraz warstwy zarządzania.
  • Bez AI BOM przedsiębiorstwa narażają się na konsekwencje regulacyjne i nie są w stanie śledzić ani naprawiać błędów AI na dużą skalę.

Zabezpieczanie systemów AI pozostaje jednym z najtrudniejszych wyzwań w dzisiejszej technologii przedsiębiorstw. A stawki są coraz wyższe. Gartner przewiduje, że 40% aplikacji oprogramowania przedsiębiorstw w 2026 roku będzie zawierać agentową AI, w porównaniu z mniej niż 5% obecnie. Podobnie, IDC przewiduje, że 45% interakcji z produktami i usługami IT będzie wykorzystywać agenty jako podstawowe interfejsy do 2028 roku. Wyścig do wdrożenia AI wyprzedza zrozumienie przez większość organizacji, jak te systemy naprawdę działają, a wraz z tym następuje zwiększone narażenie na ryzyka, takie jak zatrucie modelu, wyciek danych, uprzedzenia i halucynacje. Aby zamknąć tę lukę, przedsiębiorstwa potrzebują nowej warstwy przejrzystości: AI Bill of Materials (AI BOM).

Podobnie jak lista materiałów dla oprogramowania, AI BOM jest kompleksową listą tego, co wchodzi w skład każdego modelu AI lub rozwiązania w technologicznym stacku organizacji. Zapewnia ona przejrzystość w całej firmie i ułatwiają audytowanie i adaptację wraz ze zmianą warunków biznesowych. Gdy organizacje coraz bardziej polegają na AI, aby zautomatyzować procesy robocze i podejmować decyzje, AI BOM zapewnia niezbędną podstawę dla odpowiedzialnych, bezpiecznych i audytowalnych operacji AI.

AI Bill of Materials: Strategiczna konieczność dla przedsiębiorstw

Gdy AI ewoluuje od pilotażowych projektów do platform krytycznych dla działalności przedsiębiorstw, złożoność i profil ryzyka tych systemów dramatycznie wzrasta. Podczas gdy tradycyjna, bardziej ustrukturyzowana automatyzacja jest logiczna, oparta na regułach i systematyczna, automatyzacja agentowa obejmuje procesy poznawcze. Gdy agenci AI coraz częściej podejmują zadania wymagające kreatywności, podejmowania decyzji i uczenia się z doświadczenia, potencjalny zakres automatyzacji znacznie się zwiększa. W tym samym czasie, w przeciwieństwie do tradycyjnego oprogramowania, systemy AI są zbudowane z wielu wzajemnie zależnych komponentów, takich jak UI, API, bramy, modele, zestawy danych, prompty, funkcje, bazy danych wektorowych, biblioteki i przyspieszacze sprzętowe. Aby odpowiedzialnie i na dużą skalę prowadzić inicjatywy AI, jest krytyczne, aby organizacje miały klarowne zrozumienie tego, co wchodzi w skład systemów AI i jak każdy unikalny komponent zmienia się w czasie.

AI BOM zapewnia dokładnie ten poziom widoczności. Jest to ustrukturyzowany inwentarz, który ujmuje każdy komponent, zależność i interakcję w całym cyklu życia AI. Poza modelami i zestawami danych, skuteczny AI BOM obejmuje szczegóły na temat pełnego ekosystemu, który napędza aplikację AI:

  • Interfejsy użytkownika (UI) takie jak ekrany czatu, portale, pulpity i panele sterowania, gdzie ludzie wchodzą w interakcje z AI.
  • API i integracje w tym REST, GraphQL, webhuki i łączniki systemowe, które umożliwiają AI wchodzenie w interakcje z aplikacjami przedsiębiorstwa.
  • Środowiska uruchomieniowe i hostowania gdzie wdrożone jest AI (Docker, Kubernetes, AWS Bedrock, Azure OpenAI i lokalnie) oraz zasoby obliczeniowe (CPU, GPU i pamięć) są używane.
  • Ramy wykonywania i orkiestracji w tym narzędzia takie jak LangChain, Semantic Kernel, Autogen, NVIDIA NeMo i CrewAI, które zarządzają promptami, przepływami, wywoływaniem narzędzi i zachowaniem agenta.
  • Warstwy bezpieczeństwa i zarządzania takie jak role IAM, kontrola tokenów, szyfrowanie, rejestrowanie, audyt i polityki użytkowania.
  • Obserwowalność i monitorowanie w tym śledzenie kosztów, opóźnień, dryftu, wydajności, użytkowania i ryzyka w czasie.

Te elementy łączą się w kompletną i dynamiczną mapę, która ujawnia nie tylko co zawiera Twój system AI, ale także skąd pochodzi, jak się zachowuje, kto go używa, gdzie jest uruchomiony i jak jest zarządzany. Innymi słowy, AI BOM służy jako pojedyncze źródło prawdy, które zaczyna się jako dokument techniczny i ewoluuje w dokument potwierdzający wiarygodność biznesową i służący celom regulacyjnym.

Po zautomatyzowaniu AI BOM nie jest już tylko aktywem inżynieryjnym, ale wymogiem regulacyjnym, ramą bezpieczeństwa i budowniczym zaufania przedsiębiorstwa. Zapewnia pełną przejrzystość w każdym modelu, zestawie danych, narzędziu i zależności, umożliwia odtwarzalność poprzez precyzyjną konfigurację i migawki środowiska, oraz ustanawia zarządzanie i odpowiedzialność poprzez śledzenie pochodzenia modeli, wersji i ścieżek decyzyjnych. Wzmacnia bezpieczeństwo poprzez identyfikację podatności w danych wejściowych, zależnościach i artefaktach modelu, a także wspiera globalne ramy zgodności regulacyjnej poprzez udokumentowaną wyjaśnialność, uczciwość i kontrolę ryzyka. Ponadto, zwiększa audytowalność poprzez utrzymywanie niezmienialnych, pełnych rekordów zmian systemu, dryftu wydajności i zachowania modelu w czasie.

Podejście przedsiębiorstwa do cyklu życia AI BOM: Od statycznego inwentarza do żywego systemu zarządzania

Większość ram AI BOM skupia się wąsko na dokumentowaniu modeli i zestawów danych. Ale zaawansowane przedsiębiorstwa w erze agentowej AI wymagają, aby ich AI BOM był żywym, operacyjnym i ciągle zarządzanym cyfrowym aktywem – a nie tylko statycznym dokumentem zgodności. I najskuteczniejsze organizacje zapewniają, że ich AI BOM ewoluuje wraz z ich ekosystemem AI. Najlepsze podejście obejmuje strategię, inżynierię, zarządzanie i zarządzanie ryzykiem, czyniąc je zarówno technicznie kompletnymi, jak i organizacyjnie wykonalnymi.

Dojrzały, dostosowany do potrzeb przedsiębiorstwa cykl życia AI BOM powinien składać się z pięciu podstawowych etapów:

  1. Odkryć i zdefiniować: Zidentyfikuj i sklasyfikuj wszystkie komponenty AI, w tym modele, zestawy danych, narzędzia, prompty, API, aktywa infrastruktury i środowiska wykonawcze. Ustanów widoczność, zakres i granice własności.
  2. Zarządzać i standaryzować: Zdefiniuj formaty metadanych, struktury wersji, standardy dokumentacji i role własności. Ustaw centralne repozytorium AI BOM zgodnie z wymogami zarządzania, zgodności i bezpieczeństwa.
  3. Utworzyć podstawowe BOM-y: Przeprowadź inżynierię wsteczną i udokumentuj istniejące systemy AI, ujmując zależności, pochodzenie i przepływ danych, pochodzenie modelu, środowiska wykonawcze i wzorce użytkowania. Ustanów początkowe „źródło prawdy” dla aktywów AI.
  4. Zautomatyzować i zintegrować: Wbuduj generowanie i aktualizację BOM w przepływach CI/CD, DevOps i MLOps. Włącz automatyczne śledzenie zmian modelu, aktualizacji zestawu danych, zależności i wskaźników ryzyka w cyklu życia.
  5. Monitorować i poprawiać: Ciągle monitoruj systemy AI pod kątem dryftu, degradacji wydajności, uprzedzeń, kosztów, użytkowania, podatności bezpieczeństwa i dojrzałości zgodności. Włącz alerty, raporty zarządzania i pętle ciągłego doskonalenia. 

Koszt nieimplementowania AI BOM

Ignorowanie potrzeby AI BOM nie jest tylko luką w zarządzaniu – jest to ryzyko biznesowe. Bez wiedzy o tym, na czym są zbudowane systemy AI, skąd pochodzą modele i dane, czy jak się zachowują w czasie, organizacje są narażone na ekspozycję regulacyjną i AI, które nie mogą się skalować. Ważne jest, aby zauważyć, że wraz z dojrzewaniem otoczenia regulacyjnego – w tym EU AI Act, ISO 42001 i ramy NIST – firmy będą potrzebować dowodu pochodzenia AI, wyjaśnialności i kontroli. Bez AI BOM staje się to bardzo trudne – często niemożliwe – aby wykazać zgodność.

Ponadto istnieją ryzyka bezpieczeństwa i reputacji. Ukryte komponenty, niesprawdzone modele lub niekontrolowane prompty mogą prowadzić do wycieku danych, uprzedzeń, halucynacji lub nawet skompromitowanego zachowania AI. I gdy coś pójdzie nie tak, brak AI BOM często oznacza, że nie można go śledzić ani naprawić. Zarządzanie w tempie AI jest fundamentalnie różne od tradycyjnego zarządzania IT. Wymaga ciągłego monitorowania bezpieczeństwa, wyjaśnialności i zgodności, gdy możliwości ewoluują w czasie rzeczywistym.

W prostych słowach, gdy firmy są coraz bardziej zainteresowane uzyskaniem zwrotu z inwestycji w AI, bez AI BOM organizacje spędzają więcej czasu na rozwiązywaniu problemów, ponownej weryfikacji, ponownym trenowaniu modeli lub odbudowie rozwiązań AI – ponieważ nie ma jednego źródła prawdy. Gdy tak się stanie, jest to niemożliwe, aby z pewnością wdrożyć AI w różnych jednostkach biznesowych, branżach lub rynkach bez wiedzy o tym, jakie aktywa są wdrożone, jak się rozwijają i jak są zarządzane.

Pytanie nie brzmi już, „Czy mamy AI?” Brzmi ono, „Czy wiemy, na czym nasze AI jest zbudowane, i czy możemy mu ufać na dużą skalę?” AI BOM zapewnia tę klarowność, której potrzebują przedsiębiorstwa, aby osiągnąć trwałą wartość.

Jinsook Han jest dyrektorką ds. strategii, rozwoju korporacyjnego i agentowej AI w firmie Genpact, gdzie pomaga definiować, rozwijać i realizować wizję firmy dotyczącą agentowej AI. Przed dołączeniem do Genpact pełniła funkcje kierownicze w McKinsey, AIG i Accenture.

Rajesh Padmakumaran kieruje zespołem Assets & Innovation w firmie Genpact, tworząc przyspieszacze SDLC z obsługą AI i platformy modernizacyjne dla globalnych przedsiębiorstw. Jest architektem modernizacji i Docker Captainem z ponad 20-letnim doświadczeniem w projektowaniu platform AI, aplikacji i rozwiązań transformacyjnych opartych na architekturze cloud-native o skali przedsiębiorstwa.