Raport Manifest ujawnia lukę w gotowości AI jako wyzwanie dla zespołów bezpieczeństwa w przedsiębiorstwach

Nowy raport firmy Manifest, „Beyond the Black Box (BBOX.BO ): How AI Is Forcing a Rethink of the Software Supply Chain”, ujawnia rosnącą dysproporcję między zaufaniem wyższej kadry a rzeczywistością operacyjną w kwestii gotowości do bezpieczeństwa AI. Na podstawie ankiety przeprowadzonej wśród ponad 300 liderów i praktyków bezpieczeństwa w Stanach Zjednoczonych i EMEA, badanie wykazało, że chociaż większość kadry kierowniczej uważa, iż ich organizacje są przygotowane do ryzyka związanego z łańcuchem dostaw AI, zespoły bezpieczeństwa na miejscu donoszą o znacznych lukach w zarządzaniu, użyciu AI w ukryciu oraz ograniczonej widoczności składników napędzających nowoczesne systemy oprogramowania.

Wyniki badań podkreślają centralną napięcie pojawiające się w technologiach przedsiębiorstw: przyjęcie AI przyspiesza w produktach i procesach roboczych, ale mechanizmy niezbędne do śledzenia, zarządzania i zabezpieczania tych systemów nie nadążają za tym tempem.

AI ponownie tworzy problemy związane z bezpieczeństwem łańcucha dostaw w nowych formach

Przez ponad dekadę organizacje pracowały nad poprawą bezpieczeństwa łańcucha dostaw oprogramowania, śledząc zależności, monitorując podatności i tworząc ramy zarządzania. Jednak raport Manifest sugeruje, że AI skutecznie wprowadza wiele tych samych ryzyk — teraz rozprzestrzenionych na modele, zestawy danych, agenci i usługi AI zewnętrzne.

Składniki AI często działają jako nieprzezroczyste systemy. Przedsiębiorstwa często nie mogą w pełni wyjaśnić, jak modele były szkolone, jakie zestawy danych zostały użyte lub które usługi zewnętrzne są osadzone w ich aplikacjach. W rezultacie organizacje stają w obliczu nowej klasy ryzyka łańcucha dostaw: systemy oprogramowania, których nie mogą niezawodnie inspekcjonować, weryfikować ani monitorować w czasie.

Raport podkreśla, że widoczność już się zmniejsza. 63% organizacji zgłasza obecność „ukrytego AI”, odnosząc się do narzędzi AI lub integracji przyjętych bez nadzoru zespołów bezpieczeństwa, zakupów lub zarządzania ryzykiem.

Daniel Bardenstein, CEO i współzałożyciel Manifest, powiedział, że dane ujawniają rosnącą lukę między postrzeganiem wyższej kadry a rzeczywistością operacyjną: „Zaufanie wyższej kadry do gotowości AI nie odpowiada temu, z czym zespoły AppSec mają do czynienia na co dzień. Liderzy wierzą, że zarządzanie jest na miejscu, ale praktycy widzą niezarządzane użycie AI, niejasne własność i punkty ślepe w tym, co jest uruchomione w produktach i u dostawców.”

Kadra kierownicza mówi, że są gotowi, ale zespoły bezpieczeństwa nie zgadzają się

Jednym z najbardziej uderzających wyników w raporcie jest rozbieżność między zaufaniem kierownictwa a ocenami bezpieczeństwa na pierwszej linii.

Niemal 80% liderów bezpieczeństwa mówi, że ich organizacje mają dojrzałe praktyki bezpieczeństwa AI, podczas gdy tylko około 40% zespołów AppSec zgadza się z tą oceną.

Zespoły AppSec często są pierwszymi, które napotykają awarie operacyjne w ramach zarządzania, ponieważ wchodzą w bezpośredni kontakt z łańcuchem dostaw oprogramowania. Ci praktycy donoszą o napotkaniu dużej ilości alertów, niejasnej własności odpowiedzialności za bezpieczeństwo oraz fragmentarycznym narzędziu w środowiskach rozwojowych i bezpieczeństwa.

Zgodnie z raportem, 47% respondentów wskazało zespoły izolowane i niejasne własność jako największą przeszkodę w poprawie bezpieczeństwa łańcucha dostaw oprogramowania.

Wynikiem jest środowisko, w którym organizacje mogą wierzyć, że mają silne programy bezpieczeństwa, podczas gdy krytyczne luki pozostają w widoczności, odpowiedzialności i koordynacji operacyjnej.

Paradoks SBOM: generowany, ale rzadko używany

Inny główny wniosek z badania dotyczy Listy Materiałów Oprogramowania (SBOM) — inwentarza składników oprogramowania, którym organizacje mogą śledzić zależności i podatności.

Przyjęcie SBOM rozprzestrzeniło się znacznie w ostatnich latach, szczególnie ze względu na presję regulacyjną i ataki na łańcuch dostaw. Jednak badanie Manifest sugeruje, że wiele organizacji traktuje generowanie SBOM jako checkbox zgodności, a nie zdolność operacyjną.

Raport podkreśla kilka kluczowych statystyk:

• 60% organizacji generuje SBOM
• Więcej niż połowa nie aktywnie zarządza ani wykorzystuje je w praktyce
• 79,6% używa narzędzi do analizy składu oprogramowania (SCA)
• Użycie operacyjne SBOM pozostaje znacznie niższe, na poziomie 41,8%

Bez scentralizowanego przyjęcia, normalizacji, egzekwowania polityki i ciągłego monitorowania SBOM stają się statycznymi artefaktami, a nie aktywnymi narzędziami zarządzania ryzykiem.

Zespoły bezpieczeństwa również wyrażają sceptycyzm wobec tradycyjnych platform SCA. 56,3% respondentów mówi, że narzędzia SCA tworzą hałas lub opóźniają zespoły developerskie, podczas gdy 46,4% wątpi, czy te narzędzia znacząco redukują rzeczywiste ryzyko oprogramowania.

Ta rozbieżność ilustruje szersze wyzwanie dojrzałości: organizacje mogą generować duże ilości danych bezpieczeństwa, ale często brakuje im infrastruktury operacyjnej, aby przetłumaczyć te sygnały na redukcję ryzyka.

Dane przezroczystości poprawiają bezpieczeństwo i szybkość wdrożenia

Pomimo tych wyzwań, badanie pokazuje, że organizacje, które osiągają znaczącą przezroczystość w swoich łańcuchach dostaw oprogramowania, uzyskują wymierne korzyści.

Niemal połowa respondentów (49,4%) otrzymuje weryfikowalne dane przezroczystości — takie jak SBOM, rekordy pochodzenia lub podpisywane pliki binarne — od dostawców podczas zakupów.

Gdy te informacje są wiarygodne i operacyjne, wpływ jest znaczący:

• 64% zgłasza szybsze wdrożenie nowych technologii
• 61,6% zgłasza szybsze rozwiązywanie problemów z bezpieczeństwem
• 15,5% zgłasza zmniejszoną czas nieczynności

Organizacje, które nie mają takiej przezroczystości, płacą tzw. „podatek przezroczystości” — dodatkowy czas, koszt i ryzyko związane z ręcznym badaniem nieprzezroczystych składników oprogramowania.

Bardzo uregulowane branże ilustrują to wyzwanie. Firmy z sektora finansowego i opieki zdrowotnej zgłaszają jedne z najniższych wskaźników otrzymywania weryfikowalnych danych przezroczystości od dostawców — 14,3% i 19,5% odpowiednio — pomimo tego, że mają największą potrzebę ich posiadania.

Przyjęcie AI przyspiesza w przedsiębiorstwach

Badanie również podkreśla, jak szybko AI stało się wbudowane w ekosystemy oprogramowania przedsiębiorstw.

Prawie żadne z badanych organizacji nie zgłasza unikania AI w ogóle. Zamiast tego, firmy eksperymentują z różnymi podejściami:

• 80,2% używa zatwierdzonych modeli AI komercyjnych wewnętrznie
• 79,9% używa powszechnie narzędzi komercyjnych, takich jak ChatGPT lub Cursor
• 56,7% szkoli modele o otwartych wagach na danych wewnętrznych
• 29,3% buduje niestandardowe modele AI od podstaw

Firmy z sektora finansowego i technologicznego są liderami w przyjęciu AI. Niemal 90% firm finansowych zgłasza zatwierdzone modele AI wewnętrzne, a 46,9% buduje niestandardowe modele od podstaw, znacznie powyżej średniej.

Te branże mają silne zachęty, aby poruszać się szybko. W sektorze finansowym AI bezpośrednio wpływa na wykrywanie oszustw, zarządzanie ryzykiem i generowanie przychodu. W firmach technologicznych AI coraz częściej jest umieszczana w centrum ofert produktowych i możliwości platformy.

Jednak szybki tempem przyjęcia AI często wyprzedza zarządzanie.

AI w ukryciu staje się powszechnym problemem

Badanie potwierdza, że AI w ukryciu — narzędzia lub modele wdrożone bez formalnego nadzoru — już jest powszechny.

Tylko 34,8% respondentów zgłasza brak AI w ukryciu w swoich organizacjach, podczas gdy reszta przyznaje co najmniej niektóre niezarządzane użycie AI.

Ten wzorzec odzwierciedla wcześniejsze fale „ukrytego IT”, gdzie pracownicy przyjmowali usługi w chmurze lub oprogramowanie jako usługę poza oficjalnymi procesami zakupów.

Różnice regionalne również się pojawiają. Organizacje w EMEA zgłaszają wyższe wskaźniki działania bez AI w ukryciu (45,7%), prawdopodobnie ze względu na silniejsze ramy regulacyjne i bardziej restrykcyjne procesy zakupów w porównaniu z innymi regionami.

Jednak raport ostrzega, że tradycyjne narzędzia bezpieczeństwa nie były zaprojektowane do śledzenia modeli AI, zestawów danych i usług w rozproszonych środowiskach developerskich.

Ryzyka licencyjne i prawne są kolejnym dużym punktem ślepoty

Poza technicznym zarządzaniem, badanie również podkreśla wyzwania prawne i zgodności związane z przyjęciem AI.

Zrozumienie warunków licencyjnych, praw własności intelektualnej i ograniczeń użycia modeli AI i zestawów danych pozostaje trudne dla wielu organizacji. Ankieta wykazała:

• 93% respondentów mówi, że ich organizacja ma pole do poprawy w zarządzaniu licencjami AI i zobowiązaniami dotyczącymi własności intelektualnej
• 54,6% zdecydowanie zgadza się, że jest to duże wyzwanie

Te ryzyka stają się szczególnie ostre, gdy organizacje szkolą modele o otwartych wagach na danych wewnętrznych lub łączą zestawy danych własnościowych z komponentami AI zewnętrznymi.

Bez silniejszych ram zarządzania, firmy mogą nieumyślnie wprowadzić naruszenia licencji lub ekspozycję na zgodność do systemów produkcyjnych.

Wyrównanie operacyjne może być prawdziwym wyzwaniem

Podczas gdy narzędzia bezpieczeństwa nadal ewoluują, raport sugeruje, że największą barierą dla skutecznego bezpieczeństwa łańcucha dostaw AI może nie być technologia sama w sobie.

Wiele organizacji boryka się z fragmentaryczną własnością, rozłączonymi procesami roboczymi i brakiem wspólnego systemu rejestracji dla składników oprogramowania i AI.

Najczęściej cytowane ograniczenia obejmują:

• 47,3% ograniczenia organizacyjne
• 36,3% niewystarczające umiejętności
• 35,7% ograniczenia budżetowe
• 34,8% brak zrozumienia zarządzania
• 32,6% brak personelu

Te luki operacyjne utrudniają sygnałom bezpieczeństwa przekształcić się w spójne egzekwowanie polityki lub wymierne redukcje ryzyka.

Dlaczego bezpieczeństwo łańcucha dostaw AI staje się strategiczną priorytetem

Gdy AI staje się wbudowane w każdą warstwę oprogramowania przedsiębiorstwa, pojęcie łańcucha dostaw oprogramowania rozciąga się na modele, zestawy danych szkoleniowych, usługi inferencyjne i platformy AI zewnętrzne.

Raport Manifest kończy się wnioskiem, że organizacje muszą wyjść poza narzędzia widoczności punktowej i zbudować ciągłą, operacyjną kontrolę nad łańcuchami dostaw AI.

Obejmuje to:

• Śledzenie wszystkich modeli AI używanych w środowiskach developerskich
• Weryfikowanie pochodzenia i licencji danych szkoleniowych
• Wymuszanie polityk zarządzania podczas wdrożenia i rozmieszczenia
• Utrzymywanie ciągłych inwentaryzacji podobnych do SBOM dla składników AI

Bez tych mechanizmów, luka między przyjęciem AI a zarządzaniem AI będzie się nadal powiększać.

I jak badanie wyraźnie stwierdza, ta luka już istnieje w wielu przedsiębiorstwach dzisiaj.