Jak rozwiązać wyzwania związane z bezpieczeństwem sieciowym związanym z Agentic AI

Sztuczna inteligencja agentywna (Agentic AI) reprezentuje następny etap rozwoju sztucznej inteligencji, obiecując przewyższyć nawet możliwości generatywnej sztucznej inteligencji (GenAI). W przeciwieństwie do większości systemów GenAI, które opierają się na wprowadzanych przez człowieka danych lub nadzorze, agentic AI jest proaktywna, ponieważ nie wymaga wprowadzania danych przez użytkownika, aby rozwiązać złożone, wieloetapowe problemy. Wykorzystując cyfrowy ekosystem dużych modeli językowych (LLM), uczenia maszynowego (ML) i przetwarzania języka naturalnego (NLP), agentic AI wykonuje zadania autonomicznie w imieniu człowieka lub systemu, znacznie poprawiając produktywność i działanie.

Pomimo że agentic AI jest jeszcze w początkowej fazie, eksperci wskazali już pewne przełomowe przypadki użycia. Rozważmy środowisko obsługi klienta banku, w którym agent AI robi więcej niż tylko odpowiada na pytania użytkownika. Zamiast tego, agent faktycznie wykonuje transakcje lub zadania, takie jak przeniesienie funduszy, na polecenie użytkownika. Innym przykładem może być środowisko finansowe, w którym systemy agentic AI pomagają analitykom ludzkim, wykonując autonomicznie i szybko analizy dużych ilości danych, aby wygenerować raporty gotowe do audytu dla podejmowania decyzji opartych na danych.

Niewiarygodne możliwości agentic AI są niepodważalne. Jednak, jak w przypadku każdej nowej technologii, pojawiają się również obawy związane z bezpieczeństwem, zarządzaniem i zgodnością. Unikalna natura tych agentów AI stwarza kilka wyzwań związanych z bezpieczeństwem i zarządzaniem dla organizacji. Przedsiębiorstwa muszą rozwiązać te wyzwania, aby nie tylko uzyskać korzyści z agentic AI, ale również zapewnić bezpieczeństwo sieci i wydajność.

Jakie wyzwania związane z bezpieczeństwem sieciowym stwarza Agentic AI dla organizacji?

Agenci AI mają cztery podstawowe operacje. Pierwsza to percepcja i zbieranie danych. Te setki, tysiące, a może nawet miliony agentów zbierają i gromadzą dane z wielu miejsc, niezależnie od tego, czy jest to chmura, lokalizacja na miejscu, krawędź itp., a te dane mogą być fizycznie z dowolnego miejsca, a nie tylko z jednej określonej lokalizacji geograficznej. Drugi krok to podejmowanie decyzji. Po zebraniu danych agenci AI używają modeli AI i ML do podejmowania decyzji. Trzeci krok to działanie i wykonanie. Po podjęciu decyzji agenci AI wykonują ją zgodnie z tą decyzją. Ostatni krok to uczenie się, podczas którego agenci AI używają zebranych danych przed i po podjęciu decyzji, aby dostosować się odpowiednio.

W tym procesie agentic AI wymaga dostępu do ogromnych zbiorów danych, aby działać skutecznie. Agenci zwykle integrują się z systemami danych, które obsługują lub przechowują wrażliwe informacje, takie jak rekordy finansowe, bazy danych o zdrowiu i inne dane osobowe (PII). Niestety, agentic AI utrudnia starania o zabezpieczenie infrastruktury sieciowej przed lukami w zabezpieczeniach, szczególnie w przypadku połączeń między chmurami. Stwarza również wyzwania związane z bezpieczeństwem wychodzącym, utrudniając firmom ochronę przed wyciekiem danych, a także przed naruszeniami kontroli i sterowania. Jeśli agent AI zostanie naruszony, wrażliwe dane mogą być łatwo ujawnione lub skradzione. Podobnie, agenci mogą być przejęci przez złych aktorów i wykorzystani do generowania i rozpowszechniania fałszywych informacji na dużą skalę. W przypadku naruszeń bezpieczeństwa nie tylko występują kary finansowe, ale także konsekwencje wizerunkowe.

Kluczowe możliwości, takie jak obserwowalność i śledzenie, mogą być utrudnione przez agentic AI, ponieważ trudno śledzić, które zestawy danych są dostępne dla agentów AI, zwiększając ryzyko ujawnienia lub nieuprawnionego dostępu do danych. Podobnie, dynamiczne uczenie się i adaptacja agentic AI mogą utrudnić tradycyjne audyty bezpieczeństwa, które opierają się na strukturalnych dziennikach, aby śledzić przepływ danych. Agentic AI jest również efemeryczna, dynamiczna i nieustannie działająca, tworząc potrzebę 24/7 utrzymania optymalnej widoczności i bezpieczeństwa. Skala jest kolejnym wyzwaniem. Powierzchnia ataku znacznie się zwiększyła, rozciągając się poza centrum danych na miejscu i chmurę, aby objąć krawędź. W rzeczywistości, w zależności od organizacji, agentic AI może dodać tysiące do milionów nowych punktów końcowych na krawędzi. Ci agenci działają w wielu miejscach, niezależnie od tego, czy są to różne chmury, lokalizacje na miejscu, krawędź itp., co sprawia, że sieć jest bardziej narażona na atak.

Całościowy podejście do rozwiązywania wyzwań związanych z bezpieczeństwem Agentic AI

Organizacje mogą rozwiązać wyzwania związane z bezpieczeństwem agentic AI, stosując rozwiązania i najlepsze praktyki bezpieczeństwa na każdym z czterech podstawowych etapów operacyjnych:

1. Percepcja i zbieranie danych: Firmy potrzebują szybkości połączenia sieciowego z końca do końca, które jest zaszyfrowane, aby umożliwić swoim agentom zbieranie ogromnych ilości danych niezbędnych do działania. Przypomnij, że te dane mogą być wrażliwe lub bardzo cenne, w zależności od przypadku użycia. Przedsiębiorstwa powinny wdrożyć rozwiązanie szybkości połączenia sieciowego z wysokim poziomem szyfrowania, aby chronić wrażliwe i dane osobowe.
2. Podejmowanie decyzji: Firmy muszą upewnić się, że ich agenci AI mają dostęp do odpowiednich modeli i infrastruktury AI i ML, aby podejmować właściwe decyzje. Wdrożenie zapory sieciowej w chmurze pozwala przedsiębiorstwom uzyskać połączenie i bezpieczeństwo, których potrzebują ich agenci AI, aby uzyskać dostęp do odpowiednich modeli w sposób audytowalny.
3. Wykonanie działań: Agenci AI wykonują działania na podstawie podjętej decyzji. Niemniej jednak, firmy muszą określić, który agent spośród setek lub tysiąca agentów podjął tę decyzję. Muszą również wiedzieć, jak ich agenci komunikują się ze sobą, aby uniknąć konfliktów lub „walk robotów”. Dlatego organizacje potrzebują obserwowalności i śledzenia tych działań podejmowanych przez ich agenci AI. Obserwowalność to zdolność do śledzenia, monitorowania i zrozumienia stanów wewnętrznych i zachowania agentów AI w czasie rzeczywistym. Śledzenie to zdolność do śledzenia i dokumentowania danych, decyzji i działań podejmowanych przez agenta AI.
4. Uczenie się i adaptacja: Firmy wydają miliony, jeśli nie setki milionów lub więcej, na dostrojenie swoich algorytmów, co zwiększa wartość i precyzję tych agentów. Jeśli złych aktor dostanie się do tego modelu i wykradnie go, wszystkie te zasoby mogą znaleźć się w ich rękach w ciągu kilku minut. Przedsiębiorstwa mogą chronić swoje inwestycje za pomocą funkcji zabezpieczeń wychodzących, które chronią przed wyciekiem i naruszeniami kontroli i sterowania.

Korzystanie z Agentic AI w sposób bezpieczny i odpowiedzialny

Agentic AI ma niezwykły potencjał, umożliwiając firmom osiągnięcie nowych poziomów produktywności i wydajności. Jednak, jak w przypadku każdej nowej technologii w przestrzeni AI, organizacje muszą podjąć środki ostrożności, aby zabezpieczyć swoje sieci i wrażliwe dane. Bezpieczeństwo jest szczególnie ważne dzisiaj, biorąc pod uwagę wysoko zaawansowanych i zorganizowanych złych aktorów finansowanych przez państwa, takich jak Salt Typhoon i Silk Typhoon, które nadal prowadzą duże ataki.

Organizacje powinny współpracować z ekspertami ds. bezpieczeństwa chmury, aby opracować solidną, skalowalną i przyszłościową strategię bezpieczeństwa, która może rozwiązać unikalne wyzwania agentic AI. Ci partnerzy mogą umożliwić przedsiębiorstwom śledzenie, zarządzanie i zabezpieczanie swoich agentów AI; ponadto, pomagają firmom uzyskać świadomość, której potrzebują, aby spełnić standardy związane z zgodnością i zarządzaniem.