Odkrywanie Ukrytych Ryzyk Związanych z Cieniowym AI

Nie minęło dużo czasu, zanim przedsiębiorstwa doświadczyły powszechnego użytkowania Generatywnego AI (GenAI) wśród swoich pracowników. Jednakże, gdy chodzi o ryzyko związane z GenAI, narzędzia znane w Twojej organizacji nie są tymi, o które powinieneś się najbardziej martwić. To te, których nie znasz, powinny cię niepokoić.

Dzięki szybkiemu rozwojowi narzędzi GenAI, takich jak ChatGPT, Copilot, Gemini i Perplexity, a także wielu specjalistycznych aplikacji SaaS, pracownicy przyjmują je szybciej, niż zespoły bezpieczeństwa mogą nadążyć. A to użytkowanie tworzy szybko rosnącą ślepe pole, znane jako cieniowy AI.

Jeśli cieniowy AI brzmi znajomo, to dlatego, że pochodzi od terminu cieniowy IT, używanego do opisu użytkowania niezatwierdzonych narzędzi i usług w miejscu pracy. Ale w przypadku cieniowego AI, stawki mogą być jeszcze wyższe. Zamiast nielegalnej aplikacji do udostępniania plików, cieniowy AI może skutkować wrażliwymi danymi wklejanymi do okna czatu, pobieranymi do zewnętrznych modeli i nieświadomie narażonymi na systemy trzecich stron.

Cieniowy AI reprezentuje jeden z najmniej widocznych, ale najpilniejszych zagrożeń w dzisiejszym bezpieczeństwie danych przedsiębiorstw.

Co to jest Cieniowy AI?

Cieniowy AI odnosi się do nieautoryzowanego użytkowania narzędzi AI, szczególnie GenAI, przez pracowników bez wiedzy lub zgody zespołów IT lub bezpieczeństwa. W organizacji, użytkownicy mogą być zespołem marketingowym, który tworzy posty na blogu z dużymi modelami językowymi (LLM), zespołem prawnym, który bada język umów w narzędziach AI, lub inżynierami, którzy debugują kod z bezpłatnymi nakładkami GPT.

I chociaż takie eksperymenty mogą wydawać się nieszkodliwe, to, co jest z tymi narzędziami udostępniane, nie musi być. Mogą to być poufne slajdy strategiczne lub informacje o klientach. Te dane ostatecznie kończą się w niezaszyfrowanych oknach czatu, bez żadnej kontroli i bez możliwości śledzenia, co się dzieje dalej.

Dlaczego Cieniowy AI jest Problemem?

Problem cieniowego AI jest problematyczny, ponieważ wystarczy, że pracownik z dobrymi intencjami i dostępem do ChatGPT stworzy ryzyko bezpieczeństwa danych. W przeciwieństwie do hakera, cieniowy AI nie jest złośliwy, ale to nie oznacza, że jest mniej niebezpieczny. Każdy raz, gdy wrażliwe dane są dodawane do okna czatu, mogą być one narażone na model, dostawcę i każdego, kto ma dostęp do logów. Mogą one również ponownie pojawić się w odpowiedzi na pytanie innego użytkownika. A najgorsze w tym jest to, że nie będziesz wiedzieć, czy to się stało.

Oto pięć kluczowych ryzyk cieniowego AI, o których powinieneś wiedzieć.

1. Utrata danych za pośrednictwem wejść do okna czatu – Polami wejścia do okna czatu są czarne dziury bezpieczeństwa danych. Gdy tylko wrażliwe informacje, takie jak kod źródłowy, dokumenty i dane o połączeniach, są udostępniane narzędziu GenAI, są poza Twoją kontrolą. Nawet jeśli dostawca AI obiecuje, że dane nie są przechowywane, egzekwowanie jest niejasne i nie ma gwarancji dotyczących szkolenia lub telemetrycznego.

2. Brak kontroli dostępu lub logów inspekcji – W przeciwieństwie do zatwierdzonych aplikacji przedsiębiorstw, większość narzędzi GenAI nie oferuje kontroli dostępu opartych na rolach, szczegółowych uprawnień ani logów działań, co oznacza, że zespoły bezpieczeństwa nie mają widoczności, kto uzyskał dostęp do jakich danych i kiedy. Jeśli wystąpi incydent, nie ma nic do zbadania.

3. Naruszenia zgodności – Wiele z licznych przepisów dotyczących zgodności, które organizacje muszą przestrzegać, nakazują, że dane objęte regulacjami muszą być przechowywane, przetwarzane i uzyskiwane w bardzo szczególny sposób. Podawanie tych danych do zewnętrznego modelu AI może naruszyć te przepisy, narażając Twoją organizację na ryzyko prawne, kary i obowiązkowe ujawnienia naruszeń.

4. Obieg nieaktualnych lub tendencyjnych informacji – Narzędzia GenAI często dostarczają odpowiedzi z pewnością i prezentują je jako fakty, nawet gdy są one bardzo błędne. Ufanie tym wyjściom dla komunikacji z klientami, podsumowań zgodności lub raportów finansowych bez walidacji może prowadzić do podejmowania decyzji biznesowych na podstawie nieprecyzyjnych danych. Halucynacje występują regularnie i nie wydają się zanikać, nawet gdy te LLM-y stają się bardziej inteligentne.

5. Cieniowy AI, który staje się cieniowymi danymi – Wyjścia z narzędzi GenAI, w tym podsumowania i fragmenty kodu, często zapisują się, udostępniają i ponownie wykorzystują. Ponieważ zostały one utworzone poza formalnymi przepływami pracy, te pliki stają się nieśledzone, nieklasyfikowane i niechronione cieniowe dane.

W większości przypadków, z cieniowym AI, nikt w zespole bezpieczeństwa nie ma pojęcia, kiedy dochodzi do naruszenia. Te przykłady z życia wzięte mogą się dziać w Twojej organizacji:

• Młodszy inżynier oprogramowania wkleja własny kod do bezpłatnego debugera opartego na GPT.
• Przedstawiciel handlowy podaje listę klientów z ostatniego kwartału do pisarza e-mail AI w celu wygenerowania propozycji sprzedaży.
• Menadżer HR używa zewnętrznego narzędzia AI do analizy odpowiedzi na ankiety satysfakcji pracowników.
• Analityk finansowy prosi ChatGPT o uproszczenie języka wrażliwych prognoz przychodów dla dyrektorów.
• Prawnik prosi GenAI o przepisanie umowy przy użyciu poufnego klauzuli z umowy klienta.

Dlaczego Tradycyjne Narzędzia Bezpieczeństwa Nie Zauważają Cieniowego AI

Tradycyjne stosy bezpieczeństwa nie są zaprojektowane do zagrożeń opartych na GenAI. Na przykład, zapora sieciowa nie może zablokować opartych na przeglądarce narzędzi AI. CASB nie zobaczy, co jest wpisywane w okna czatu. A SIEM nie wyśle alertu, kiedy ktoś poprosi LLM o podsumowanie wrażliwej własności intelektualnej.

Cieniowy AI działa na poziomie aplikacji i żyje w przeglądarce, gdzie widoczność jest najslabsza. Pracownicy również używają swoich urządzeń osobistych. Nie ma plug-inu, który mógłby ich powstrzymać, nie ma znacznika, który mógłby śledzić, jakie dane zostały udostępnione, i nie ma alertu, gdy dane przekraczają granicę. A gdy pojawiają się w alertach DLP, jeśli w ogóle się pojawiają, dane są już narażone.

Jak Zidentyfikować i Zmniejszyć Ryzyko Cieniowego AI

Nie możesz kontrolować tego, czego nie widzisz, a w przypadku GenAI większość organizacji jest ślepa. Tradycyjne narzędzia nie były zaprojektowane do zrozumienia interakcji opartych na oknach czatu ani śledzenia, co się dzieje po kliknięciu przycisku “Enter”.

Jednak nowe podejścia do bezpieczeństwa opartego na AI są w stanie pomóc organizacjom wyprowadzić cieniowy GenAI z ciemności. Oto kilka zabezpieczeń, które oferują zaawansowane rozwiązania:

Odkrywanie cieniowego AI – Te narzędzia identyfikują, które aplikacje GenAI są używane przez Twoich użytkowników, nawet te oparte na przeglądarce, które omijają tradycyjne kontrolki. Analizują one ruch danych, wzorce dostępu i kontekst, aby wykryć naruszenia bez wymagania agentów punktów końcowych lub inwazyjnego monitorowania.

Klasyfikacja tego, co jest wrażliwe – Nowoczesne rozwiązania używają AI świadomej kontekstu, aby zrozumieć zarówno treść, jak i kontekst danych. Oznacza to, że mogą one flagować ryzyko, takie jak prognoza przychodu osadzona w slajdzie PowerPoint lub dane klienta schowane w projekcie e-maila. Jest to rodzaj treści, który pracownicy mogą podać do GenAI bez drugiej myśli.

Prewencja ryzykownego zachowania w oknach czatu – Gdy tylko wrażliwe dane są odkryte i ich lokalizacja jest zidentyfikowana, bezpieczeństwo danych AI pomaga zapobiec ich narażeniu. Te narzędzia flagują, maskują lub blokują ryzykowne dane wejściowe do okna czatu, zanim opuszczą organizację.

Czyszczenie cieniowych danych – Wydania narzędzi GenAI często generują falę nowych plików, takich jak podsumowania, szkice i odpowiedzi, które zapisują się, udostępniają i zapominają. Zaawansowane platformy bezpieczeństwa danych identyfikują te artefakty pochodne, wykrywają ryzyko narażenia (takie jak nadmiarowe uprawnienia lub niewłaściwe przechowywanie) i likwidują je, zanim utrata danych stanie się nagłówkiem.

Cieniowy AI nie jest teoretycznym ryzykiem. Jest on rzeczywisty, rośnie i dzieje się w Twoim środowisku właśnie teraz, czy to widzisz, czy nie. Zabranianie narzędzi GenAI nie jest realistyczne, ale zamykanie oczu jest niezwykle ryzykowne. Organizacje potrzebują widoczności, kontroli i inteligencji wokół użytkowania GenAI — nie tylko dla tego, co wynika, ale także dla tego, co jest wprowadzane.

Nowe podejścia są dostępne, które ujawniają ryzykowne zachowania, zapobiegają przypadkowemu narażeniu i czyszczą bałagan danych, jaki AI i cieniowy AI pozostawiają.