Jak AI stało się największym kanałem wycieku danych

Liderzy przedsiębiorstw zainwestowali miliardy w narzędzia AI, aby przyspieszyć produktywność i innowacje. Ale najnowsze dane ujawniają poważne ryzyko, którego wiele organizacji nie przewidziało. Te same platformy AI, które pomagają pracownikom pracować szybciej, stały się największym kanałem dla wrażliwych danych, opuszczających środowiska korporacyjne. Ostatnie ustalenia ujawniają, że 77% pracowników wkleja dane do generatywnych narzędzi AI, a 40% plików przesyłanych do tych platform zawiera dane osobowe lub informacje o płatnościach. To się dzieje teraz, na dużą skalę, w organizacjach, które uważają, że mają odpowiednie kontrole bezpieczeństwa. To pokazuje, że istnieje fundamentalna rozbieżność między tym, jak firmy myślą o wykorzystaniu AI, a tym, co tak naprawdę dzieje się, gdy pracownicy wchodzą w interakcje z tymi narzędziami na co dzień. Zrozumienie tej zmiany jest pierwszym krokiem w kierunku budowania strategii bezpieczeństwa, które odpowiadają nowej rzeczywistości.

Jak AI stało się nowym wektorem wycieku danych

Dwa lata temu generatywne AI prawie nie istniały w przepływach pracy przedsiębiorstw. Dziś 45% wszystkich pracowników przedsiębiorstw aktywnie korzysta z platform AI, a 11% wszystkich działań przedsiębiorstw odbywa się na tych narzędziach. ChatGPT sam osiągnął 43% penetracji wśród pracowników, tempo, którego inne platformy komunikacyjne potrzebowały dekad, aby osiągnąć.

Szybkość tej adopcji stworzyła próżnię bezpieczeństwa. Tradycyjne systemy zapobiegania utracie danych zostały zbudowane z myślą o transferach plików, załącznikach poczty elektronicznej i ruchu sieciowym. Nigdy nie zostały zaprojektowane, aby monitorować, co pracownicy wpisują w pola poleceń lub wklejają do interfejsów czatu. To ślepe pole stało się główną trasą ucieczki wrażliwych informacji.

Generatywne AI odpowiadają teraz za 32% wszystkich ruchów danych z kont korporacyjnych na konta osobiste. To sprawia, że jest to największy kanał dla wycieku danych, przewyższając udostępnianie plików, e-mail i każdy inny kanał, który zespoły bezpieczeństwa próbowały zabezpieczyć przez lata. Problem nie dotyczy tylko objętości, ale także natury wycieku. Gdy ktoś przesyła dokument na serwer plików, jest zapis. Gdy wkleja dane klienta do pola poleceń AI, ten transfer często odbywa się poza jakimkolwiek systemem logowania lub monitorowania.

Problem kont osobistych

Problemem nie jest użycie narzędzi AI, ale sposób, w jaki pracownicy uzyskują do nich dostęp. Modele bezpieczeństwa przedsiębiorstw zakładają, że pracownicy korzystają z kont korporacyjnych z uwierzytelnianiem jednorazowym, logowaniem i nadzorem. Dane pokazują, że to założenie jest błędne, a około 67% użycia AI odbywa się za pośrednictwem niezarządzanych kont osobistych. Są to adresy Gmail, osobiste konta Microsoft (MSFT ) lub bezpośrednie zapisy, które omijają całkowicie systemy tożsamości korporacyjnej. Gdy ktoś loguje się do ChatGPT za pomocą swojego osobistego adresu e-mail, firma nie ma widoczności co do tego, jakie pytania zadaje, jakie dane udostępnia czy jakie wrażliwe informacje mogą pojawić się w odpowiedziach.

Nawet gdy pracownicy korzystają z kont korporacyjnych, te poświadczenia często nie mają federacji. 83% logowań ERP i 71% logowań CRM odbywa się bez uwierzytelniania jednorazowego. To oznacza, że logowanie korporacyjne oferuje niewiele więcej bezpieczeństwa ani widoczności niż konto osobiste. Nazwa użytkownika może mieć domenę firmy, ale uwierzytelnianie, które omija, pozwala na te same niewidoczne przepływy danych.

Kopiuj i wklej: Niewidzialny wyciek danych

Tradycyjne strategie zapobiegania utracie danych (DLP) zostały zbudowane z myślą o systemach plików. Monitorują one przesyłanie plików, pobieranie i załączniki. Ale dane pokazują, że prawdziwym źródłem wycieku danych nie są pliki. To kopiuj i wklej. 77% pracowników wkleja dane do generatywnych narzędzi AI. 82% tej aktywności pochodzi z niezarządzanych kont osobistych. Średnio każdy pracownik wykonuje 15 wklejeń dziennie, korzystając ze swoich kont osobistych, a co najmniej cztery z nich zawierają wrażliwe dane osobowe lub informacje o płatnościach.

To oznacza, że wrażliwe informacje nie poruszają się już tylko przez przesyłanie plików. Są również wstrzykiwane bezpośrednio do poleceń, okien czatu i pól tekstowych. Te transfery bez plików są prawie niewidoczne dla tradycyjnych rozwiązań DLP. Odbywają się one z wysoką częstotliwością, na wielu platformach i poza nadzorem przedsiębiorstwa.

Wynikiem jest ciągły strumień wrażliwych danych opuszczających organizację w sposób trudny do wykrycia. Kopiuj i wklej stało się nowym kanałem wycieku, a narzędzia AI są najważniejszym miejscem przeznaczenia.

Wrażliwe pliki w nieuprawnionych miejscach

Przesyłanie plików pozostaje centralną częścią przepływów pracy przedsiębiorstw. Ale miejsca przeznaczenia zmieniły się. Pracownicy nie ograniczają już przesyłania plików do zatwierdzonych magazynów lub poczty elektronicznej. Przesyłają pliki do generatywnych narzędzi AI, aplikacji konsumenckich i platform SaaS w cieniu.

Dane pokazują, że 40% plików przesyłanych do generatywnych narzędzi AI zawiera dane osobiste lub finansowe. 41% plików przesyłanych do platform magazynowych zawiera te same dane. Blisko 4 na 10 tych przesyłań odbywa się przez konta osobiste.

To oznacza, że wrażliwe dane płyną do środowisk, w których przedsiębiorstwa nie mają widoczności ani kontroli. Gdy plik jest przesłany do osobistego Google Drive, czatu WhatsApp lub pola poleceń AI, jest on skutecznie poza terenem przedsiębiorstwa. Nie może być śledzony, ograniczony ani usunięty.

Miejsca przeznaczenia są zróżnicowane. Narzędzia przedsiębiorstw, takie jak Egnyte i Zendesk, pojawiają się obok platform konsumenckich, takich jak Canva, LinkedIn i WhatsApp. To mieszanie się ekosystemów przedsiębiorstw i konsumentów rozmywa granice, gdzie znajdują się dane korporacyjne. Ujawnia również ograniczenia tradycyjnego DLP, które zostało zaprojektowane dla zatwierdzonych kanałów i scentralizowanej kontroli.

Co to oznacza dla bezpieczeństwa przedsiębiorstw

Tradycyjna granica bezpieczeństwa załamała się. Dawniej było możliwe kontrolowanie danych, zarządzając sieciami, zabezpieczając punkty końcowe i monitorując zatwierdzone aplikacje. Ten model zakłada, że praca odbywa się w systemach korporacyjnych i tylko okazjonalnie wykorzystuje zewnętrzne platformy przez kontrolowane kanały.

Rzeczywistość jest taka, że praca odbywa się teraz w przeglądarce, na dziesiątkach aplikacji, za pośrednictwem kont korporacyjnych i osobistych, przy użyciu metod, które nie tworzą śladu audytowego. Pracownik badający problem klienta może wyszukiwać w systemach wewnętrznych, wklejać wyniki do ChatGPT w celu podsumowania, kopiować to podsumowanie do Slack, aby podzielić się z kolegami, i do przodu za pomocą osobistej poczty elektronicznej, aby przejrzeć później. Każdy krok obejmuje wrażliwe dane, które poruszają się przez kanały, których tradycyjne narzędzia nie widzą.

Przeglądarka stała się głównym miejscem pracy, ale kontrola bezpieczeństwa nie podążała za tym. Pracownicy spędzają dni, przechodząc między aplikacjami, a dane pokazują, że robią to z niewielką różnicą między narzędziami korporacyjnymi a osobistymi. Używają tego, co działa, co jest wygodne, co nie wymaga oczekiwania na zatwierdzenie przez IT. To tworzy środowisko, w którym wrażliwe informacje ciągle płyną na zewnątrz przez niewidoczne kanały.

Zmiana myślenia o bezpieczeństwie przedsiębiorstw w erze AI

Rozwiązaniem nie jest blokowanie narzędzi AI ani zakazywanie kont osobistych. Te podejścia zawodzą, ponieważ idą wbrew temu, jak pracownicy naprawdę pracują. Narzędzia te istnieją, ponieważ sprawiają, że ludzie są bardziej produktywni. Konta osobiste się rozprzestrzeniają, ponieważ korporacyjne przydzielanie jest powolne i ograniczające. Bezpieczeństwo, które ignoruje te realia, zostanie po prostu ominięte.

Skuteczna ochrona wymaga widoczności na poziomie przeglądarki, gdzie odbywa się praca. To oznacza monitorowanie nie tylko przesyłania plików, ale także operacji wklejania, wysyłania formularzy, interakcji z poleceniach i każdego innego sposobu, w jaki dane poruszają się między systemami. To oznacza egzekwowanie polityk, które różnicują między kontami korporacyjnymi a osobistymi, niezależnie od tego, jaką aplikację ktoś używa.

Organizacje muszą rozszerzyć zapobieganie utracie danych poza pliki, aby objąć transfery bez plików. Polecenie wysłane do ChatGPT powinno otrzymać taką samą uwagę, jak załącznik do e-maila. Operacja wklejania do Slack powinna wyzwolić takie same kontrole, jak przesyłanie pliku do Google Drive. Metoda transferu nie powinna determinować, czy zastosowanie bezpieczeństwa.

Kontrole tożsamości muszą być naprawdę egzekwowane. Nie wystarczy oferowanie uwierzytelniania jednorazowego, jeśli pracownicy mogą nadal uzyskiwać dostęp do aplikacji biznesowych za pomocą kont osobistych. Uwierzytelnianie federacyjne musi być obowiązkowe dla każdej aplikacji, która obsługuje wrażliwe dane, a nie opcjonalne. Niefederacyjne logowania korporacyjne powinny być traktowane jako ryzyko bezpieczeństwa, którym są.

Podsumowanie

AI stało się najszybciej rozwijającą się kategorią w oprogramowaniu przedsiębiorstw. Stało się również największym kanałem wycieku danych. 77% pracowników wkleja dane do narzędzi AI. 40% przesyłanych plików zawiera wrażliwe informacje. Większość tej aktywności odbywa się za pośrednictwem niezarządzanych kont. Stara granica bezpieczeństwa nie istnieje już. Większość pracy odbywa się w przeglądarce, a nawet proste akcje, takie jak wklejanie tekstu, mogą prowadzić do naruszeń. Firmy, które nie aktualizują swoich strategii bezpieczeństwa dla tej nowej rzeczywistości, już tracą kontrolę nad swoimi najcenniejszymi danymi.