Większość firmowych rozwiązań AI nie jest bezpieczna. Oto, co mogą zrobić firmy

Przedsiębiorstwa rywalizują o wdrożenie generatywnego sztucznego inteligentnego (AI), aby utrzymać się na rynku. Zespoły ds. bezpieczeństwa stają jednak przed znaczącym wyzwaniem, ponieważ opierają się na przestarzałych ramach opracowanych dla innej ery technologicznej. Narzędzia, które z powodzeniem chroniły organizacje przez dziesięciolecia, pozostawiają krytyczne luki w zabezpieczeniach, gdy pracownicy korzystają z platform AI opartych na przeglądarce. Aby bezpiecznie wdrożyć najnowszą technologię, firmy muszą całkowicie zmienić sposób kontroli dostępu do informacji i wykrywania nowych zagrożeń.

Rosnące zagrożenie cieniowego AI w przedsiębiorstwie

Cieniowe AI pojawia się, gdy pracownicy omijają oficjalne kanały IT i używają nieautoryzowanych, konsumenckich narzędzi AI do zadań służbowych. Te platformy oferują szybkość i wygodę, której nie mogą dorównać wewnętrzne procesy zatwierdzania, co sprawia, że są one niezwykle atrakcyjne dla pracowników skupionych na wydajności.

Najnowsze badania ujawniają, że 73,8% zaangażowania pracowników z ChatGPT odbywa się na niefirmowych kontach, co oznacza, że wrażliwe informacje trafiają bezpośrednio do publicznych modeli. Podobnie, korzystanie z Gemini i Bard na kontach osobistych sięga 94,4% i 95,9% odpowiednio.

Zlecanie zadań do niezweryfikowanych zewnętrznych platform niesie ze sobą znaczące konsekwencje. Analiza pokazuje, że 55% wszystkich awarii AI wynika z tych rozwiązań zewnętrznych, tworząc ryzyka, które obejmują uszkodzenie reputacji i straty finansowe. Brak zaufania konsumentów, kary za niezgodność i procesy sądowe często następują. Dla firm, które używają rozwiązań AI zewnętrznych bez przeprowadzania analizy ryzyka przed wdrożeniem, jest to niepokojące.

Bez egzekwowalnych wytycznych pracownicy udostępniają wrażliwe informacje firmowe, tworząc ogromne zobowiązania związane z ochroną prywatności, podczas gdy wiele platform zewnętrznych nie posiada rygorystycznych środków bezpieczeństwa niezbędnych do ochrony poufnych dokumentów biznesowych. Polityki przechowywania i praktyki w ramach tych rozwiązań mogą nieumyślnie narażać informacje klientów i rekordy finansowe na potencjalne naruszenia.

Dlaczego tradycyjna prewencja utraty danych nie działa

Tradycyjne narzędzia prewencji utraty danych (DLP) zostały opracowane, aby powstrzymać pobieranie plików lub wysyłanie ich za pomocą załączników e-mail. Rozwiązania te są doskonałe w swoim pierwotnym celu, ale napotykają na fundamentalną ograniczenie w erze AI opartego na przeglądarce. Na przykład, nie mogą one łatwo monitorować ani blokować tekstu, który pracownik ręcznie wpisuje lub wkleja bezpośrednio do okna podręcznego AI, tworząc ślepe pole w zabezpieczeniach, które staje się coraz bardziej problematyczne z każdym kwartałem.

Przerwa staje się widoczna, gdy przyglądamy się temu, co te narzędzia mogą i nie mogą chronić:

• DLP łapie: Pobieranie plików, załączniki e-mail, transfery USB i przesyłanie dokumentów
• DLP pomija: Akcje kopiowania i wklejania do okien przeglądarki, ręcznie wpisywane polecenia, zrzuty ekranu przekonwertowane na tekst i bezpośredni wprowadzanie tekstu do aplikacji internetowych

W miarę przyspieszania wdrożenia AI w organizacjach, ta luka w zabezpieczeniach się powiększa i tworzy drogę do wykradzenia informacji, której tradycyjna infrastruktura bezpieczeństwa nie była zaprojektowana, aby rozwiązać. Zespoły ds. bezpieczeństwa znajdują się w pozycji reaktywnej, odkrywając naruszenia dopiero po tym, jak wrażliwe treści już opuściły kontrolę organizacji.

Jaki jest najlepszy podejście do bezpiecznego przedsiębiorstwa AI?

Utrzymywanie przestarzałych rozwiązań DLP i ignorowanie rzeczywistości wdrożenia AI nie stanowi wiarygodnej długoterminowej strategii biznesowej. Firmy muszą uaktualnić do wykrywania zagrożeń opartych na AI, które dostosowują się do nowych ataków i egzekwują surowe granice użytkowania AI, które chronią wrażliwe informacje. Ustanowienie scentralizowanych praktyk zarządzania w celu zapobiegania przypadkowemu ujawnieniu kompletuje tę podstawę bezpieczeństwa.

Przejdź do wielowarstwowego kontekstu AI

Tradycyjne narzędzia wykrywania zagrożeń opierają się na reaktywnych regułach, które szukają historycznych sygnatur znanych ataków. To podejście albo generuje nadmiar fałszywych pozytywów, flagując normalne zachowanie pracowników jako podejrzane, albo całkowicie pomija nowe ataki, które nie pasują do żadnego wcześniejszego wzorca w swojej bazie danych.

Na przykład, szpital Artesia General Hospital rozpoznał te ograniczenia w ochronie swoich operacji opieki pacjentów i ekosystemów cyfrowych, co skłoniło organizację do wdrożenia technologii Darktrace. Działając bez wcześniej zdefiniowanej listy zagrożeń, platforma uczy się każdego urządzenia, użytkownika i interakcji w sieci szpitala, aby rozwijać zrozumienie, jak wygląda normalne zachowanie od podstaw.

Składnik Cyber AI Analyst bada alerty przy użyciu metod podobnych do tych stosowanych przez analityków ludzkich, łącząc subtelną anomalie, które mogą wskazywać na prawdziwe zagrożenia dla rekordów pacjentów i operacji szpitala. System samodzielnie badają zagrożenia sieci Artesia, aby określić, które alerty reprezentują rzeczywiste incydenty bezpieczeństwa.

To wielowarstwowe podejście AI znacznie redukuje fałszywe pozytywy, które obciążają zespoły ds. bezpieczeństwa. Przechodząc od 100 nieszkodliwych alertów dziennie do zaledwie dwóch lub trzech krytycznych incydentów, które rzeczywiście wymagają uwagi ludzkiej, ich koncentracja się zwęża. Analitycy otrzymują dokładnie informacje, których potrzebują, bez spędzania godzin na ręcznym dochodzeniu.

Wprowadź surowe wewnętrzne zasady korzystania z AI

Ustanowienie surowych granic i wdrożenie technicznych barier, które kontrolują, jakie informacje mogą wejść do publicznych modeli AI, rozwiązuje podatności, których nie mogą samodzielnie zamknąć rozwiązania DLP.

Firma Samsung dostarcza ostrzegawczy przykład tego, co się dzieje, gdy pracownicy dostęp do narzędzi AI bez odpowiednich zabezpieczeń technicznych. W ciągu 20 dni po udostępnieniu dostępu do ChatGPT w kwietniu 2023 r., firma doświadczyła trzech odrębnych wycieków, które naruszyły wysoce poufne informacje w wielu departamentach.

Inżynierowie wklejali kod źródłowy bazy danych półprzewodników do ChatGPT, aby sprawdzić błędy kodowania, ujawniając krytyczne informacje o procesach produkcyjnych Samsunga. W innym incydencie pracownik przesłał specjalny kod zaprojektowany do identyfikacji wad w sprzęcie, szukając sugestii optymalizacji. Personel również przekonwertował nagrane spotkania wewnętrzne na tekst, zanim podał te transkrypcje do ChatGPT w celu automatycznego tworzenia notatek.

Gdy informacje wprowadzone do publicznego modelu AI, nie ma przycisku usuwania, aby odzyskać lub wyczyścić je z bazy wiedzy. Ostatecznie Samsung całkowicie zabronił korzystania z ChatGPT, ponieważ nie można odzyskać przecieku treści własnościowej.

Ustanów scentralizowane zarządzanie danymi

Rozwiązanie AI przedsiębiorstwa jest tak bezpieczne, jak informacje, do których ma dostęp w ramach organizacji, a standaryzacja uprawnień we wszystkich systemach tworzy podstawę bezpiecznego wdrożenia AI. Gdy wewnętrzna sieć firmy cierpi na niejednolite kontrolki dostępu i fragmentaryczne praktyki zarządzania, nawet zatwierdzone narzędzia AI mogą przypadkowo ujawnić poufne pliki HR lub rekordy finansowe nieuprawnionym pracownikom.

Na przykład, firma ubezpieczeniowa AXIS Capital spotkała się z tym wyzwaniem bezpośrednio, gdy zajmowała się platformami polityki i roszczeń, które były rozproszone w różnych geograficznych lokalizacjach. Każda linia biznesowa utworzyła własne standardy odniesienia do raportowania, a niekonsekwencje doprowadziły do błędów w cytowaniu, ustalaniu cen i regulowaniu roszczeń, co utrudniało raportowanie na poziomie korporacyjnym.

Firma ubezpieczeniowa opracowała strategię na poziomie organizacji, wykorzystując formularze opieki internetowej i surowe reguły bezpieczeństwa, aby standaryzować podstawowe hierarchie odniesienia. Zaczynając od Systemu Klasyfikacji Przemysłu Ameryki Północnej i Standardowej Klasyfikacji Przemysłu, AXIS następnie rozszerzył się na kody ratingowe i ubezpieczeniowe, które wcześniej różniły się w zależności od lokalizacji.

Przez wdrożenie scentralizowanego zarządzania danymi i kontroli, firma utworzyła jedną bezpieczną źródło prawdy dostępną we wszystkich operacjach. To wyeliminowało niekonsekwencje, które dotknęły ich platformy, podczas gdy firma AXIS mogła przyspieszyć podstawowe procesy ubezpieczeniowe, takie jak wprowadzanie nowych ofert produktowych, redukowanie ryzyka operacyjnego i osiąganie niezawodnej analityki na poziomie korporacyjnym.

Zabezpieczanie przyszłości innowacji przedsiębiorstwa

Wdrożenie AI w firmie jest nieuniknione, ponieważ organizacje rywalizują o przewagę rynkową. Poleganie na przestarzałych ramach bezpieczeństwa i tolerowanie nieuregulowanych praktyk zarządzania będzie tylko przyspieszać wycieki i naruszenia zgodności. Pytanie nie brzmi, czy firmy wdrożą AI, ale czy zrobią to bezpiecznie. Przez wdrożenie wielowarstwowego wykrywania zagrożeń AI i ustanowienie surowych kontroli dostępu do informacji, firmy mogą przyjąć innowacje AI, chroniąc jednocześnie swoje najwrażliwsze treści.