Dlaczego zakazywanie AI zwiększa ryzyko bezpieczeństwa i jak instytucje powinny reagować

W całych Stanach Zjednoczonych, okręgi szkolne i organizacje sektora publicznego ograniczają lub blokują dostęp do technologii generatywnego AI (GenAI) lub konkretnych narzędzi. W Kolorado, okręg szkolny Boulder Valley niedawno zabronił korzystania z ChatGPT w sieciach okręgu, powołując się na obawy dotyczące nadużyć, bezpieczeństwa i integralności akademickiej.

Instynkt redukowania narażenia na incydenty bezpieczeństwa lub nadużyć danych jest zrozumiały. Platformy z słabymi zabezpieczeniami lub niejasnymi zobowiązaniami dotyczącymi prywatności, takie jak DeepSeek, wymagają ograniczeń i kontroli. Ale zakazywanie dostępu do narzędzi GenAI nie zmniejsza znacząco ryzyka; często po prostu przenosi je do środowisk, w których nadzór zanika.

Sondaż College Board wykazał, że 84% uczniów szkół średnich zgłosiło korzystanie z GenAI do celów szkolnych, nawet gdy 45% dyrektorów szkół zgłosiło pewne ograniczenia w dostępie do AI w szkole. Podobnie, raport IBM wykazał, że 80% pracowników biurowych korzysta z AI, ale tylko 22% polega wyłącznie na narzędziach dostarczonych przez pracodawcę.

Polityki dostępu same w sobie nie determinują zachowania. Uczniowie mogą wyciągnąć swoje telefony i użyć dowolnego narzędzia AI za pośrednictwem sieci komórkowej, lub użyć platformy podczas pracy w domu lub na publicznej sieci Wi-Fi. Mogą również używać VPN, pulpitu zdalnego i wtyczek, aby ominąć ograniczenia. Pracownicy mogą robić to samo, aby ominąć kontrolę w miejscu pracy.

Organizacje powinny założyć, że gdy jest wola korzystania z AI, jest sposób. Gdy technologia jest ograniczona w sposób, który popycha jej użycie poza widoczność instytucjonalną, ryzyko AI cieni wzrasta. Nie ma nadzoru nad tym, jakie informacje są wprowadzane do sugestii, ani jakie dane są przechowywane przez model. Każda kontrola nad bezpieczeństwem jest natychmiast tracona.

Poza ryzykiem AI cieni, zakazy tworzą lukę w umiejętnościach, pozostawiając uczniów całkowicie nieprzygotowanych do korzystania z technologii, która będzie stanowić dużą część ich przyszłości. Te narzędzia są coraz bardziej wbudowane w wyszukiwarki, platformy biznesowe, pakiety produktywności i urządzenia osobiste. Sondaż Pew Research wykazał, że 62% dorosłych w Stanach Zjednoczonych twierdzi, że korzysta z AI przynajmniej kilka razy w tygodniu. Jest prawie pewne, że uczniowie i pracownicy będą napotykać systemy GenAI niezależnie od polityk instytucjonalnych.

W tym środowisku edukacja jest najbardziej niezawodną ochroną przed obawami dotyczącymi nadużyć lub bezpieczeństwa, oraz aby zapewnić, że uczniowie i pracownicy są dobrze przygotowani do korzystania z narzędzia, które będzie integralną częścią ich kariery. Nauczanie odpowiedzialnego i etycznego korzystania z AI wyposaża użytkowników w umiejętność rozpoznawania ryzyka danych i podejmowania świadomych decyzji, gdziekolwiek napotkają te systemy.

Programy edukacyjne powinny koncentrować się na tym, jak duże modele językowe (LLM) przetwarzają i przechowują dane, jak identyfikować halucynacje, jak weryfikować dane wygenerowane przez AI, oraz jak identyfikować kampanie phishingowe i obrazy wygenerowane przez AI, by wymienić tylko kilka. Naucz użytkowników, aby byli sceptyczni. Dane wyjściowe AI są często prezentowane w sposób pewny i w języku wyrafinowanym, co może tworzyć iluzję autorytetu. Bez szkolenia użytkownicy mogą założyć, że dobrze sformatowana odpowiedź jest z natury dokładna.

Umiejętność kwestionowania cyfrowej zawartości jest pierwszoliniową obroną, gdy deepfake i kampanie phishingowe wspomagane przez AI stają się coraz bardziej zaawansowane. Sondaż Gartner wykazał, że 62% organizacji doświadczyło ataku deepfake w zeszłym roku, a 32% stanęło w obliczu ataku na aplikacje AI. Częstotliwość i zakres tych incydentów będą tylko rosły.

Instytucje sektora publicznego, takie jak szkoły i samorządy lokalne, są szczególnie narażone na ataki socjotechniczne z użyciem deepfake, ponieważ wiele ich działalności jest nagrywane i publicznie dostępne. Fragmenty dźwięku z publicznych spotkań mogą być modyfikowane i wykorzystywane do generowania przekonywujących połączeń głosowych. Widzieliśmy, jak aktorzy zagrożeń wykorzystują to do oszustw, takich jak przekierowanie funduszy podczas wrażliwych transakcji. Chociaż zdarza się to najczęściej w przypadkach celowych, użytkownicy, którzy nigdy nie zostali przeszkoleni w rozpoznawaniu tych technik, lub nawet nie wiedzą, że są one możliwe, są w niekorzystnej sytuacji od samego początku.

Po edukacji organizacje powinny mieć jasno sformułowane polityki dotyczące korzystania z AI i zarządzania nim. Polityki te powinny określać zatwierdzone narzędzia, dopuszczalne przypadki użycia, oraz jakie dane mogą i nie mogą być wprowadzane do którychkolwiek modeli. Polityki powinny być stosowane w sposób spójny we wszystkich departamentach, a nie różnić się od klasy do klasy lub biura do biura. Jasne oczekiwania redukują niejasności i wzmacniają odpowiedzialność.

Zamiast ogólnych ograniczeń, organizacje powinny dążyć do kształtowania, w jaki sposób technologia jest wykorzystywana w praktyce. Gdy organizacja popiera narzędzie, które jest dostępne, bezpieczne i dobrze działa, staje się ono domyślnym wyborem dla większości użytkowników. Nieformalne użycie AI cieni maleje, ponieważ istnieje prosty alternatywa, która nie wymaga pobierania VPN, aby z niej skorzystać.

Organizacje i instytucje szukają sposobów, aby zapewnić bezpieczny dostęp do LLM, w taki sposób, aby ich dane były zabezpieczone i nie były udostępniane ani wykorzystywane do szkolenia. Pojawia się rosnąca kategoria narzędzi do włączania AI i zabezpieczeń, które mają dokładnie to na celu. Mogą one zapewnić dostęp do wielu LLM, jednocześnie utrzymując dane instytucji w bezpiecznym kontenerze. Umowy o braku przechowywania danych zapewniają ramy prawne, aby zapewnić, że dane organizacji pozostają własnością firmy lub instytucji, a LLM nie może być szkolony na nich. Dodatkowo, jeśli pracownik opuści instytucję, wszelkie użycie AI, przepływy pracy lub dane pozostają własnością organizacji.

Techniczne zabezpieczenia mogą być również stosowane na poziomie funkcjonalnym. Instytucja może zezwolić uczniom lub pracownikom na zadawanie ogólnych pytań w ramach zatwierdzonego LLM, jednocześnie wyłączając funkcje, takie jak przesyłanie plików, udostępnianie dokumentów lub inne funkcje o wysokim ryzyku. Te konfiguracje zachowują korzyści produktywności, nie otwierając drzwi do niekontrolowanego narażenia danych.

Bardziej zaawansowane narzędzia mogą automatycznie anonimizować wrażliwe informacje, zanim jeszcze dotrą do modelu. Na przykład, zastępując nazwy pacjentów lub identyfikatory neutralnymi placeholderami, aby lekarze i pielęgniarki mogli nadal korzystać z GenAI, nie narażając chronionych danych. Inne integrują kontrolę zapobiegania utracie danych, która wykrywa i blokuje numery bezpieczeństwa społecznego, dane kont finansowych lub inne regulowane informacje, które są przesyłane w sugestiach.

Jasne polityki z technicznymi zabezpieczeniami, oparte na fundamencie edukacji, tworzą najlepszą obronę, zwłaszcza gdy technologia zmienia się tak szybko. GenAI ewoluuje szybciej, niż większość organizacji sektora publicznego – i ich budżetów – może dostosować się. Próba zablokowania każdego nowego modelu, gdy pojawia się, jest niewykonalna, ponieważ zawsze, gdy platforma jest ograniczona, inna zyskuje popularność. Użytkownicy, którzy zostali przeszkoleni w zrozumieniu podstawowych ryzyk, mogą dostosować się do różnych narzędzi i wersji.

Bezpieczeństwo w środowisku z AI zależy od uznania rzeczywistości, że GenAI jest już wbudowane w codzienne życie. Nie ma powrotu do poprzedniego stanu. Ogólne zakazy mogą sygnalizować ostrożność, ale często wymieniają widoczne, zarządzalne ryzyko na niewidoczne, niezarządzane narażenie. Naucz osobę, jak odpowiedzialnie korzystać z AI, a będzie ona przygotowana na to, co przyjdzie następnie.