O sztucznej inteligencji – cierpliwość jest cnotą

Od momentu premiery ChatGPT upłynęło już prawie dwa lata, a sztuczna inteligencja generatywna przeszła przez cały cykl hossy technologicznej, od wysokich, zmieniających społeczeństwo oczekiwań do wspierania niedawnego korekty giełdowego. Jednak w branży cyberbezpieczeństwa w szczególności, entuzjazm wokół sztucznej inteligencji generatywnej (genAI) jest nadal uzasadniony; po prostu może to potrwać dłużej, niż inwestorzy i analitycy przewidywali, aby zmienić sektor w całości.

Najbardziej wyraźnym, najnowszym znakiem zmiany w hossie była Konferencja Black Hat USA na początku sierpnia, na której sztuczna inteligencja generatywna odegrała bardzo małą rolę w premierach produktów, demonstracjach i tworzeniu zainteresowania. W porównaniu z konferencją RSA zaledwie cztery miesiące wcześniej, z udziałem tych samych dostawców, Black Hat miał niewielki nacisk na AI, co mogłoby rozsądnie skłonić obserwatorów do przekonania, że branża przechodzi do czegoś innego lub że AI stało się towarem. Ale tak nie jest.

Oto, co mam na myśli. Przekształcająca korzyść ze stosowania sztucznej inteligencji generatywnej w branży cyberbezpieczeństwa nie przyjdzie z ogólnych czatbotów lub szybkiego nakładania AI na modele przetwarzania danych. Są to bloki budowlane do bardziej zaawansowanych i wydajnych przypadków użycia, ale obecnie nie są one specjalizowane dla branży bezpieczeństwa i w związku z tym nie napędzają nowej fali optymalnych wyników bezpieczeństwa dla klientów. Raczej prawdziwa transformacja, jaką AI zapewni dla branży bezpieczeństwa, nastąpi, gdy modele AI zostaną dostosowane i skalibrowane do przypadków użycia związanych z bezpieczeństwem.

Obecne ogólne przypadki użycia AI w bezpieczeństwie w dużej mierze wykorzystują inżynierię promptów i Retrieval-Augmented Generation, co jest ramą AI, która umożliwia dużym modelom językowym (LLM) korzystanie z dodatkowych zasobów danych poza danymi szkoleniowymi, łącząc najlepsze części AI generatywnej i odzyskiwania danych. Użyteczność tych różni się znacznie w zależności od przypadku użycia i jak dobrze istniejące przetwarzanie danych dostawcy wspiera przypadek użycia; nie są to „magiczne”. To samo dotyczy innych aplikacji, które wymagają własnych danych i ekspertyzy, które nie są powszechne w Internecie, takich jak diagnozowanie medyczne i praca prawnicza. Wydaje się prawdopodobne, że firmy dostosują potoki przetwarzania danych i systemy dostępu do danych, aby zoptymalizować przypadki użycia AI generatywnej. Ponadto, firmy AI zachęcają do tworzenia specjalnie dostosowanych modeli, chociaż jeszcze nie wiadomo, jak dobrze to będzie działać w przypadkach, w których jakość i szczegóły są niezbędne.

Istnieje kilka powodów, dla których ta specjalizacja zajmie trochę czasu, aby wystąpić w branży bezpieczeństwa. Jednym z głównych powodów jest to, że dostosowywanie tych modeli wymaga wielu ludzi w pętli szkoleniowej, którzy są ekspertami w dziedzinie bezpieczeństwa i AI, dwóch branż, które mają trudności z zatrudnieniem wystarczającej liczby talentów. Branża bezpieczeństwa ma około czterech milionów specjalistów na całym świecie, według Forum Ekonomicznego Światowego, a Reuters szacuje, że w najbliższej przyszłości będzie brakować 50% specjalistów od AI.

Bez nadmiaru ekspertów dostępnych, precyzyjna praca niezbędna do dostosowania modeli AI do pracy w kontekście bezpieczeństwa będzie spowolniona. Koszt niezbędny do przeprowadzenia niezbędnej nauki o danych w celu szkolenia tych modeli również ogranicza liczbę organizacji, które mają zasoby do prowadzenia badań nad dostosowaniem modeli AI. Potrzeba milionów dolarów, aby zapłacić za moc obliczeniową, którą wymagają najnowocześniejsze modele AI, a pieniądze te muszą pochodzić z gdzieś. Nawet gdy organizacja ma zasoby i zespół, aby napędzać badania nad dostosowaniem AI, rzeczywisty postęp nie następuje z dnia na dzień. Będzie to zajmowało trochę czasu, aby dowiedzieć się, jak najlepiej uzupełnić modele AI, aby przynieść korzyści praktykom i analitykom bezpieczeństwa, a jak w przypadku każdego nowego narzędzia, będzie krzywa uczenia się, gdy wprowadzane są bezpieczeństwo-specyficzne procesory języka naturalnego, czatboty i inne integracje wspomagane przez AI.

Sztuczna inteligencja generatywna nadal jest gotowa zmienić świat bezpieczeństwa w nowy paradygmat, w którym ofensywne możliwości AI, których używają przeciwnicy i aktorzy zagrożeń, będą konkurować z modelami AI dostawców bezpieczeństwa, zaprojektowanymi do wykrywania i monitorowania zagrożeń. Badania i rozwój niezbędne do napędzania tej zmiany po prostu zajmą trochę czasu dłużej, niż ogólna społeczność technologiczna przewidywała.