Zastanów się nad ryzykiem, zanim wsiądziesz na statek z rozszerzeniami AI

Google niedawno ogłosił pełne uruchomienie rozszerzeń Bard, integrując narzędzie konwersacyjne generatywne AI (GenAI) z innymi usługami. Bard może teraz wykorzystywać dane osobowe użytkowników do wykonywania różnych zadań – organizowania e-maili, rezerwowania lotów, planowania podróży, tworzenia odpowiedzi na wiadomości i wiele więcej.

Z usługami Google już głęboko wpisanymi w nasze codzienne życie, ta integracja oznacza prawdziwy krok naprzód w praktycznych zastosowaniach GenAI w codziennym życiu, tworząc bardziej efektywne i produktywne sposoby radzenia sobie z zadaniami osobistymi i przepływami pracy. W związku z tym, gdy Google wydaje coraz bardziej wygodne narzędzia AI, inne funkcje oparte na sieci są coraz częściej używane, aby spełnić popyt użytkowników, którzy teraz szukają rozszerzeń produktywności opartych na przeglądarce.

Użytkownicy jednak muszą być ostrożni i odpowiedzialni. Jak użyteczne i produktywne, jak mogą być rozszerzenia Bard i podobne narzędzia, otwierają nowe drzwi do potencjalnych luk w zabezpieczeniach, które mogą naruszyć dane osobowe użytkowników, a także inne jeszcze nieodkryte ryzyka. Użytkownicy, którzy chcą wykorzystywać Bard lub inne narzędzia produktywności GenAI, powinni nauczyć się najlepszych praktyk i szukać kompleksowych rozwiązań zabezpieczeń, zanim bezwzględnie przekazują swoje wrażliwe informacje.

Przegląd danych osobowych

Google wyraźnie stwierdza, że pracownicy firmy mogą przeglądać rozmowy użytkowników z Bard – które mogą zawierać prywatne informacje, od faktur po dane bankowe i notatki miłosne. Użytkownicy są odpowiednio ostrzegani, aby nie wprowadzać poufnych informacji lub jakichkolwiek danych, których nie chcieliby, aby pracownicy Google zobaczyli lub wykorzystali do informowania o produktach, usługach i technologiach machine learning.

Google i inni dostawcy narzędzi GenAI prawdopodobnie również wykorzystają dane osobowe użytkowników do ponownego szkolenia swoich modeli machine learning – niezbędnego aspektu ulepszania GenAI. Potęga AI leży w jej zdolności do samodzielnego uczenia się i nauki z nowych informacji, ale gdy te nowe informacje pochodzą od użytkowników, którzy zaufali rozszerzeniu GenAI swoimi danymi osobowymi, istnieje ryzyko, że zostaną one zintegrowane z informacjami takimi jak hasła, dane bankowe lub dane kontaktowe w usługach publicznie dostępnych Bard.

Nieokreślone obawy bezpieczeństwa

Gdy Bard staje się coraz bardziej zintegrowanym narzędziem w Google, eksperci i użytkownicy pracują nad zrozumieniem zakresu jego funkcjonalności. Jednak jak każdy pionier w dziedzinie AI, Google nadal wydaje produkty bez dokładnego poznania, jak będą wykorzystywać informacje i dane użytkowników. Na przykład, niedawno ujawniono, że jeśli udostępnisz rozmowę z Bard przyjaciółowi za pomocą przycisku Udostępnij, cała rozmowa może pojawić się w standardowych wynikach wyszukiwania Google dla każdego, kto może ją zobaczyć.

Chociaż jest to atrakcyjne rozwiązanie dla poprawy przepływu pracy i wydajności, udzielenie Bard lub innemu rozszerzeniu AI uprawnienia do wykonywania przydatnych codziennych zadań w Twoim imieniu może prowadzić do niepożądanych konsekwencji w postaci halucynacji AI – fałszywych lub niedokładnych danych wyjściowych, które GenAI czasem tworzy.

Dla użytkowników Google może to oznaczać rezerwację niewłaściwego lotu, niewłaściwą wypłatę faktury lub udostępnienie dokumentów niewłaściwej osobie. Ujawnienie danych osobowych nieuprawnionej stronie lub osobie o złą wierze lub wysłanie niewłaściwych danych do właściwej osoby może prowadzić do niepożądanych konsekwencji – od kradzieży tożsamości i utraty prywatności cyfrowej po potencjalną stratę finansową lub ujawnienie zawstydzającej korespondencji.

Rozszerzanie zabezpieczeń

Dla przeciętnego użytkownika AI najlepszą praktyką jest po prostu nieudostępnianie żadnych danych osobowych nieprzewidywalnym asystentom AI. Ale to samo w sobie nie gwarantuje pełnego zabezpieczenia.

Przejdź do aplikacji SaaS i aplikacji opartych na sieci, co uczyniło przeglądarkę głównym celem ataków. A gdy ludzie zaczynają przyjmować więcej opartych na sieci narzędzi AI, okno możliwości do kradzieży wrażliwych danych otwiera się nieco szerzej. Gdy więcej rozszerzeń przeglądarki próbuje wykorzystać sukces GenAI – zachęcając użytkowników do instalacji nowych i wydajnych funkcji – ludzie muszą być świadomi faktu, że wiele z tych rozszerzeń będzie kraść informacje lub klucze API OpenAI, w przypadku narzędzi związanych z ChatGPT.

Na szczęście istnieją już rozwiązania zabezpieczeń dla rozszerzeń przeglądarki, które mogą zapobiec kradzieży danych. Wdrożenie rozszerzenia przeglądarki z kontrolami DLP pozwala użytkownikom zmniejszyć ryzyko zaproszenia innych rozszerzeń przeglądarki, opartych na AI lub nie, do nadużywania lub udostępniania danych osobowych. Te rozwiązania zabezpieczeń mogą sprawdzić aktywność przeglądarki i egzekwować zasady zabezpieczeń, uniemożliwiając ryzyko, że aplikacje internetowe będą pobierać wrażliwe informacje.

Chronić Bard

Chociaż Bard i podobne rozszerzenia obiecują poprawę produktywności i wygodę, niosą one ze sobą znaczne ryzyko cyberbezpieczeństwa. Gdy dane osobowe są zaangażowane, zawsze istnieją podstawowe obawy bezpieczeństwa, których użytkownicy muszą być świadomi – tym bardziej w nowych, niezbadanych wodach Generatywnej AI.

Gdy użytkownicy pozwalają Bard i innym narzędziom opartym na AI i sieci działać niezależnie z wrażliwymi danymi osobowymi, bardziej poważne konsekwencje są pewne dla nieostrożnych użytkowników, którzy pozostawiają się bezbronnych bez rozszerzeń zabezpieczeń przeglądarki lub kontroli DLP. W końcu zwiększenie produktywności będzie o wiele mniej produktywne, jeśli zwiększy szansę na ujawnienie informacji, a osoby muszą ustawić zabezpieczenia AI przed naruszeniem danych na ich koszt.