Zastanów się nad ryzykiem przed skorzystaniem z rozszerzeń AI Bard

Firma Google niedawno ogłosiła pełne uruchomienie rozszerzeń Bard, integrując narzędzie konwersacyjne GenAI z innymi usługami. Bard może teraz wykorzystywać dane osobowe użytkowników do wykonywania różnych zadań – organizowania e-maili, rezerwowania lotów, planowania podróży, tworzenia odpowiedzi na wiadomości i wiele innych.

Ze względu na fakt, że usługi Google są już głęboko zintegrowane z naszym codziennym życiem, ta integracja oznacza prawdziwy krok forward w kierunku praktycznych zastosowań GenAI w codziennych zadaniach i workflow. W związku z tym, gdy Google wprowadza nowe, wygodne narzędzia AI, pojawiają się również inne funkcje oparte na sieci, które spełniają potrzeby użytkowników poszukujących rozszerzeń produktywności opartych na przeglądarce.

Użytkownicy jednak muszą być również ostrożni i odpowiedzialni. Jak użyteczne i produktywne mogą być rozszerzenia Bard i podobne narzędzia, otwierają one nowe drzwi do potencjalnych luk w zabezpieczeniach, które mogą naruszyć dane osobowe użytkowników, a także inne nieodkryte jeszcze ryzyka. Użytkownicy, którzy chcą wykorzystywać Bard lub inne narzędzia produktywności GenAI, powinni nauczyć się najlepszych praktyk i szukać kompleksowych rozwiązań zabezpieczeń przed podaniem swoich wrażliwych informacji.

Przegląd danych osobowych

Google wyraźnie stwierdza, że jego pracownicy mogą przeglądać rozmowy użytkowników z Bard – które mogą zawierać poufne informacje, od faktur po szczegóły bankowe i notatki miłosne. Użytkownicy są odpowiednio ostrzegani, aby nie wprowadzali informacji poufnych ani żadnych danych, których nie chcieliby, aby pracownicy Google zobaczyli lub wykorzystali do informowania o produktach, usługach i technologiach machine learning.

Google i inni dostawcy narzędzi GenAI prawdopodobnie również wykorzystają dane osobowe użytkowników do ponownego szkolenia swoich modeli machine learning – niezbędnego aspektu GenAI. Potęga AI tkwi w jej zdolności do samodzielnego uczenia się i nauki z nowych informacji, ale gdy te nowe informacje pochodzą od użytkowników, którzy zaufali rozszerzeniu GenAI swoimi danymi osobowymi, istnieje ryzyko, że zostaną one zintegrowane z informacjami takimi jak hasła, dane bankowe lub dane kontaktowe w publicznie dostępnych usługach Bard.

Nieustalone zagrożenia bezpieczeństwa

Gdy Bard staje się coraz bardziej zintegrowanym narzędziem w ramach Google, eksperci i użytkownicy nadal pracują nad zrozumieniem zakresu jego funkcjonalności. Jednak jak każdy pionier w dziedzinie AI, Google nadal wprowadza produkty bez dokładnego poznania, w jaki sposób będą wykorzystywać informacje i dane użytkowników. Na przykład, niedawno ujawniono, że jeśli udostępnisz rozmowę z Bard przyjacielowi za pomocą przycisku Udostępnij, cała rozmowa może pojawić się w standardowych wynikach wyszukiwania Google dla wszystkich do zobaczenia.

Mimo że jest to atrakcyjne rozwiązanie dla poprawy workflow i efektywności, udzielenie Bard lub innym rozszerzeniom AI uprawnień do wykonywania przydatnych zadań codziennych w Twoim imieniu może prowadzić do niepożądanych konsekwencji w postaci halucynacji AI – fałszywych lub niedokładnych danych wyjściowych, których GenAI czasem tworzy.

Dla użytkowników Google może to oznaczać rezerwację niewłaściwego lotu, niewłaściwą płatność za fakturę lub udostępnienie dokumentów niewłaściwej osobie. Ujawnienie danych osobowych nieuprawnionemu podmiotowi lub osobie o złych intencjach lub przesłanie niewłaściwych danych do odpowiedniej osoby może prowadzić do niepożądanych konsekwencji – od kradzieży tożsamości i utraty prywatności cyfrowej po potencjalne straty finansowe lub ujawnienie zawstydzającej korespondencji.

Rozszerzanie zabezpieczeń

Dla przeciętnego użytkownika AI najlepszą praktyką jest po prostu nieudostępnianie żadnych informacji osobistych nieprzewidywalnym asystentom AI. Jednak sama ta czynność nie gwarantuje pełnego zabezpieczenia.

Przejdźmy do aplikacji SaaS i opartych na sieci, co uczyniło przeglądarkę głównym celem ataków. A gdy ludzie zaczynają przyjmować więcej opartych na sieci narzędzi AI, okno możliwości do kradzieży wrażliwych danych otwiera się nieco szerzej. Gdy więcej rozszerzeń przeglądarki próbuje wykorzystać sukces GenAI – zachęcając użytkowników do ich zainstalowania nowymi i wydajnymi funkcjami – ludzie muszą być świadomi faktu, że wiele z tych rozszerzeń skończy się kradzieżą informacji lub kluczy API OpenAI, w przypadku narzędzi związanych z ChatGPT.

Na szczęście już istnieją rozwiązania zabezpieczeń przeglądarki, które mogą zapobiec kradzieży danych. Poprzez wdrożenie rozszerzenia przeglądarki z kontrolami DLP, użytkownicy mogą złagodzić ryzyko zaproszenia innych rozszerzeń przeglądarki, opartych na AI lub innych, do nadużywania lub udostępniania danych osobowych. Te rozszerzenia zabezpieczeń mogą sprawdzić aktywność przeglądarki i egzekwować zasady zabezpieczeń, uniemożliwiając ryzyko, że aplikacje oparte na sieci pobiorą wrażliwe informacje.

Chronić Bard

Chociaż Bard i inne podobne rozszerzenia obiecują poprawę produktywności i wygodę, niosą one ze sobą znaczne ryzyko cyberbezpieczeństwa. Gdy są zaangażowane dane osobowe, zawsze istnieją podstawowe problemy z zabezpieczeniami, których użytkownicy muszą być świadomi – tym bardziej w nowych, niezbadanych wodach Generative AI.

Gdy użytkownicy pozwalają Bard i innym narzędziom opartym na sieci działać niezależnie z wrażliwymi danymi osobowymi, bardziej poważne konsekwencje są pewne dla nieostrożnych użytkowników, którzy pozostawiają się bezbronni bez rozszerzeń zabezpieczeń przeglądarki lub kontroli DLP. W końcu zwiększenie produktywności będzie o wiele mniej produktywne, jeśli zwiększy szansę na ujawnienie informacji, a osoby muszą wprowadzić środki bezpieczeństwa dla AI przed naruszeniem danych na ich koszt.