Niebezpieczeństwa czatbotów AI – i jak im przeciwdziałać

W przeszłości czatboty AI były postrzegane jako programy automatyczne, które mogły prowadzić rozmowy, które są prawie nieodróżnialne od tych prowadzonych przez ludzi. Jednak niebezpieczeństwa związane z czatbotami AI są równie różnorodne.

Mogą one obejmować przypadki, w których ludzie nadużywają ich, a także rzeczywiste zagrożenia dla bezpieczeństwa cybernetycznego. W miarę jak ludzie coraz bardziej polegają na technologii AI, ważne jest, aby znać potencjalne konsekwencje korzystania z tych programów. Czy czatboty są niebezpieczne?

1. Uprzedzenia i dyskryminacja

Jednym z największych niebezpieczeństw związanych z czatbotami AI jest ich skłonność do szkodliwych uprzedzeń. Ponieważ AI łączy punkty danych, które ludzie często pomijają, może nauczyć się rozpoznawać subtelne, niejawne uprzedzenia w danych szkoleniowych i nauczyć się być dyskryminującym. W rezultacie czatboty mogą szybko nauczyć się wypowiadać rasistowskie, seksistowskie lub inne dyskryminujące treści, nawet jeśli nic takiego nie było w danych szkoleniowych.

Przykładem tego jest porzucony przez Amazon projekt związany z rekrutacją przy użyciu AI. W 2018 roku okazało się, że Amazon porzucił projekt AI, który miał na celu wstępną ocenę aplikacji kandydatów, ponieważ karano aplikacje od kobiet. Ponieważ większość aplikacji, na których szkolił się bot, pochodziła od mężczyzn, nauczył się, że aplikacje mężczyzn są preferowane, nawet jeśli dane szkoleniowe nie mówiły o tym wprost.

Czatboty, które uczą się na treściach z internetu, aby nauczyć się prowadzić rozmowy w naturalny sposób, mają tendencję do wykazywania jeszcze bardziej ekstremalnych uprzedzeń. W 2016 roku Microsoft wprowadził czatbota o nazwie Tay, który nauczył się naśladować posty na mediach społecznościowych. W ciągu kilku godzin zaczął publikować bardzo obraźliwe treści, co skłoniło Microsoft do zawieszenia konta.

Jeśli firmy nie będą ostrożne przy budowaniu i wdrażaniu tych botów, mogą nieumyślnie doprowadzić do podobnych sytuacji. Czatboty mogą źle traktować klientów lub rozpowszechniać szkodliwe treści, które mają powstrzymać.

2. Zagrożenia dla bezpieczeństwa cybernetycznego

Niebezpieczeństwa związane z technologią czatbotów AI mogą również stanowić bezpośrednie zagrożenie dla bezpieczeństwa cybernetycznego ludzi i firm. Jedną z najbardziej rozpowszechnionych form ataków cybernetycznych są oszustwa phishingowe i vishingowe. Polegają one na naśladownictwie przez cyberprzestępców zaufanych organizacji, takich jak banki lub organy rządowe.

Oszustwa phishingowe通常 działają za pośrednictwem e-maili i wiadomości tekstowych — kliknięcie na link pozwala na wprowadzenie złośliwego oprogramowania do systemu komputerowego. Po wejściu do systemu wirus może wykonywać różne czynności, od kradzieży danych osobowych po żądanie okupu.

Odsetek ataków phishingowych stale rośnie podczas i po pandemii COVID-19. Agencja Cybersecurity & Infrastructure Security stwierdziła, że 84% osób odpowiedziało na wiadomości phishingowe, podając informacje wrażliwe lub klikając na link.

Oszustowie używają technologii czatbotów AI, aby zautomatyzować wyszukiwanie ofiar, przekonywanie ich do kliknięcia na linki i podawania informacji osobistych. Czatboty są używane przez wiele instytucji finansowych — takich jak banki — w celu usprawnienia doświadczenia obsługi klienta.

Czatboty oszustów mogą naśladować te same automatyczne monity, których używają banki, aby oszukać ofiary. Mogą również automatycznie wybierać numery telefonów lub kontaktować się z ofiarami bezpośrednio na interaktywnych platformach czatu.

3. Zatrucie danych

Zatrucie danych to nowo wymyślony atak cybernetyczny, który bezpośrednio atakuje sztuczną inteligencję. Technologia AI uczy się z zestawów danych i używa tej informacji do wykonania zadań. Dotyczy to wszystkich programów AI, niezależnie od ich przeznaczenia czy funkcji.

Dla czatbotów AI oznacza to naukę wielu odpowiedzi na możliwe pytania, które mogą zadać im użytkownicy. Jest to jednak również jednym z niebezpieczeństw AI.

Te zestawy danych są często otwartymi narzędziami i zasobami dostępnymi dla wszystkich. Chociaż firmy AI zwykle traktują źródła danych jako ściśle strzeżoną tajemnicę, cyberprzestępcy mogą określić, które z nich używają, i manipulować danymi.

Cyberprzestępcy mogą znaleźć sposoby, aby manipulować zestawami danych używanymi do szkolenia AI, co pozwala im manipulować decyzjami i odpowiedziami. AI użyje informacji z zmienionych danych i wykona akcje, które chcą cyberprzestępcy.

Przykładem tego może być jeden z najczęściej używanych źródeł danych, jakim są zasoby Wiki, takie jak Wikipedia. Chociaż dane nie pochodzą bezpośrednio z artykułu na żywo, pochodzą one ze zdjęć danych wykonanych w określonym czasie. Hakerzy mogą znaleźć sposób, aby edytować dane w celu osiągnięcia korzyści.

W przypadku czatbotów AI hakerzy mogą skażać zestawy danych używane do szkolenia czatbotów, które pracują dla instytucji medycznych lub finansowych. Mogą manipulować programami czatbotów, aby udzielały klientom fałszywych informacji, które mogą skłonić ich do kliknięcia na link zawierający złośliwe oprogramowanie lub fałszywą stronę internetową. Jak tylko AI zacznie korzystać z skażonych danych, trudno jest wykryć to i może prowadzić do znacznego naruszenia bezpieczeństwa cybernetycznego, które może pozostać niezauważone przez długi czas.

Jak przeciwdziałać niebezpieczeństwom czatbotów AI

Te ryzyka są niepokojące, ale nie oznaczają, że czatboty są niebezpieczne. Należy podejść do nich ostrożnie i wziąć pod uwagę te niebezpieczeństwa przy budowaniu i używaniu czatbotów.

Kluczem do zapobiegania uprzedzeniom AI jest poszukiwanie ich podczas szkolenia. Należy szkolić je na różnorodnych zestawach danych i programować je w sposób, aby unikać uwzględniania takich czynników, jak rasa, płeć czy orientacja seksualna w procesie decyzyjnym. Najlepiej jest również mieć zróżnicowany zespół naukowców, którzy będą przeglądać mechanizmy wewnętrzne czatbotów i upewniać się, że nie wykazują one żadnych uprzedzeń, choćby najbardziej subtelnych.

Najlepszą obroną przed oszustwami phishingowymi jest szkolenie. Należy szkolić wszystkich pracowników, aby rozpoznawali typowe oznaki oszustw phishingowych, aby nie padli ofiarą tych ataków. Rozpowszechnianie świadomości wśród konsumentów na temat tego problemu również pomoże.

Można zapobiec zatruciu danych, ograniczając dostęp do danych szkoleniowych czatbotów. Tylko osoby, które potrzebują dostępu do tych danych, aby wykonywać swoją pracę, powinny mieć uprawnienia — jest to concept zwany zasadą najmniejszych przywilejów. Po wdrożeniu tych ograniczeń należy używać silnych środków weryfikacji, takich jak uwierzytelnianie wieloczynnikowe lub biometryczne, aby zapobiec ryzyku hakowania konta przez cyberprzestępców.

Bądź czujny wobec niebezpieczeństw związanych z uzależnieniem od AI

Sztuczna inteligencja to naprawdę wspaniała technologia o niemal nieograniczonych zastosowaniach. Jednak niebezpieczeństwa związane z AI mogą być niejasne. Czy czatboty są niebezpieczne? Nie są nimi z natury, ale cyberprzestępcy mogą ich używać na różne sposoby. To od użytkowników zależy, jakie będą zastosowania tej nowej technologii.