Nebezpečí chatbotů AI – a jak jim čelit

Chatboty AI, dříve považované za pouhé automatizované programy, mohou nyní učit a vést konverzace, které jsou téměř nerozeznatelné od těch lidských. Nicméně, nebezpečí chatbotů AI jsou stejně rozmanitá.

Tato nebezpečí mohou zahrnovat lidi, kteří je zneužívají, nebo skutečná kybernetická rizika. Jak lidé stále více závisí na technologiích AI, je důležité znát potenciální důsledky používání těchto programů. Ale jsou chatboty nebezpečné?

1. Předsudky a diskriminace

Jedno z největších nebezpečí chatbotů AI je jejich tendence k škodlivým předsudkům. Protože AI nachází souvislosti mezi datovými body, které lidé často přehlížejí, může se naučit být diskriminační na základě jemných, implicitních předsudků ve svých trénovacích datech. Jako výsledek, chatboty mohou rychle naučit šířit rasistické, sexistické nebo jinak diskriminační obsah, i když nic takového nebylo v jejich trénovacích datech.

Typickým příkladem je zrušený hiring bot Amazonu. V roce 2018 se ukázalo, že Amazon zrušil projekt AI, který měl předem vyhodnocovat životopisy uchazečů, protože penalizoval ženy. Protože většina životopisů, na kterých se bot učil, patřila mužům, naučil se, že mužští uchazeči jsou preferovaní, i když trénovací data to výslovně neříkala.

Chatboty, které se učí na internetovém obsahu, aby se naučily komunikovat přirozeně, často ukazují ještě extrémnější předsudky. V roce 2016 Microsoft představil chatbota Tay, který se naučil napodobovat sociální média. Během několika hodin začal tweetovat vysoce urážlivý obsah, což vedlo k tomu, že Microsoft účet zrušil.

Pokud společnosti nejsou opatrné při budování a nasazování těchto botů, mohou náhodou vést ke stejné situaci. Chatboty mohou špatně zacházet se zákazníky nebo šířit škodlivé předsudky, které mají zabránit.

2. Kybernetická rizika

Nebezpečí technologie chatbotů AI mohou také představovat přímější kybernetické riziko pro lidi a podniky. Jednou z nejčastějších forem kybernetických útoků jsou phishingové a vishingové útoky. Tyto útoky zahrnují kybernetické útočníky, kteří se vydávají za důvěryhodné organizace, jako jsou banky nebo vládní úřady.

Phishingové útoky obvykle probíhají prostřednictvím e-mailů a textových zpráv — kliknutí na odkaz umožňuje malwaru vstoupit do počítačového systému. Jakmile je uvnitř, virus může udělat cokoliv od krádeže osobních údajů až po požadování výkupného.

Rychlost phishingových útoků neustále roste během a po pandemii COVID-19. Agentura pro kybernetickou a infrastrukturální bezpečnost zjistila, že 84 % lidí odpovědělo na phishingové zprávy s citlivými informacemi nebo kliklo na odkaz.

Phishers používají technologii chatbotů AI k automatizaci hledání obětí, přesvědčování jich, aby klikli na odkazy a poskytli osobní informace. Chatboty jsou používány mnoha finančními institucemi — jako jsou banky — ke streamlinování zákaznického servisu.

Chatboty phisherů mohou napodobit stejné automatizované výzvy, které banky používají, aby oklamali oběti. Mohou také automaticky volat telefonní čísla nebo kontaktovat oběti přímo na interaktivních chatovacích platformách.

3. Otrávení dat

Otrávení dat je nově konceptualizovaný kybernetický útok, který přímo cílí na umělou inteligenci. Technologie AI se učí z datových sad a používá tyto informace k dokončení úkolů. To platí pro všechny programy AI, bez ohledu na jejich účel nebo funkce.

Pro chatboty AI to znamená naučit se několika odpovědím na možné otázky, které uživatelé mohou položit. Nicméně, toto je také jedno z nebezpečí AI.

Tyto datové sady jsou často otevřené zdroje a nástroje dostupné komukoliv. Ačkoli společnosti AI obvykle pečlivě střeží své zdroje dat, kybernetičtí útočníci mohou určit, které zdroje používají, a manipulovat s nimi.

Kybernetičtí útočníci mohou najít způsoby, jak zmanipulovat datové sady použité k trénování AI, aby je mohli ovlivnit a získat kontrolu nad jejich rozhodnutími a odpověďmi. AI bude používat informace z pozměněných dat a provádět akce, které útočníci chtějí.

Například jedním z nejčastěji používaných zdrojů pro datové sady jsou Wiki zdroje, jako je Wikipedia. Ačkoli data nepocházejí z živého článku na Wikipedii, pocházejí ze snímků dat pořízených v konkrétních časech. Hackeři mohou najít způsob, jak upravit data ve svůj prospěch.

V případě chatbotů AI mohou hackeři znečistit datové sady použité k trénování chatbotů, které pracují pro lékařské nebo finanční instituce. Mohou manipulovat programy chatbotů, aby poskytly zákazníkům falešné informace, které by je mohly vést k kliknutí na odkaz obsahující malware nebo podvodnou webovou stránku. Jakmile AI začne čerpat z otrávených dat, je obtížné jej detekovat a může vést k významnému porušení kybernetické bezpečnosti, které zůstane nezjištěné po dlouhou dobu.

Jak řešit nebezpečí chatbotů AI

Tato rizika jsou znepokojivá, ale neznamenají, že chatboty jsou samy o sobě nebezpečné. Místo toho je třeba k nim přistupovat opatrně a uvážit tato nebezpečí při budování a používání chatbotů.

Klíč k prevenci předpojatosti AI spočívá v hledání jí během tréninku. Ujistěte se, že jste trénovali na rozmanitých datových sadách a specificky programovali, aby se vyhnuli faktorům, jako je rasa, pohlaví nebo sexuální orientace, ve svých rozhodnutích. Je také nejlepší mít různorodý tým datových vědců, kteří budou recenzovat vnitřní fungování chatbotů a zajistí, aby nevykazovali žádné předpojatosti, byť jen jemné.

Nejlepší obranou proti phishingu je trénink. Vycvičíte všechny zaměstnance, aby rozpoznali běžné znaky phishingových pokusů, aby se jim nevyhnuli. Šíření povědomí mezi spotřebiteli o této otázce také pomůže.

Můžete zabránit otrávení dat, omezíte-li přístup k trénovacím datům chatbotů. Pouze lidé, kteří potřebují přístup k těmto datům, aby mohli správně vykonávat svou práci, by měli mít autorizaci — koncept zvaný princip nejnižšího oprávnění. Po implementaci těchto omezení použijte silná ověřovací opatření, jako je vícefaktorová autentizace nebo biometrické údaje, aby se zabránilo riziku kybernetických útoků na autorizovaný účet.

Buďte ostražití proti nebezpečí závislosti na AI

Umělá inteligence je skutečně úžasná technologie s téměř neomezenými aplikacemi. Nicméně, nebezpečí AI mohou být skrytá. Jsou chatboty nebezpečné? Ne samy o sobě, ale kybernetičtí útočníci je mohou použít mnoha způsoby. Je na uživatelích, aby rozhodli, jaké aplikace této nové technologie budou.