Zvažte rizika, než se vydáte na Bard s rozšířeními AI

Google nedávno ohlásil plnohodnotný start Bard Extensions, který integruje konverzační generativní AI (GenAI) nástroj do svých dalších služeb. Bard může nyní využít osobní údaje uživatelů k provádění nesčetných úkolů – organizování e-mailů, rezervace letů, plánování cest, vytváření odpovědí na zprávy a mnoho dalšího.

S již tak hluboce propojenými službami Google v našem denním životě představuje tato integrace skutečný krok vpřed pro praktické denní aplikace GenAI, vytvářející efektivnější a produktivnější způsoby zpracování osobních úkolů a pracovních postupů. V důsledku toho, jak Google vydává stále více pohodlných nástrojů AI, další webové funkce AI vznikají, aby uspokojily poptávku uživatelů, kteří nyní hledají prohlížečové rozšíření produktivity.

Uživatelé však musí být také opatrní a zodpovědní. Jak užitečné a produktivní mohou být Bard Extensions a podobné nástroje, otevírají nové dveře k potenciálním bezpečnostním vadám, které mohou ohrozit osobní údaje uživatelů, mezi jinými dosud neobjevenými riziky. Uživatelé, kteří chtějí využívat Bard nebo jiné nástroje GenAI produktivity, by měli naučit se osvědčené postupy a hledat komplexní bezpečnostní řešení, než budou slepě předávat své citlivé informace.

Kontrola osobních údajů

Google výslovně uvádí, že jeho zaměstnanci mohou kontrolovat konverzace uživatelů s Bardem – které mohou obsahovat soukromé informace, od faktur až po bankovní údaje a milostné dopisy. Uživatelé jsou varováni, aby nezadávali důvěrné informace nebo jakékoli údaje, které by nechtěli, aby je zaměstnanci Google viděli nebo použili k informování produktů, služeb a technologií strojového učení.

Google a další poskytovatelé nástrojů GenAI pravděpodobně také využijí osobní údaje uživatelů k opětovnému trénování svých modelů strojového učení – nezbytného aspektu zlepšování GenAI. Síla AI spočívá ve své schopnosti učit se sama a učit se z nových informací, ale když tyto nové informace pocházejí od uživatelů, kteří svěřili GenAI rozšíření se svými osobními údaji, existuje riziko, že budou integrovány informace, jako jsou hesla, bankovní informace nebo kontaktní údaje do veřejně dostupných služeb Bardu.

Neurčité bezpečnostní obavy

Jak se Bard stává stále více integrovaným nástrojem v rámci Google, odborníci i uživatelé stále pracují na pochopení rozsahu jeho funkcí. Ale jako každý špičkový hráč v oblasti AI, Google pokračuje ve vydávání produktů, aniž by přesně věděl, jak budou uživatelské informace a údaje využity. Například bylo nedávno odhaleno, že pokud sdílíte konverzaci Bardu s přítelem pomocí tlačítka Sdílet, může se celá konverzace zobrazit v standardních výsledcích vyhledávání Google pro kohokoli.

Ačkoli je to lákavé řešení pro zlepšení pracovních postupů a efektivity, poskytování Bardu nebo jiným AI poháněným rozšířením oprávnění k provádění užitečných denních úkolů vaším jménem může vést k nežádoucím důsledkům ve formě AI halucinací – falešných nebo nepřesných výstupů, pro které je GenAI známá.

Pro uživatele Google to může znamenat rezervaci nesprávného letu, nepřesné zaplacení faktury nebo sdílení dokumentů s nesprávnou osobou. Exponování osobních údajů nesprávné straně nebo zlomyslnému aktérovi nebo odeslání nesprávných údajů správné osobě může vést k nežádoucím důsledkům – od krádeže identity a ztráty digitální soukromí až po potenciální finanční ztráty nebo zveřejnění trapných korespondencí.

Rozšíření zabezpečení

Pro průměrného uživatele AI je nejlepší postup jednoduše nezveřejňovat žádné osobní informace z dosud nepředvídatelných AI asistentů. Ale to samo o sobě nezaručuje plné zabezpečení.

Přechod na SaaS a webové aplikace již učinil prohlížeč hlavním cílem útočníků. A když lidé začínají přijímat více webových nástrojů AI, okno příležitosti k odcizení citlivých údajů se otevírá trochu širší. Jak se více prohlížečových rozšíření snaží využít úspěch GenAI – lákajíc uživatele na instalaci nových a efektivních funkcí – lidé musí být opatrní vůči skutečnosti, že mnoho z těchto rozšíření bude krást informace nebo uživatelské OpenAI API klíče, v případě nástrojů souvisejících s ChatGPT.

Naštěstí již existují bezpečnostní řešení pro prohlížečová rozšíření, která mohou zabránit krádeži dat. Implementací prohlížečového rozšíření s DLP kontrolami mohou uživatelé snížit riziko, že jiná prohlížečová rozšíření, ať už založená na AI nebo ne, zneužijí nebo sdílejí osobní údaje. Tato bezpečnostní rozšíření mohou kontrolovat prohlížečovou aktivitu a vynucovat bezpečnostní zásady, čímž se zabrání riziku, že webové aplikace získají citlivé informace.

Chraňte Bard

Zatímco Bard a další podobná rozšíření slibují zlepšení produktivity a pohodlí, nesou podstatná kybernetická rizika. Kdykoli jsou zapojeny osobní údaje, existují vždy podkladová bezpečnostní rizika, o kterých musí uživatelé být vědomi – ještě více ve nových, dosud neznámých vodách Generativní AI.

Jak uživatelé umožňují Bardu a jiným AI a webovým nástrojům jednat nezávisle na citlivých osobních údajích, jsou jistě v budoucnu mnohem závažnější důsledky pro neopatrné uživatele, kteří se bez prohlížečových bezpečnostních rozšíření nebo DLP kontrol vystavují zranitelnosti. V konečném důsledku bude zvýšení produktivity mnohem méně produktivní, pokud zvýší šanci na expozici informací, a jednotlivci musí zavést bezpečnostní opatření pro AI, než budou údaje zneužity na jejich účet.