Zvažte rizika, než začnete používat Bard s rozšířeními AI

Google nedávno ohlásil plný spuštění Bard Extensions, který integruje konverzační generativní AI (GenAI) nástroj do svých ostatních služeb. Bard může nyní využívat osobní údaje uživatelů k provádění mnoha úkolů – organizování e-mailů, rezervace letů, plánování cest, vytváření odpovědí na zprávy a mnoho dalšího.

S již tak hluboce propojenými službami Google v našem denním životě představuje tato integrace skutečný krok vpřed pro praktické denní aplikace GenAI, vytvářející efektivnější a produktivnější způsoby zpracování osobních úkolů a pracovních postupů. V důsledku toho, jak Google vydává více pohodlných nástrojů AI, začínají se objevovat další webové funkce AI, které splňují poptávku uživatelů po prohlížečových produktivních rozšířeních.

Uživatelé však musí být také opatrní a zodpovědní. Jak užitečné a produktivní mohou být Bard Extensions a podobné nástroje, otevírají nové dveře k potenciálním bezpečnostním rizikům, která mohou ohrozit osobní údaje uživatelů, stejně jako další dosud neobjevená rizika. Uživatelé, kteří chtějí využívat Bard nebo jiné nástroje GenAI pro produktivitu, by měli seznámit s nejlepšími postupy a hledat komplexní bezpečnostní řešení, než budou své citlivé informace bezhlavě poskytovat.

Kontrola osobních údajů

Google výslovně uvádí, že jeho zaměstnanci mohou kontrolovat konverzace uživatelů s Bardem – které mohou obsahovat soukromé informace, od faktur až po bankovní údaje a milostné dopisy. Uživatelé jsou varováni, aby nezadávali důvěrné informace nebo jakékoli údaje, které by nechtěli, aby je zaměstnanci Google viděli nebo používali k informování produktů, služeb a technologií strojového učení.

Google a další poskytovatelé nástrojů GenAI pravděpodobně také využijí osobní údaje uživatelů k opětovnému trénování svých modelů strojového učení – nezbytného aspektu zlepšování GenAI. Síla AI spočívá v její schopnosti učit se sama a učit se z nových informací, ale když tyto nové informace pocházejí od uživatelů, kteří svěřili svým osobním údajům GenAI rozšíření, existuje riziko, že budou integrovány informace, jako jsou hesla, bankovní údaje nebo kontaktní údaje, do veřejně dostupných služeb Bard.

Neurčená bezpečnostní rizika

Jak se Bard stává stále více integrovaným nástrojem v rámci Google, odborníci i uživatelé stále pracují na pochopení rozsahu jeho funkcí. Ale stejně jako každý špičkový hráč v oblasti AI, Google pokračuje ve vydávání produktů, aniž by přesně věděl, jak budou využívány informace a údaje uživatelů. Například bylo nedávno odhaleno, že pokud sdílíte konverzaci s Bardem s přítelem prostřednictvím tlačítka Sdílet, může se celá konverzace objevit v standardních výsledcích vyhledávání Google pro každého, kdo ji uvidí.

Přestože je to lákavé řešení pro zlepšení pracovních postupů a efektivnosti, poskytování Bardovi nebo jiným AI nástrojům oprávnění k provádění užitečných denních úkolů jménem uživatele může vést k nežádoucím důsledkům ve formě AI halucinací – falešných nebo nepřesných výstupů, pro které je GenAI známá.

Pro uživatele Google to může znamenat rezervaci nesprávného letu, nesprávnou platbu faktury nebo sdílení dokumentů s nesprávnou osobou. Exponování osobních údajů nesprávné straně nebo zlomyslnému aktérovi nebo odeslání nesprávných údajů správné osobě může vést k nežádoucím důsledkům – od krádeže identity a ztráty digitální soukromí až po potenciální finanční ztráty nebo expozici trapných korespondencí.

Rozšíření zabezpečení

Pro průměrného uživatele AI je nejlepší praxe jednoduše nezveřejňovat žádné osobní informace z dosud nepředvídatelných AI asistentů. Ale to samo o sobě nezaručuje plné zabezpečení.

Přechod na SaaS a webové aplikace již učinil prohlížeč hlavním cílem útočníků. A jak lidé začínají přijímat více webových nástrojů AI, okno příležitostí ke krádeži citlivých údajů se otevírá trochu širší. Jak se více prohlížečových rozšíření snaží využít úspěch GenAI – lákajíc uživatele na instalaci nových a efektivních funkcí – lidé musí být opatrní, že mnoho z těchto rozšíření bude nakonec krást informace nebo klíče API OpenAI, v případě nástrojů souvisejících s ChatGPT.

Naštěstí již existují bezpečnostní řešení pro prohlížečová rozšíření, která mohou zabránit krádeži dat. Implementací prohlížečového rozšíření s kontrolami DLP mohou uživatelé snížit riziko pozvání dalších prohlížečových rozšíření, AI nebo jinak, aby zneužily nebo sdílely osobní údaje. Tato bezpečnostní rozšíření mohou kontrolovat prohlížečovou aktivitu a vynucovat bezpečnostní zásady, čímž se snižuje riziko, že webové aplikace budou získávat citlivé informace.

Chraňte Barda

Zatímco Bard a další podobná rozšíření slibují zlepšení produktivity a pohodlí, nesou podstatná kybernetická rizika. Kdykoli jsou zapojeny osobní údaje, existují vždy podkladová bezpečnostní rizika, o kterých musí být uživatelé informováni – ještě více ve nových, dosud neznámých vodách Generativní AI.

Jak uživatelé umožňují Bardovi a jiným AI a webovým nástrojům jednat nezávisle se citlivými osobními údaji, jsou jistě větší důsledky pro neopatrné uživatele, kteří se vystavují zranitelnosti bez prohlížečových bezpečnostních rozšíření nebo kontrol DLP. Přestože zvýšení produktivity bude méně produktivní, pokud zvýší šanci na expozici informací, jedinci musí zavést bezpečnostní opatření pro AI, než budou jejich údaje zneužity na jejich účet.