Tänk på riskerna innan du går på Bard med AI-tillägg

Google nyligen meddelade den fullskaliga lanseringen av Bard Extensions, som integrerar det konversationsgenerativa AI-verktyget (GenAI) i deras andra tjänster. Bard kan nu utnyttja användarnas personliga data för att utföra otaliga uppgifter – organisera e-postmeddelanden, boka flyg, planera resor, skapa meddelandesvar och mycket mer.

Med Googles tjänster redan djupt sammanflätade i våra dagliga liv, markerar denna integration ett verkligt steg framåt för praktiska dagliga tillämpningar av GenAI, vilket skapar mer effektiva och produktiva sätt att hantera personliga uppgifter och arbetsflöden. Följaktligen, när Google släpper mer praktiska AI-verktyg, växer andra webbaserade AI-funktioner fram för att möta efterfrågan från användare som nu söker webbläsarbaserade produktivitetstillägg.

Användare måste dock också vara försiktiga och ansvarsfulla. Lika användbara och produktiva som Bard Extensions och liknande verktyg kan vara, öppnar de nya dörrar till potentiella säkerhetsbrister som kan äventyra användarnas personuppgifter, bland andra ännu oupptäckta risker. Användare som är intresserade av att utnyttja Bard eller andra GenAI-produktivitetsverktyg skulle göra klokt i att lära sig bästa praxis och söka omfattande säkerhetslösningar innan de blint lämnar över sin känsliga information.

Granskning av personuppgifter

Google uttryckligen tillstånd att dess företagspersonal får granska användarnas samtal med Bard – som kan innehålla privat information, från fakturor till bankuppgifter till kärlekssedlar. Användare varnas därför för att inte ange konfidentiell information eller data som de inte vill att Googles anställda ska se eller använda för att informera om produkter, tjänster och maskininlärningsteknik.

Google och andra GenAI-verktygsleverantörer kommer sannolikt också att använda användarnas personuppgifter för att träna om sina maskininlärningsmodeller – en nödvändig aspekt av GenAI-förbättringar. Kraften med AI ligger i dess förmåga att lära sig själv och lära av ny information, men när den nya informationen kommer från användare som har litat på en GenAI-tillägg med sina personuppgifter, riskerar den att integrera information som lösenord, bankinformation eller kontaktuppgifter till Bards allmänt tillgängliga tjänster.

Obestämda säkerhetsproblem

När Bard blir ett mer omfattande integrerat verktyg inom Google, arbetar både experter och användare fortfarande på att förstå omfattningen av dess funktionalitet. Men som alla banbrytande spelare inom AI-området fortsätter Google att släppa produkter utan att veta exakt hur de kommer att använda användarnas information och data. Till exempel avslöjades det nyligen att om du andel en Bard-konversation med en vän via knappen Dela, kan hela konversationen dyka upp i Googles vanliga sökresultat för alla att se.

Även om det är en lockande lösning för att förbättra arbetsflöden och effektivitet, kan det leda till oönskade konsekvenser i form av AI-hallucinationer att ge Bard eller någon annan AI-driven tillägg tillstånd att utföra användbara vardagliga uppgifter för din räkning – falska eller felaktiga utdata som GenAI är känd för skapar ibland.

För Google-användare kan detta innebära att man bokar ett felaktigt flyg, betalar felaktigt en faktura eller delar dokument med fel person. Att exponera personuppgifter för fel part eller en illvillig aktör eller att skicka fel data till rätt person kan leda till oönskade konsekvenser – från identitetsstöld och förlust av digital integritet till potentiell ekonomisk förlust eller avslöjande av pinsam korrespondens.

Utöka säkerheten

För den genomsnittliga AI-användaren är den bästa praxis helt enkelt att inte dela någon personlig information från fortfarande oförutsägbara AI-assistenter. Men bara det garanterar inte full säkerhet.

Övergången till SaaS och webbaserade applikationer har redan gjort webbläsaren till ett främsta mål för angripare. Och när människor börjar använda mer webbaserade AI-verktyg öppnas möjligheten att stjäla känslig data lite bredare. När fler webbläsartillägg försöker dra tillbaka framgången med GenAI – locka användare att installera dem med nya och effektiva funktioner – måste folk vara försiktiga med det faktum att många av dessa tillägg kommer att sluta stjäla information eller användarens OpenAI API-nycklar, i fallet med ChatGPT-relaterade verktyg.

Lyckligtvis finns det redan säkerhetslösningar för webbläsartillägg för att förhindra datastöld. Genom att implementera ett webbläsartillägg med DLP-kontroller kan användare minska risken för att bjuda in andra webbläsartillägg, AI-baserade eller på annat sätt, att missbruka eller dela personlig information. Dessa säkerhetstillägg kan inspektera webbläsaraktivitet och genomdriva säkerhetspolicyer, vilket förhindrar risken för webbaserade appar från att ta tag i känslig information.

Vakta barden

Medan Bard och andra liknande tillägg lovar förbättrad produktivitet och bekvämlighet, medför de betydande cybersäkerhetsrisker. Närhelst personuppgifter är inblandade finns det alltid underliggande säkerhetsproblem som användarna måste vara medvetna om – ännu mer i det nya ännu okända vattnet i Generative AI.

Eftersom användare tillåter Bard och andra AI och webbaserade verktyg att agera självständigt med känsliga personuppgifter, är det säkerligen allvarligare konsekvenser för intet ont anande användare som lämnar sig själva sårbara utan webbläsarsäkerhetstillägg eller DLP-kontroller. När allt kommer omkring kommer en ökning av produktiviteten att vara mycket mindre produktiv om den ökar chansen att exponera information, och individer måste sätta säkerhetsåtgärder för AI på plats innan data misshandlas på deras bekostnad.