Considérez les risques avant d’utiliser Bard avec des extensions d’IA

Google a récemment annoncé le lancement à grande échelle de Bard Extensions, intégrant l’outil de génération de texte conversationnel (GenAI) dans ses autres services. Bard peut désormais utiliser les données personnelles des utilisateurs pour effectuer de nombreuses tâches – organiser des e-mails, réserver des vols, planifier des voyages, rédiger des réponses à des messages, et bien plus encore.

Avec les services de Google déjà profondément intégrés dans notre vie quotidienne, cette intégration marque un véritable pas en avant pour les applications pratiques quotidiennes de la GenAI, créant des moyens plus efficaces et productifs de gérer les tâches personnelles et les flux de travail. Par conséquent, à mesure que Google publie davantage d’outils d’IA pratiques, d’autres fonctionnalités d’IA basées sur le Web apparaissent pour répondre à la demande des utilisateurs qui recherchent des extensions de productivité basées sur le navigateur.

Les utilisateurs, cependant, doivent également être prudents et responsables. Aussi utiles et productifs que les extensions Bard et les outils similaires puissent être, ils ouvrent de nouvelles portes à des failles de sécurité potentielles qui peuvent compromettre les données personnelles des utilisateurs, ainsi que d’autres risques encore inconnus. Les utilisateurs qui souhaitent utiliser Bard ou d’autres outils de productivité GenAI feraient bien de découvrir les meilleures pratiques et de rechercher des solutions de sécurité globales avant de confier leurs informations sensibles sans discernement.

Vérification des données personnelles

Google déclare explicitement que son personnel peut vérifier les conversations des utilisateurs avec Bard – qui peuvent contenir des informations privées, allant des factures aux détails bancaires en passant par les lettres d’amour. Les utilisateurs sont avertis en conséquence de ne pas saisir d’informations confidentielles ou de données qu’ils ne souhaiteraient pas que les employés de Google voient ou utilisent pour informer les produits, les services et les technologies d’apprentissage automatique.

Google et d’autres fournisseurs d’outils GenAI sont également susceptibles d’utiliser les données personnelles des utilisateurs pour réentraîner leurs modèles d’apprentissage automatique – un aspect nécessaire de l’amélioration de la GenAI. Le pouvoir de l’IA réside dans sa capacité à s’auto-apprendre et à apprendre de nouvelles informations, mais lorsque ces nouvelles informations proviennent des utilisateurs qui ont confié des données personnelles à une extension GenAI, cela risque d’intégrer des informations telles que des mots de passe, des informations bancaires ou des coordonnées dans les services publics de Bard.

Problèmes de sécurité indéterminés

Alors que Bard devient un outil plus intégré dans Google, les experts et les utilisateurs travaillent encore à comprendre l’étendue de ses fonctionnalités. Mais comme chaque acteur de pointe dans le domaine de l’IA, Google continue de publier des produits sans savoir exactement comment ils utiliseront les informations et les données des utilisateurs. Par exemple, il a été récemment révélé que si vous partagez une conversation Bard avec un ami via le bouton Partager, toute la conversation peut apparaître dans les résultats de recherche Google standard pour que tout le monde puisse la voir.

Bien qu’il s’agisse d’une solution attrayante pour améliorer les flux de travail et l’efficacité, donner à Bard ou à toute autre extension d’IA le pouvoir d’effectuer des tâches utiles au quotidien en votre nom peut entraîner des conséquences indésirables sous la forme d’hallucinations d’IA – de faux ou de sorties inexactes que la GenAI est parfois connue pour créer.

Pour les utilisateurs de Google, cela pourrait signifier réserver un vol incorrect, payer une facture de manière incorrecte ou partager des documents avec la mauvaise personne. Exposer des données personnelles à une partie non autorisée ou à un acteur malveillant, ou envoyer les mauvaises données à la bonne personne, peut entraîner des conséquences indésirables – allant du vol d’identité et de la perte de confidentialité numérique à des pertes financières potentielles ou à la divulgation de correspondances embarrassantes.

Étendre la sécurité

Pour l’utilisateur d’IA moyen, la meilleure pratique est simplement de ne pas partager d’informations personnelles avec des assistants d’IA encore imprévisibles. Mais cela seul ne garantit pas une sécurité totale.

Le passage aux applications SaaS et basées sur le Web a déjà rendu le navigateur une cible de choix pour les attaquants. Et à mesure que les gens adoptent davantage d’outils d’IA basés sur le Web, la fenêtre d’opportunité pour voler des données sensibles s’ouvre un peu plus. Alors que davantage d’extensions de navigateur tentent de profiter du succès de la GenAI – en incitant les utilisateurs à les installer avec de nouvelles fonctionnalités efficaces – les gens doivent être conscients du fait que beaucoup de ces extensions finiront par voler des informations ou les clés d’API OpenAI des utilisateurs, dans le cas des outils liés à ChatGPT.

Heureusement, des solutions de sécurité d’extension de navigateur existent déjà pour prévenir le vol de données. En mettant en œuvre une extension de navigateur avec des contrôles DLP, les utilisateurs peuvent atténuer le risque d’inviter d’autres extensions de navigateur, basées sur l’IA ou non, à abuser ou à partager des données personnelles. Ces extensions de sécurité peuvent inspecter l’activité du navigateur et appliquer des politiques de sécurité, prévenant le risque que les applications basées sur le Web saisissent des informations sensibles.

Protéger Bard

Alors que Bard et d’autres extensions similaires promettent une productivité et une commodité améliorées, ils comportent des risques de cybersécurité importants. Lorsque des données personnelles sont en jeu, il y a toujours des problèmes de sécurité sous-jacents dont les utilisateurs doivent être conscients – encore plus dans les eaux inexplorées de la GenAI.

Lorsque les utilisateurs permettent à Bard et à d’autres outils d’IA et basés sur le Web d’agir de manière indépendante avec des données personnelles sensibles, des conséquences plus graves sont certainement en réserve pour les utilisateurs qui se laissent vulnérables sans extensions de sécurité de navigateur ou des contrôles DLP. Après tout, une augmentation de la productivité sera nettement moins productive si elle augmente la chance d’exposer des informations, et les individus doivent mettre en place des mesures de sécurité pour l’IA avant que les données soient mal gérées à leurs dépens.