Équilibrer la productivité et la confidentialité : Protéger les données à l’ère des outils alimentés par l’IA

En prenant en charge les tâches répétitives, en fournissant des informations à des vitesses bien au-delà des capacités humaines et en améliorant considérablement notre productivité, l’intelligence artificielle est en train de réinventer la façon dont nous travaillons, au point que son utilisation peut améliorer les performances des professionnels hautement qualifiés de jusqu’à 40%.

L’IA a déjà fourni une abondance d’outils utiles, allant de Clara, l’assistant IA qui organise les réunions, à Gamma, qui automatise la création de présentations, et ChatGPT, le fleuron de l’IA générative. De même, des plateformes comme Otter AI et Good Tape, qui automatisent le processus de transcription fastidieux, offrent un ensemble complet d’outils de productivité alimentés par l’IA, rendant nos tâches plus faciles et plus efficaces, avec McKinsey estimant que l’IA pourrait débloquer $4,4 billions de dollars de croissance de la productivité.

Les défis de confidentialité des données de l’IA

Cependant, à mesure que nous nous appuyons de plus en plus sur l’IA pour rationaliser les processus et améliorer l’efficacité, il est important de considérer les implications potentielles en matière de confidentialité des données.

Certains 84% des consommateurs estiment qu’ils devraient avoir plus de contrôle sur la façon dont les organisations collectent, stockent et utilisent leurs données. C’est le principe de la confidentialité des données, mais cet idéal entre en conflit avec les exigences du développement de l’IA.

Pour toute leur sophistication, les algorithmes d’IA ne sont pas intrinsèquement intelligents ; ils sont bien formés, et cela nécessite d’énormes quantités de données pour y parvenir, souvent les nôtres, les vôtres et celles d’autres utilisateurs. À l’ère de l’IA, l’approche standard en matière de gestion des données passe de « nous ne partagerons pas vos données avec qui que ce soit » à « nous allons prendre vos données et les utiliser pour développer notre produit », ce qui soulève des inquiétudes sur la façon dont nos données sont utilisées, qui y a accès et quel impact cela aura sur notre confidentialité à long terme.

La propriété des données

Dans de nombreux cas, nous partageons volontairement nos données pour accéder à des services. Cependant, une fois que nous le faisons, il devient difficile de contrôler où elles aboutissent. Nous voyons cela se jouer avec la faillite de l’entreprise de tests génétiques 23andMe, où les données d’ADN de ses 15 millions de clients seront probablement vendues au plus offrant.

De nombreuses plateformes conservent le droit de stocker, d’utiliser et de vendre des données, souvent même après qu’un utilisateur a cessé d’utiliser leur produit. Le service de transcription vocale Rev précise explicitement qu’il utilise les données des utilisateurs « en permanence » et « de manière anonyme » pour former ses systèmes d’IA, et continue de le faire même si un compte est supprimé.

L’extraction des données

Une fois que les données sont utilisées pour former un modèle d’IA, les extraire devient très difficile, voire impossible. Les systèmes d’apprentissage automatique n’enregistrent pas les données brutes ; ils internalisent les modèles et les informations qu’elles contiennent, ce qui rend difficile l’isolement et l’effacement de données spécifiques à l’utilisateur.

Même si le jeu de données d’origine est supprimé, des traces de celui-ci resteront dans les sorties du modèle, ce qui soulève des préoccupations éthiques quant au consentement des utilisateurs et à la propriété des données. Cela pose également des questions sur les réglementations de protection des données telles que le RGPD et le CCPA – si les entreprises ne peuvent pas rendre leurs modèles d’IA véritablement « oubliants », peuvent-elles prétendre être véritablement conformes ?

Les meilleures pratiques pour assurer la confidentialité des données

Alors que les outils de productivité alimentés par l’IA réinventent notre flux de travail, il est crucial de reconnaître les risques et d’adopter des stratégies qui protègent la confidentialité des données. Ces meilleures pratiques peuvent garder vos données en sécurité tout en poussant le secteur de l’IA à respecter des normes plus élevées :

Rechercher des entreprises qui ne forment pas sur les données des utilisateurs

Chez Good Tape, nous nous engageons à ne pas utiliser les données des utilisateurs pour la formation de l’IA et à donner la priorité à la transparence dans la communication de cela, mais cela n’est pas encore la norme de l’industrie.

Alors que 86% des consommateurs américains déclarent que la transparence est plus importante pour eux que jamais, un changement significatif ne se produira que lorsque les consommateurs exigeront des normes plus élevées et insisteront pour que toute utilisation de leurs données soit clairement divulguée, en votant avec leurs pieds, en faisant de la confidentialité des données une valeur concurrentielle.

Comprendre vos droits en matière de confidentialité des données

La complexité de l’IA peut souvent la rendre opaque, mais comme le dit le proverbe, les connaissances sont le pouvoir. Comprendre les lois de protection de la confidentialité liées à l’IA est crucial pour savoir ce que les entreprises peuvent et ne peuvent pas faire avec vos données. Par exemple, le RGPD stipule que les entreprises ne collectent que le minimum de données nécessaires à un objectif spécifique et doivent communiquer clairement cet objectif aux utilisateurs.

Mais alors que les régulateurs jouent à rattraper leur retard, le minimum requis peut ne pas suffire. Rester informé vous permet de prendre des décisions plus intelligentes et de vous assurer que vous n’utilisez que des services de confiance – il est probable que les entreprises qui ne respectent pas les normes les plus strictes seront imprudentes avec vos données.

Commencer à vérifier les conditions de service

Les conditions d’utilisation d’Avoma comptent 4 192 mots, celles de ClickUp s’étendent sur 6 403 mots, et les conditions de service de Clockwise totalisent 6 481 mots. Il faudrait plus d’une heure à l’adulte moyen pour lire les trois.

Les conditions et les conditions sont souvent complexes par design, mais cela ne signifie pas qu’elles devraient être ignorées. De nombreuses entreprises d’IA cachent les divulgations de formation des données au sein de ces accords longs – une pratique que je crois devrait être interdite.

Conseil : Pour naviguer dans les conditions et les conditions longues et complexes, envisagez d’utiliser l’IA à votre avantage. Copiez le contrat dans ChatGPT et demandez-lui de résumer comment vos données seront utilisées, vous aidant ainsi à comprendre les détails clés sans avoir à parcourir des pages et des pages de jargon juridique.

Exiger une réglementation plus stricte 

Nous devrions accueillir favorablement la réglementation dans l’espace de l’IA. Alors qu’un manque de surveillance peut encourager le développement, le potentiel de transformation de l’IA exige une approche plus mesurée. Ici, l’essor des médias sociaux et l’érosion de la confidentialité due à une réglementation inadéquate devraient servir de rappel.

Tout comme nous avons des normes pour les produits biologiques, les produits équitables et les produits certifiés sans danger, les outils d’IA doivent être soumis à des normes claires de gestion des données. Sans réglementations bien définies, les risques pour la confidentialité et la sécurité sont simplement trop importants.

Protéger la confidentialité dans l’IA

En résumé, alors que l’IA offre un potentiel important pour améliorer la productivité, pouvant améliorer l’efficacité de jusqu’à 40 %, les préoccupations en matière de confidentialité des données, telles que la propriété des informations des utilisateurs ou la difficulté d’extraire des données des modèles, ne peuvent être ignorées. Alors que nous adoptons de nouveaux outils et plateformes, nous devons rester vigilants sur la façon dont nos données sont utilisées, partagées et stockées.

Le défi consiste à profiter des avantages de l’IA tout en protégeant vos données, en adoptant les meilleures pratiques telles que la recherche d’entreprises transparentes, le maintien de l’information sur vos droits et la défense d’une réglementation appropriée. Alors que nous intégrons davantage d’outils de productivité alimentés par l’IA dans nos flux de travail, des garanties solides de confidentialité des données sont essentielles. Nous devons tous – entreprises, développeurs, législateurs et utilisateurs – pousser pour des protections plus solides, une plus grande clarté et des pratiques éthiques pour garantir que l’IA améliore la productivité sans compromettre la confidentialité.

Avec la bonne approche et une considération attentive, nous pouvons répondre aux préoccupations de confidentialité de l’IA, créant un secteur à la fois sûr et sécurisé.