Si un robot peut flirter avec des enfants, qu’est-ce qu’il est autorisé à faire avec vos données ?

Lorsque des directives internes confidentielles ont révélé que Meta permettait à ses chatbots d’intelligence artificielle de flirter avec des enfants, la plupart des gens ont considéré cela comme un scandale et sont passés à autre chose. Mais il vaut la peine de prendre un regard plus approfondi sur ce que l’enquête nous apprend sur l’état actuel de l’éthique de l’IA : si une entreprise comme Meta cautionne de telles politiques à sa taille, qu’est-ce que ces plateformes autorisent-elles en silence ? Et combien de cela implique-t-il vos données ?

Les dirigeants d’entreprise ont tendance à évaluer les outils d’IA en fonction de ce qu’ils peuvent faire, de leur rapidité et de leur coût. Mais il y a des questions plus difficiles à poser, en particulier à mesure que les outils d’IA deviennent de plus en plus essentiels : quels sont les termes auxquels vous vous engagez lorsque vos équipes commencent à utiliser des outils d’IA ? Que font les fournisseurs de modèles et les constructeurs d’agents avec vos données ? Et qui assume la responsabilité lorsque quelque chose se passe mal ?

La plupart des organisations sont tellement absorbées par la recherche de moyens pour tirer le maximum de profit de cette nouvelle technologie qu’elles n’ont pas encore pris le temps de considérer la question la plus importante :

Qu’est-ce qui se passe réellement avec vos données ?

La plupart des gens surestiment considérablement le risque de partager quelque chose avec un chatbot ou rejettent complètement l’affaire. Le fait est que les grands modèles de langage sont, en un certain sens, figés une fois qu’ils sont formés et rendus publics. Cela signifie que vos conversations sont stockées séparément, et non directement connectées à la mémoire du système ; ce que vous avez dit à ChatGPT ce matin n’influencera pas immédiatement ce que le modèle dira à quelqu’un d’autre dans l’après-midi.

Cela ne signifie pas que vos données ne sont pas utilisées. Elles le sont. Le chemin est simplement plus compliqué.

Les journaux de conversation sont stockés séparément, et de nombreux laboratoires d’IA se réservent explicitement le droit d’utiliser ces journaux pour former la prochaine version de leur modèle. C’est écrit dans les conditions de service. Ce qui entre aujourd’hui comme une requête de support client ou une réflexion stratégique peut, avec le temps, influencer un modèle que des millions de personnes utiliseront demain.

Le risque pour les données propriétaires va au-delà de la politique. En 2025, Scale AI a involontairement exposé des milliers de pages de matériaux de projet confidentiels de clients, notamment Meta, Google et xAI. Séparément, une faille de sécurité en novembre chez un fournisseur d’OpenAI a conduit des hackers à s’emparer de données client, y compris des noms, des adresses e-mail et des détails de système.

Pour être clair, ce n’est pas une situation d’urgence, mais ce n’est pas non plus sans risque. Les systèmes d’entreprise de niveau disposent de garde-fous contractuels autour de la réutilisation des données. Les outils grand public ne le font pas. Si vos données sont si sensibles que vous voudriez un accord de non-divulgation pour les protéger, vous ne devriez pas les confier à un chatbot grand public et supposer qu’elles ne seront pas utilisées ailleurs.

Les chiffres suggèrent que la plupart des organisations n’ont pas encore compris cela. Près de huit employés sur dix ont collé des informations d’entreprise dans des outils d’IA, et parmi eux, plus de quatre sur cinq l’ont fait en utilisant leurs comptes personnels, selon une enquête sur la main-d’œuvre de 2025. Une organisation sur cinq a déjà signalé une faille de sécurité liée à l’utilisation d’IA dans l’ombre, et seulement 37 pour cent ont des politiques en place pour détecter ou gérer cela, selon le rapport de 2025 d’IBM sur le coût d’une faille de sécurité.

Une fois compris, ce type de risque de données n’est pas difficile à contourner. Faites la différence entre les outils grand public et les outils d’entreprise, sachez à quoi vous vous engagez, et vous aurez couvert la plupart de vos bases.

Où la communication médiée par l’IA échoue pour les entreprises

Ce qui arrive à vos données est une partie du tableau. L’autre partie, et pour de nombreuses entreprises la plus importante, est ce que ces systèmes font à la qualité et à la responsabilité de vos communications les plus importantes.

Pensez aux conversations qui font avancer les entreprises : des réunions pour conserver des clients de longue date ; une négociation commerciale où le ton et la confiance sont presque plus importants que le langage de l’accord ; ou une présentation trimestrielle au conseil d’administration sur vos progrès vers les objectifs de l’année. Il s’avère que l’IA peut gérer les éléments transactionnels de ces interactions de manière raisonnable, comme prendre des notes de réunion, attribuer des priorités et mettre en évidence les points d’action. Mais elle a du mal avec tout ce qui se trouve en dessous.

Les modes de défaillance spécifiques valent la peine d’être nommés. L’IA comprime le contexte ; elle résume, lisse et standardise de manière à enlever la nuance. De plus, le contenu généré par les grands modèles de langage est difficile à vérifier. Les personnes à qui vous avez envoyé un e-mail généré par l’IA ou des notes de réunion résumées n’ont aucun moyen de confirmer que ce qu’ils ont reçu reflète ce que vous vouliez dire, ou que le message n’a pas été filtré ou reformulé par l’IA.

Cela ne signifie pas que l’IA n’a pas sa place dans la communication d’entreprise. Elle l’a clairement. Mais il y a une catégorie de conversation où les gains d’efficacité ne justifient pas l’exposition, et la plupart des organisations n’ont pas suffisamment réfléchi à la différenciation de ces cas d’utilisation.

Sachez quand faire les choses vous-même

La question devient donc : pour vos communications les plus sensibles, l’IA devrait-elle être impliquée ?

Ma réponse honnête est non, du moins pas sans une personne qui puisse être tenue responsable de ce qui a été dit, de la façon dont cela a été dit et de si le message a été livré. La vérification de la communication humaine n’est pas une préférence pour la vieille façon de faire les choses ; c’est juste une reconnaissance que certaines conversations nécessitent une personne pour les soutenir.

Les dirigeants devraient faire leurs devoirs. Qu’est-ce que la politique de données du fournisseur dit sur la réutilisation ? Qu’est-ce qui arrive aux journaux de conversation de votre équipe lorsque le contrat se termine ? Ce ne sont pas des questions pour que votre équipe IT les règle en arrière-plan. Ce sont des questions d’approvisionnement, et elles devraient être abordées plus tôt dans le processus qu’elles ne le sont actuellement.

Le bot qui a été autorisé à flirter avec des enfants n’a pas pris cette décision tout seul. Quelqu’un l’a approuvée. Chaque système d’IA reflète le jugement des personnes qui l’ont construit et déployé, et ces appels ne sont pas toujours évidents de l’extérieur.

Jusqu’à ce que les outils pour auditer les outils et les systèmes d’IA rattrapent leur adoption, la position la plus défendable que les dirigeants d’entreprise peuvent prendre est de tracer la ligne entre les conversations pour lesquelles ils sont prêts à passer par l’IA et celles pour lesquelles ils ne le sont pas.

L’argument d’efficacité pour l’IA est convaincant. De même que l’argument pour posséder ce qui est diffusé sous votre nom.