Qui nous protégera des fausses informations générées par l’IA ?

L’IA générative est passée de zéro à cent en moins d’un an. Même si elle est encore en développement, elle a déjà montré son potentiel pour transformer les entreprises. Nous sommes tous d’accord sur ce point. Où nous divergeons, c’est sur la façon de contenir les dangers qu’elle pose.

Pour être clair, je suis pour l’innovation et je ne suis pas un alarmiste. Mais la récente augmentation de la désinformation – principalement axée sur la polarisation autour des questions controversées du moment – a rendu clair que, si elle n’est pas contrôlée, l’IA générative pourrait causer des ravages dans les sociétés.

Nous avons déjà vu ce film avec les médias sociaux, mais il a fallu des années et des leçons difficiles pour que nous nous réveillions à ses défauts. Nous avons (prétendument) appris quelque chose. La question aujourd’hui est qui va aider à endiguer le flot de distorsion de la réalité de l’IA générative, et comment ?

Prévisiblement, les gouvernements commencent à agir. L’Europe est à la pointe de ce mouvement, comme elle l’a déjà démontré en réglementant les technologies. Les États-Unis sont juste derrière, avec le président Biden qui a émis un ordre exécutif en octobre dernier.

Mais cela nécessitera un village global agissant ensemble pour « garder l’IA générative honnête ». Et avant que le gouvernement ne puisse aider, il doit comprendre les limites des approches disponibles.

Le problème d’identité s’est aggravé

Dans ce nouveau monde, la vérité devient l’aiguille dans une botte de foin d’opinions se faisant passer pour des faits. Savoir qui est à l’origine du contenu est plus important que jamais.

Et ce n’est pas aussi simple que de décréter que chaque compte de média social doit être vérifié. Il y a une forte opposition à cela, et dans certains cas, l’anonymat est nécessaire pour protéger les détenteurs de comptes. De plus, de nombreux consommateurs du pire contenu ne se soucient pas de sa crédibilité, ni de son origine.

Malgré ces réserves, le rôle potentiel de l’identité dans la lutte contre l’IA générative est sous-estimé. Les sceptiques, écoutez-moi.

Imaginons que la réglementation ou la conscience sociale amènent les plateformes à offrir à chaque détenteur de compte les choix suivants :

1. Vérifier leur identité ou non, et
2. Révéler publiquement leur identité vérifiée, ou simplement être étiqueté « ID Vérifié »
   

Alors, le public des médias sociaux peut mieux décider qui est crédible. Également important, sinon plus, l’identité soutient la responsabilité. Les plateformes peuvent décider des mesures à prendre contre les « désinformateurs » et les contrevenants répétitifs du contenu généré par l’IA, même s’ils apparaissent sous différents noms de compte.

Avec l’IA générative qui augmente les enjeux, je crois que l’identité – savoir exactement qui a publié quoi – est cruciale. Certains s’y opposeront, et l’identité n’est pas une réponse complète. En fait, aucune solution ne satisfera tous les parties prenantes. Mais si la réglementation oblige les plateformes à offrir une vérification d’identité à tous les comptes, je suis convaincu que l’impact sera énormément positif.

Le dilemme de la modération

La modération de contenu – automatisée et humaine – est la dernière ligne de défense contre le contenu indésirable. La modération humaine est un travail difficile, avec un risque de préjudice psychologique dû à l’exposition au pire que l’humanité peut offrir. C’est également coûteux et souvent accusé de censure biaisée que les plateformes s’efforcent de réduire.

La modération automatisée dépasse la capacité humaine à faire face aux torrents de nouveau contenu, mais elle ne parvient pas à comprendre le contexte (les mèmes étant un exemple courant) et les nuances culturelles. Les deux formes de modération sont cruciales et nécessaires, mais elles ne sont qu’une partie de la réponse.

La prescription conventionnelle souvent entendue pour contrôler l’IA générative est : « La collaboration entre les dirigeants de la technologie, le gouvernement et la société civile est nécessaire. » Bien sûr, mais qu’est-ce que cela signifie spécifiquement ?

Les gouvernements, pour leur part, peuvent pousser les plateformes de médias sociaux à offrir une vérification d’identité et à afficher de manière visible sur toutes les publications. Les régulateurs peuvent également ouvrir la voie à des métriques de crédibilité qui aident réellement à déterminer si une source est crédible. La collaboration est nécessaire pour développer des normes universelles qui donnent des conseils et des directives spécifiques afin que le secteur privé n’ait pas à deviner.

Enfin, devrait-il être illégal de créer des sorties d’IA malveillantes ? La législation interdisant le contenu destiné à des activités illégales pourrait réduire le volume de contenu toxique et alléger la charge de travail des modérateurs. Je ne vois pas la réglementation et les lois comme capables de vaincre la désinformation, mais elles sont essentielles pour affronter la menace.

Le côté ensoleillé de la rue : l’innovation

La promesse de l’innovation me rend optimiste. Nous ne pouvons pas attendre des politiciens ou des propriétaires de plateformes qu’ils nous protègent complètement contre la tromperie générée par l’IA. Ils laissent un grand vide, et c’est exactement ce qui inspirera l’invention de nouvelles technologies pour authentifier le contenu et détecter les faux.

Puisque nous savons maintenant le revers de la médaille des médias sociaux, nous avons réalisé rapidement que l’IA générative pourrait se révéler être un énorme pas en arrière pour l’humanité, avec sa capacité à polariser et à tromper.

De manière optimiste, je vois les avantages d’approches à plusieurs facettes où les méthodes de contrôle fonctionnent ensemble, d’abord à la source, en limitant la création de contenu conçu pour une utilisation illégale. Ensuite, avant publication, en vérifiant l’identité de ceux qui refusent l’anonymat. Ensuite, des étiquettes claires pour montrer les évaluations de crédibilité et l’identité de l’auteur ou son absence. Enfin, la modération automatisée et humaine peut filtrer certaines des pires. J’anticipe que de nouvelles technologies d’authentification seront bientôt disponibles.

En additionnant tout cela, nous aurons une solution beaucoup meilleure, même si elle n’est jamais parfaite. Entre-temps, nous devrions développer nos compétences pour déterminer ce qui est réel, qui dit la vérité et qui essaie de nous tromper.