Les inquiétudes concernant les risques potentiels de ChatGPT gagnent en ampleur, mais une pause dans l’IA est-elle une bonne décision ?

Alors qu’Elon Musk et d’autres leaders technologiques mondiaux ont appelé à une pause dans l’IA suite à la sortie de ChatGPT, certains critiques estiment qu’une interruption du développement n’est pas la solution. L’évangéliste de l’IA Andrew Pery, de la société d’automatisation intelligente ABBYY, pense que prendre une pause est comme essayer de remettre le dentifrice dans le tube. Ici, il nous explique pourquoi…

Les applications d’IA sont omniprésentes, touchant pratiquement tous les aspects de notre vie. Même si c’est louable, freiner maintenant peut être peu réaliste.

Il y a certainement des inquiétudes palpables qui exigent une surveillance réglementaire accrue pour maîtriser les impacts potentiellement nuisibles.

Récemment, l’autorité italienne de protection des données a temporairement bloqué l’utilisation de ChatGPT dans tout le pays en raison de préoccupations relatives à la confidentialité liées à la manière de collecter et de traiter les données personnelles utilisées pour former le modèle, ainsi qu’à un manque apparent de garanties, exposant les enfants à des réponses « absolument inappropriées à leur âge et à leur conscience ».

L’Organisation des consommateurs européens (BEUC) exhorte l’UE à enquêter sur les impacts potentiellement nuisibles des modèles de langage à grande échelle, étant donné que « les inquiétudes grandissent sur la façon dont ChatGPT et des chatbots similaires pourraient tromper et manipuler les gens. Ces systèmes d’IA nécessitent une surveillance publique plus grande, et les autorités publiques doivent réaffirmer leur contrôle sur eux ».

Aux États-Unis, le Center for AI and Digital Policy a déposé une plainte auprès de la Federal Trade Commission selon laquelle ChatGPT viole la section 5 de la loi fédérale sur le commerce (FTC Act) (15 USC 45). Le fondement de la plainte est que ChatGPT ne respecte pas les directives établies par la FTC pour la transparence et l’explicabilité des systèmes d’IA. Il a été fait référence aux reconnaissances de ChatGPT de plusieurs risques connus, notamment la compromission des droits à la vie privée, la génération de contenus nuisibles et la propagation de fausses informations.

L’utilité des modèles de langage à grande échelle comme ChatGPT n’est pas négligeable, mais la recherche met en évidence son côté sombre. Il est prouvé que cela produit des réponses incorrectes, car le modèle sous-jacent de ChatGPT est basé sur des algorithmes d’apprentissage profond qui exploitent de grands ensembles de données de formation provenant d’Internet. Contrairement à d’autres chatbots, ChatGPT utilise des modèles de langage basés sur des techniques d’apprentissage profond qui génèrent du texte similaire à des conversations humaines, et la plateforme « aboutit à une réponse en faisant une série de suppositions, ce qui est partie de la raison pour laquelle il peut soutenir des réponses incorrectes comme si elles étaient complètement vraies ».

En outre, ChatGPT est prouvé pour accentuer et amplifier les préjugés, aboutissant à des « réponses qui discriminent les genres, les races et les groupes minoritaires, ce que l’entreprise tente de mitiger ». ChatGPT peut également être un véritable trésor pour les acteurs malveillants qui exploitent les utilisateurs insouciants, compromettant leur vie privée et les exposant à des attaques d’escroquerie.

Ces inquiétudes ont incité le Parlement européen à publier un commentaire qui renforce la nécessité de renforcer encore les dispositions actuelles du projet de règlement de l’UE sur l’intelligence artificielle (AIA), qui est toujours en attente de ratification. Le commentaire souligne que le projet de règlement actuel se concentre sur ce que l’on appelle les applications d’IA étroites, consistant en des catégories spécifiques de systèmes d’IA à haut risque tels que le recrutement, la solvabilité, l’emploi, l’application de la loi et l’éligibilité aux services sociaux. Cependant, le projet de règlement AIA de l’UE ne couvre pas l’IA à usage général, tels que les grands modèles de langage qui offrent des capacités cognitives plus avancées et qui peuvent « effectuer une large gamme de tâches intelligentes ». Il y a des appels pour étendre la portée du projet de règlement pour inclure une catégorie distincte de systèmes d’IA à usage général à haut risque, obligeant les développeurs à entreprendre des tests de conformité rigoureux avant de mettre de tels systèmes sur le marché et à surveiller en continu leur performance pour des résultats potentiellement nuisibles inattendus.

Une recherche particulièrement utile met en évidence cette lacune que le règlement AIA de l’UE est « principalement axé sur les modèles d’IA conventionnels, et non sur la nouvelle génération dont nous sommes témoins aujourd’hui ».

Elle recommande quatre stratégies que les régulateurs devraient prendre en compte.

1. Exiger que les développeurs de tels systèmes rendent régulièrement compte de l’efficacité de leurs processus de gestion des risques pour atténuer les résultats nuisibles.
2. Les entreprises utilisant des modèles de langage à grande échelle devraient être obligées de déclarer à leurs clients que le contenu a été généré par l’IA.
3. Les développeurs devraient souscrire à un processus formel de versions étalées, dans le cadre d’un cadre de gestion des risques, conçu pour se protéger contre des résultats potentiellement nuisibles imprévus.
4. Placer la charge sur les développeurs pour « atténuer le risque à sa source » en ayant à « auditer proactivement l’ensemble de données de formation pour les fausses représentations ».

Un facteur qui perpétue les risques associés aux technologies disruptives est la volonté des innovateurs de parvenir à un avantage de premier mouvement en adoptant un modèle d’entreprise « livrer d’abord et corriger plus tard ». Alors que OpenAI est quelque peu transparent sur les risques potentiels de ChatGPT, ils l’ont publié pour une utilisation commerciale large avec une charge « acheteur, sois prudent » sur les utilisateurs pour peser et assumer les risques eux-mêmes. Cela peut être une approche peu tenable étant donné l’impact omniprésent des systèmes d’IA conversationnels. Une réglementation proactive couplée à des mesures d’application robustes doit être primordiale lors de la gestion d’une technologie disruptive.

L’intelligence artificielle imprègne déjà presque toutes les parties de notre vie, ce qui signifie qu’une pause dans le développement de l’IA pourrait impliquer une multitude d’obstacles et de conséquences imprévus. Au lieu de freiner brusquement, les acteurs de l’industrie et de la législation devraient collaborer de bonne foi pour mettre en œuvre une réglementation efficace qui repose sur des valeurs centrées sur l’humain, telles que la transparence, la responsabilité et l’équité. En se référant à la législation existante, telle que l’AIA, les dirigeants des secteurs public et privé peuvent concevoir des politiques globales et standardisées qui empêcheront les utilisations malveillantes et atténueront les résultats défavorables, gardant ainsi l’intelligence artificielle dans les limites de l’amélioration des expériences humaines, et l’équité. En se référant à la législation existante telle que l’AIA, les dirigeants des secteurs privé et public peuvent concevoir des politiques globales et standardisées qui empêcheront les utilisations malveillantes et atténueront les résultats défavorables, gardant ainsi l’intelligence artificielle dans les limites de l’amélioration des expériences humaines et de l’équité, et la capacité, et l’équité.