Des inquiétudes sur les risques potentiels de ChatGPT gagnent en ampleur, mais une pause dans l’IA est-elle une bonne décision ?

Alors qu’Elon Musk et d’autres dirigeants mondiaux de la technologie ont appelé à une pause dans l’IA suite à la sortie de ChatGPT, certains critiques estiment qu’un arrêt du développement n’est pas la solution. L’évangéliste de l’IA Andrew Pery, de la société d’automatisation intelligente ABBYY, pense que prendre une pause est comme essayer de remettre le dentifrice dans le tube. Il nous explique pourquoi…

Les applications d’IA sont omniprésentes, impactant virtuellement tous les aspects de notre vie. Même si c’est louable, freiner maintenant peut s’avérer peu plausible.

Il existe certainement des inquiétudes palpables qui appellent à une surveillance réglementaire accrue pour maîtriser les impacts potentiellement nocifs.

Récemment, l’Autorité italienne de protection des données a temporairement bloqué l’utilisation de ChatGPT dans tout le pays en raison de préoccupations liées à la confidentialité concernant la manière de collecter et de traiter les données personnelles utilisées pour former le modèle, ainsi qu’à un manque apparent de garanties, exposant les enfants à des réponses « absolument inappropriées à leur âge et à leur niveau de conscience ».

L’Organisation européenne des consommateurs (BEUC) exhorte l’UE à enquêter sur les impacts potentiellement nocifs des modèles de langage à grande échelle, compte tenu des « inquiétudes croissantes sur la façon dont ChatGPT et des chatbots similaires pourraient tromper et manipuler les gens ». Ces systèmes d’IA nécessitent une surveillance publique accrue, et les autorités publiques doivent réaffirmer leur contrôle sur eux.

Aux États-Unis, le Center for AI and Digital Policy a déposé une plainte auprès de la Federal Trade Commission, alléguant que ChatGPT viole la section 5 de la loi fédérale sur les échanges (FTC Act) (15 USC 45). Le fondement de la plainte est que ChatGPT ne répond pas aux lignes directrices établies par la FTC pour la transparence et l’explicabilité des systèmes d’IA. Il est fait référence aux reconnaissances de ChatGPT de plusieurs risques connus, notamment la compromission des droits à la vie privée, la génération de contenus nocifs et la propagation de fausses informations.

L’utilité des modèles de langage à grande échelle tels que ChatGPT n’est pas sans importance, mais la recherche met en évidence son côté sombre. Il a été prouvé qu’il produit des réponses incorrectes, car le modèle sous-jacent de ChatGPT est basé sur des algorithmes d’apprentissage profond qui utilisent de grands ensembles de données de formation provenant d’Internet. Contrairement à d’autres chatbots, ChatGPT utilise des modèles de langage basés sur des techniques d’apprentissage profond qui génèrent du texte similaire à des conversations humaines, et la plateforme « aboutit à une réponse en faisant une série de suppositions, ce qui est partiellement la raison pour laquelle il peut soutenir des réponses incorrectes comme si elles étaient complètement vraies ».

De plus, ChatGPT est prouvé pour accentuer et amplifier les préjugés, aboutissant à des « réponses qui discriminent le sexe, la race et les groupes minoritaires, ce que l’entreprise tente de mitiger ». ChatGPT peut également être un Eldorado pour les acteurs malveillants qui exploitent les utilisateurs insouciants, compromettant leur vie privée et les exposant à des attaques d’escroquerie.

Ces inquiétudes ont incité le Parlement européen à publier un commentaire qui renforce la nécessité de renforcer les dispositions actuelles du projet de règlement de l’UE sur l’intelligence artificielle (AIA), qui est toujours en attente de ratification. Le commentaire souligne que le projet de règlement actuel se concentre sur ce que l’on appelle les applications d’IA étroites, consistant en des catégories spécifiques de systèmes d’IA à haut risque tels que le recrutement, la solvabilité, l’emploi, l’application de la loi et l’éligibilité aux services sociaux. Cependant, le projet de règlement AIA de l’UE ne couvre pas les applications d’IA à usage général, telles que les modèles de langage à grande échelle qui fournissent des capacités cognitives plus avancées et qui peuvent « effectuer une large gamme de tâches intelligentes ». Il y a des appels pour étendre la portée du projet de règlement pour inclure une catégorie distincte de systèmes d’IA à usage général à haut risque, obligeant les développeurs à effectuer des tests de conformité rigoureux avant de mettre de tels systèmes sur le marché et à surveiller en continu leur performance pour des sorties potentiellement nocives imprévues.

Une recherche particulièrement utile attire l’attention sur cette lacune que le règlement AIA de l’UE est « principalement axé sur les modèles d’IA conventionnels, et non sur la nouvelle génération dont nous sommes témoins aujourd’hui ».

Elle recommande quatre stratégies que les régulateurs devraient considérer.

1. Exiger des développeurs de ces systèmes qu’ils rendent compte régulièrement de l’efficacité de leurs processus de gestion des risques pour atténuer les sorties nocives.
2. Les entreprises utilisant des modèles de langage à grande échelle devraient être obligées de divulguer à leurs clients que le contenu a été généré par l’IA.
3. Les développeurs devraient souscrire à un processus formel de versions étalées, dans le cadre d’un cadre de gestion des risques, conçu pour protéger contre les conséquences nocives potentiellement imprévues.
4. Placer la charge sur les développeurs pour « atténuer le risque à sa source » en ayant à « auditer proactivement l’ensemble de données de formation pour les fausses représentations ».

Un facteur qui perpétue les risques associés aux technologies disruptives est la volonté des innovateurs d’obtenir un avantage de premier mouveur en adoptant un modèle commercial « livrer d’abord et corriger plus tard ». Alors que OpenAI est quelque peu transparent sur les risques potentiels de ChatGPT, ils l’ont publié pour une utilisation commerciale large avec une charge « acheteur attention » sur les utilisateurs pour peser et assumer les risques eux-mêmes. Cela peut être une approche peu tenable étant donné l’impact omniprésent des systèmes d’IA conversationnels. Une réglementation proactive couplée à des mesures d’application robustes doit être primordiale lors de la manipulation d’une technologie disruptive.

L’intelligence artificielle pénètre déjà presque toutes les parties de notre vie, ce qui signifie qu’une pause dans le développement de l’IA pourrait impliquer une multitude d’obstacles et de conséquences imprévus. Au lieu de freiner brusquement, les acteurs de l’industrie et de la législation devraient collaborer de bonne foi pour établir une réglementation actionnable ancrée dans des valeurs centrées sur l’humain comme la transparence, la responsabilité et l’équité. En référençant une législation existante telle que l’AIA, les dirigeants des secteurs public et privé peuvent concevoir des politiques globales et standardisées approfondies qui empêcheront les utilisations malveillantes et atténueront les conséquences négatives, gardant ainsi l’intelligence artificielle dans les limites de l’amélioration de l’expérience humaine.