Intelligence artificielle
Les leaders technologiques mettant en évidence les risques de l’IA et l’urgence d’une réglementation robuste de l’IA
La croissance et les progrès de l’IA ont été exponentiels au cours des dernières années. Statista rapporte que d’ici 2024, le marché mondial de l’IA générera un chiffre d’affaires stupéfiant d’environ 3 000 milliards de dollars, contre 126 milliards de dollars en 2015. Cependant, les leaders technologiques nous mettent maintenant en garde contre les différents risques de l’IA.
En particulier, la récente vague de modèles d’IA générative tels que ChatGPT a introduit de nouvelles capacités dans divers secteurs sensibles aux données, tels que les soins de santé, l’éducation, la finance, etc. Ces développements basés sur l’IA sont vulnérables en raison de nombreux défauts de l’IA que les agents malveillants peuvent exploiter.
Discutons de ce que les experts en IA disent sur les développements récents et mettons en évidence les risques potentiels de l’IA. Nous aborderons également brièvement la manière de gérer ces risques.
Les leaders technologiques et leurs préoccupations liées aux risques de l’IA
Geoffrey Hinton
Geoffrey Hinton – un célèbre leader technologique de l’IA (et parrain de ce domaine), qui a récemment quitté Google, a exprimé ses inquiétudes concernant le développement rapide de l’IA et ses dangers potentiels. Hinton pense que les chatbots d’IA peuvent devenir « assez effrayants » s’ils dépassent l’intelligence humaine.
Hinton déclare :
« Actuellement, ce que nous voyons, ce sont des choses comme GPT-4 qui éclipsent une personne en termes de connaissances générales, et qui les éclipsent de loin. En termes de raisonnement, ce n’est pas aussi bon, mais il fait déjà un raisonnement simple. Et compte tenu du rythme de progrès, nous nous attendons à ce que les choses s’améliorent rapidement. Nous devons donc nous inquiéter de cela. »
De plus, il pense que les « mauvais acteurs » peuvent utiliser l’IA pour « de mauvaises choses », telles que permettre aux robots d’avoir leurs propres objectifs. Malgré ses inquiétudes, Hinton pense que l’IA peut apporter des avantages à court terme, mais nous devons également investir massivement dans la sécurité et le contrôle de l’IA.
Elon Musk
L’implication d’Elon Musk dans l’IA a commencé avec son investissement initial dans DeepMind en 2010, puis avec la co-fondation de OpenAI et l’intégration de l’IA dans les véhicules autonomes de Tesla.
Bien qu’il soit enthousiaste à l’égard de l’IA, il soulève fréquemment des inquiétudes concernant les risques de l’IA. Musk déclare que les systèmes d’IA puissants peuvent être plus dangereux pour la civilisation que les armes nucléaires. Dans une interview à Fox News en avril 2023, il a déclaré :
« L’IA est plus dangereuse que, disons, une conception ou une production d’avion mal gérée, ou une mauvaise production de voitures. Dans le sens où elle a le potentiel — même si l’on considère que cette probabilité est petite — mais ce n’est pas négligeable et elle a le potentiel de détruire la civilisation. »
De plus, Musk soutient la réglementation gouvernementale de l’IA pour assurer la sécurité face aux risques potentiels, même si « ce n’est pas très amusant ».
Mettre un terme aux expériences d’IA géantes : une lettre ouverte soutenue par des milliers d’experts en IA
Le Future of Life Institute a publié une lettre ouverte le 22 mars 2023. La lettre demande un arrêt temporaire de six mois pour le développement de systèmes d’IA plus avancés que GPT-4. Les auteurs expriment leurs inquiétudes concernant le rythme auquel les systèmes d’IA sont développés, ce qui pose de graves défis socio-économiques.
De plus, la lettre déclare que les développeurs d’IA devraient travailler avec les décideurs politiques pour documenter les systèmes de gouvernance de l’IA. À partir de juin 2023, la lettre a été signée par plus de 31 000 développeurs d’IA, experts et leaders technologiques. Les signataires notables incluent Elon Musk, Steve Wozniak (co-fondateur d’Apple), Emad Mostaque (PDG de Stability AI), Yoshua Bengio (laureat du prix Turing) et beaucoup d’autres.
Arguments contre l’arrêt du développement de l’IA
Deux leaders d’IA éminents, Andrew Ng et Yann LeCun, ont opposé l’interdiction de six mois sur le développement de systèmes d’IA avancés et ont considéré la pause comme une mauvaise idée.
Ng déclare que même si l’IA comporte certains risques, tels que les préjugés, la concentration du pouvoir, etc., la valeur créée par l’IA dans des domaines tels que l’éducation, les soins de santé et le coaching réactif est énorme.
Yann LeCun déclare que la recherche et le développement ne devraient pas être arrêtés, même si les produits d’IA qui atteignent l’utilisateur final peuvent être réglementés.
Quels sont les dangers et les risques immédiats potentiels de l’IA ?
1. Remplacement des emplois
Les experts en IA pensent que les systèmes d’IA intelligents peuvent remplacer les tâches cognitives et créatives. La banque d’investissement Goldman Sachs estime qu’environ 300 millions d’emplois seront automatisés par l’IA générative.
Par conséquent, il devrait y avoir des réglementations sur le développement de l’IA pour qu’il ne cause pas de grave récession économique. Il devrait y avoir des programmes éducatifs pour la formation et la reconversion des employés pour relever ce défi.
2. Systèmes d’IA biaisés
Les préjugés qui prévalent parmi les êtres humains en matière de sexe, de race ou de couleur peuvent involontairement pénétrer les données utilisées pour la formation des systèmes d’IA, ce qui rend les systèmes d’IA biaisés.
Par exemple, dans le contexte du recrutement, un système d’IA biaisé peut rejeter les CV de personnes issues de certains milieux ethniques, créant ainsi de la discrimination sur le marché du travail. Dans l’application de la loi, la police prédictive biaisée pourrait cibler de manière disproportionnée certains quartiers ou groupes démographiques.
Par conséquent, il est essentiel d’avoir une stratégie de données globale qui aborde les risques de l’IA, en particulier les préjugés. Les systèmes d’IA doivent être fréquemment évalués et audité pour les rendre équitables.
3. Applications d’IA critiques en matière de sécurité
Les véhicules autonomes, le diagnostic et le traitement médicaux, les systèmes aéronautiques, le contrôle des centrales nucléaires, etc. sont tous des exemples d’applications d’IA critiques en matière de sécurité. Ces systèmes d’IA doivent être développés avec prudence car même de petites erreurs peuvent avoir de graves conséquences pour la vie humaine ou l’environnement.
Par exemple, le dysfonctionnement du logiciel d’IA appelé Maneuvering Characteristics Augmentation System (MCAS) est attribué en partie à l’écrasement des deux Boeing 737 MAX, le premier en octobre 2018 et le second en mars 2019. Malheureusement, les deux crashes ont tué 346 personnes.
Comment surmonter les risques des systèmes d’IA ? – Développement responsable de l’IA et conformité réglementaire
L’IA responsable (RAI) signifie développer et déployer des systèmes d’IA équitables, responsables, transparents et sécurisés qui assurent la confidentialité et suivent les réglementations juridiques et les normes sociétales. La mise en œuvre de l’IA responsable peut être complexe compte tenu du développement rapide et large des systèmes d’IA.
Cependant, les grandes entreprises technologiques ont développé des cadres d’IA responsable, tels que :
Les laboratoires d’IA du monde entier peuvent s’inspirer de ces principes ou développer leurs propres cadres d’IA responsable pour créer des systèmes d’IA fiables.
Conformité réglementaire de l’IA
Puisque les données constituent une composante intégrale des systèmes d’IA, les organisations et les laboratoires basés sur l’IA doivent se conformer aux réglementations suivantes pour assurer la sécurité, la confidentialité et la sécurité des données.
- RGPD (Règlement général sur la protection des données) – un cadre de protection des données de l’UE.
- CCPA (California Consumer Privacy Act) – une loi de l’État de Californie sur les droits à la vie privée et la protection des consommateurs.
- HIPAA (Health Insurance Portability and Accountability Act) – une législation américaine qui protège les données médicales des patients.
- La loi européenne sur l’IA, et les lignes directrices éthiques pour une IA fiable – une réglementation de l’IA de la Commission européenne.
Il existe diverses lois régionales et locales promulguées par différents pays pour protéger leurs citoyens. Les organisations qui ne garantissent pas la conformité réglementaire en matière de données peuvent subir des pénalités sévères. Par exemple, le RGPD a fixé une amende de 20 millions d’euros ou 4 % du bénéfice annuel pour les infractions graves, telles que le traitement de données illicite, le consentement de données non prouvé, la violation des droits des personnes concernées ou le transfert de données non protégé vers une entité internationale.
Développement de l’IA et réglementations – Présent et futur
Avec chaque mois qui passe, les progrès de l’IA atteignent des sommets sans précédent. Mais les réglementations et les cadres de gouvernance de l’IA qui les accompagnent sont en retard. Ils doivent être plus solides et plus spécifiques.
Les leaders technologiques et les développeurs d’IA ont sonné l’alarme sur les risques de l’IA si elle n’est pas réglementée de manière appropriée. La recherche et le développement dans le domaine de l’IA peuvent apporter plus de valeur dans de nombreux secteurs, mais il est clair qu’une réglementation soigneuse est maintenant impérative.
Pour plus de contenu lié à l’IA, visitez unite.ai.
