Modèles et plateformes d’IA
Les leaders de la technologie mettent en évidence les risques de l’IA et l’urgence d’une réglementation robuste de l’IA
Ajouter Unite.AI à vos sources préférées sur Google
La croissance et les progrès de l’IA ont été exponentiels au cours des dernières années. Selon Statista, d’ici 2024, le marché mondial de l’IA générera un chiffre d’affaires considérable de près de 3000 milliards de dollars, contre 126 milliards de dollars en 2015. Cependant, les leaders de la technologie nous mettent maintenant en garde contre les différents risques de l’IA.
En particulier, la récente vague de modèles d’IA génératifs comme ChatGPT a introduit de nouvelles capacités dans divers secteurs sensibles aux données, tels que les soins de santé, l’éducation, la finance, etc. Ces développements basés sur l’IA sont vulnérables en raison de nombreuses lacunes de l’IA que les agents malveillants peuvent exploiter.
Discutons de ce que les experts en IA disent sur les développements récents et mettons en évidence les risques potentiels de l’IA. Nous aborderons également brièvement la manière de gérer ces risques.
Les leaders de la technologie et leurs préoccupations liées aux risques de l’IA
Geoffrey Hinton
Geoffrey Hinton, un célèbre leader de la technologie de l’IA (et père de ce domaine), qui a récemment quitté Google (GOOGL ), a exprimé ses inquiétudes concernant le développement rapide de l’IA et ses dangers potentiels. Hinton pense que les chatbots d’IA peuvent devenir « assez effrayants » s’ils dépassent l’intelligence humaine.
Hinton déclare :
« Actuellement, ce que nous voyons, ce sont des choses comme GPT-4 qui éclipsent une personne en termes de connaissances générales, et qui les éclipsent de loin. En termes de raisonnement, ce n’est pas aussi bon, mais cela fait déjà un raisonnement simple. Et compte tenu du rythme de progrès, nous nous attendons à ce que les choses s’améliorent rapidement. Nous devons donc nous inquiéter de cela. »
De plus, il pense que les « mauvais acteurs » peuvent utiliser l’IA pour des « mauvaises choses », telles que permettre aux robots d’avoir leurs propres objectifs. Malgré ses inquiétudes, Hinton pense que l’IA peut apporter des avantages à court terme, mais nous devons également investir massivement dans la sécurité et le contrôle de l’IA.
Elon Musk
L’implication d’Elon Musk dans l’IA a commencé avec son investissement initial dans DeepMind en 2010, puis avec la co-fondation de OpenAI et l’intégration de l’IA dans les véhicules autonomes de Tesla.
Bien qu’il soit enthousiaste à l’égard de l’IA, il soulève fréquemment des inquiétudes concernant les risques de l’IA. Musk pense que les systèmes d’IA puissants peuvent être plus dangereux pour la civilisation que les armes nucléaires. Dans une interview à Fox News en avril 2023, il a déclaré :
« L’IA est plus dangereuse que, disons, une conception d’avion mal gérée ou une maintenance de production ou une mauvaise production de voitures. Dans le sens où elle a le potentiel — bien que petit, selon certains — mais ce n’est pas négligeable et elle a le potentiel de détruire la civilisation. »
De plus, Musk soutient la réglementation gouvernementale de l’IA pour assurer la sécurité face aux risques potentiels, même si « ce n’est pas amusant ».
Arrêter les expériences d’IA géantes : une lettre ouverte soutenue par des milliers d’experts en IA
L’Institut Future of Life a publié une lettre ouverte le 22 mars 2023. La lettre appelle à un arrêt temporaire de six mois des systèmes d’IA plus avancés que GPT-4. Les auteurs expriment leurs inquiétudes concernant le rythme auquel les systèmes d’IA sont développés, qui pose de graves défis socio-économiques.
De plus, la lettre indique que les développeurs d’IA devraient travailler avec les décideurs politiques pour documenter les systèmes de gouvernance de l’IA. Au 1er juin 2023, la lettre a été signée par plus de 31 000 développeurs d’IA, experts et leaders de la technologie. Les signataires notables incluent Elon Musk, Steve Wozniak (co-fondateur d’Apple), Emad Mostaque (PDG de Stability AI), Yoshua Bengio (laureat du prix Turing), et bien d’autres.
Arguments contre l’arrêt du développement de l’IA
Deux leaders de l’IA éminents, Andrew Ng et Yann LeCun, ont rejeté l’idée d’un arrêt de six mois dans le développement de systèmes d’IA avancés et considèrent cette pause comme une mauvaise idée.
Ng pense que même si l’IA comporte certains risques, tels que les biais, la valeur créée par l’IA dans des domaines tels que l’éducation, les soins de santé et la formation est considérable.
Yann LeCun pense que la recherche et le développement ne devraient pas être arrêtés, même si les produits d’IA qui atteignent l’utilisateur final peuvent être réglementés.
Quels sont les dangers et les risques immédiats de l’IA ?
1. Remplacement des emplois
Les experts en IA pensent que les systèmes d’IA intelligents peuvent remplacer les tâches cognitives et créatives. La banque d’investissement Goldman Sachs estime qu’environ 300 millions d’emplois seront automatisés par l’IA générative.
Il faut donc réglementer le développement de l’IA pour qu’il ne provoque pas une grave crise économique. Il faut également mettre en place des programmes éducatifs pour que les employés puissent se recycler et se réadapter face à ce défi.
2. Systèmes d’IA biaisés
Les biais qui existent chez les humains en termes de sexe, de race ou de couleur peuvent se propager involontairement dans les données utilisées pour former les systèmes d’IA, les rendant ainsi biaisés.
Par exemple, dans le contexte du recrutement, un système d’IA biaisé peut éliminer les CV de personnes issues de certains milieux ethniques, créant ainsi de la discrimination sur le marché du travail. Dans le domaine de l’application de la loi, la police prédictive biaisée pourrait cibler de manière disproportionnée certains quartiers ou groupes démographiques.
Il est donc essentiel d’avoir une stratégie de données complète qui aborde les risques de l’IA, en particulier les biais. Les systèmes d’IA doivent être évalués et audités régulièrement pour les garder justes.
3. Applications d’IA critiques pour la sécurité
Les véhicules autonomes, le diagnostic et le traitement médical, les systèmes d’aviation, le contrôle des centrales nucléaires, etc. sont tous des exemples d’applications d’IA critiques pour la sécurité. Ces systèmes d’IA doivent être développés avec prudence, car même de petites erreurs peuvent avoir de graves conséquences pour la vie humaine ou l’environnement.
Par exemple, le dysfonctionnement du logiciel d’IA appelé Maneuvering Characteristics Augmentation System (MCAS) est attribué en partie à la collision des deux Boeing 737 MAX, la première en octobre 2018 et la seconde en mars 2019. Malheureusement, les deux crashes ont tué 346 personnes.
Comment surmonter les risques des systèmes d’IA ? – Développement responsable de l’IA et conformité réglementaire
L’IA responsable (RAI) signifie développer et déployer des systèmes d’IA justes, responsables, transparents et sécurisés qui garantissent la confidentialité et respectent les réglementations légales et les normes sociétales. La mise en œuvre de l’IA responsable peut être complexe, compte tenu du développement rapide et large des systèmes d’IA.
Cependant, les grandes entreprises technologiques ont développé des cadres d’IA responsable, tels que :
Les laboratoires d’IA du monde entier peuvent s’inspirer de ces principes ou développer leurs propres cadres d’IA responsable pour créer des systèmes d’IA fiables.
Conformité réglementaire de l’IA
Puisque les données sont une composante essentielle des systèmes d’IA, les organisations et les laboratoires basés sur l’IA doivent se conformer aux réglementations suivantes pour assurer la sécurité, la confidentialité et la sécurité des données.
- Le RGPD (Règlement général sur la protection des données) – un cadre de protection des données de l’UE.
- La loi sur la confidentialité des consommateurs de Californie (CCPA) – une loi de l’État de Californie sur les droits à la vie privée et la protection des consommateurs.
- La loi HIPAA (Health Insurance Portability and Accountability Act) – une législation américaine qui protège les données médicales des patients.
- Le règlement de l’IA de l’UE, et les lignes directrices éthiques pour une IA fiable – une réglementation de l’IA de la Commission européenne.
Il existe diverses lois régionales et locales promulguées par différents pays pour protéger leurs citoyens. Les organisations qui ne parviennent pas à assurer la conformité réglementaire en matière de données peuvent subir des pénalités sévères. Par exemple, le RGPD a fixé une amende de 20 millions d’euros ou 4 % du chiffre d’affaires annuel pour les infractions graves, telles que le traitement de données illicite, le manque de consentement aux données, la violation des droits des personnes concernées ou le transfert non protégé de données à une entité internationale.
Développement et réglementation de l’IA – Présent et futur
Avec chaque mois qui passe, les progrès de l’IA atteignent des sommets sans précédent. Mais les réglementations et les cadres de gouvernance de l’IA qui les accompagnent sont en retard. Ils doivent être plus robustes et plus spécifiques.
Les leaders de la technologie et les développeurs d’IA ont sonné l’alarme sur les risques de l’IA si elle n’est pas réglementée de manière appropriée. La recherche et le développement dans le domaine de l’IA peuvent apporter une valeur supplémentaire dans de nombreux secteurs, mais il est clair que la réglementation soigneuse est maintenant impérative.
Pour plus de contenu lié à l’IA, visitez unite.ai.
