Le nouveau code de conduite de l’UE en matière d’IA va avoir un impact sur la réglementation

La Commission européenne a récemment introduit un code de conduite qui pourrait changer la façon dont les entreprises d’IA opèrent. Il ne s’agit pas simplement d’un ensemble de lignes directrices, mais plutôt d’une refonte complète de la surveillance de l’IA que même les plus grands acteurs ne peuvent ignorer.

Qu’est-ce qui rend cela différent ? Pour la première fois, nous voyons des règles concrètes qui pourraient forcer des entreprises comme OpenAI et Google (GOOGL ) à ouvrir leurs modèles à des tests externes, un changement fondamental dans la façon dont les systèmes d’IA pourraient être développés et déployés en Europe.

Les nouveaux acteurs clés de la surveillance de l’IA

La Commission européenne a créé un cadre qui cible spécifiquement les systèmes d’IA présentant un “risque systémique”. Nous parlons de modèles formés avec plus de 10^25 FLOPs de puissance de calcul – un seuil que GPT-4 a déjà dépassé.

Les entreprises devront déclarer leurs plans de formation d’IA deux semaines avant même de commencer.

Au cœur de ce nouveau système se trouvent deux documents clés : le Cadre de sécurité et de sûreté (SSF) et le Rapport de sécurité et de sûreté (SSR). Le SSF est une feuille de route complète pour gérer les risques liés à l’IA, couvrant tout, de l’identification initiale des risques à des mesures de sécurité continues. Pendant ce temps, le SSR sert d’outil de documentation détaillé pour chaque modèle.

Tests externes pour les modèles d’IA à haut risque

La Commission exige des tests externes pour les modèles d’IA à haut risque. Il ne s’agit pas d’un simple contrôle de qualité interne – des experts indépendants et le Bureau de l’IA de l’UE sont en train d’examiner ces systèmes de manière approfondie.

Les implications sont importantes. Si vous êtes OpenAI ou Google, vous devez suddenly laisser des experts externes examiner vos systèmes. Le projet de loi stipule explicitement que les entreprises doivent “assurer des tests d’experts indépendants suffisants avant le déploiement”. C’est un changement important par rapport à l’approche actuelle d’autorégulation.

La question se pose : qui est qualifié pour tester ces systèmes d’IA incroyablement complexes ? Le Bureau de l’IA de l’UE pénètre dans un territoire qui n’a jamais été exploré auparavant. Ils auront besoin d’experts qui puissent comprendre et évaluer les nouvelles technologies d’IA tout en maintenant une confidentialité stricte sur ce qu’ils découvrent.

Cette exigence de test externe pourrait devenir obligatoire dans toute l’UE par le biais d’un acte d’exécution de la Commission. Les entreprises peuvent essayer de démontrer leur conformité par des “moyens alternatifs appropriés”, mais personne ne sait vraiment ce que cela signifie dans la pratique.

La protection du droit d’auteur devient sérieuse

L’UE prend également au sérieux la protection du droit d’auteur. Ils obligent les fournisseurs d’IA à créer des politiques claires sur la manière dont ils gèrent la propriété intellectuelle.

La Commission soutient la norme robots.txt – un fichier simple qui indique aux crawlers Web où ils peuvent et ne peuvent pas aller.

Les entreprises d’IA devront également éviter activement les sites de piratage lorsqu’elles rassemblent des données de formation. L’UE les dirige même vers leur “liste de surveillance des contrefaçons et de la piraterie” comme point de départ.

Ce que cela signifie pour l’avenir

L’UE crée un tout nouveau terrain de jeu pour le développement de l’IA. Ces exigences vont affecter tout, de la planification des projets d’IA des entreprises à la collecte de leurs données de formation.

Chaque grande entreprise d’IA est maintenant confrontée à un choix. Ils doivent soit :

• Ouvrir leurs modèles pour des tests externes
• Déterminer ce que signifient ces “moyens alternatifs” de conformité
• Ou potentiellement limiter leurs opérations sur le marché de l’UE

Le calendrier compte également. Il ne s’agit pas d’une réglementation lointaine – la Commission avance rapidement. Ils ont réussi à réunir environ 1 000 parties prenantes divisées en quatre groupes de travail, tous travaillant sur les détails de la façon dont cela va fonctionner.

Pour les entreprises qui construisent des systèmes d’IA, les jours de “aller vite et régler les règles plus tard” pourraient être en train de se terminer. Ils devront commencer à réfléchir à ces exigences maintenant, et non lorsque celles-ci deviendront obligatoires. Cela signifie :

• Planifier des audits externes dans leur calendrier de développement
• Mettre en place des systèmes de conformité robustes en matière de droit d’auteur
• Construire des cadres de documentation qui correspondent aux exigences de l’UE

L’impact réel de ces réglementations se déroulera au cours des prochains mois. Alors que certaines entreprises pourraient chercher des moyens de contourner ces règles, d’autres vont intégrer ces exigences dans leurs processus de développement. Le cadre de l’UE pourrait influencer la façon dont le développement de l’IA se déroule à l’échelle mondiale, en particulier si d’autres régions suivent avec des mesures de surveillance similaires. À mesure que ces règles passent du stade de projet à celui de mise en œuvre, l’industrie de l’IA connaît son plus grand changement réglementaire à ce jour.