Des réseaux de neurones à la négligence : qui est responsable lorsque l’IA échoue ?

Cet article examine les problèmes juridiques liés aux dommages causés par l’intelligence artificielle et où la responsabilité peut être engagée si un réseau de neurones ne fonctionne pas correctement dans le monde réel.

L’intelligence artificielle (IA) a quitté les laboratoires de recherche et est entrée dans les tribunaux, les cliniques, les voitures et les bourses, avec des réseaux de neurones qui diagnostiquent des maladies, approuvent des prêts et accomplissent de plus en plus de tâches longtemps considérées comme le domaine des humains. Mais lorsque de tels systèmes échouent dans le monde réel, ils le font avec des conséquences graves et parfois mortelles.

En tant qu’avocat en droit de la responsabilité personnelle en Ontario, au Canada, et candidat actuel au doctorat en administration des entreprises étudiant l’intersection de l’entreprise, du droit et de la technologie, je suis de plus en plus souvent posée une question simple : Si un préjudice causé par l’IA se produit, qui est responsable ?

La réponse est en fait plus complexe. L’IA soulève des défis aux doctrines de la négligence, de la causalité et de la prévisibilité, et pose des questions fondamentales sur la manière dont le droit devrait répondre aux décisions prises par les machines.

Le rôle élargi de l’IA dans la prise de décision à haut risque

L’IA n’est plus limitée à l’automatisation de tâches de faible qualification ou à des plateformes d’apprentissage automatique. Elle prend maintenant des décisions en matière de soins de santé, de finance, d’emploi, de transport, de police et d’analyse juridique.

Les modèles d’IA actuels consistent généralement en des réseaux de neurones profonds qui, bien qu’ils puissent détecter des modèles complexes dans de grandes bases de données, restent substantiellement opaques à leurs développeurs. Les universitaires ont observé que les systèmes d’IA introduisent l’imprévisibilité et l’autonomie dans le droit, qui était autrefois strictement régi par la prévisibilité et l’intention. Cela crée un conflit entre l’innovation et la responsabilité.

Alors que les systèmes juridiques traitent les dommages causés comme étant attribuables à des êtres humains, l’IA répartit la responsabilité entre les ingénieurs de la base de données, qui les créent, les déployeurs et les utilisateurs finaux. La responsabilité devient diffuse.

Le fossé de responsabilité : lorsque le préjudice ne peut pas être facilement attribué

Les universitaires en droit font de plus en plus référence à un « fossé de responsabilité » émergent dans la gouvernance de l’IA. Le droit des délits traditionnel repose sur l’identification :

1. D’une obligation de prudence
2. D’une violation de cette obligation
3. D’une causalité
4. De dommages

L’IA complique chaque élément. Par exemple, les développeurs peuvent ne pas savoir comment un modèle se comportera après son déploiement, et les organisations peuvent utiliser des systèmes d’apprentissage automatique (ML) tiers. Du point de vue de l’utilisateur final, le mécanisme de détermination des sorties est opaque.

Une étude universitaire a noté comment prouver la faute est plus difficile si les systèmes d’IA agissent de manière semi-autonome ou s’adaptent de manière autonome à travers des processus tels que l’apprentissage automatique. Cette fragmentation remet en question les doctrines qui reposent sur l’agentivité humaine.

Dans les litiges en matière de responsabilité personnelle, les tribunaux examinent traditionnellement si un défendeur a agi de manière raisonnable dans les circonstances. Mais comment les tribunaux doivent-ils évaluer la raisonnablement lorsque la prise de décision est partiellement déléguée à des modèles probabilistes ?

Les réseaux de neurones et le problème de l’explicabilité

Les systèmes d’apprentissage profond fonctionnent souvent comme des « boîtes noires ». Leurs processus de prise de décision interne ne sont pas facilement interprétables, même par les experts. Ce manque d’explicabilité a des implications juridiques graves.

Si un système d’IA médical diagnostique incorrectement un cancer, qui serait responsable ? Cela pourrait être :

• La façon dont le modèle a été formé
• Si les données de formation contenaient des biais
• Si les processus de validation étaient adéquats
• Si les cliniciens ont trop compté sur la sortie automatisée

La littérature juridique recommande une distinction entre la responsabilité causale, la responsabilité de rôle et la responsabilité de responsabilité pour attribuer la responsabilité des dommages causés par l’IA.

Cependant, dans la pratique, la responsabilité pourrait s’étendre à une chaîne d’acteurs :

• Fournisseurs de données
• Développeurs de logiciels
• Formateurs de modèles
• Déployeurs
• Organisations qui utilisent les sorties de l’IA
• Professionnels qui s’appuient sur les recommandations de l’IA

L’IA ne supprime pas la responsabilité, mais la redistribue.

Leçons des véhicules autonomes : une étude de cas sur la responsabilité de l’IA

La litige liée aux véhicules autonomes fournit un aperçu précoce de la manière dont les tribunaux pourraient aborder les préjudices liés à l’IA. Les tribunaux ont depuis appliqué les principes coutumiers de la négligence et de la responsabilité du produit aux nouvelles technologies causant des blessures. Dans des affaires récentes, les jurés ont commencé à répartir la responsabilité entre les conducteurs humains et les sociétés de technologie qui ont créé les systèmes de conduite automatisés.

Les commentateurs juridiques ont suggéré que les doctrines de responsabilité du produit existantes, telles que le défaut de conception, le défaut de fabrication et le défaut d’avertissement, sont pertinentes pour les systèmes dotés d’IA.

Cependant, les véhicules autonomes exposent les limites des cadres juridiques actuels. La responsabilité devrait-elle être engagée contre : le fabricant de véhicules ? Le développeur de logiciels ? L’opérateur humain ? Ou les données utilisées pour former l’algorithme ?

Certains universitaires ont suggéré que l’analogie des principes de responsabilité du produit peut effectivement délimiter la responsabilité entre les acteurs en amont et en aval.

Du point de vue du plaignant, les affaires montrent que les tribunaux peuvent toujours appliquer les principes coutumiers aux nouvelles technologies, mais uniquement avec une expertise et des connaissances techniques vraiment avancées.

Responsabilité stricte et négligence : théories juridiques concurrentes

Un débat central est de savoir si les cadres de négligence traditionnels peuvent être appliqués aux systèmes d’IA. Certains universitaires plaident en faveur de régimes de responsabilité stricte, arguant que les parties blessées ne devraient pas supporter le fardeau de prouver la faute dans des environnements technologiques complexes.

La responsabilité stricte peut être particulièrement utile lorsque le préjudice est prévisible mais inévitable, lorsque un système d’IA est déployé à grande échelle et lorsque les risques sont socialement distribués. Ou lorsque la causalité technique n’est pas facile à prouver.

On soutient également que le droit de la négligence peut s’adapter aux changements technologiques. La recherche juridique comparative a plaidé en faveur de la construction sur les doctrines existantes, avec leurs effets stabilisants intrinsèques et leur adaptation incrémentale à de nouveaux préjudices.

La responsabilité stricte et la négligence illustrent les préférences politiques relatives à l’innovation, à l’équité et à la manière dont les risques et les coûts devraient être alloués.

Les innovateurs devraient-ils être responsables du risque technologique ? Ou la société devrait-elle partager largement les coûts du progrès ?

La perspective des entreprises : allocation des risques et assurance

Du point de vue des entreprises, la responsabilité de l’IA n’est pas seulement une question juridique, mais également une question de gestion des risques. Les organisations qui déployeront des systèmes d’IA ont commencé à se concentrer sur les questions d’allocation des risques contractuels : 2. l’assurance de responsabilité professionnelle, 3. la couverture de la cybersécurité et 4. l’indemnisation, ainsi que les cadres de conformité réglementaire.

Les marchés d’assurance peuvent jouer un rôle important dans l’établissement de la responsabilité pour l’IA. Certaines recherches suggèrent que certains préjudices causés par l’IA pourraient être traités de manière optimale à travers des régimes de compensation hybrides qui combinent l’assurance et le droit des délits.

Les entreprises qui intègrent l’IA dans leur processus de prise de décision devraient tenir compte du risque de litige dans leur transformation numérique. Le fait de ne pas le faire pourrait exposer ces organisations à des dommages à la réputation, à des sanctions réglementaires et à une responsabilité civile.

Responsabilité éthique vs responsabilité juridique

Dans de nombreux cas, la responsabilité juridique n’est pas équivalente à la responsabilité éthique. Les débats sur la gouvernance de l’IA comprennent les principes suivants :

• Équité
• Transparence
• Responsabilité
• Explicabilité

Les obligations juridiques, cependant, ne découlent pas automatiquement des considérations éthiques.

Des travaux récents proposent des cadres conceptuels pour répartir la responsabilité dans les écosystèmes d’IA à multiples acteurs et pour construire des règles de preuve qui relient les décisions de conception aux résultats juridiques. Ainsi, les systèmes juridiques qui cherchent à promouvoir l’innovation doivent également tenir compte de ceux qui sont blessés par la nouvelle technologie. Cet exercice d’équilibre façonnera l’avenir de la gouvernance de l’IA.

Le futur de la négligence à l’ère de l’intelligence artificielle

L’intelligence artificielle remet en question l’hypothèse selon laquelle l’autorité de prise de décision repose toujours sur des acteurs humains identifiables. Mais la responsabilité juridique reste finalement humaine.

À l’avenir, il est peu probable que les tribunaux reconnaissent les systèmes d’IA comme des personnes juridiques. Au lieu de cela, il est probable que les individus qui développent, déployeront et profiteront des systèmes d’IA seront tenus responsables.

À mesure que les systèmes d’IA deviennent plus indépendants, des modèles hybrides pourraient évoluer, combinant diverses formes de régulation :

1. Les principes de négligence
2. Les doctrines de responsabilité du produit
3. La surveillance réglementaire
4. Les régimes de compensation basés sur l’assurance

Au lieu de remplacer les concepts du droit commun, l’IA peut simplement forcer les tribunaux à les clarifier. Du point de vue du plaignant, la question est de savoir ce qui s’est passé.

Qui est le créateur de risque ? Qui peut le mieux prévenir le risque de nuire aux individus ?

Jusqu’à ce que les législatures adoptent des technologies complètes. Dans les régimes de responsabilité de l’IA basés sur les réseaux de neurones, les tribunaux appliqueront les doctrines juridiques existantes aux nouvelles technologies. Les réseaux de neurones peuvent être nouveaux. La négligence ne l’est pas.