Leaders d’opinion

Qui répond des dommages causés par l’IA ? Négligence, responsabilité civile et avenir de la gouvernance de l’IA

Kanon Clifford
Ajouter Unite.AI à vos sources préférées sur Google
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
Points clésL'opacité de l'IA crée un déficit de responsabilité en compliquant les éléments…
Voir plus
  • L'opacité de l'IA crée un déficit de responsabilité en compliquant les éléments fondamentaux de la négligence, tels que le devoir de diligence et le lien de causalité.
  • Les tribunaux pourraient appliquer les doctrines existantes de responsabilité du fait des produits à l'IA, mais exigeraient des preuves techniques avancées.
  • Les régimes de responsabilité objective pourraient répartir équitablement les risques lorsque le préjudice causé par l'IA est prévisible mais que la causalité reste opaque.

Cet article examine les problèmes juridiques liés aux dommages causés par l’intelligence artificielle et où la responsabilité peut être engagée si un réseau de neurones ne fonctionne pas correctement dans le monde réel.

L’intelligence artificielle (IA) a quitté les laboratoires de recherche et est entrée dans les tribunaux, les cliniques, les voitures et les bourses, avec des réseaux de neurones qui diagnostiquent des maladies, approuvent des prêts et accomplissent de plus en plus de tâches longtemps considérées comme le domaine des humains. Mais lorsque de tels systèmes échouent dans le monde réel, ils le font avec des conséquences graves et parfois mortelles.

En tant qu’avocat représentant les demandeurs dans des affaires de préjudice corporel en Ontario, au Canada, et candidat actuel au Doctor of Business Administration (DBA) étudiant les liens entre les entreprises, le droit et la technologie, on me pose de plus en plus souvent une question simple : Si un préjudice causé par l’IA se produit, qui est responsable ?

La réponse est en fait plus complexe. L’IA soulève des défis aux doctrines de la négligence, de la causalité et de la prévisibilité, et pose des questions fondamentales sur la manière dont le droit devrait répondre aux décisions prises par les machines.

Le rôle élargi de l’IA dans la prise de décision à haut risque

L’IA n’est plus limitée à l’automatisation de tâches de faible qualification ou à des plateformes d’apprentissage automatique. Elle prend maintenant des décisions en matière de soins de santé, de finance, d’emploi, de transport, de police et d’analyse juridique.

Les modèles d’IA actuels consistent généralement en des réseaux de neurones profonds qui, bien qu’ils puissent détecter des régularités complexes dans de grands ensembles de données, restent substantiellement opaques à leurs développeurs. Les universitaires ont observé que les systèmes d’IA introduisent l’imprévisibilité et l’autonomie dans le droit, qui était autrefois strictement régi par la prévisibilité et l’intention. Cela crée un conflit entre l’innovation et la responsabilité.

Alors que les systèmes juridiques traitent les dommages causés comme étant attribuables à des êtres humains, l’IA répartit la responsabilité entre les ingénieurs qui créent les jeux de données, les développeurs des systèmes, les acteurs qui les déploient et les utilisateurs finaux. La responsabilité devient diffuse.

Le fossé de responsabilité : lorsque le préjudice ne peut pas être facilement attribué

Les universitaires en droit font de plus en plus référence à un « fossé de responsabilité » émergent dans la gouvernance de l’IA. Le droit traditionnel de la responsabilité civile délictuelle repose sur l’identification :

  1. D’une obligation de prudence
  2. D’une violation de cette obligation
  3. D’une causalité
  4. De dommages

L’IA complique chaque élément. Par exemple, les développeurs peuvent ne pas savoir comment un modèle se comportera après son déploiement, et les organisations peuvent utiliser des systèmes d’apprentissage automatique (ML) tiers. Du point de vue de l’utilisateur final, le mécanisme de détermination des sorties est opaque.

Une étude universitaire a noté comment prouver la faute est plus difficile si les systèmes d’IA s’adaptent de façon semi-autonome ou autonome à travers des processus tels que l’apprentissage automatique. Cette fragmentation remet en question les doctrines qui reposent sur l’agentivité humaine.

Dans les litiges relatifs aux préjudices corporels, les tribunaux examinent traditionnellement si un défendeur a agi de manière raisonnable dans les circonstances. Mais comment les tribunaux doivent-ils évaluer le caractère raisonnable de la conduite lorsque la prise de décision est partiellement déléguée à des modèles probabilistes ?

Les réseaux de neurones et le problème de l’explicabilité

Les systèmes d’apprentissage profond fonctionnent souvent comme des « boîtes noires ». Leurs processus de prise de décision interne ne sont pas facilement interprétables, même par les experts. Ce manque d’explicabilité a des implications juridiques graves.

Si un système d’IA médical diagnostique incorrectement un cancer, de quoi la faute pourrait-elle dépendre ? Notamment des éléments suivants :

  • La façon dont le modèle a été formé
  • Si les données de formation contenaient des biais
  • Si les processus de validation étaient adéquats
  • Si les cliniciens ont trop compté sur la sortie automatisée

La littérature juridique recommande une distinction entre la responsabilité causale, la responsabilité liée au rôle et la responsabilité juridique ouvrant droit à réparation pour attribuer la responsabilité des dommages causés par l’IA.

Cependant, dans la pratique, la responsabilité pourrait s’étendre à une chaîne d’acteurs :

  • Fournisseurs de données
  • Développeurs de logiciels
  • Formateurs de modèles
  • Déployeurs
  • Organisations qui utilisent les sorties de l’IA
  • Professionnels qui s’appuient sur les recommandations de l’IA

L’IA ne supprime pas la responsabilité, mais la redistribue.

Leçons des véhicules autonomes : une étude de cas sur la responsabilité de l’IA

Le contentieux lié aux véhicules autonomes fournit un aperçu précoce de la manière dont les tribunaux pourraient aborder les préjudices liés à l’IA. Les tribunaux appliquent depuis longtemps les principes coutumiers de la négligence et de la responsabilité du produit aux nouvelles technologies causant des blessures. Dans des affaires récentes, les jurés ont commencé à répartir la responsabilité entre les conducteurs humains et les sociétés de technologie qui ont créé les systèmes de conduite automatisés.

Les commentateurs juridiques ont suggéré que les doctrines de responsabilité du produit existantes, telles que le défaut de conception, le défaut de fabrication et le défaut d’avertissement, sont pertinentes pour les systèmes dotés d’IA.

Cependant, les véhicules autonomes exposent les limites des cadres juridiques actuels. La responsabilité devrait-elle être engagée contre : le fabricant de véhicules ? Le développeur de logiciels ? L’opérateur humain ? Ou les données utilisées pour former l’algorithme ?

Certains universitaires ont suggéré que l’analogie des principes de responsabilité du produit peut effectivement délimiter la responsabilité entre les acteurs en amont et en aval.

Du point de vue du demandeur, les affaires montrent que les tribunaux peuvent toujours appliquer les principes coutumiers aux nouvelles technologies, mais uniquement à l’aide de preuves apportées par des experts hautement qualifiés et de connaissances techniques.

Responsabilité sans faute et négligence : théories juridiques concurrentes

Un débat central est de savoir si les cadres de négligence traditionnels peuvent être appliqués aux systèmes d’IA. Certains universitaires plaident en faveur de régimes de responsabilité sans faute, arguant que les parties blessées ne devraient pas supporter le fardeau de prouver la faute dans des environnements technologiques très complexes.

La responsabilité sans faute peut être particulièrement utile lorsque le préjudice est prévisible mais inévitable, lorsqu’un système d’IA est déployé à grande échelle et lorsque les risques sont socialement distribués. Ou lorsque la causalité technique n’est pas facile à prouver.

On soutient également que le droit de la négligence peut s’adapter aux changements technologiques. La recherche juridique comparative a plaidé en faveur de l’appui sur les doctrines existantes, avec leurs effets stabilisateurs intrinsèques et leur adaptation progressive à de nouveaux préjudices.

La responsabilité sans faute et la négligence illustrent les préférences politiques relatives à l’innovation, à l’équité et à la manière dont les risques et les coûts devraient être alloués.

Les innovateurs devraient-ils être responsables du risque technologique ? Ou la société devrait-elle partager largement les coûts du progrès ?

La perspective des entreprises : allocation des risques et assurance

Du point de vue des entreprises, la responsabilité de l’IA n’est pas seulement une question juridique, mais également une question de gestion des risques. Les organisations qui déploient des systèmes d’IA commencent à s’intéresser à la répartition contractuelle des risques, à l’assurance de responsabilité professionnelle, à la couverture des cyberrisques, aux clauses d’indemnisation et aux cadres de conformité réglementaire.

Les marchés d’assurance peuvent jouer un rôle important dans l’établissement de la responsabilité pour l’IA. Certaines recherches suggèrent que certains préjudices causés par l’IA pourraient, à terme, être traités au mieux au moyen de régimes de compensation hybrides qui combinent l’assurance et le droit de la responsabilité civile délictuelle.

Les entreprises qui intègrent l’IA dans leur processus de prise de décision devraient tenir compte du risque de litige dans leur transformation numérique. Le fait de ne pas le faire pourrait exposer ces organisations à des atteintes à leur réputation, à des sanctions réglementaires et à une responsabilité civile.

Responsabilité éthique vs responsabilité juridique

Dans de nombreux cas, la responsabilité juridique n’est pas équivalente à la responsabilité éthique. Les débats sur la gouvernance de l’IA comprennent les principes suivants :

  • Équité
  • Transparence
  • Responsabilité
  • Explicabilité

Les obligations juridiques, cependant, ne découlent pas automatiquement des considérations éthiques.

Des travaux récents proposent des cadres conceptuels pour répartir la responsabilité dans les écosystèmes d’IA à multiples acteurs et pour construire des règles de preuve qui relient les décisions de conception aux résultats juridiques. Ainsi, les systèmes juridiques qui cherchent à promouvoir l’innovation doivent également tenir compte de ceux qui subissent un préjudice du fait de la nouvelle technologie. Cet exercice d’équilibre façonnera l’avenir de la gouvernance de l’IA.

Le futur de la négligence à l’ère de l’intelligence artificielle

L’intelligence artificielle remet en question l’hypothèse selon laquelle l’autorité de prise de décision repose toujours sur des acteurs humains identifiables. Mais la responsabilité juridique reste finalement humaine.

Dans un avenir proche, il est peu probable que les tribunaux reconnaissent les systèmes d’IA comme des personnes juridiques. Au lieu de cela, il est probable que les individus qui développent et déploient les systèmes d’IA et en tirent profit seront tenus responsables.

À mesure que les systèmes d’IA deviennent plus indépendants, des modèles hybrides pourraient évoluer, combinant diverses formes de régulation :

  1. Les principes de négligence
  2. Les doctrines de responsabilité du produit
  3. La surveillance réglementaire
  4. Les régimes de compensation basés sur l’assurance

Au lieu de remplacer les concepts de la common law, l’IA peut simplement forcer les tribunaux à les clarifier. Du point de vue du demandeur, la question est de savoir ce qui s’est passé.

Qui est le créateur de risque ? Qui peut le mieux prévenir le risque de nuire aux individus ?

Jusqu’à ce que les législateurs adoptent des régimes complets de responsabilité en matière d’IA, les tribunaux appliqueront les doctrines juridiques existantes aux nouvelles technologies. Les réseaux de neurones peuvent être nouveaux. La négligence ne l’est pas.

Kanon Clifford est un avocat représentant les demandeurs en droit du dommage corporel avec Bergeron Clifford. La capacité de faire un changement significatif dans la vie des gens est ce qui attire Kanon au droit du dommage corporel. Pour Kanon, le droit des clients à une indemnisation équitable est le pilier de son engagement profond à améliorer la vie des personnes blessées et de leurs familles. Kanon a commencé à Bergeron Clifford comme étudiant d'été, apprenant les subtilités du droit du dommage corporel. Il a ensuite effectué son stage professionnel dans notre cabinet avant d'être admis au barreau de l’Ontario en 2020. Il détient un B.Soc.Sc. de l'Université d'Ottawa. Il a obtenu son LL.B. (Honours) de l'Université d'Exeter dans le Devon, en Angleterre, et détient également un LL.M. (Résolution des conflits) avec des distinctions de l'Université de droit de Londres, en Angleterre. Il étudie actuellement à temps partiel pour son Doctorat en administration des affaires (D.B.A.), en se concentrant sur les intersections du droit, des affaires et de la technologie.