Bradford Newman, Président de la pratique des secrets commerciaux d’Amérique du Nord – Série d’entretiens

Bradford se spécialise dans les affaires liées aux secrets commerciaux et à l’intelligence artificielle. Il est le président du sous-comité de l’ABA sur l’intelligence artificielle. Reconnu par le Daily Journal (DJCO ) en 2019 comme l’un des 20 meilleurs avocats en intelligence artificielle en Californie, Bradford a joué un rôle instrumental dans la proposition d’une législation fédérale sur l’intelligence artificielle sur le lieu de travail et la propriété intellectuelle qui, en 2018, a été transformée en un projet de loi de discussion à la Chambre des représentants des États-Unis. Il a également élaboré des meilleures pratiques de surveillance et de gouvernance d’entreprise pour l’intelligence artificielle conçues pour assurer l’équité algorithmique.

Qu’est-ce qui a initialement suscité votre intérêt pour l’intelligence artificielle ?

J’ai représenté les plus grands innovateurs et producteurs de produits et de technologie d’intelligence artificielle pendant de nombreuses années. Mon intérêt a toujours été de regarder derrière le rideau et de comprendre les aspects juridiques et techniques de l’apprentissage automatique, et de regarder l’intelligence artificielle évoluer. Je suis fasciné par ce qui est possible en termes d’applications dans différents domaines.

Vous êtes un fervent défenseur d’une régulation rationnelle de l’intelligence artificielle, en particulier dans la régulation qui protège la santé publique, pouvez-vous discuter de certaines de vos principales préoccupations ?

Je crois que nous sommes aux premiers stades de l’une des révolutions les plus profondes que l’humanité a connues. L’intelligence artificielle a le potentiel d’avoir un impact sur tous les aspects de notre vie, du moment où nous nous réveillons le matin au moment où nous allons nous coucher — et également pendant que nous dormons. De nombreuses applications de l’intelligence artificielle auront un impact positif sur la qualité de notre vie, et probablement sur notre longévité en tant qu’espèce.

Actuellement, du point de vue de l’informatique et de l’apprentissage automatique, les humains sont encore très impliqués dans le processus, de la codification des algorithmes à la compréhension des ensembles de données de formation, au traitement des résultats, à la reconnaissance des limites et à la commercialisation de la technologie.

Mais nous sommes dans une course contre la montre sur deux fronts majeurs. Premièrement, ce qu’on appelle couramment le “problème de la boîte noire” : l’implication et la compréhension humaines de l’intelligence artificielle diminueront avec le temps à mesure que la sophistication de l’intelligence artificielle (comme les ANN) évoluera. Et deuxièmement, l’utilisation de l’intelligence artificielle par les gouvernements et les intérêts privés augmentera.

Ma préoccupation est que l’intelligence artificielle sera utilisée, à la fois intentionnellement et non intentionnellement, de manière à être en contradiction avec les idéaux démocratiques occidentaux de liberté et de liberté individuelle.

Comment pouvons-nous répondre à ces préoccupations ?

La société est à un stade où nous devons résoudre non pas ce qui est possible en ce qui concerne l’intelligence artificielle, mais ce qui devrait être interdit ou partiellement contraint.

Tout d’abord, nous devons spécifiquement identifier les décisions qui ne peuvent jamais être prises en tout ou en partie par la sortie algorithmique générée par l’intelligence artificielle. Cela signifie que même dans les situations où chaque expert est d’accord que les données entrantes et sortantes sont totally non biaisées, transparentes et précises, il doit y avoir une interdiction législative sur l’utilisation de l’intelligence artificielle pour tout type de prise de décision prédictive ou substantielle.

Il est admis que c’est contre-intuitif dans un monde où nous recherchons la certitude mathématique, mais l’établissement d’une “zone interdite” pour l’intelligence artificielle est essentiel pour préserver les libertés que nous tenons tous chères et qui servent de fondement à notre société.

Deuxièmement, pour d’autres décisions identifiées basées sur l’analyse de l’intelligence artificielle qui ne sont pas totalement interdites, nous avons besoin d’une législation qui définit clairement celles où un humain doit être impliqué dans le processus de prise de décision.

Vous avez été instrumental dans la proposition d’une législation fédérale sur l’intelligence artificielle sur le lieu de travail et la propriété intellectuelle qui, en 2018, a été transformée en un projet de loi de discussion à la Chambre des représentants des États-Unis. Pouvez-vous discuter de certaines de ces propositions ?

La loi sur la protection des données d’intelligence artificielle vise à promouvoir l’innovation et est conçue pour (1) accroître la transparence dans la nature et l’utilisation de l’intelligence artificielle, et pour établir la confiance du public dans l’intelligence artificielle ; (2) répondre à l’impact de l’intelligence artificielle sur le marché du travail et (3) protéger la santé et la sécurité publiques.

Elle comporte plusieurs éléments clés. Par exemple, elle interdit aux entreprises couvertes de s’appuyer uniquement sur l’intelligence artificielle pour prendre certaines décisions, notamment une décision concernant l’emploi de personnes ou le refus ou la limitation d’un traitement médical, et interdit aux émetteurs d’assurance médicale de prendre des décisions concernant la couverture d’un traitement médical uniquement sur la base de l’analyse de l’intelligence artificielle. Elle établit également le Conseil de l’intelligence artificielle — une nouvelle agence fédérale chargée de responsabilités spécifiques pour réglementer l’intelligence artificielle en ce qui concerne la santé et la sécurité publiques. Et elle exige que les entités couvertes nomment un directeur de l’intelligence artificielle.

Vous avez également élaboré des meilleures pratiques de surveillance et de gouvernance d’entreprise pour l’intelligence artificielle conçues pour assurer l’équité algorithmique. Quelles sont certaines des questions actuelles que vous voyez en termes d’équité ou de biais dans les systèmes d’intelligence artificielle ?

Ce sujet a été l’objet d’un examen intense de la part des universitaires et commence maintenant à intéresser les agences gouvernementales américaines, comme la Commission pour l’égalité des chances en matière d’emploi (EEOC), et les avocats de la partie adverse. La plupart du temps, la cause en est un défaut dans les ensembles de données de formation ou le manque de compréhension et de transparence dans l’environnement de test. Cela est aggravé par le manque de propriété centrale et de surveillance de l’intelligence artificielle par la direction générale.

Ce manque de compréhension technique et de conscience de la situation est une préoccupation majeure en termes de responsabilité. J’ai parlé à plusieurs avocats de la partie adverse qui sont à la recherche de cas de biais dans l’intelligence artificielle.

L’apprentissage profond souffre souvent du problème de la “boîte noire”, dans lequel nous insérons des données dans un réseau de neurones artificiels (ANN), et nous recevons une sortie, sans moyen de savoir comment cette sortie a été générée. Pensez-vous que c’est un problème majeur ?

Oui. Et à mesure que les algorithmes et les réseaux de neurones continuent d’évoluer, et que les humains sont de moins en moins “dans la boucle”, il existe un risque réel de dépasser le point de non-retour où nous ne serons plus en mesure de comprendre les éléments critiques de la fonction et de la sortie.

Avec le COVID-19, les pays du monde entier ont introduit des systèmes de surveillance de l’État basés sur l’intelligence artificielle. Quelle est l’ampleur du problème que vous voyez avec une telle surveillance ?

Il est naïf, et franchement, irresponsable du point de vue des droits et des libertés individuelles, de négliger ou de minimiser le risque d’abus. Alors que la traçabilité des contacts semble prudente au milieu d’une pandémie mondiale, et que la reconnaissance faciale basée sur l’intelligence artificielle fournit une mesure efficace pour faire ce que les humains seuls ne seraient pas capables de réaliser, la société doit instituer des interdictions légales sur les abus, ainsi que des mécanismes de surveillance et d’application efficaces. Sinon, nous sommes en train de céder à l’État un élément fondamental de nos droits et de notre liberté individuels. Une fois que nous avons cédé cet élément de base de notre liberté et de notre vie privée, il ne sera pas rendu.

Vous avez précédemment déclaré que “Nous devons établir une ‘zone interdite’ pour l’intelligence artificielle si nous voulons préserver les libertés que les Américains tiennent chères et qui servent de fondement à notre société.” Pouvez-vous partager certaines de ces préoccupations que vous avez ?

Lorsque nous discutons de l’intelligence artificielle, nous devons toujours nous concentrer sur son objectif essentiel : produire des analyses prédictives précises à partir de très grands ensembles de données qui sont ensuite utilisées pour classer les humains et prendre des décisions. Ensuite, nous devons examiner qui sont les décideurs, ce qu’ils décident et sur quoi ils basent leurs décisions.

Si nous comprenons que les décideurs sont ceux qui ont le plus d’impact sur notre santé, notre means de subsistance et nos libertés — les employeurs, les propriétaires, les médecins, les assureurs, les forces de l’ordre et toutes les autres entreprises privées, commerciales et gouvernementales qui peuvent générer, collecter ou acheter des analyses d’intelligence artificielle — il devient facile de voir que, dans une démocratie libérale occidentale, contrairement à un régime totalitaire, il y a des décisions qui ne devraient pas, et ne doivent pas, être laissées uniquement à l’intelligence artificielle.

Alors que de nombreuses décisions évidentes viennent à l’esprit, comme interdire l’incarcération d’une personne avant qu’un crime ne soit commis, l’adoption généralisée de l’intelligence artificielle dans tous les aspects de notre vie présente des exemples plus complexes de dilemmes éthiques. Par exemple, si un algorithme prédit avec précision que les travailleurs qui publient des photos sur les réseaux sociaux de vacances à la plage où ils boivent de l’alcool quittent ou sont licenciés de leur emploi en moyenne 3,5 ans plus tôt que ceux qui publient des photos d’eux-mêmes en train de travailler, devraient-ils être refusés une promotion ou une augmentation de salaire uniquement sur la base de la sortie algorithmique ? Si un algorithme détermine que les adolescents qui jouent à des jeux vidéo pendant plus de 2 heures par jour sont moins susceptibles de diplômer d’une université de quatre ans, devraient-ils être refusés l’admission ? Si les femmes asiatiques dans la soixantaine admises aux soins intensifs pour des symptômes liés au COVID-19 ont un taux de survie plus élevé que les hommes afro-américains dans la soixantaine, devraient-elles recevoir un traitement médical de préférence ?

Ces exemples simplifiés ne sont que quelques-uns des nombreux cas où la confiance en l’intelligence artificielle seule contredit nos vues sur ce que les droits individuels humains exigent.

Y a-t-il autre chose que vous aimeriez partager concernant l’intelligence artificielle ou Baker McKenzie ?

Je suis extrêmement enthousiaste pour aider à diriger la pratique internationale de l’intelligence artificielle de Baker McKenzie au milieu d’un paysage en évolution. Nous reconnaissons que nos clients ont faim de conseils sur tout ce qui concerne l’intelligence artificielle, des négociations de contrats à l’établissement d’une surveillance interne, en passant par l’évitement des réclamations de biais, jusqu’à la compréhension du cadre réglementaire national et international émergent.

Les entreprises veulent faire ce qui est juste, mais il y a très peu de cabinets d’avocats qui ont l’expertise et la compréhension nécessaires de l’intelligence artificielle et de l’apprentissage automatique pour être en mesure de les aider. Pour ceux d’entre nous qui sont à la fois des passionnés d’intelligence artificielle et des avocats, c’est un moment excitant pour ajouter de la valeur réelle pour nos clients.

Merci pour les réponses fantastiques concernant certaines de ces préoccupations sociétales majeures impliquant l’intelligence artificielle. Les lecteurs qui souhaitent en savoir plus sur Bradford Newman peuvent cliquer ici.