Comment opérationnaliser l’éthique de l’IA ?

L’IA est destinée à optimiser les processus, et non à éliminer les humains de ceux-ci. La responsabilité reste cruciale dans l’idée globale selon laquelle l’IA peut remplacer les humains. Alors que la technologie et les systèmes automatisés nous ont aidés à obtenir de meilleurs résultats économiques au cours du siècle dernier, peuvent-ils vraiment remplacer les services, la créativité et les connaissances approfondies ? Je pense toujours qu’ils ne le peuvent pas, mais ils peuvent optimiser le temps consacré à développer ces domaines.

La responsabilité repose fortement sur les droits de propriété intellectuelle, la prévision de l’impact de la technologie sur les droits collectifs et individuels, et la garantie de la sécurité et de la protection des données utilisées pour la formation et le partage lors du développement de nouveaux modèles. Alors que nous continuons à progresser dans la technologie, le sujet de l’éthique de l’IA est devenu de plus en plus pertinent. Cela soulève des questions importantes sur la manière dont nous réglementons et intégrons l’IA dans la société tout en minimisant les risques potentiels.

Je travaille en étroite collaboration avec un aspect de l’IA – le clonage vocal. La voix est une partie importante de la ressemblance d’un individu et des données biométriques utilisées pour former les modèles vocaux. La protection de la ressemblance (questions juridiques et politiques), la sécurisation des données vocales (politiques de confidentialité et cybersécurité) et l’établissement des limites des applications de clonage vocal (questions éthiques mesurant l’impact) sont essentielles à considérer lors de la construction du produit.

Nous devons évaluer comment l’IA s’aligne sur les normes et les valeurs de la société. L’IA doit être adaptée pour s’insérer dans le cadre éthique existant de la société, en veillant à ce qu’elle ne présente pas de risques supplémentaires ou ne menace pas les normes sociétales établies. L’impact de la technologie couvre des domaines où l’IA donne du pouvoir à un groupe d’individus tout en éliminant les autres. Ce dilemme existentiel se pose à chaque étape de notre développement et de notre croissance ou déclin sociétaux. L’IA peut-elle introduire plus de désinformation dans les écosystèmes d’information ? Oui. Comment gérerons-nous ce risque au niveau du produit, et comment allons-nous éduquer les utilisateurs et les décideurs politiques à ce sujet ? Les réponses se trouvent non pas dans les dangers de la technologie elle-même, mais dans la façon dont nous la conditionnons en produits et services. Si nous n’avons pas suffisamment de personnel dans les équipes de produits pour regarder au-delà et évaluer l’impact de la technologie, nous serons coincés dans un cycle de réparation des dégâts.

L’intégration de l’IA dans les produits soulève des questions sur la sécurité des produits et la prévention des dommages liés à l’IA. Le développement et la mise en œuvre de l’IA devraient donner la priorité à la sécurité et aux considérations éthiques, ce qui nécessite une allocation de ressources aux équipes concernées.

Pour faciliter la discussion émergente sur l’opérationnalisation de l’éthique de l’IA, je suggère ce cycle de base pour rendre l’IA éthique au niveau du produit :

1. Examiner les aspects juridiques de l’IA et la manière dont nous la réglementons, si des réglementations existent. Cela inclut l’Acte sur l’IA de l’UE, la loi sur les services numériques, la loi sur la sécurité en ligne du Royaume-Uni et le RGPD sur la confidentialité des données. Les cadres sont des œuvres en cours et nécessitent des contributions des leaders de l’industrie (technologies émergentes) et des dirigeants. Voir le point (4) qui complète le cycle suggéré.

2. Considérer comment nous adaptons les produits basés sur l’IA aux normes de la société sans imposer plus de risques. Est-ce qu’il affecte la sécurité de l’information ou le secteur de l’emploi, ou est-ce qu’il enfreint les droits d’auteur et les droits de propriété intellectuelle ? Créer une matrice de scénarios de crise. Je tire cela de mon expérience en sécurité internationale.

3. Déterminer comment intégrer les éléments ci-dessus dans les produits basés sur l’IA. Alors que l’IA devient plus sophistiquée, nous devons nous assurer qu’elle s’aligne sur les valeurs et les normes de la société. Nous devons être proactifs pour aborder les considérations éthiques et les intégrer dans le développement et la mise en œuvre de l’IA. Si les produits basés sur l’IA, comme l’IA générative, menacent de propager plus de désinformation, nous devons introduire des fonctionnalités d’atténuation, de modération, limiter l’accès à la technologie de base et communiquer avec les utilisateurs. Il est essentiel d’avoir des équipes d’éthique et de sécurité de l’IA dans les produits basés sur l’IA, ce qui nécessite des ressources et une vision d’entreprise.

Considérer comment nous pouvons contribuer à l’élaboration de cadres juridiques et les façonner. Les meilleures pratiques et les cadres de politique ne sont pas de simples mots à la mode ; ce sont des outils pratiques qui aident les nouvelles technologies à fonctionner comme des outils d’assistance et non comme des menaces imminentes. Rassembler les décideurs politiques, les chercheurs, la grande technologie et la technologie émergente dans une même salle est essentiel pour équilibrer les intérêts sociétaux et commerciaux entourant l’IA. Les cadres juridiques doivent s’adapter à la technologie émergente de l’IA. Nous devons nous assurer que ces cadres protègent les individus et la société tout en favorisant l’innovation et le progrès.

4. Réfléchir à la manière dont nous contribuons aux cadres juridiques et les façonnons. Les meilleures pratiques et les cadres de politique ne sont pas de vains mots, mais des outils pratiques pour faire fonctionner les nouvelles technologies comme des outils d’assistance et non comme des menaces. Avoir des décideurs politiques, des chercheurs, de la grande technologie et de la technologie émergente dans une même salle est essentiel pour équilibrer les intérêts sociétaux et commerciaux entourant l’IA. Les cadres juridiques doivent s’adapter à la technologie émergente de l’IA. Nous devons nous assurer que ces cadres protègent les individus et la société tout en favorisant l’innovation et le progrès.

Résumé

Ceci est un cercle vraiment basique d’intégration des technologies émergentes basées sur l’IA dans nos sociétés. Alors que nous continuons à lutter avec les complexités de l’éthique de l’IA, il est essentiel de rester engagés à trouver des solutions qui donnent la priorité à la sécurité, à l’éthique et au bien-être sociétal. Et ces mots ne sont pas vides, mais le travail difficile de rassembler toutes les pièces du puzzle chaque jour.

Ces mots sont basés sur mon expérience et mes conclusions.