L’IA et l’arc de confiance

Dès le début de l’année dernière, lorsque notre équipe faisait des prévisions sur ce qui allait se passer, il était clair que les enveloppes de l’intelligence artificielle (IA) allaient être retirées. Nous allions enfin voir ce qu’elle pouvait faire et, espérons-le, acquérir une compréhension claire de son impact sur les entreprises et la société, ainsi que de la manière de procéder. Ce n’était pas une prédiction novatrice, mais son noyau était exact, même si nous nous débattons encore avec les implications de l’IA et la manière dont (ou si) elle devrait être contrôlée d’une certaine manière.

Nous allions voir Apple, Microsoft et Google intégrer l’IA dans les appareils et apporter son pouvoir à un public plus large. Puis, un chatbot dans un outil de recherche alimenté par l’IA a menacé les utilisateurs et a prétendu espionner les employés, tandis qu’un autre a suggéré d’utiliser de la colle Elmer pour faire des pizzas maison pour empêcher le fromage de glisser. Néanmoins, les cas d’utilisation de l’adoption commerciale de l’IA ont augmenté de manière spectaculaire, tout comme le marché. Selon les données de Crunchbase, près d’un tiers de tous les financements de ventures mondiaux l’année dernière sont allés à des entreprises dans des domaines liés à l’IA.

Mais même si OpenAI a fourni une raison améliorée remarquable, le chercheur en IA de renom, Yoshua Bengio, a plaidé pour l’adoption de mesures de sécurité pour les “modèles de frontière” ayant le potentiel de causer des dommages catastrophiques. Et même si la technologie a remporté deux prix Nobel pour ses applications dans la science, l’un de ses lauréats a exprimé des inquiétudes quant à la possibilité d’avoir des systèmes “plus intelligents que nous qui finissent par prendre le contrôle”.

Dans un espace en évolution rapide, il est difficile pour les technologistes experts de suivre, sans parler de ceux du grand public.

Et ces ratés de l’IA – et les préoccupations concernant la confidentialité et l’utilisation non contrôlée – n’ont fait qu’accroître la méfiance du public.

Faites-moi confiance

Nous nous trouvons à mi-chemin d’un arc de confiance, qui nécessite de faire progresser l’acceptation publique de l’IA, tout en veillant à ce que les communautés commerciales et technologiques agissent de manière responsable. La première partie est celle où le jeu est en cours, au niveau corporatif, gagnant en ampleur avec chaque déploiement sûr et solide. Nous bâtissons sur nos points de preuve, qui finiront par conduire à une confiance accrue du public. La deuxième partie, cependant, est beaucoup plus délicate.

Qui définit et impose l’utilisation responsable de l’IA ? Une industrie peut-elle créer des lignes directrices lorsqu’elle est elle-même celle qui a besoin d’être réglementée ? Si les technologistes ont du mal à suivre l’IA, les décideurs politiques seront-ils informés et garderont-ils leurs agendas politiques en dehors de la discussion ? Et lorsqu’un milliardaire de l’IA veut soudainement parler de contrôle, a-t-il eu une révélation ou essaie-t-il simplement de freiner pour rattraper son retard ?

“Faites-moi confiance” ne suffit pas avec l’IA, peu importe qui vous êtes.

Faites-moi confiance, mais vérifiez

Les gens regardent l’IA générative comme ChatGPT et se demandent si elle sera leur prochain Google ? Eh bien, le premier résultat d’une recherche Google est maintenant créé par son modèle d’IA, Gemini. Le problème est que vous ne pouvez pas vous fier à lui pour les entreprises à grande échelle lorsqu’une simple question comme “La viande crue est-elle sûre à consommer ?” donne la réponse “Oui, congelée”. Vous devez inspecter les données.

L’arc de confiance du public suivra ce qu’il a fait avec la recherche conventionnelle, gagné avec le temps et la preuve de fiabilité. Ironiquement, dans notre quête pour simplifier et améliorer la recherche, nous avons fait un pas en arrière. Maintenant, après avoir obtenu cette réponse générée par l’IA en haut, vous devez faire défiler une longue liste de liens de parrainage, cliquez sur les cinq suivants et qualifier encore l’information.

C’est beaucoup de travail lorsque vous cherchez une réponse rapide – et vous ne pouvez pas avoir toute une entreprise qui fait la même chose. Cependant, enrichir les données que vous avez extraites avec des dizaines de milliers de vos propres tickets de service et vous apportez des connaissances réelles sur votre environnement. Algorithmiquement, vous pouvez alors configurer les hallucinations vers le bas, mais il s’agit toujours d’une situation “faites-moi confiance, mais vérifiez”.

Gardez la politique en dehors de cela

Lorsqu’il s’agit de réglementer l’IA, certains prétendent que le cheval est déjà sorti de l’écurie et qu’il ne sera probablement pas rattrapé. Par exemple, il n’y a pas d’outils vraiment efficaces pour vérifier si un élève a rédigé un document ou a utilisé la GenAI. La technologie est simplement trop en avance.

La réglementation de cela serait très complexe, et pour être honnête, nous serions sur une glace mince. Nous savons que les sociétés de technologie sont des décennies en avance sur les régulateurs extérieurs proposés. Mais nous sommes doués pour tracer un chemin, et non pour être retenus. Néanmoins, à la fin de la journée, il peut incomber aux innovateurs d’essayer d’appliquer une gouvernance. Qui d’autre pourrait le faire – de manière responsable ?

Il y a de nombreux politiciens qui aimeraient essayer. Le risque, en plus d’un manque de compréhension, est que s’ils ont un agenda personnel et politique à promouvoir. Leur objectif, potentiellement, serait moins de cultiver l’IA et plus de faire ce qui est dans leurs meilleurs intérêts politiques. Ils pourraient être capables de travailler à partir de ces peurs publiques, en utilisant une main lourde pour entraver sa progression.

La loi CHIPS et Science a été un bon exemple d’action gouvernementale saine, produisant une augmentation spectaculaire de 15 fois de la construction d’usines de fabrication de dispositifs de calcul et d’appareils électroniques. Mais cela a été rendu possible grâce au bipartisme – de plus en plus un vestige d’une époque révolue.

Sommes-nous dignes ?

Il y a beaucoup d’argent qui s’écoule dans l’IA et, au cours des deux prochaines décennies, beaucoup sera fait par les sociétés de technologie. Combien, à quelle vitesse et avec quelle sécurité reste à être vu. Un jour donné, un faux profond pourrait être diffusé, montrant quelqu’un dans le projet de jongler avec les œufs d’un oiseau en voie de disparition. Le public réagirait avec horreur, et même si cela pourrait être révélé comme étant généré par l’IA, cet œuf ne retourne pas dans sa coquille – le mal est fait.

Nous avons besoin que de telles choses soient réglementées par des technologistes informés. Quelle forme cela prendra – un conseil, un organisme de normalisation, un cadre international – reste à être vu. Ce qui est connu, c’est que l’IA est sur un arc de confiance, et en tant qu’industrie, nous devons prouver que nous sommes dignes de confiance.