Le nombre croissant d’entreprises de technologie sanctionnées pour lavage d’IA

En 2024, 15 entreprises de technologie ont été sanctionnées par les régulateurs pour avoir exagéré les capacités de leurs produits, et ce nombre a plus que doublé par rapport à 2023. Les dépôts liés à l’IA sont en augmentation et les entreprises de technologie pourraient être prises dans la tourmente si elles ne comprennent pas les réglementations émergentes et la façon de les éviter.

Qu’est-ce qui ne va pas avec le marketing de l’IA aujourd’hui ?

Alors que beaucoup sont familiers avec l’expression « greenwashing », ce n’est qu’au cours de la dernière année qu’une nouvelle forme est apparue à partir de l’hype autour de l’intelligence artificielle, et il s’agit de « lavage d’IA ». Selon la BBC, le phénomène de lavage d’IA peut être défini comme la revendication de l’utilisation de l’IA lorsque, en réalité, une méthode de calcul moins sophistiquée est utilisée. Ils expliquent que le lavage d’IA peut également se produire lorsque les entreprises exagèrent la mesure dans laquelle leur IA est opérationnelle ou lorsque une entreprise combine des produits ou des capacités ensemble. Par exemple, lorsque « les entreprises sont simplement en train de fixer un chatbot IA sur leur logiciel de fonctionnement non IA existant ».

Les revendications exagérées de l’IA sont dangereuses pour les utilisateurs et les autres parties prenantes. Trois préoccupations évidentes concernant le lavage d’IA viennent à l’esprit :

• L’utilisateur paie pour quelque chose qu’il n’obtient pas
• Les utilisateurs s’attendent à un résultat qui n’est pas réalisable
• Les parties prenantes de l’entreprise ne savent pas si elles investissent dans une entreprise qui innove vraiment avec l’IA

Le lavage d’IA est un problème croissant dans la mesure où les entreprises de technologie concourent pour une plus grande part de marché. Jusqu’à 40 % des entreprises qui se décrivaient comme des startups d’IA en 2019 n’avaient aucune technologie d’intelligence artificielle. La pression pour offrir une technologie avancée est encore plus grande aujourd’hui qu’il y a cinq ans.

Qu’est-ce qui pousse le lavage d’IA ?

Les experts ont quelques théories sur ce qui se cache derrière ce phénomène croissant. Douglas Dick, le responsable des risques de technologie émergente chez KPMG au Royaume-Uni, a déclaré à la BBC qu’il s’agit du manque de définition de l’IA et de l’ambiguïté qui rend le lavage d’IA possible.

Les experts de Berkely pensent que le discours de la culture organisationnelle est responsable du lavage d’IA, et les raisons fondamentales de ce phénomène incluent :

• Le manque de connaissances techniques en IA chez les dirigeants
• La pression pour l’innovation continue
• Le court-termisme et l’hype
• La peur de manquer l’occasion (FOMO)

Le lavage d’IA peut également être motivé par le financement. Les investisseurs veulent voir une innovation constante et une supériorité sur les concurrents. Même si les marques n’ont pas entièrement développé une capacité d’IA, elles peuvent attirer l’attention des investisseurs avec des outils d’automatisation à moitié cuits pour gagner du capital supplémentaire.

Avec le marché mondial de l’IA qui devrait atteindre environ 250 milliards de dollars d’ici la fin de 2025, il est facile de comprendre pourquoi le train est en marche, et les startups impatients de financement sont rapides pour coller l’étiquette IA sur tout.

Les entreprises de technologie chargées de lavage d’IA

Les entreprises qui prétendent utiliser l’intelligence artificielle utilisent souvent simplement des techniques de calcul et d’automatisation avancées. À moins que la véritable infrastructure de science des données d’IA ne soit en place avec des algorithmes d’apprentissage automatique, des réseaux de neurones, un traitement du langage naturel, une reconnaissance d’images ou une forme de Gen IA, l’entreprise peut simplement mettre en place des miroirs fumants avec ses revendications d’IA.

Une entreprise de technologie RH appelée Joonko a été fermée par la SEC pour des pratiques frauduleuses.

Apprendre de Joonko

Joonko prétendait qu’il pouvait aider les employeurs à identifier les candidats potentiels afin que les employeurs puissent puiser dans ces bassins. L’idée était que cela créerait des candidats plus diversifiés pour être présentés aux recruteurs et aurait plus de chances d’être embauchés. Joonko a été si réussi dans la commercialisation de son IA qu’Eubanks a écrit sur Joonko dans son premier livre, et l’entreprise a levé 27 millions de dollars en financement par actions entre 2021 et 2022.

Lorsque la SEC a accusé l’ancien PDG de Joonko de fraude à l’IA, c’était parce qu’il avait faussement représenté le nombre et les noms de leurs clients. Il a prétendu que Joonka vendait à des cartes de crédit mondiales, des voyages et des marques de luxe, et a forgé des relevés bancaires et des commandes d’achat pour les investisseurs. Le PDG a reçu des accusations criminelles en plus des accusations de la SEC contre l’entreprise.

Apprendre de Codeway

En 2023, l’application Codeway a été accusée d’une publicité trompeuse sur Instagram qui prétendait que son IA pouvait corriger les photos floues. La publicité disait « Améliorez votre image avec l’IA » et, lorsqu’elle a été contestée par un plaignant, l’entreprise n’a pas pu démontrer comment son application pouvait corriger une image floue de manière autonome sans l’aide d’autres processus d’amélioration numérique de photos. L’Autorité de régulation de la publicité (ASA) a maintenu la plainte et a interdit à l’entreprise de diffuser cette publicité ou toute autre similaire.

Autres exemples

Aux États-Unis, la FTC et la SEC ont récemment mené des actions d’application suivantes :

• Plusieurs schémas commerciaux ont été arrêtés après avoir prétendu que les gens pouvaient utiliser l’IA pour gagner de l’argent avec des magasins en ligne
• Une réclamation de plus de 190 000 dollars a été intentée pour des services de robot avocat inefficaces
• Une entreprise appelée Rytr LLC a faussement prétendu qu’elle pouvait créer du contenu généré par l’IA
• Un règlement d’action contre IntelliVision Technologies pour des allégations trompeuses sur sa reconnaissance faciale d’IA
• Delphia Inc. et Global Predictions Inc. ont été accusées d’avoir fait de fausses allégations sur l’IA sur leur site Web et leurs comptes de réseaux sociaux

Réglementations émergentes

La croissance de la technologie d’IA et le lavage d’IA ont attiré l’attention des régulateurs du monde entier. Au Royaume-Uni, l’ASA est déjà en train de fixer un précédent en poursuivant des publicités non étayées liées à l’IA.

Au Canada, les régulateurs ciblent les allégations non étayées sur l’IA ainsi que les matériaux de marketing qui sont trompeurs ou qui promeuvent excessivement la technologie d’IA. Les Autorités canadiennes de réglementation des valeurs mobilières ont publié un avis du personnel le 7 novembre 2024 qui partage quelques exemples de ce qu’ils considèrent comme du lavage d’IA :

• Une entreprise d’IA qui prétend que son émetteur perturbe son industrie avec la technologie d’IA la plus avancée et la plus moderne disponible
• Une entreprise d’IA qui prétend qu’elle est le leader mondial dans sa catégorie d’IA
• Une entreprise d’IA qui exagère son utilisation ou son importance pour l’industrie

Aux États-Unis, il existe des réglementations spécifiques aux États, comme les audits obligatoires de biais d’IA de la ville de New York que chaque entreprise de technologie d’IA qui y opère est tenue d’avoir. Cependant, il n’y a pas de réglementations fédérales complètes qui restreignent le développement ou l’utilisation de l’IA. En décembre 2024, le Congrès américain examinait plus de 120 projets de loi différents sur l’IA. Ces réglementations couvriraient tout, des accès de l’IA aux armes nucléaires au droit d’auteur, mais elles s’appuieraient sur des mesures volontaires plutôt que sur des protocoles stricts qui pourraient ralentir les progrès technologiques. Alors que ces projets de loi sont débattus, il existe un patchwork de lois fédérales américaines au sein de départements spécifiques, tels que la Federal Aviation Administration qui stipule que l’IA dans l’aviation doit être examinée.

N’ayez pas l’air d’un imposteur d’IA

Alors que les régulateurs continuent à appliquer diverses mesures contre les coupables de lavage d’IA, les entreprises de technologie devraient prendre note. Toute entreprise qui prétend réellement fabriquer de la technologie d’IA devrait être en mesure de prouver ses allégations. Leurs équipes marketing devraient éviter d’exagérer les capacités de leurs produits d’IA, ainsi que les résultats, les clients et les revenus. Toute entreprise qui n’est pas sûre de sa propre technologie ou de son marketing devrait examiner la législation émergente localement et dans les marchés auxquels elles s’adressent. Les consommateurs ou les entreprises qui pensent acheter de la technologie d’IA devraient examiner de près le produit avant de l’acheter. Avec les affaires de lavage d’IA de 2024 encore dans les premières étapes de la procédure judiciaire, l’histoire se déroule encore, mais une chose est sûre, vous ne voulez pas que votre entreprise en fasse partie.