Préoccupations croissantes concernant les hallucinations et les biais de l’IA : le rapport 2024 d’Aporia met en évidence la nécessité urgente de normes industrielles

Un rapport récent d’Aporia, leader dans le secteur des plateformes de contrôle de l’IA, a mis en lumière des constatations alarmantes dans le domaine de l’intelligence artificielle et de l’apprentissage automatique (IA & ML). Intitulé “Rapport 2024 sur l’IA et l’apprentissage automatique : évolution des modèles et des solutions”, l’enquête menée par Aporia révèle une tendance croissante d’hallucinations et de biais dans les modèles d’IA génératifs et les grands modèles de langage (LLM), signalant un défi crucial pour une industrie qui progresse rapidement vers la maturité.

Les hallucinations de l’IA font référence aux cas où les modèles d’IA génératifs produisent des sorties incorrectes, sans sens ou déconnectées de la réalité. Ces hallucinations peuvent aller de petites inexactitudes à des erreurs significatives, notamment la génération de contenus biaisés ou potentiellement nocifs.

Les conséquences des hallucinations de l’IA peuvent être importantes, en particulier dans la mesure où ces modèles sont de plus en plus intégrés dans divers aspects de l’entreprise et de la société. Par exemple, l’inexactitude des informations générées par l’IA peut conduire à des informations erronées, tandis que les contenus biaisés peuvent perpétuer des stéréotypes ou des pratiques injustes. Dans des applications sensibles comme les soins de santé, la finance ou les conseils juridiques, de telles erreurs pourraient avoir des implications graves, affectant les décisions et les résultats.

Les résultats de l’enquête soulignent la nécessité d’une surveillance et d’une observation vigilantes des modèles de production.

L’enquête d’Aporia a recueilli les réponses de 1 000 professionnels de l’apprentissage automatique basés en Amérique du Nord et au Royaume-Uni. Ces personnes travaillent dans des entreprises allant de 500 à 7 000 employés, dans des secteurs tels que la finance, les soins de santé, les voyages, l’assurance, les logiciels et la vente au détail. Les résultats mettent en évidence à la fois les défis et les opportunités auxquels sont confrontés les dirigeants de la production de l’apprentissage automatique, jetant un éclairage sur le rôle vital de l’optimisation de l’IA pour l’efficacité et la création de valeur.

Principales conclusions du rapport incluent :

1. Prévalence des défis opérationnels : Un pourcentage écrasant de 93 % des ingénieurs en apprentissage automatique signalent des problèmes avec les modèles de production soit quotidiennement, soit hebdomadairement. Cette statistique significative souligne la nécessité critique de disposer d’outils de surveillance et de contrôle efficaces pour assurer des opérations fluides.
2. Incidence des hallucinations de l’IA : Un pourcentage inquiétant de 89 % des ingénieurs travaillant avec les grands modèles de langage et l’IA générative signalent des hallucinations dans ces modèles. Ces hallucinations se manifestent par des erreurs factuelles, des biais ou des contenus qui pourraient être nocifs.
3. Accent sur la mitigation des biais : Malgré les obstacles liés à la détection des données biaisées et au manque d’outils de surveillance suffisants, un pourcentage notable de 83 % des répondants à l’enquête soulignent l’importance de la surveillance des biais dans les projets d’IA.
4. Importance de l’observabilité en temps réel : Un pourcentage substantiel de 88 % des professionnels de l’apprentissage automatique estiment que l’observabilité en temps réel est essentielle pour identifier les problèmes dans les modèles de production, une capacité qui n’est pas présente dans toutes les entreprises en raison d’un manque d’outils de surveillance automatisés.
5. Investissement de ressources dans le développement : Le rapport révèle que, en moyenne, les entreprises investissent environ quatre mois dans le développement d’outils et de tableaux de bord pour la surveillance de la production, soulignant des préoccupations potentielles concernant l’efficacité et la rentabilité de tels investissements.

« Notre rapport montre un consensus clair au sein de l’industrie : les produits d’IA sont déployés à un rythme rapide, et il y aura des conséquences si ces modèles d’apprentissage automatique ne sont pas surveillés », a déclaré Liran Hason, PDG d’Aporia. « Les ingénieurs qui sont derrière ces outils ont parlé – il y a des problèmes avec la technologie et ils peuvent être résolus. Mais les outils de surveillance appropriés sont nécessaires pour garantir que les entreprises et les consommateurs reçoivent le meilleur produit possible, exempt d’hallucinations et de biais. »

Aporia, engagée à améliorer l’efficacité des produits d’IA alimentés par l’apprentissage automatique, a été confrontée aux défis de l’exploitation de l’apprentissage automatique et a plaidé en faveur de pratiques d’IA responsables. L’approche centrée sur le client de l’entreprise et l’intégration des commentaires des utilisateurs ont conduit au développement d’outils et de fonctionnalités robustes pour améliorer l’expérience utilisateur, soutenir l’expansion des modèles de production et aider à éliminer les hallucinations.

Le rapport complet d’Aporia offre un aperçu approfondi de ces constatations et de leurs implications pour l’industrie de l’IA. Pour en savoir plus, visitez le Rapport d’enquête d’Aporia.