Comprendre le chaos : le rôle des LLM dans l’extraction de données non structurées

Les récentes avancées en matière de matériel, telles que la carte graphique Nvidia H100, ont considérablement amélioré les capacités de calcul. Avec neuf fois la vitesse de la Nvidia A100, ces cartes graphiques excellent dans la gestion des charges de travail d’apprentissage automatique. Cette avancée a donné un élan à l’utilisation commerciale de l’intelligence artificielle générative dans le traitement automatique du langage (TAL) et la vision par ordinateur, permettant une extraction de données automatisée et intelligente. Les entreprises peuvent désormais facilement convertir les données non structurées en informations précieuses, marquant un progrès significatif dans l’intégration technologique. 

Méthodes traditionnelles d’extraction de données 

Saisie manuelle de données 

Étonnamment, de nombreuses entreprises s’appuient encore sur la saisie manuelle de données, malgré la disponibilité de technologies plus avancées. Cette méthode consiste à saisir manuellement les informations directement dans le système cible. Elle est souvent plus facile à adopter en raison de ses coûts initiaux plus faibles. Cependant, la saisie manuelle de données n’est pas seulement fastidieuse et chronophage, mais également très sujette aux erreurs. De plus, elle présente un risque de sécurité lors de la manipulation de données sensibles, ce qui en fait une option moins souhaitable à l’ère de l’automatisation et de la sécurité numérique. 

Reconnaissance optique des caractères (ROC)  

La technologie de reconnaissance optique des caractères (ROC), qui convertit les images et le contenu manuscrit en données lisibles par machine, offre une solution plus rapide et plus rentable pour l’extraction de données. Cependant, la qualité peut être peu fiable. Par exemple, les caractères comme “S” peuvent être interprétés comme “8” et vice versa.  

La performance de la ROC est fortement influencée par la complexité et les caractéristiques des données d’entrée ; elle fonctionne bien avec des images scannées de haute résolution exemptes de problèmes tels que les inclinaisons d’orientation, les filigranes ou les surimpressions. Cependant, elle rencontre des difficultés avec le texte manuscrit, en particulier lorsque les visuels sont complexes ou difficiles à traiter. Des adaptations peuvent être nécessaires pour améliorer les résultats lors de la manipulation de données textuelles. Les outils d’extraction de données sur le marché qui utilisent la ROC comme technologie de base ajoutent souvent des couches et des couches de post-traitement pour améliorer la précision des données extraites. Mais ces solutions ne peuvent pas garantir des résultats à 100 % précis.  

Appariement de modèles de texte 

L’appariement de modèles de texte est une méthode pour identifier et extraire des informations spécifiques à partir du texte en utilisant des règles ou des modèles prédéfinis. Il est plus rapide et offre un meilleur retour sur investissement que les autres méthodes. Il est efficace à tous les niveaux de complexité et atteint une précision de 100 % pour les fichiers avec des dispositions similaires.  

Cependant, sa rigidité dans les correspondances mot à mot peut limiter son adaptabilité, nécessitant une correspondance exacte à 100 % pour une extraction réussie. Les défis liés aux synonymes peuvent entraîner des difficultés pour identifier des termes équivalents, comme faire la distinction entre “météo” et “climat”. De plus, l’appariement de modèles de texte présente une sensibilité contextuelle, manquant de conscience des multiples significations dans différents contextes. Trouver un équilibre entre rigidité et adaptabilité reste un défi constant pour utiliser efficacement cette méthode. 

Reconnaissance d’entités nommées (REN)  

La reconnaissance d’entités nommées (REN), une technique de traitement automatique du langage, identifie et catégorise les informations clés dans le texte. 

Les extractions de la REN sont limitées aux entités prédéfinies comme les noms d’organisations, les emplacements, les noms de personnes et les dates. En d’autres termes, les systèmes REN actuels manquent de la capacité inhérente à extraire des entités personnalisées au-delà de cet ensemble prédéfini, qui pourrait être spécifique à un domaine ou un cas d’utilisation particulier. Deuxièmement, la focalisation de la REN sur les valeurs clés associées aux entités reconnues ne s’étend pas à l’extraction de données à partir de tableaux, limitant ainsi son applicabilité à des types de données plus complexes ou structurés. 

 Alors que les organisations traitent des quantités croissantes de données non structurées, ces défis mettent en évidence la nécessité d’une approche globale et évolutives pour les méthodes d’extraction. 

Débloquer les données non structurées avec les LLM 

Utiliser les grands modèles de langage (LLM) pour l’extraction de données non structurées est une solution convaincante avec des avantages distincts qui répondent à des défis critiques. 

Extraction de données sensible au contexte 

Les LLM possèdent une forte compréhension contextuelle, affinée grâce à une formation extensive sur de grands ensembles de données. Leur capacité à aller au-delà de la surface et à comprendre les complexités contextuelles les rend précieux pour gérer diverses tâches d’extraction d’informations. Par exemple, lorsqu’ils sont chargés d’extraire des valeurs météorologiques, ils capturent les informations destinées et prennent en compte les éléments connexes comme les valeurs climatiques, intégrant sans effort des synonymes et des sémantiques. Ce niveau avancé de compréhension établit les LLM comme un choix dynamique et adaptable dans le domaine de l’extraction de données.  

Exploitation des capacités de traitement parallèle 

Les LLM utilisent le traitement parallèle, ce qui rend les tâches plus rapides et plus efficaces. Contrairement aux modèles séquentiels, les LLM optimisent la distribution des ressources, ce qui accélère les tâches d’extraction de données. Cela améliore la vitesse et contribue à la performance globale du processus d’extraction.  

Adaptation à des types de données variés 

Alors que certains modèles comme les réseaux de neurones récurrents (RNN) sont limités à des séquences spécifiques, les LLM gèrent les données non spécifiques à une séquence, accommodant sans effort des structures de phrases diverses. 

Amélioration des pipelines de traitement 

L’utilisation des LLM marque un changement significatif dans l’automatisation des étapes de prétraitement et de post-traitement. Les LLM réduisent le besoin d’effort manuel en automatisant les processus d’extraction avec précision, rationalisant ainsi la gestion des données non structurées. Leur formation extensive sur des ensembles de données divers leur permet d’identifier des modèles et des corrélations manqués par les méthodes traditionnelles. 

Source: Un pipeline sur l’IA générative

Cette figure d’un pipeline d’IA générative illustre l’applicabilité de modèles tels que BERT, GPT et OPT dans l’extraction de données. Ces LLM peuvent effectuer diverses opérations de traitement automatique du langage, y compris l’extraction de données. Typiquement, le modèle d’IA générative fournit une invite décrivant les données souhaitées, et la réponse qui suit contient les données extraites. Par exemple, une invite comme “Extraire les noms de tous les fournisseurs de cette commande d’achat” peut produire une réponse contenant tous les noms de fournisseurs présents dans le rapport semi-structuré. Par la suite, les données extraites peuvent être analysées et chargées dans une table de base de données ou un fichier plat, facilitant ainsi une intégration transparente dans les flux de travail organisationnels. 

Évolution des cadres d’IA: RNN à Transformers dans l’extraction de données moderne 

L’IA générative opère dans un cadre d’encodeur-décodeur présentant deux réseaux de neurones collaboratifs. L’encodeur traite les données d’entrée, condensant les fonctionnalités essentielles dans un “Vecteur de contexte”. Ce vecteur est ensuite utilisé par le décodeur pour des tâches génératives, telles que la traduction de langage. Cette architecture, exploitant des réseaux de neurones comme les RNN et les Transformers, trouve des applications dans des domaines divers, notamment la traduction automatique, la génération d’images, la synthèse vocale et l’extraction d’entités de données. Ces réseaux excellent dans la modélisation de relations et de dépendances complexes au sein des séquences de données. 

Réseaux de neurones récurrents 

Réseaux de neurones récurrents (RNN) ont été conçus pour traiter des tâches de séquence comme la traduction et la synthèse, excelant dans certains contextes. Cependant, ils luttent pour atteindre une précision dans les tâches impliquant des dépendances à longue portée.  

 Les RNN excellent dans l’extraction de paires clé-valeur à partir de phrases, mais ils ont du mal avec les structures de type tableau. Pour résoudre ce problème, il faut prendre en compte soigneusement la séquence et la disposition spatiale, nécessitant des approches spécialisées pour optimiser l’extraction de données à partir de tableaux. Cependant, leur adoption a été limitée en raison d’un faible retour sur investissement et de performances médiocres dans la plupart des tâches de traitement de texte, même après avoir été formés sur de grands volumes de données. 

Réseaux de neurones à mémoire à court et long terme 

Réseaux de neurones à mémoire à court et long terme (LSTM) émergent comme une solution qui répond aux limites des RNN, notamment grâce à un mécanisme de mise à jour et d’oubli sélectif. Comme les RNN, les LSTM excellent dans l’extraction de paires clé-valeur à partir de phrases,. Cependant, ils rencontrent des défis similaires avec les structures de type tableau, exigeant une considération stratégique de la séquence et des éléments spatiaux.  

 Les cartes graphiques ont été utilisées pour la première fois pour l’apprentissage profond en 2012 pour développer le célèbre modèle de convolutional neural network (CNN) AlexNet. Par la suite, certains RNN ont également été formés en utilisant des cartes graphiques, bien qu’ils n’aient pas donné de bons résultats. Aujourd’hui, malgré la disponibilité des cartes graphiques, ces modèles ont largement disparu et ont été remplacés par des LLM basés sur les Transformers. 

Transformateur – Mécanisme d’attention 

L’introduction des Transformers, notamment présentés dans l’article révolutionnaire “Attention is All You Need” (2017), a révolutionné le traitement automatique du langage en proposant l’architecture “Transformateur”. Cette architecture permet des calculs parallèles et capture adroitement les dépendances à longue portée, ouvrant de nouvelles possibilités pour les modèles de langage. Les LLM comme GPT, BERT et OPT ont exploité la technologie des Transformers. Au cœur des Transformers se trouve le mécanisme “d’attention”, un contributeur clé à la performance améliorée dans le traitement de données de séquence à séquence. 

Le mécanisme “d’attention” dans les Transformers calcule une somme pondérée des valeurs en fonction de la compatibilité entre la “requête” (invite) et la “clé” (compréhension du modèle de chaque mot). Cette approche permet une attention ciblée lors de la génération de séquences, garantissant une extraction précise. Deux composants essentiels au sein du mécanisme d’attention sont l’auto-attention, qui capture l’importance entre les mots de la séquence d’entrée, et l’attention multi-tête, qui permet des modèles d’attention diversifiés pour des relations spécifiques.  

Dans le contexte de l’extraction de factures, l’auto-attention reconnaît la pertinence d’une date mentionnée précédemment lors de l’extraction des montants de paiement, tandis que l’attention multi-tête se concentre indépendamment sur les valeurs numériques (montants) et les modèles textuels (noms de fournisseurs). Contrairement aux RNN, les Transformers ne comprennent pas intrinsèquement l’ordre des mots. Pour résoudre ce problème, ils utilisent un codage de position pour suivre la place de chaque mot dans une séquence. Cette technique est appliquée aux embeddings d’entrée et de sortie, aidant ainsi à identifier les clés et leurs valeurs correspondantes dans un document.  

La combinaison des mécanismes d’attention et des codages de position est vitale pour la capacité d’un grand modèle de langage à reconnaître une structure comme tabulaire, en considérant son contenu, son espacement et ses marqueurs de texte. Cette compétence les distingue des autres techniques d’extraction de données non structurées.

Tendances et développements actuels 

L’espace de l’IA se déploie avec des tendances et des développements prometteurs, redéfinissant la façon dont nous extrayons des informations à partir de données non structurées. Plongeons dans les aspects clés qui façonnent l’avenir de ce domaine. 

Avancées dans les grands modèles de langage (LLM) 

L’intelligence artificielle générative connaît une phase de transformation, avec les LLM prenant le devant de la scène dans la gestion de données complexes et diverses pour l’extraction de données non structurées. Deux stratégies notables propulsent ces avancées: 

1. Apprentissage multimodal: Les LLM élargissent leurs capacités en traitant simultanément différents types de données, notamment le texte, les images et l’audio. Ce développement améliore leur capacité à extraire des informations précieuses de sources diverses, augmentant ainsi leur utilité dans l’extraction de données non structurées. Les chercheurs explorent des moyens efficaces d’utiliser ces modèles, visant à éliminer le besoin de cartes graphiques et à permettre le fonctionnement de grands modèles avec des ressources limitées.

2. Applications RAG: Génération assistée par récupération (RAG) est une tendance émergente qui combine de grands modèles de langage pré-entraînés avec des mécanismes de recherche externes pour améliorer leurs capacités. En accédant à un vaste corpus de documents pendant le processus de génération, le RAG transforme les modèles de langage de base en outils dynamiques adaptés aux applications commerciales et grand public.

Évaluation de la performance des LLM 

Le défi d’évaluer la performance des LLM est abordé avec une approche stratégique, incorporant des métriques spécifiques à la tâche et des méthodologies d’évaluation innovantes. Les développements clés dans cet espace incluent: 

1. Métriques affinées: Des métriques d’évaluation adaptées émergent pour évaluer la qualité des tâches d’extraction d’informations. Précision, rappel et score F1 sont efficaces, en particulier dans des tâches comme l’extraction d’entités.

2. Évaluation humaine: L’évaluation humaine demeure cruciale aux côtés des métriques automatisées, garantissant une évaluation complète des LLM. En intégrant des métriques automatisées avec des jugements humains, les méthodes d’évaluation hybrides offrent une vue nuancée de la correction contextuelle et de la pertinence des informations extraites.

Traitement d’images et de documents  

Les LLM multimodaux ont complètement remplacé la ROC. Les utilisateurs peuvent convertir le texte scanné à partir d’images et de documents en texte lisible par machine, avec la capacité d’identifier et d’extraire des informations directement à partir de contenu visuel en utilisant des modules basés sur la vision. 

Extraction de données à partir de liens et de sites Web 

Les LLM évoluent pour répondre à la demande croissante d’extraction de données à partir de sites Web et de liens Web. Ces modèles sont de plus en plus aptes à l’extraction de données Web, convertissant les données de pages Web en formats structurés. Cette tendance est inestimable pour des tâches comme l’agrégation de nouvelles, la collecte de données e-commerce et le renseignement concurrentiel, améliorant ainsi la compréhension contextuelle et l’extraction de données relationnelles à partir du Web. 

L’essor des petits géants dans l’IA générative 

Le premier semestre 2023 a vu une focalisation sur le développement de grands modèles de langage basés sur l’hypothèse “plus grand est mieux”. Cependant, les résultats récents montrent que des modèles plus petits comme TinyLlama et Dolly-v2-3B, avec moins de 3 milliards de paramètres, excellent dans des tâches comme la raisonnement et la synthèse, leur valant le titre de “petits géants”. Ces modèles utilisent moins de puissance de calcul et de stockage, rendant l’IA plus accessible aux petites entreprises sans nécessiter de coûteuses cartes graphiques. 

Conclusion 

Les premiers modèles d’IA générative, notamment les réseaux antagonistes génératifs (GAN) et les encodeurs automatiques variationnels (VAE), ont introduit des approches novatrices pour gérer les données basées sur les images. Cependant, la véritable percée est venue avec les grands modèles de langage basés sur les Transformers. Ces modèles ont dépassé toutes les techniques antérieures dans le traitement de données non structurées en raison de leur structure d’encodeur-décodeur, d’auto-attention et d’attention multi-tête, leur conférant une compréhension profonde du langage et des capacités de raisonnement similaires à celles des humains. 

 Alors que l’IA générative offre un début prometteur pour l’exploitation de données textuelles à partir de rapports, la scalabilité de telles approches est limitée. Les premières étapes impliquent souvent le traitement ROC, ce qui peut entraîner des erreurs, et les défis persistent dans l’extraction de texte à partir d’images dans les rapports.  

 L’extraction de texte à l’intérieur des images dans les rapports constitue un autre défi. Adopter des solutions comme le traitement de données multimodales et les extensions de limite de jetons dans GPT-4, Claud3, Gemini offre un chemin prometteur vers l’avant. Cependant, il est important de noter que ces modèles sont accessibles uniquement via des API. Alors que l’utilisation d’API pour l’extraction de données à partir de documents est à la fois efficace et rentable, elle comporte ses propres limitations, telles que la latence, le contrôle limité et les risques de sécurité.  

 Une solution plus sécurisée et personnalisable réside dans l’ajustement fin d’un LLM en interne. Cette approche non seulement atténue les préoccupations de confidentialité et de sécurité des données, mais améliore également le contrôle sur le processus d’extraction de données. L’ajustement fin d’un LLM pour la compréhension de la disposition de documents et pour la compréhension du sens du texte en fonction de son contexte offre une méthode robuste pour extraire des paires clé-valeur et des éléments de ligne. En exploitant l’apprentissage à zéro coup et à quelques coups, un modèle affiné peut s’adapter à des dispositions de documents diverses, garantissant une extraction de données non structurées efficace et précise dans divers domaines.