Ordnung im Chaos schaffen: Die Rolle von LLMs bei der Extraktion unstrukturierter Daten

Aktuelle Fortschritte in der Hardware, wie z.B. die Nvidia H100 GPU, haben die Rechenleistung erheblich gesteigert. Mit neunmal der Geschwindigkeit der Nvidia A100, übertrumpfen diese GPUs bei der Verarbeitung von Deep-Learning-Workloads. Diese Entwicklung hat den kommerziellen Einsatz von generativer KI in der natürlichen Sprachverarbeitung (NLP) und der Computer-Vision ermöglicht, was die automatisierte und intelligente Datenextraktion ermöglicht. Unternehmen können nun leicht unstrukturierte Daten in wertvolle Erkenntnisse umwandeln, was einen bedeutenden Schritt in der Technologieintegration darstellt. 

Traditionelle Methoden der Datenextraktion 

Manuelle Dateneingabe 

Erstaunlicherweise verlassen sich viele Unternehmen immer noch auf die manuelle Dateneingabe, obwohl es fortschrittlichere Technologien gibt. Diese Methode beinhaltet das direkte Eingeben von Informationen in das Zielsystem. Sie ist oft einfacher zu implementieren, da sie geringere Anfangskosten hat. Allerdings ist die manuelle Dateneingabe nicht nur zeitaufwändig und langwierig, sondern auch sehr fehleranfällig. Darüber hinaus birgt sie ein Sicherheitsrisiko, wenn es um die Verarbeitung sensibler Daten geht, was sie in der Ära der Automatisierung und der digitalen Sicherheit zu einer weniger wünschenswerten Option macht. 

Optische Zeichenerkennung (OCR)  

Die OCR-Technologie, die Bilder und handschriftliche Inhalte in maschinenlesbare Daten umwandelt, bietet eine schnellere und kostengünstigere Lösung für die Datenextraktion. Allerdings kann die Qualität unzuverlässig sein. Zum Beispiel können Zeichen wie “S” als “8” und umgekehrt fehlinterpretiert werden.  

Die Leistung der OCR wird erheblich von der Komplexität und den Eigenschaften der Eingabedaten beeinflusst; sie funktioniert gut mit hochauflösenden gescannten Bildern, die frei von Problemen wie Orientierungsfehlern, Wasserzeichen oder Überlappungen sind. Allerdings hat sie Schwierigkeiten mit handschriftlichen Texten, insbesondere wenn die visuellen Elemente komplex oder schwer zu verarbeiten sind. Anpassungen können erforderlich sein, um bessere Ergebnisse zu erzielen, wenn es um die Verarbeitung von Texteingaben geht. Die Datenextraktions-Tools auf dem Markt, die auf OCR-Technologie basieren, legen oft Schicht um Schicht von Nachbearbeitung auf, um die Genauigkeit der extrahierten Daten zu verbessern. Allerdings können diese Lösungen keine 100% genauen Ergebnisse garantieren.  

Textmustererkennung 

Die Textmustererkennung ist eine Methode, um spezifische Informationen aus Texten mithilfe vordefinierter Regeln oder Muster zu identifizieren und zu extrahieren. Sie ist schneller und bietet ein höheres ROI als andere Methoden. Sie ist effektiv auf allen Komplexitätsstufen und erreicht 100% Genauigkeit für Dateien mit ähnlichen Layouts.  

Allerdings kann ihre Starrheit in Wort-für-Wort-Übereinstimmungen ihre Anpassungsfähigkeit einschränken, da sie eine 100%ige exakte Übereinstimmung für eine erfolgreiche Extraktion erfordert. Herausforderungen mit Synonymen können zu Schwierigkeiten bei der Identifizierung äquivalenter Begriffe führen, wie z.B. die Unterscheidung zwischen “Wetter” und “Klima”. Darüber hinaus zeigt die Textmustererkennung eine kontextuelle Empfindlichkeit, da sie sich der mehrfachen Bedeutungen in verschiedenen Kontexten nicht bewusst ist. Die richtige Balance zwischen Starrheit und Anpassungsfähigkeit bleibt eine ständige Herausforderung bei der effektiven Anwendung dieser Methode. 

Benennung von Entitäten (NER)  

Die Benennung von Entitäten (NER), eine NLP-Technik, identifiziert und kategorisiert Schlüsselinformationen in Texten. 

Die Extraktionen von NER sind auf vordefinierte Entitäten wie Organisationsnamen, Orte, Personennamen und Daten beschränkt. Mit anderen Worten, NER-Systeme verfügen derzeit nicht über die inhärente Fähigkeit, benutzerdefinierte Entitäten jenseits dieser vordefinierten Menge zu extrahieren, die spezifisch für einen bestimmten Bereich oder Anwendungsfall sein könnten. Zweitens beschränkt sich die Fokussierung von NER auf Schlüsselwerte, die mit erkannten Entitäten verknüpft sind, nicht auf die Datenextraktion aus Tabellen, was ihre Anwendbarkeit auf komplexere oder strukturierte Datentypen einschränkt. 

 Da Unternehmen mit zunehmend großen Mengen an unstrukturierten Daten konfrontiert sind, unterstreichen diese Herausforderungen die Notwendigkeit eines umfassenden und skalierbaren Ansatzes für Extraktionsmethoden. 

Freischaltung unstrukturierter Daten mit LLMs 

Die Nutzung von Large Language Models (LLMs) für die Extraktion unstrukturierter Daten ist eine überzeugende Lösung mit deutlichen Vorteilen, die kritische Herausforderungen angehen. 

Kontextbewusste Datenextraktion 

LLMs verfügen über ein starkes kontextuelles Verständnis, das durch umfangreiche Schulungen auf großen Datensätzen erlangt wurde. Ihre Fähigkeit, über die Oberfläche hinaus zu gehen und Kontextfeinheiten zu verstehen, macht sie wertvoll bei der Bewältigung verschiedener Informationsextraktionsaufgaben. Zum Beispiel können sie bei der Extraktion von Wetterwerten die beabsichtigten Informationen erfassen und damit verbundene Elemente wie Klimawerte nahtlos integrieren, einschließlich Synonyme und Semantik. Dieses fortgeschrittene Verständnis etabliert LLMs als dynamische und anpassungsfähige Wahl im Bereich der Datenextraktion.  

Nutzung paralleler Verarbeitungsfähigkeiten 

LLMs nutzen parallele Verarbeitung, was Aufgaben schneller und effizienter macht. Im Gegensatz zu sequenziellen Modellen optimieren LLMs die Ressourcenverteilung, was zu beschleunigten Datenextraktionsaufgaben führt. Dies verbessert die Geschwindigkeit und trägt zum Gesamtleistung der Extraktionsprozesse bei.  

Anpassung an verschiedene Datentypen 

Während Modelle wie rekurrente neuronale Netze (RNNs) auf spezifische Sequenzen beschränkt sind, können LLMs nicht-sequenzspezifische Daten verarbeiten, was eine Vielzahl von Satzstrukturen mühelos bewältigen kann. Diese Vielseitigkeit umfasst verschiedene Datenformen wie Tabellen und Bilder. 

Verbesserung der Verarbeitungspipelines 

Die Verwendung von LLMs markiert einen bedeutenden Schritt in der Automatisierung sowohl der Vorbearbeitungs- als auch der Nachbearbeitungsstufen. LLMs reduzieren den Bedarf an manuellem Aufwand, indem sie Extraktionsprozesse genau automatisieren und die Handhabung unstrukturierter Daten strukturieren. Ihre umfangreiche Schulung auf verschiedenen Datensätzen ermöglicht es ihnen, Muster und Korrelationen zu erkennen, die von herkömmlichen Methoden übersehen werden. 

Quelle: Eine Pipeline für generative KI

Diese Abbildung einer Pipeline für generative KI zeigt die Anwendbarkeit von Modellen wie BERT, GPT und OPT bei der Datenextraktion. Diese LLMs können verschiedene NLP-Operationen durchführen, einschließlich Datenextraktion. Typischerweise liefert das generative KI-Modell eine Prompt, die die gewünschten Daten beschreibt, und die anschließende Antwort enthält die extrahierten Daten. Zum Beispiel kann eine Prompt wie “Extrahieren Sie die Namen aller Lieferanten aus dieser Bestellung” eine Antwort liefern, die alle Lieferantennamen im semi-strukturierten Bericht enthält. Anschließend können die extrahierten Daten in eine Datenbanktabelle oder eine Flat-Datei geladen werden, was eine nahtlose Integration in die Unternehmensworkflows ermöglicht. 

Entwicklung von KI-Rahmenwerken: Von RNNs zu Transformern in der modernen Datenextraktion 

Die generative KI arbeitet innerhalb eines Encoder-Decoder-Rahmenwerks, das zwei kollaborierende neuronale Netze umfasst. Der Encoder verarbeitet die Eingabedaten und kondensiert die wesentlichen Merkmale in einen “Kontextvektor”. Dieser Vektor wird dann vom Decoder für generative Aufgaben wie die Sprachübersetzung verwendet. Diese Architektur, die neuronale Netze wie RNNs und Transformer nutzt, findet Anwendungen in verschiedenen Bereichen, einschließlich Maschinensprachübersetzung, Bildgenerierung, Sprachsynthese und Datenentitätsextraktion. Diese Netze zeichnen sich durch ihre Fähigkeit aus, komplexe Beziehungen und Abhängigkeiten innerhalb von Datenfolgen zu modellieren. 

Rekurrente neuronale Netze 

Rekurrente neuronale Netze (RNNs) wurden entwickelt, um Sequenzaufgaben wie Übersetzung und Zusammenfassung zu bewältigen und zeichnen sich in bestimmten Kontexten aus. Allerdings haben sie Schwierigkeiten mit der Genauigkeit bei Aufgaben, die lange Abhängigkeiten beinhalten.  

 RNNs zeichnen sich bei der Extraktion von Schlüssel-Wert-Paaren aus Sätzen aus, aber sie haben Schwierigkeiten mit tabellarischen Strukturen. Die Lösung dieses Problems erfordert eine sorgfältige Berücksichtigung von Sequenz und positionalem Platz, was spezielle Ansätze zur Optimierung der Datenextraktion aus Tabellen erfordert. Allerdings war ihre Verbreitung begrenzt aufgrund von niedrigem ROI und unterdurchschnittlicher Leistung bei den meisten Textverarbeitungsaufgaben, selbst nach der Schulung auf großen Datenmengen. 

LSTM-Netze 

LSTM-Netze (Long Short-Term Memory) treten als Lösung auf, die die Einschränkungen von RNNs, insbesondere durch ein selektives Aktualisierungs- und Vergessensmechanismus, angeht. Wie RNNs zeichnen sich LSTMs bei der Extraktion von Schlüssel-Wert-Paaren aus Sätzen aus, aber sie haben ähnliche Schwierigkeiten mit tabellarischen Strukturen, was eine strategische Berücksichtigung von Sequenz und positionalem Element erfordert.  

 Die GPUs wurden erstmals 2012 für Deep Learning verwendet, um das berühmte AlexNet-CNN-Modell zu entwickeln. Anschließend wurden einige RNNs auch mit GPUs trainiert, obwohl sie keine guten Ergebnisse lieferten. Heute, trotz der Verfügbarkeit von GPUs, sind diese Modelle weitgehend außer Gebrauch und wurden durch transformer-basierte LLMs ersetzt. 

Transformer – Aufmerksamkeitsmechanismus 

Die Einführung von Transformern, insbesondere im bahnbrechenden Paper “Attention is All You Need” (2017), revolutionierte die NLP, indem sie die ‘Transformer’-Architektur vorschlug. Diese Architektur ermöglicht parallele Berechnungen und erfasst langfristige Abhängigkeiten, was neue Möglichkeiten für Sprachmodelle eröffnet. LLMs wie GPT, BERT und OPT haben die Transformer-Technologie genutzt. Im Herzen der Transformer liegt der “Aufmerksamkeitsmechanismus”, ein wichtiger Beitrag zur Leistungssteigerung bei der Sequenz-zu-Sequenz-Datenverarbeitung. 

Der “Aufmerksamkeitsmechanismus” in Transformern berechnet eine gewichtete Summe von Werten basierend auf der Kompatibilität zwischen der ‘Abfrage’ (Frage-Prompt) und dem ‘Schlüssel’ (Modellsverständnis für jedes Wort). Dieser Ansatz ermöglicht eine fokussierte Aufmerksamkeit während der Sequenzgenerierung, was eine präzise Extraktion ermöglicht. Zwei wichtige Komponenten innerhalb des Aufmerksamkeitsmechanismus sind Self-Attention, das die Wichtigkeit zwischen Wörtern in der Eingabesequenz erfasst, und Multi-Head-Attention, das diverse Aufmerksamkeitsmuster für spezifische Beziehungen ermöglicht.  

Im Kontext der Rechnungsextraktion erkennt Self-Attention die Relevanz eines zuvor erwähnten Datums bei der Extraktion von Zahlungen, während Multi-Head-Attention unabhängig auf numerische Werte (Zahlungen) und textuelle Muster (Lieferantennamen) fokussiert. Im Gegensatz zu RNNs verstehen Transformer nicht von Natur aus die Reihenfolge der Wörter. Um dies zu beheben, verwenden sie eine Positionskodierung, um die Position jedes Wortes in einer Sequenz zu verfolgen. Diese Technik wird auf sowohl Eingabe- als auch Ausgabebindungen angewendet, was hilft, Schlüssel und ihre entsprechenden Werte innerhalb eines Dokuments zu identifizieren.  

Die Kombination von Aufmerksamkeitsmechanismen und Positionskodierungen ist von entscheidender Bedeutung für die Fähigkeit eines großen Sprachmodells, eine Struktur als tabellarisch zu erkennen, unter Berücksichtigung ihres Inhalts, der Abstände und der Textmarker. Diese Fähigkeit unterscheidet es von anderen Methoden der unstrukturierten Datenextraktion.

Aktuelle Trends und Entwicklungen 

Der KI-Bereich entwickelt sich mit vielversprechenden Trends und Entwicklungen, die die Art und Weise, wie wir Informationen aus unstrukturierten Daten extrahieren, neu definieren. Lassen Sie uns die wichtigsten Aspekte betrachten, die die Zukunft dieses Bereichs prägen. 

Fortschritte bei Large Language Models (LLMs) 

Die generative KI erlebt eine transformative Phase, bei der LLMs im Mittelpunkt der Verarbeitung komplexer und vielfältiger Datensätze für die Extraktion unstrukturierter Daten stehen. Zwei bemerkenswerte Strategien treiben diese Fortschritte voran: 

1. Multimodales Lernen: LLMs erweitern ihre Fähigkeiten, indem sie gleichzeitig verschiedene Arten von Daten verarbeiten, einschließlich Text, Bildern und Audio. Diese Entwicklung verbessert ihre Fähigkeit, wertvolle Informationen aus verschiedenen Quellen zu extrahieren, was ihre Nützlichkeit bei der unstrukturierten Datenextraktion erhöht. Forscher erforschen effiziente Wege, um diese Modelle zu verwenden, mit dem Ziel, den Bedarf an GPUs zu eliminieren und die Ausführung großer Modelle mit begrenzten Ressourcen zu ermöglichen.

2. RAG-Anwendungen: Retrieval Augmented Generation (RAG) ist ein aufkommender Trend, der große vorgebildete Sprachmodelle mit externen Suchmechanismen kombiniert, um ihre Fähigkeiten zu verbessern. Durch den Zugriff auf einen großen Korpus von Dokumenten während der Generierungsphase transformiert RAG grundlegende Sprachmodelle in dynamische Werkzeuge, die sowohl für Geschäfts- als auch für Verbraucheranwendungen geeignet sind.

Bewertung der Leistung von LLMs 

Die Herausforderung, die Leistung von LLMs zu bewerten, wird durch einen strategischen Ansatz angegangen, der taskspezifische Metriken und innovative Bewertungsmethoden umfasst. Wichtige Entwicklungen in diesem Bereich umfassen: 

1. Feinabgestimmte Metriken: Maßgeschneiderte Bewertungsmetriken werden entwickelt, um die Qualität von Informationsextraktionsaufgaben zu bewerten. Präzision, Recall und F1-Score-Metriken haben sich als effektiv erwiesen, insbesondere bei Aufgaben wie Entitätsextraktion.

2. Menschliche Bewertung: Die menschliche Bewertung bleibt wichtig, neben automatisierten Metriken, um eine umfassende Bewertung von LLMs zu gewährleisten. Durch die Kombination von automatisierten Metriken mit menschlicher Urteilsfähigkeit bieten hybride Bewertungsmethoden eine nuancierte Sicht auf kontextuelle Korrektheit und Relevanz der extrahierten Informationen.

Bild- und Dokumentenverarbeitung  

Multimodale LLMs haben OCR vollständig ersetzt. Benutzer können gescannten Text aus Bildern und Dokumenten in maschinenlesbaren Text umwandeln, mit der Fähigkeit, Informationen direkt aus visuellem Inhalt mithilfe von visionbasierten Modulen zu erkennen und zu extrahieren. 

Datenextraktion aus Links und Websites 

LLMs entwickeln sich, um den zunehmenden Bedarf an Datenextraktion aus Websites und Web-Links zu erfüllen. Diese Modelle sind zunehmend in der Lage, Web-Scraping durchzuführen und Daten von Webseiten in strukturierte Formate umzuwandeln. Dieser Trend ist unschätzbar wertvoll für Aufgaben wie Nachrichtenaggregation, E-Commerce-Datensammlung und Wettbewerbsanalyse, was das kontextuelle Verständnis und die Extraktion relationaler Daten aus dem Web verbessert. 

Der Aufstieg der kleinen Giganten in der generativen KI 

Die erste Hälfte des Jahres 2023 sah sich auf die Entwicklung großer Sprachmodelle konzentrieren, basierend auf der Annahme “je größer, desto besser”. Allerdings zeigen aktuelle Ergebnisse, dass kleinere Modelle wie TinyLlama und Dolly-v2-3B, mit weniger als 3 Milliarden Parametern, in Aufgaben wie Schlussfolgerung und Zusammenfassung hervorragend sind, was ihnen den Titel “kleine Giganten” einbringt. Diese Modelle benötigen weniger Rechenleistung und Speicherplatz, was die KI für kleinere Unternehmen ohne teure GPUs zugänglicher macht. 

Schlussfolgerung 

Frühe Modelle der generativen KI, einschließlich generativer adversarialer Netze (GANs) und variationaler Autoencoder (VAEs), führten neue Ansätze für die Verarbeitung von Bild-basierten Daten ein. Allerdings kam der eigentliche Durchbruch mit transformer-basierten großen Sprachmodellen. Diese Modelle übertrafen alle vorherigen Techniken bei der Verarbeitung unstrukturierter Daten aufgrund ihrer Encoder-Decoder-Struktur, Selbst-Aufmerksamkeit und Multi-Head-Aufmerksamkeit, was ihnen ein tiefes Verständnis von Sprache und menschenähnliche Denkfähigkeiten ermöglichte. 

 Während die generative KI einen vielversprechenden Anfang bei der Gewinnung von Textdaten aus Berichten bietet, ist die Skalierbarkeit solcher Ansätze begrenzt. Die ersten Schritte umfassen oft OCR-Verarbeitung, die zu Fehlern führen kann, und es bleiben Herausforderungen bestehen, Text aus Bildern in Berichten zu extrahieren.  

 Die Extraktion von Text innerhalb von Bildern in Berichten ist eine weitere Herausforderung. Die Annahme von Lösungen wie multimodaler Datenverarbeitung und Token-Grenzerweiterungen in GPT-4, Claud3, Gemini bietet einen vielversprechenden Weg nach vorne. Allerdings ist es wichtig zu beachten, dass diese Modelle ausschließlich über APIs zugänglich sind. Während die Verwendung von APIs für die Datenextraktion aus Dokumenten effektiv und kosteneffizient ist, geht sie mit eigenen Einschränkungen einher, wie z.B. Latenz, begrenzte Kontrolle und Sicherheitsrisiken.  

 Eine sicherere und anpassungsfähigere Lösung liegt in der Feinabstimmung eines in-house-LLMs. Dieser Ansatz eliminiert nicht nur Datenschutz- und Sicherheitsbedenken, sondern bietet auch eine verbesserte Kontrolle über den Datenextraktionsprozess. Die Feinabstimmung eines LLMs für das Verständnis von Dokumentenlayouts und für das Erfassen der Bedeutung von Text basierend auf seinem Kontext bietet eine robuste Methode für die Extraktion von Schlüssel-Wert-Paaren und Zeilenartikeln. Durch die Nutzung von Zero-Shot- und Few-Shot-Lernen kann ein feinabgestimmtes Modell sich an verschiedene Dokumentenlayouts anpassen, was eine effiziente und genaue unstrukturierte Datenextraktion über verschiedene Bereiche hinweg ermöglicht.