3 Möglichkeiten, veraltete Fakten in großen Sprachmodellen aufzufrischen

Große Sprachmodelle (LLM) wie GPT3, ChatGPT und BARD sind heute sehr beliebt. Jeder hat eine Meinung darüber, wie diese Tools gut oder schlecht für die Gesellschaft sind und was sie für die Zukunft von künstlicher Intelligenz bedeuten. Google erhielt viel Kritik für sein neues Modell BARD, das eine komplexe Frage falsch beantwortet hat (ein bisschen). Als es gefragt wurde: “Welche neuen Entdeckungen von dem James-Webb-Weltraumteleskop kann ich meinem 9-jährigen erzählen?” – gab der Chatbot drei Antworten, von denen zwei richtig und eine falsch waren. Die falsche Antwort war, dass das erste “Exoplaneten”-Bild von JWST aufgenommen wurde, was falsch war. Im Grunde hatte das Modell einen falschen Fakt in seiner Wissensdatenbank. Um große Sprachmodelle effektiv zu machen, benötigen wir eine Möglichkeit, diese Fakten aufzufrischen oder mit neuen Erkenntnissen zu ergänzen.

Lassen Sie uns zunächst sehen, wie Fakten in einem großen Sprachmodell (LLM) gespeichert sind. Große Sprachmodelle speichern Informationen und Fakten nicht in herkömmlicher Weise wie Datenbanken oder Dateien. Stattdessen wurden sie auf großen Mengen an Textdaten trainiert und haben Muster und Beziehungen in diesen Daten erlernt. Dies ermöglicht es ihnen, menschliche Antworten auf Fragen zu generieren, aber sie haben keinen bestimmten Speicherort für ihre erlernten Informationen. Wenn ein Modell eine Frage beantwortet, verwendet es seine Ausbildung, um eine Antwort basierend auf den Eingaben zu generieren, die es erhält. Die Informationen und Kenntnisse, die ein Sprachmodell hat, sind das Ergebnis der Muster, die es in den Daten erlernt hat, auf denen es trainiert wurde, und nicht das Ergebnis einer expliziten Speicherung in der Modell-Speicherung. Die Transformers-Architektur, auf der die meisten modernen LLMs basieren, hat eine interne Kodierung von Fakten, die für die Beantwortung der Frage verwendet wird, die im Prompt gestellt wird.

Wenn also Fakten im internen Speicher des LLM falsch oder veraltet sind, müssen neue Informationen über einen Prompt bereitgestellt werden. Ein Prompt ist der Text, der an das LLM gesendet wird, zusammen mit der Abfrage und den unterstützenden Beweisen, die einige neue oder korrigierte Fakten enthalten können. Hier sind 3 Möglichkeiten, dies anzugehen.

1. Eine Möglichkeit, die kodierten Fakten eines LLM zu korrigieren, besteht darin, neue Fakten im Kontext mithilfe einer externen Wissensdatenbank bereitzustellen. Diese Wissensdatenbank kann API-Aufrufe zum Abrufen relevanter Informationen oder eine Abfrage auf einer SQL-, No-SQL- oder Vektordatenbank enthalten. Erweiterte Kenntnisse können aus einem Wissensgraphen extrahiert werden, der Datenentitäten und Beziehungen zwischen ihnen speichert. Je nachdem, welche Informationen der Benutzer abfragt, können die relevanten Kontextinformationen abgerufen und als zusätzliche Fakten an das LLM übergeben werden. Diese Fakten können auch so formatiert werden, dass sie wie Trainingsbeispiele aussehen, um den Lernprozess zu verbessern. Zum Beispiel können Sie eine Reihe von Frage-Antwort-Paaren übergeben, damit das Modell lernt, wie es Antworten geben kann.

2. Eine innovativere (und teurere) Möglichkeit, das LLM zu erweitern, besteht darin, es durch Trainingsdaten fein zu justieren. Anstatt also eine Wissensdatenbank für bestimmte Fakten abzufragen, erstellen wir ein Trainingsdataset, indem wir die Wissensdatenbank sampeln. Mithilfe von überwachtem Lernen wie Feinjustierung können wir eine neue Version des LLM erstellen, die auf diesem zusätzlichen Wissen trainiert wird. Dieser Prozess ist normalerweise teuer und kann einige Tausend Dollar kosten, um ein feinjustiertes Modell in OpenAI zu erstellen. Natürlich wird der Preis im Laufe der Zeit günstiger.

3. Eine weitere Möglichkeit besteht darin, Methoden wie Reinforcement Learning (RL) zu verwenden, um einen Agenten mit menschlicher Rückmeldung zu trainieren und eine Richtlinie zu erlernen, wie Fragen beantwortet werden können. Diese Methode hat sich bei der Erstellung von kleineren Modellen mit geringerem Fußabdruck als sehr effektiv erwiesen, die gut bei bestimmten Aufgaben sind. Zum Beispiel wurde der berühmte ChatGPT von OpenAI mit einer Kombination aus überwachtem Lernen und RL mit menschlicher Rückmeldung trainiert.

Zusammenfassend ist dies ein sehr dynamischer Bereich, in dem jedes große Unternehmen daran arbeiten möchte, seine Differenzierung zu zeigen. Wir werden bald große LLM-Tools in den meisten Bereichen wie Einzelhandel, Gesundheitswesen und Bankwesen sehen, die auf menschliche Weise antworten können und die Nuancen der Sprache verstehen. Diese LLM-Tools, die in Unternehmensdaten integriert sind, können den Zugriff auf die richtigen Daten für die richtigen Personen zum richtigen Zeitpunkt rationalisieren.