Vianais neue Open-Source-Lösung bekämpft das Halluzinationsproblem von KI

Es ist kein Geheimnis, dass KI, insbesondere Large Language Models (LLMs), gelegentlich ungenaue oder sogar potenziell schädliche Ausgaben produzieren kann. Diese Anomalien werden als “KI-Halluzinationen” bezeichnet und haben ein erhebliches Hindernis für Unternehmen dargestellt, die über die Integration von LLMs nachdenken, aufgrund der inhärenten Risiken von finanziellen, reputationsbedingten und sogar rechtlichen Konsequenzen.

Um dieses entscheidende Anliegen anzugehen, hat Vianai Systems, ein Vorreiter im Bereich Human-Centered AI, sein neues Angebot vorgestellt: das veryLLM-Toolkit. Dieses Open-Source-Toolkit zielt darauf ab, zuverlässigere, transparentere und transformierendere KI-Systeme für den Geschäftseinsatz bereitzustellen.

Die Herausforderung von KI-Halluzinationen

Solche Halluzinationen, bei denen LLMs falsche oder anstößige Inhalte generieren, haben ein anhaltendes Problem dargestellt. Viele Unternehmen, die potenzielle Konsequenzen befürchten, haben sich gegen die Integration von LLMs in ihre zentrale Unternehmenssysteme entschieden. Mit der Einführung von veryLLM unter der Apache 2.0 Open-Source-Lizenz hofft Vianai, Vertrauen aufzubauen und die Adoption von KI durch die Bereitstellung einer Lösung für diese Probleme zu fördern.

Das veryLLM-Toolkit im Detail

Im Kern ermöglicht das veryLLM-Toolkit ein tieferes Verständnis jedes LLM-generierten Satzes. Es erreicht dies durch verschiedene Funktionen, die Aussagen basierend auf den Kontexten, auf denen LLMs trainiert werden, wie Wikipedia, Common Crawl und Bücher, kategorisieren. Mit der ersten Veröffentlichung von veryLLM, die stark auf einer Auswahl von Wikipedia-Artikeln basiert, stellt diese Methode eine solide Grundlage für das Verifizierungsverfahren des Toolkits dar.

Das Toolkit ist so konzipiert, dass es adaptiv, modulare und mit allen LLMs kompatibel ist, was seine Verwendung in jeder Anwendung, die LLMs nutzt, erleichtert. Dies wird die Transparenz in KI-generierten Antworten verbessern und sowohl aktuelle als auch zukünftige Sprachmodelle unterstützen.

Dr. Vishal Sikka, Gründer und CEO von Vianai Systems und auch Berater des Center for Human-Centered Artificial Intelligence der Stanford University, betonte die Schwere des KI-Halluzinationsproblems. Er sagte: “KI-Halluzinationen bergen ernsthafte Risiken für Unternehmen und behindern ihre Adoption von KI. Als Student der KI für viele Jahre ist es auch nur allgemein bekannt, dass wir nicht zulassen können, dass diese leistungsstarken Systeme undurchsichtig über die Grundlage ihrer Ausgaben sind, und wir müssen dies dringend lösen. Unsere veryLLM-Bibliothek ist ein kleiner erster Schritt, um Transparenz und Vertrauen in die Ausgaben jedes LLM zu bringen – Transparenz, die jeder Entwickler, Datenwissenschaftler oder LLM-Anbieter in seinen KI-Anwendungen nutzen kann. Wir sind begeistert, diese Fähigkeiten und viele andere Anti-Halluzinationstechniken Unternehmen weltweit anzubieten, und ich glaube, dass dies der Grund ist, warum wir eine beispiellose Adoption unserer Lösungen sehen.”

Die Integration von veryLLM in hila™ Enterprise

hila™ Enterprise, ein weiteres herausragendes Produkt von Vianai, konzentriert sich auf die genaue und transparente Bereitstellung umfassender Sprachlösungen für Unternehmen in Branchen wie Finanzen, Verträgen und Recht. Diese Plattform integriert den veryLLM-Code, kombiniert mit anderen fortschrittlichen KI-Techniken, um KI-assozierte Risiken zu minimieren und es Unternehmen damit zu ermöglichen, die transformierende Kraft zuverlässiger KI-Systeme voll auszuschöpfen.

Ein näherer Blick auf Vianai Systems

Vianai Systems ist ein Pionier im Bereich Human-Centered AI. Das Unternehmen verfügt über eine Kundenbasis, die einige der angesehensten Unternehmen der Welt umfasst. Das unvergleichliche Können des Teams bei der Entwicklung von Unternehmensplattformen und innovativen Anwendungen hebt es hervor. Sie sind auch glücklich, die Unterstützung einiger der visionärsten Investoren weltweit zu haben, im Bereich von Human-Centered AI.