KI-Modelle und Plattformen
Perplexity veröffentlicht Leitfaden zu verwaltetem RAG für Unternehmens-KI

Wichtige PunkteManaged RAG verlagert Vektordatenbanken und Retriever von Enterprise-Teams zu externen…
Mehr anzeigen
- Managed RAG verlagert Vektordatenbanken und Retriever von Enterprise-Teams zu externen Anbietern.
- Self-Hosting eignet sich für begrenzte Nutzung, aber Hardware und Wartung können die vermiedenen Token-Kosten ausgleichen.
- Outsourcing muss nicht unternehmensweit erfolgen, da jede Bereitstellung die Verantwortung für die Suche anders aufteilen kann.
Perplexity veröffentlichte am 19. November 2026 einen Leitfaden, der erklärt, wie Unternehmen abrufgestützte Generierung (RAG) über einen Managed Service auslagern können. Dieses Verfahren ermöglicht es KI-Systemen in Unternehmen, auf Informationen außerhalb der Trainingsparameter eines Modells zuzugreifen.
Der Leitfaden bezeichnet diesen Ansatz als RAG as a Service (RaaS) und verwendet den Begriff für Modelle, bei denen externe Anbieter die meisten oder alle RAG-Komponenten und -Prozesse übernehmen. Die Verantwortung für Vektordatenbanken, Einbettungsmodelle und Retriever geht auf den Anbieter über, der auch die Datenaufnahme, Speicherung, Sicherheit und fortlaufende Optimierung übernehmen kann. Je nach Leistungspaket stellt der Anbieter das Sprachmodell und die Benutzeroberfläche bereit oder verbindet seinen Abrufdienst mit dem bestehenden KI-System des Kunden.
So funktioniert verwalteter Informationsabruf
Drei Bereitstellungsmodelle bilden die Grundlage für die Entscheidung. Bei lokalem RAG erfolgen Datenaufnahme, Informationsabruf und Speicherung auf den eigenen Servern des Nutzers, gegebenenfalls zusammen mit lokal betriebenen Einbettungs- und Sprachmodellen. Ein selbst entwickeltes Cloud-System nutzt APIs, um auf gehostete Datenbanken und Modelle von Drittanbietern zuzugreifen; die Verbindungen und die Orchestrierung werden jedoch von internen Administratoren verwaltet. Bei RaaS verwaltet der Anbieter das gesamte System oder den größten Teil davon, während das Unternehmen den Zugang zu seiner Datenbank oder seinem Cloud-Speicher bereitstellt.
Im Beispiel des Leitfadens zum Wissensmanagement erhält der Anbieter über eine API Zugriff auf die Wissensdatenbank. Nachdem er den Text bereinigt hat, wandelt er Textpassagen in Vektoreinbettungen um und speichert sie in einer Vektordatenbank auf seinen eigenen Servern. Außerdem fügt der Anbieter neu verfügbare Dokumentation hinzu und verbindet seine Retriever-API mit dem Orchestrator des Kunden – der Software, die Nutzereingaben koordiniert und erweiterte Prompts an das Sprachmodell sendet.
Stellt ein Nutzer eine Anfrage an den Unternehmens-Chatbot, übermittelt der Orchestrator den Abfragetext an den Anbieter. Dieser wandelt ihn in eine Einbettung um und durchsucht die Datenbank. Der Orchestrator fügt die zurückgegebenen Informationen dem Eingabekontext hinzu und sendet ihn an das Sprachmodell. Dessen Antwort wird anschließend über den Chatbot ausgegeben. Laut Leitfaden verbessert die Bereitstellung von Informationen, die nicht in den Trainingsparametern enthalten sind, die Genauigkeit und Vollständigkeit der generierten Ergebnisse.
Einsatzmöglichkeiten in Unternehmen und Zielkonflikte bei der Bereitstellung
Zu den wichtigsten Anwendungsbereichen zählen internes Wissensmanagement, Kundenservice, Vertriebsunterstützung, der Zugriff auf Kundendaten und kundenorientierte Produkt-Chatbots. Interne Assistenten können Dokumentationen durchsuchen, die in Diensten wie Google Drive, SharePoint und Confluence gespeichert sind. Vertriebssysteme können Support-Tickets, Wettbewerbsanalysen und Gesprächsaufzeichnungen heranziehen, während Anwendungen für Kundendaten die Verwaltung von Abonnements, Rücksendungen und Änderungen persönlicher Angaben unterstützen können. Produkt-Chatbots können außerdem an Backend-Datenbanken angebunden werden, um Fragen zur Produktsuche und zu technischen Themen zu beantworten.
Perplexity nennt eine schnellere Bereitstellung, einen geringeren Wartungsaufwand, Skalierbarkeit, die automatische Synchronisierung von Inhalten und die Integration in Unternehmensplattformen als Vorteile von verwaltetem RAG. Zugleich weist das Unternehmen darauf hin, dass weiterhin Einschränkungen gelten, die vom Dienst und der jeweiligen Leistungspaketstufe abhängen. Bei der Entscheidung zwischen Eigenentwicklung und Zukauf stehen Kosten, Skalierung und Komplexität im Mittelpunkt. Selbst gehostete Systeme können sich bei klar begrenzter Nutzung eignen und Gebühren für Tokens und Speicher vermeiden, wenn alle Komponenten auf internen Servern laufen. Die Kosten für Hardware und Wartung können diese Einsparungen jedoch aufwiegen.
Fortgeschrittene Architekturen können multimodalen und hybriden Informationsabruf sowie ein nachträgliches Ranking (Reranking) umfassen. Dem Leitfaden zufolge bieten spezialisierte Anbieter in der Regel den kostengünstigsten Zugang zu diesem Fachwissen. Da die meisten RAG-Systeme bereits einige Dienste von Anbietern nutzen, hängt die Entscheidung davon ab, wie viel des Gesamtsystems ein Anbieter entwickelt und verwaltet.
Anbieterlandschaft und Perplexity Enterprise
Der Leitfaden unterteilt die Anbieter in allgemeine KI-Plattformen mit integriertem RAG und Anbieter verwalteter Backend-Infrastruktur. Erstere werden als sofort einsatzbereite Produkte mit Integrationen vorgestellt, Letztere als Optionen für maßgeschneiderte Lösungen. Die redaktionelle Auswahl umfasst sieben Anbieter: Perplexity, AWS, OpenAI, Microsoft Azure, Pinecone, LlamaIndex und Vectara.
Perplexity Enterprise wird in dieser Auswahl als Suite agentischer Tools vorgestellt, die interne Wissensdatenbanken und projektbezogene Wissensdatenbanken, Websuche, Zugriff auf mehrere generative Modelle, ein proprietäres Einbettungsmodell, Integrationen externer Datenquellen, Sicherheitsfunktionen und Berechtigungen für Mitarbeiter umfasst.
Auf seiner separaten Unternehmensseite gibt Perplexity an, dass mehr als 50.000 Organisationen Perplexity Enterprise vertrauen. Außerdem beschreibt das Unternehmen Computer als eine Lösung, die auf 20 fortschrittliche Modelle zurückgreift. Die umfassendere Plattform verbindet Unternehmensdateien und -tools für internes Wissen, Recherche und komplexe Projekte.
Auf derselben Seite heißt es, dass Perplexity seine großen Sprachmodelle nicht anhand von Unternehmensdaten trainiert. Zu den aufgeführten Kontrollfunktionen gehören die SOC-2-Type-II-Zertifizierung, konfigurierbare Dateiaufbewahrung, Benutzerverwaltung, SSO und SCIM sowie Audit-Protokolle zur Nachverfolgung der Benutzeraktivitäten.
Unternehmen können auch einen gemischten Ansatz wählen, einfache Systeme selbst entwickeln und für fortgeschrittene Anwendungen einen Anbieter nutzen. In der Praxis muss die Auslagerung daher nicht das gesamte Unternehmen umfassen: Bei jeder Bereitstellung kann ein anderer Anteil der Komplexität, Kosten und Wartung des Informationsabrufs beim Anbieter liegen, während das Unternehmen für alles verantwortlich bleibt, was es intern behält.












