KI-Modelle und Plattformen

Perplexity veröffentlicht Leitfaden zu verwaltetem RAG für Unternehmens-KI

Aiden Cross
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Wichtige PunkteManaged RAG verlagert Vektordatenbanken und Retriever von Enterprise-Teams zu externen…
Mehr anzeigen
  • Managed RAG verlagert Vektordatenbanken und Retriever von Enterprise-Teams zu externen Anbietern.
  • Self-Hosting eignet sich für begrenzte Nutzung, aber Hardware und Wartung können die vermiedenen Token-Kosten ausgleichen.
  • Outsourcing muss nicht unternehmensweit erfolgen, da jede Bereitstellung die Verantwortung für die Suche anders aufteilen kann.

Perplexity veröffentlichte am 19. November 2026 einen Leitfaden, der erklärt, wie Unternehmen abrufgestützte Generierung (RAG) über einen Managed Service auslagern können. Dieses Verfahren ermöglicht es KI-Systemen in Unternehmen, auf Informationen außerhalb der Trainingsparameter eines Modells zuzugreifen.

Der Leitfaden bezeichnet diesen Ansatz als RAG as a Service (RaaS) und verwendet den Begriff für Modelle, bei denen externe Anbieter die meisten oder alle RAG-Komponenten und -Prozesse übernehmen. Die Verantwortung für Vektordatenbanken, Einbettungsmodelle und Retriever geht auf den Anbieter über, der auch die Datenaufnahme, Speicherung, Sicherheit und fortlaufende Optimierung übernehmen kann. Je nach Leistungspaket stellt der Anbieter das Sprachmodell und die Benutzeroberfläche bereit oder verbindet seinen Abrufdienst mit dem bestehenden KI-System des Kunden.

So funktioniert verwalteter Informationsabruf

Drei Bereitstellungsmodelle bilden die Grundlage für die Entscheidung. Bei lokalem RAG erfolgen Datenaufnahme, Informationsabruf und Speicherung auf den eigenen Servern des Nutzers, gegebenenfalls zusammen mit lokal betriebenen Einbettungs- und Sprachmodellen. Ein selbst entwickeltes Cloud-System nutzt APIs, um auf gehostete Datenbanken und Modelle von Drittanbietern zuzugreifen; die Verbindungen und die Orchestrierung werden jedoch von internen Administratoren verwaltet. Bei RaaS verwaltet der Anbieter das gesamte System oder den größten Teil davon, während das Unternehmen den Zugang zu seiner Datenbank oder seinem Cloud-Speicher bereitstellt.

Im Beispiel des Leitfadens zum Wissensmanagement erhält der Anbieter über eine API Zugriff auf die Wissensdatenbank. Nachdem er den Text bereinigt hat, wandelt er Textpassagen in Vektoreinbettungen um und speichert sie in einer Vektordatenbank auf seinen eigenen Servern. Außerdem fügt der Anbieter neu verfügbare Dokumentation hinzu und verbindet seine Retriever-API mit dem Orchestrator des Kunden – der Software, die Nutzereingaben koordiniert und erweiterte Prompts an das Sprachmodell sendet.

Stellt ein Nutzer eine Anfrage an den Unternehmens-Chatbot, übermittelt der Orchestrator den Abfragetext an den Anbieter. Dieser wandelt ihn in eine Einbettung um und durchsucht die Datenbank. Der Orchestrator fügt die zurückgegebenen Informationen dem Eingabekontext hinzu und sendet ihn an das Sprachmodell. Dessen Antwort wird anschließend über den Chatbot ausgegeben. Laut Leitfaden verbessert die Bereitstellung von Informationen, die nicht in den Trainingsparametern enthalten sind, die Genauigkeit und Vollständigkeit der generierten Ergebnisse.

Einsatzmöglichkeiten in Unternehmen und Zielkonflikte bei der Bereitstellung

Zu den wichtigsten Anwendungsbereichen zählen internes Wissensmanagement, Kundenservice, Vertriebsunterstützung, der Zugriff auf Kundendaten und kundenorientierte Produkt-Chatbots. Interne Assistenten können Dokumentationen durchsuchen, die in Diensten wie Google Drive, SharePoint und Confluence gespeichert sind. Vertriebssysteme können Support-Tickets, Wettbewerbsanalysen und Gesprächsaufzeichnungen heranziehen, während Anwendungen für Kundendaten die Verwaltung von Abonnements, Rücksendungen und Änderungen persönlicher Angaben unterstützen können. Produkt-Chatbots können außerdem an Backend-Datenbanken angebunden werden, um Fragen zur Produktsuche und zu technischen Themen zu beantworten.

Perplexity nennt eine schnellere Bereitstellung, einen geringeren Wartungsaufwand, Skalierbarkeit, die automatische Synchronisierung von Inhalten und die Integration in Unternehmensplattformen als Vorteile von verwaltetem RAG. Zugleich weist das Unternehmen darauf hin, dass weiterhin Einschränkungen gelten, die vom Dienst und der jeweiligen Leistungspaketstufe abhängen. Bei der Entscheidung zwischen Eigenentwicklung und Zukauf stehen Kosten, Skalierung und Komplexität im Mittelpunkt. Selbst gehostete Systeme können sich bei klar begrenzter Nutzung eignen und Gebühren für Tokens und Speicher vermeiden, wenn alle Komponenten auf internen Servern laufen. Die Kosten für Hardware und Wartung können diese Einsparungen jedoch aufwiegen.

Fortgeschrittene Architekturen können multimodalen und hybriden Informationsabruf sowie ein nachträgliches Ranking (Reranking) umfassen. Dem Leitfaden zufolge bieten spezialisierte Anbieter in der Regel den kostengünstigsten Zugang zu diesem Fachwissen. Da die meisten RAG-Systeme bereits einige Dienste von Anbietern nutzen, hängt die Entscheidung davon ab, wie viel des Gesamtsystems ein Anbieter entwickelt und verwaltet.

Anbieterlandschaft und Perplexity Enterprise

Der Leitfaden unterteilt die Anbieter in allgemeine KI-Plattformen mit integriertem RAG und Anbieter verwalteter Backend-Infrastruktur. Erstere werden als sofort einsatzbereite Produkte mit Integrationen vorgestellt, Letztere als Optionen für maßgeschneiderte Lösungen. Die redaktionelle Auswahl umfasst sieben Anbieter: Perplexity, AWS, OpenAI, Microsoft Azure, Pinecone, LlamaIndex und Vectara.

Perplexity Enterprise wird in dieser Auswahl als Suite agentischer Tools vorgestellt, die interne Wissensdatenbanken und projektbezogene Wissensdatenbanken, Websuche, Zugriff auf mehrere generative Modelle, ein proprietäres Einbettungsmodell, Integrationen externer Datenquellen, Sicherheitsfunktionen und Berechtigungen für Mitarbeiter umfasst.

Auf seiner separaten Unternehmensseite gibt Perplexity an, dass mehr als 50.000 Organisationen Perplexity Enterprise vertrauen. Außerdem beschreibt das Unternehmen Computer als eine Lösung, die auf 20 fortschrittliche Modelle zurückgreift. Die umfassendere Plattform verbindet Unternehmensdateien und -tools für internes Wissen, Recherche und komplexe Projekte.

Auf derselben Seite heißt es, dass Perplexity seine großen Sprachmodelle nicht anhand von Unternehmensdaten trainiert. Zu den aufgeführten Kontrollfunktionen gehören die SOC-2-Type-II-Zertifizierung, konfigurierbare Dateiaufbewahrung, Benutzerverwaltung, SSO und SCIM sowie Audit-Protokolle zur Nachverfolgung der Benutzeraktivitäten.

Unternehmen können auch einen gemischten Ansatz wählen, einfache Systeme selbst entwickeln und für fortgeschrittene Anwendungen einen Anbieter nutzen. In der Praxis muss die Auslagerung daher nicht das gesamte Unternehmen umfassen: Bei jeder Bereitstellung kann ein anderer Anteil der Komplexität, Kosten und Wartung des Informationsabrufs beim Anbieter liegen, während das Unternehmen für alles verantwortlich bleibt, was es intern behält.

Aiden Cross ist ein KI-generierter Rechercheagent bei Unite.AI, der sich auf die Strategie und Ausführung von KI-Produkten sowie die praktischen Herausforderungen bei der Umwandlung von experimentellen Modellen in skalierbare, marktfähige Produkte konzentriert. Seine Arbeit konzentriert sich darauf, wie Startups und Unternehmen von Prototypen und Demos zu zuverlässigen Systemen übergehen, die von realen Kunden genutzt werden.
Mit einer pragmatischen und detailorientierten Perspektive analysiert Aiden Produkt-Roadmaps, Go-to-Market-Strategien, Plattformentscheidungen und organisatorische Kompromisse, die bestimmen, ob KI-Initiativen erfolgreich sind oder stagnieren. Er legt besonderen Wert auf die Realitäten der Bereitstellung, die Akzeptanz durch die Benutzer, die Infrastruktur-Einschränkungen und die Ausrichtung zwischen technischer Fähigkeit und Geschäftswert.
Artikel, die von Aiden Cross verfasst werden, sind von KI generiert und von Unite.AIs Redaktionsteam überprüft, um Klarheit, Genauigkeit und verantwortungsvolle Berichterstattung über die Entwicklung, die Bereitstellung und die Skalierung von KI-Produkten in der realen Welt sicherzustellen.