Chris Mahl, Präsident und CEO bei Pryon – Interview-Serie

Chris Mahl ist Präsident und Chief Executive Officer bei Pryon. Mit mehr als zwei Jahrzehnten Erfahrung bei einigen der weltweit bekanntesten Unternehmenssoftware-Unternehmen spezialisiert sich Chris auf die Skalierung von Go-to-Market- und Betriebsstrategien für Technologieunternehmen in allen Wachstumsphasen.

Pryon bietet einen vertrauenswürdigen, sicheren und bewährten Weg zur Implementierung von generativer KI in Unternehmen. Pryons beste Ingestions- und Retrieval-Engines können mit generativen LLMs kombiniert werden, um Retrieval-augmentierte Generation zu implementieren und sicherzustellen, dass genaue, sofortige und verifizierbare Antworten auf Unternehmensniveau bereitgestellt werden.

Pryon konzentriert sich auf Retrieval-Augmented Generation (RAG). Können Sie Ihre Herangehensweise an die Retrieval-Differenzierung von anderen KI-gesteuerten Such- und Wissensmanagement-Systemen erklären?

Pryons Herangehensweise an die Retrieval-Differenzierung hebt sich ab, da unser Retrieval-Engine in der Lage ist, in Echtzeit auf Inhalte aus verschiedenen Quellen wie PDFs, Bildern, Webseiten und Videos zuzugreifen, während die Datenprivatsphäre ohne externe Abhängigkeiten aufrechterhalten wird. Wir haben semantische Suche mit granularer Datenattribution kombiniert, um eine Retrieval-Genauigkeit von über 90% zu erzielen. Im Gegensatz zu vielen Systemen skaliert unser System effektiv für große Organisationen, sodass Teams schnell und präzise Entscheidungen auf der Grundlage ihrer bestehenden Wissensbasis treffen können.

Der Pryon-Ingestions-Engine ist dafür ausgelegt, große Mengen an multimodalem Inhalt zu strukturieren. Was macht Ihren Ingestions-Prozess einzigartig, und wie verbessert er die Retrieval-Genauigkeit?

Pryons Ingestions-Engine kann multimodalen Inhalt verarbeiten, indem er Antworten aus Audio-, Bild-, Text- und Video-Quellen extrahiert. Dies löst das grundlegende Problem der nicht verbundenen Daten in Unternehmen. Da unstrukturierte Daten jährlich um über 50% wachsen, transformiert unser Ingestions-Engine verstreute Informationen in strukturiertes, handlungsfähiges Wissen. Der Prozess ist für Sicherheit und Datenschutz konzipiert, um sensible Unternehmensdaten zu schützen, während sie sofort nutzbar gemacht werden.

Ihr Retrieval-Engine verspricht sofortige, genaue und verifizierbare Antworten. Wie stellt Pryon sicher, dass die Genauigkeit gewährleistet und Halluzinationen minimiert werden, wenn Informationen extrahiert werden?

Pryon stellt sicher, dass die Genauigkeit gewährleistet und Halluzinationen minimiert werden, indem unser Technology semantische Suche mit granularer Datenattribution kombiniert. Dies bedeutet, dass Antworten auf ihre spezifischen Quellen zurückverfolgt werden können. Diese Attribution ist für die Verifizierung von entscheidender Bedeutung. Das System greift in Echtzeit auf Inhalte aus Originalquellen zu, anstatt auf möglicherweise veraltete oder unvollständige Wissensbasen zu vertrauen. Diese direkte Verbindung zu den Quellen, kombiniert mit unserer hohen Retrieval-Genauigkeit (über 90%), reduziert das Risiko von Halluzinationen, die viele generative KI-Systeme plagen.

Wie geht Pryon mit Echtzeit-Aktualisierungen von Informationen um, insbesondere in dynamischen Umgebungen wie Regierung, Energie und Gesundheitswesen?

Pryon stellt sicher, dass Benutzer in Echtzeit auf die aktuellsten Informationen zugreifen können, indem flexible, bedarfsorientierte Inhalts-Synchronisationen ermöglicht werden. Benutzer können Inhalts-Synchronisationen über unser Admin-Portal auslösen oder mithilfe unseres Sync-API auf einer geplanten Basis automatisieren – ob wöchentlich, täglich oder sogar stündlich, je nach betrieblichen Anforderungen. Unser Delta-Check-Prozess optimiert die Effizienz, indem nur geänderte Inhalte aktualisiert werden, was eine schnelle, genaue und ressourcenschonende Wissensabruf in kritischen Umgebungen wie Regierung, Energie und Gesundheitswesen ermöglicht.

Pryon arbeitet mit Regierungs- und Verteidigungsbehörden zusammen. Obwohl Details oft klassifiziert sind, können Sie ein Beispiel nennen, bei dem Ihre KI die Entscheidungsfindung oder die betriebliche Effizienz erheblich verbessert hat?

Pryon arbeitet mit einer Reihe von Verteidigungs- und Nachrichtendiensten zusammen, einschließlich des Air Force Research Laboratory (AFRL) und des Chief Digital and Artificial Intelligence Office (CDAO), um Betriebsabläufe zu rationalisieren und eine schnellere, informiertere Entscheidungsfindung zu ermöglichen.

Ein leistungsstarkes Beispiel ist unsere Zusammenarbeit mit dem Digital Transformation Office (DAF DTO) der US-Luftwaffe. Dieses Team unterstützt Beschaffungs- und Instandhaltungspersonal, das oft kritische Informationen in Hunderttausenden von Webseiten und Dokumenten finden muss. Gemeinsam haben wir DTO Wingman, einen KI-gesteuerten Assistenten, der genaue, Echtzeit-Antworten auf komplexe Fragen liefert – inklusive Quellenangabe.

Anstatt manuell nach Richtlinien-Dokumenten oder Vorschriften zu suchen, können Benutzer einfach Fragen stellen wie “Was bin ich berechtigt, mit meiner Reisekarte zu kaufen?” oder “Was ist der digitale Baukod und wie bezieht er sich auf Beschaffungen?” Die KI liefert präzise Antworten und hilft sogar bei der Erstellung von Berichten und Präsentationsmaterialien.

Indem Air Force- und Space Force-Personal sofortigen Zugang zu vertrauenswürdigen Antworten erhalten, hilft DTO Wingman Teams, effizienter zu arbeiten und zuverlässige, zeitnahe Anleitungen für leitende Mitarbeiter und Entscheidungsträger zu liefern.

Ihre Arbeit im Bereich Life Sciences erwähnt KI-gesteuerte Forschung. Wie hilft Pryons System Forschern, große Datenmengen wie PubMed oder private Forschungs-Repositorys zu navigieren?

Pryons System hilft Forschern, große Datenmengen wie PubMed oder private Forschungs-Repositorys zu navigieren, durch mehrere Schlüssel-Fähigkeiten.

Verbesserung der Forschungsqualität:

• Reduzierung von menschlichen Fehlern: Systematische Abrufung von aktuellen Daten stellt sicher, dass weniger Artikel oder Beweise übersehen werden.
• Untermauerung durch Beweise: Jede Antwort basiert auf der ursprünglichen Literatur, was datengetriebene Schlussfolgerungen fördert, die auf die ursprüngliche Quelle zurückverfolgt werden können.

Schutz vor hochsensiblen Inhalten:

• Vertraulichkeit: Aufrechterhaltung strenger Zugriffskontrollen und Datenverschlüsselung, die für proprietäre oder patientenbezogene Datenbanken unerlässlich sind.
• Compliance: Mit Daten, die unter Vorschriften wie HIPAA oder DSGVO fallen, können Forscher darauf vertrauen, dass sensible Informationen geschützt sind.

Für Kundenservice und Vertrieb: Wie vergleicht sich Pryons KI mit herkömmlichen Chatbot- und CRM-Lösungen in Bezug auf die Steigerung der Effizienz und die Reduzierung der Support-Last?

Kundenservice- und Vertriebs-Interaktionen müssen in der Regel die Genauigkeit und Flexibilität ihrer Chatbot- und CRM-Lösungen ausbalancieren. Da die Lieferung einer falschen Antwort an einen Kunden inakzeptabel ist und rechtliche Konsequenzen haben kann, entscheiden sich viele Chatbot-Anbieter und traditionelle Konversations-KI-Lösungen dafür, die Flexibilität der Lösung durch harte deterministische “FAQ-only”-Interaktionen zu begrenzen.

Das ist ein Problem für den Anbieter, der manuell spezifische Antworten auf häufige Fragen kodieren muss, und bietet dem Kunden eine schlechte Erfahrung, da er die Schnittstelle eines Chatbots hat, aber eine völlig unflexible Erfahrung, die sich kaum von der Lektüre eines FAQs unterscheidet. Andere Anbieter entscheiden sich dafür, eine flexiblere generative Erfahrung mit weniger festen Grenzen für die LLM zu verwenden, aber aufgrund des Mangels an genauer Retrieval bedeutet dies, dass ganze Produktkataloge oder Webseiten in das Kontextfenster der LLM gestopft werden, was die Genauigkeit der Ausgabe verringert und möglicherweise katastrophale Folgen haben kann.

Die Kunst und Wissenschaft von RAG besteht darin, das Signal (Wahrheit) zu maximieren und den Lärm (irrelevante Kontext, der die LLM oft verwirrt) zu minimieren. Die Präzision von Pryons Retrieval – in der Lage, eine spezifische satzbezogene Antwort über alle Dokumente hinweg zu finden – bedeutet, dass Kundenservice und Vertrieb nicht länger Kompromisse zwischen Genauigkeit und Flexibilität eingehen müssen.

Was sehen Sie als die größten Herausforderungen bei der Einführung von KI in Unternehmen heute, insbesondere bei RAG-basierten Systemen?

Während dies sicherlich etwas ist, das wir in unseren eigenen Interaktionen mit dem Markt finden, wird es auch zunehmend anerkannt, dass “KI-fähige Daten” (oder das Fehlen davon) der größte Punkt des Scheiterns für KI-Einsätze ist.

• 91% der Führungskräfte in einer Umfrage des Harvard Business Review sagten, dass eine zuverlässige Datenbasis für eine erfolgreiche KI-Einführung unerlässlich sei.
• McKinsey fand heraus, dass 70% der GenAI-Initiativen mit Herausforderungen im Zusammenhang mit Daten konfrontiert sind, wobei nur 1% der wichtigen Daten eines Unternehmens in den heutigen Modellen widergespiegelt werden.
• The Wall Street Journal nannte Zuverlässigkeit als die größte Sorge für die Einführung von KI-Agenten – ein Problem, das eng mit der Datenqualität und -zugänglichkeit verbunden ist.
• Gartner identifizierte den Mangel an GenAI-fähigen Daten als den Hauptgrund für fehlgeschlagene Einsätze.

KI-fähige Daten gehen über die bloße Vektorisierung von Word-Dokumenten hinaus – es geht darum, siloisierte Quellen zu vereinen, mit komplexen Formaten wie multimodalen Eingaben zu arbeiten, Daten zu bereinigen, zu verbessern, in ein Format zu bringen, das LLMs verwenden können, in der richtigen Granularität zu chunken, um optimale Genauigkeit zu erhalten und Kosten zu senken, intelligent zu indexieren und an ein leistungsfähiges Retrieval-System anzubinden usw.

Das sind große Herausforderungen, die spezielle Kompetenzen und Werkzeuge erfordern – in einer Umfrage, die Pryon unter RAG-Entwicklern durchgeführt hat, die Lösungen innerhalb großer Unternehmen entwickeln, wurde die Datenpräparation als der teuerste, zeitaufwändigste und technisch anspruchsvollste Teil des Aufbaus eingestuft, gefolgt von der Informationsabruf.

Wie unterscheidet sich Pryons RAG-Suite von den Unternehmenslösungen, die von Microsoft , Google (GOOGL ) oder OpenAI angeboten werden?

Die spezifische Differenzierung variiert von Spieler zu Spieler, aber im Großen und Ganzen konzentrieren sich die großen Technologie-Unternehmen darauf, die “Schnittstelle” zur KI am Arbeitsplatz zu sein. Pryon konzentriert sich auf ein fundamentaleres Level des Stacks – die Wissensschicht. Pryon löst die tiefen Probleme der Datenpräparation und des Retrievals, während die großen Technologie-Unternehmen breite KI-Lösungen anbieten, die einige einfache RAG-Anwendungsfälle bedienen können, aber oft zusammenbrechen, wenn es um die realen Komplexitäten von Unternehmens- und Regierungsanwendungsfällen geht. Pryon kann auch komplementär zu diesen Systemen sein, wobei der von Copilot, Gemini oder GPT generierte Inhalt in die Pryon-Wissensschicht eingebunden wird, um für nachgelagerte Anwendungen und Agenten bereitgestellt zu werden.

Wie geht Pryon die Einhaltung von Vorschriften und die ethische Nutzung von KI an, insbesondere im Hinblick auf die Entwicklung von KI-Vorschriften wie dem EU-KI-Gesetz und den US-KI-Richtlinien?

Da KI-Vorschriften global weiterentwickelt werden, bleibt Pryon der Einhaltung von Vorschriften und der ethischen KI-Nutzung verpflichtet. Unser Ansatz stimmt mit Rahmenwerken wie dem EU-KI-Gesetz, den US-KI-Richtlinien und den Grundsätzen für verantwortungsvolle KI (RAI) des Verteidigungsministeriums überein, um sicherzustellen, dass unsere KI-Lösungen vertrauenswürdig, transparent und regelbar sind. Durch die Einhaltung des RAI-SHIELD-Rahmenwerks integrieren wir strenge Bewertung, Nachverfolgung und kontinuierliche Überwachung über den gesamten KI-Lebenszyklus – mit der Priorisierung von Sicherheit, Fairness und Leistung. Durch die Einbindung dieser Best Practices in unsere Bereitstellungsmethode ermöglicht Pryon Organisationen, KI verantwortungsvoll zu nutzen, während sie die höchsten regulatorischen und ethischen Standards erfüllt.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Pryon besuchen: Pryon.