Chris Mahl, Președinte și CEO la Pryon – Seria de interviuri

Chris Mahl este Președinte și Chief Executive Officer la Pryon. Cu peste două decenii de experiență la unele dintre cele mai cunoscute companii de software pentru întreprinderi din lume, Chris se specializează în scalarea strategiilor de piață și operaționale pentru companiile de tehnologie din toate etapele de creștere.

Pryon oferă un drum sigur, testat și dovedit pentru implementarea inteligenței artificiale generative în întreprinderi. Motoarele de ingestie și recuperare de top ale Pryon pot fi pereche cu LLM-uri generative pentru a implementa generarea augmentată de recuperare și pentru a oferi răspunsuri precise, instantanee și verificabile la scară întreprindere.

Utilizând tehnologia de recuperare lider în industrie, Pryon RAG Suite extrage în siguranță răspunsuri din toate formele de conținut, inclusiv audio, imagini, text și video, stocate într-o varietate de surse. Produsele Pryon sunt intuitive și pot fi accesate prin API de la orice sistem și pot fi implementate în câteva săptămâni în cloud sau local.

Pryon se axează pe Generarea Augmentată de Recuperare (RAG). Puteți explica cum abordarea dvs. de recuperare diferă de alte sisteme de căutare și management al cunoștințelor bazate pe IA?

Abordarea Pryon de recuperare se remarcă prin faptul că motorul nostru de recuperare poate accesa conținut în timp real din surse diverse, cum ar fi PDF-uri, imagini, pagini web și videoclipuri, menținând în același timp confidențialitatea datelor fără dependențe externe. Am combinat căutarea semantică cu atribute de date granulare pentru a obține o precizie de recuperare de peste 90%. În contrast cu multe sisteme, al nostru se escaladează eficient pentru organizațiile mari, permițând echipelor să ia decizii rapide și precise pe baza bazei lor de cunoștințe existente.

Motorul de ingestie Pryon este proiectat pentru a structura cantități uriașe de conținut multimodal. Ce face procesul dvs. de ingestie unic și cum îmbunătățește precizia de recuperare?

Ingestia Pryon poate gestiona conținut multimodal, extrăgând răspunsuri din audio, imagini, text și video din diverse surse. Acest lucru abordează problema fundamentală a datelor desconectate din întreprinderi. Cu datele nestructurate crescând cu peste 50% anual, motorul nostru de ingestie transformă informațiile dispersate în cunoștințe structurate și actionabile. Procesul este conceput pentru securitate și confidențialitate, protejând datele sensibile ale întreprinderii și făcându-le imediat utile.

Motorul dvs. de recuperare promite răspunsuri instantanee, precise și verificabile. Cum asigură Pryon precizia și minimizează halucinațiile la extragerea informațiilor?

Pryon asigură precizia și minimizează halucinațiile prin mai multe mecanisme. Tehnologia noastră combină căutarea semantică cu atribute de date granulare, ceea ce înseamnă că răspunsurile pot fi urmărite până la sursele lor specifice. Această atribuire este critică pentru verificare. Sistemul accesează conținutul în timp real din surse originale, în loc să se bazeze pe baze de cunoștințe potențial învechite sau incomplete. Această legătură directă cu materialele sursă, combinată cu precizia noastră de recuperare de peste 90%, reduce semnificativ riscul de halucinații care afectează multe sisteme de IA generativă.

Cum gestionează Pryon actualizările în timp real ale informațiilor, în special în medii dinamice, cum ar fi guvern, energie și sănătate?

Pryon asigură accesul în timp real la informațiile cele mai recente prin sincronizarea conținutului flexibilă și la cerere. Utilizatorii pot declanșa sincronizări de conținut după cum este necesar prin portalul nostru de administrare sau pot automatiza actualizările utilizând Sync-API-ul nostru la un interval programat, indiferent dacă este vorba de săptămâni, zile sau chiar ore, în funcție de nevoile operaționale. Procesul nostru de verificare a diferențelor optimizează eficiența prin actualizarea doar a conținutului modificat, asigurând o recuperare rapidă, precisă și eficientă a cunoștințelor în medii critice, cum ar fi guvern, energie și sănătate.

Pryon lucrează cu agenții guvernamentale și de apărare. Deși detaliile sunt adesea clasificate, puteți discuta un caz de utilizare în care IA dvs. a îmbunătățit semnificativ luarea deciziilor sau eficiența operațională?

Pryon lucrează cu o serie de agenții de apărare și informații, inclusiv Laboratorul de Cercetare al Forțelor Aeriene (AFRL) și Biroul Șef de Digital și Inteligență Artificială (CDAO), pentru a ajuta la simplificarea operațiunilor și la facilitarea luării deciziilor mai rapide și mai informate.

Un exemplu puternic este colaborarea noastră cu Biroul de Transformare Digitală al Departamentului Forțelor Aeriene (DAF DTO). Acesta sprijină personalul de achiziții și întreținere care adesea au nevoie să găsească informații critice îngropate în sute de mii de pagini web și documente. Împreună, am lansat DTO Wingman, un asistent bazat pe IA care oferă răspunsuri precise și în timp real la întrebări complexe, completate cu atribuirea surselor.

În loc să caute manual documente de politică sau regulamente, utilizatorii pot pur și simplu pune întrebări precum “Ce sunt autorizat să cumpăr cu cardul meu de călătorie?” sau “Ce este Codul Digital de Construcții și cum se relatează la achiziții?” IA returnează răspunsuri precise și chiar ajută la generarea de rapoarte și materiale de prezentare rapid.

Prin oferirea personalului Forțelor Aeriene și Spațiale acces imediat la răspunsuri de încredere, DTO Wingman ajută echipele să lucreze mai eficient și să ofere îndrumări fiabile și la timp pentru personalul senior și factorii de decizie.

Lucrul dvs. în științele vieții menționează cercetarea asistată de IA. Cum ajută sistemul Pryon cercetătorii să navigheze prin seturi de date uriașe, cum ar fi PubMed sau depozite de cercetare private?

Sistemul Pryon ajută cercetătorii să navigheze prin seturi de date uriașe, cum ar fi PubMed sau depozite de cercetare private, prin mai multe capacități cheie.

Calitatea cercetării îmbunătățită:

• Reducerea erorilor umane: Recuperarea sistematică a datelor actualizate asigură mai puține articole pierdute sau dovezi ignorate.
• Sprijinit de dovezi: Fiecare răspuns este bazat pe literatura originală, promovând concluzii bazate pe date, sursele fiind urmărite până la propoziția din care provin.

Protecția conținutului sensibil:

• Confidențialitate: Menține controale stricte de acces și criptare a datelor, esențiale pentru seturi de date proprietare sau legate de pacienți.
• Conformitate: Cu datele guvernate de reglementări precum HIPAA sau GDPR, cercetătorii pot avea încredere că informațiile sensibile sunt protejate.

Pentru serviciul clienți și vânzări, cum se compară IA Pryon cu soluțiile tradiționale de chatbot și CRM în ceea ce privește creșterea eficienței și reducerea încărcăturii de suport?

Interacțiunile de servicii pentru clienți și vânzări trebuie să echilibreze întotdeauna precizia și flexibilitatea soluțiilor de chatbot și CRM. Deoarece oferirea unui răspuns incorect unui client este inacceptabilă și poate avea implicații legale, mulți furnizori de chatbot și soluții de IA conversațională optează pentru limitarea flexibilității soluției cu interacțiuni deterministice de tip “doar FAQ”.

Acest lucru este o problemă pentru furnizor, necesitând codarea manuală a răspunsurilor specifice la întrebările comune, și oferă o experiență slabă pentru client, care are interfața unui chatbot, dar o experiență complet inflexibilă care nu se deosebește cu nimic de citirea unui FAQ. Alți furnizori optează pentru utilizarea unei experiențe generative mai flexibile, cu limite mai puține pentru LLM, însă datorită lipsei de recuperare precisă, aceasta implică introducerea întregului catalog de produse sau a paginilor web în fereastra de context a LLM, reducând precizia ieșirii, potențial dezastruos.

Arta și știința RAG constă în maximizarea semnalului (adevăr) și minimizarea zgomotului (contextului nerelevant care adesea confundă LLM). Precizia recuperării Pryon, care poate surse un răspuns la nivel de propoziție din toate documentele, înseamnă că serviciul clienți și vânzările nu mai trebuie să compromită precizia pentru flexibilitate.

Ce considerați a fi cele mai mari provocări în adoptarea IA în întreprinderi astăzi, în special cu sistemele bazate pe RAG?

În timp ce acest lucru este cu siguranță ceva pe care îl găsim în interacțiunile noastre cu piața, este tot mai recunoscut că “datele gata pentru IA” (sau lipsa acestora) reprezintă cel mai mare punct de eșec pentru implementările de IA.

• 91% dintre executivi într-un sondaj al Harvard Business Review au declarat că o bază de date fiabilă este esențială pentru o implementare de IA de succes.
• McKinsey a constatat că 70% dintre inițiativele GenAI se confruntă cu provocări legate de date, iar doar 1% din datele importante ale unei întreprinderi sunt reflectate în modelele de astăzi.
• The Wall Street Journal a menționat fiabilitatea ca principala preocupare pentru adoptarea agenților IA, o problemă strâns legată de calitatea și accesibilitatea datelor.
• Gartner a identificat lipsa datelor gata pentru GenAI ca principala cauză a eșecului implementărilor.

Datele gata pentru IA merg dincolo de simpla vectorizare a documentelor dvs. cu cuvinte – este vorba despre unificarea surselor dvs. izolate, lucrul cu formate complexe precum intrările multimodale, curățarea datelor, îmbunătățirea datelor, introducerea lor într-un format pe care LLM-urile îl pot procesa, fragmentarea la nivelul potrivit de granularitate pentru a menține precizia optimă și a reduce costurile, indexarea inteligentă și conectarea la un sistem de recuperare performant, etc.

Acestea sunt provocări mari care necesită competențe și instrumente dedicate – într-un sondaj al constructorilor de RAG care dezvoltă soluții în cadrul unor întreprinderi mari pe care Pryon l-a realizat, pregătirea datelor a fost clasificată ca fiind cea mai scumpă, consumatoare de timp și tehnic provocatoare parte a construcției, urmată îndeaproape de recuperarea informațiilor.

Cum diferențiați Pryon RAG Suite de soluțiile pentru întreprinderi oferite de Microsoft, Google sau OpenAI?

Diferențierea specifică variază de la jucător la jucător, dar la un nivel general, jucătorii mari din tehnologie se concentrează pe a fi “interfața” către IA la locul de muncă. Pryon se concentrează la un nivel mai fundamental al stivei – stratul de cunoștințe. Pryon rezolvă problemele profunde de pregătire a datelor și recuperare, în timp ce jucătorii mari din tehnologie se concentrează pe oferirea unor soluții IA cuprinzătoare care pot servi unor cazuri de utilizare RAG simple, dar adesea se destramă atunci când se confruntă cu complexitățile reale ale cazurilor de utilizare din întreprinderi și guvern. Pryon poate fi, de asemenea, complementar cu aceste sisteme, conținutul generat de Copilot, Gemini sau GPT putând fi conectat la stratul de cunoștințe Pryon pentru a fi organizat și pregătit pentru utilizarea de către aplicații și agenți downstream.

Având în vedere evoluția reglementărilor IA, cum ar fi Actul IA al UE și ghidurile IA din SUA, cum abordați conformitatea și utilizarea etică a IA?

Pe măsură ce reglementările IA evoluează la nivel global, Pryon rămâne dedicat conformității și implementării etice a IA. Abordarea noastră se aliniază cu cadre precum Actul IA al UE, ghidurile IA din SUA și principiile de IA Responsabilă (RAI) ale Departamentului Apărării, asigurând că soluțiile noastre de IA sunt de încredere, transparente și guvernabile. Prin respectarea cadrului RAI SHIELD, integrăm o evaluare riguroasă, trasabilitate și monitorizare continuă pe tot parcursul ciclului de viață al IA, prioritarizând securitatea, echitatea și performanța. Încorporând aceste practici de top în metodologia noastră de implementare, Pryon împuternicește organizațiile să utilizeze IA în mod responsabil, respectând în același timp cele mai înalte standarde regulatorii și etice.

Mulțumim pentru interviul excelent; cititorii care doresc să afle mai multe trebuie să viziteze Pryon.