V roce 2025 se GenAI Copilots stanou zabijáckou aplikací, která transformuje podnikání a správu dat

Každá technologická revoluce má určující okamžik, kdy konkrétní případ použití pohání technologii do širokého použití. Ten čas nastal pro generativní AI (GenAI) s rychlým šířením copilotů.

GenAI jako technologie učinila významné pokroky v posledních několika letech. Přestože navzdory všem titulním stránkám a hype, její přijetí společnostmi je stále ve počátečních fázích. 2024 Gartner CIO a Tech Executive Survey uvádí, že přijetí je pouze 9% z těch, kteří byli dotázáni, a 34% říká, že plánují to udělat v příštím roce. Nedávná studie od Enterprise Strategy Group uvádí, že přijetí GenAI je 30%. Ale všechny průzkumy dospěly ke stejnému závěru o roce 2025.

Predikce 1. Většina podniků bude používat GenAI v produkci do konce roku 2025

Přijetí GenAI je považováno za kritické pro zlepšení produktivity a ziskovosti a stalo se nejvyšší prioritou pro většinu podniků. Ale to znamená, že společnosti musí překonat výzvy, které dosud zažily v projektech GenAI, včetně:

• Špatná kvalita dat: GenAI je pouze tak dobrá, jako jsou data, která používá, a mnoho společností stále nedůvěřuje svým datům. Kvalita dat spolu s neúplnými nebo zkreslenými daty byly všechny problémy, které vedly k špatným výsledkům.
• Náklady na GenAI: školení modelů GenAI, jako je ChatGPT, bylo většinou provedeno pouze nejlepšími týmy GenAI a stojí miliony v počítačové síle. Proto lidé místo toho používali techniku nazvanou retrieval augmented generation (RAG). Ale i s RAG se to rychle stává drahým přístupem a přípravou dat a sestavením odborníků, kteří jsou potřební k úspěchu.
• Omezené dovednosti: Mnoho z prvních nasazení GenAI vyžadovalo hodně kódování malou skupinou odborníků v GenAI. Přestože se tato skupina rozrůstá, stále existuje skutečný nedostatek.
• Halucinace: GenAI není dokonalá. Může halucinovat a poskytnout špatné odpovědi, když si myslí, že je správná. Potřebujete strategii pro prevenci špatných odpovědí, které mají dopad na váš podnik.
• Zabezpečení dat: GenAI vystavila data nesprávným osobám, protože byla použita pro školení, jemné ladění nebo RAG. Potřebujete implementovat bezpečnostní opatření, aby chránila proti těmto únikům.

Naštěstí softwarový průmysl řešil tyto výzvy v posledních několika letech. Rok 2025 vypadá jako rok, kdy několik z těchto výzev začne být řešeno, a GenAI se stane mainstreamem.

Predikce 2. Modulární RAG Copilots se stanou nejčastějším použitím GenAI

Nejčastějším použitím GenAI je vytvářet asistenty, nebo copiloty, kteří pomáhají lidem najít informace rychleji. Copilots jsou obvykle postaveny pomocí RAG pipeline. RAG je cesta. Je to nejčastější způsob, jak používat GenAI. Protože Large Language Models (LLM) jsou obecnými modely, které nemají všechna nebo dokonce nejnovější data, potřebujete augmentovat dotazy, jinak známé jako podněty, aby jste získali přesnější odpověď.
Copilots pomáhají znalostním pracovníkům být produktivnější, řešit dříve nezodpověditelné otázky a poskytují odborné vedení, zatímco někdy také vykonávají rutinní úkoly. Možná nejúspěšnější případ použití copilotů doposud je, jak pomáhají vývojářům softwaru kódovat nebo modernizovat zastaralý kód.

Ale copilots se očekává, že budou mít větší dopad, když se použijí mimo IT. Příklady zahrnují:

• V zákaznickém servisu, copilots mohou přijmout podporu dotazu a buď eskalovat na člověka pro zásah, nebo poskytnout řešení pro jednoduché dotazy, jako je resetování hesla nebo přístup k účtu, což vede k vyšším skóre CSAT.
• V výrobě, copilots mohou pomoci technikům diagnostikovat a doporučit konkrétní akce nebo opravy pro složitou strojní zařízení, což snižuje downtim.
• V zdravotnictví, klinici mohou používat copilots k přístupu k historii pacienta a relevantnímu výzkumu a pomoci vést diagnózu a klinickou péči, což zlepšuje efektivitu a klinické výsledky.

RAG pipeline většinou všechny fungovaly stejným způsobem. První krok je načíst znalostní základnu do vektorové databáze. Kdykoli osoba položí otázku, GenAI RAG pipeline je vyvolán. Přeprojektuje otázku na podnět, dotáže vektorovou databázi tak, že zakóduje podnět, aby našel nejrelevantnější informace, vyvolá LLM s podnětem pomocí načtených informací jako kontextu, vyhodnotí a formátuje výsledky a zobrazí je uživateli.

Ale ukázalo se, že nemůžete podporovat všechny copilots stejně dobře s jednou RAG pipeline. Takže RAG se vyvinul do více modulární architektury nazvané modulární RAG, kde můžete použít různé moduly pro každý z mnoha kroků zapojených:

• Indexování včetně chunkingu dat a organizace
• Přednačtení včetně inženýrství dotazu (podnětu) a optimalizace
• Načtení s jemným laděním a dalšími technikami
• Ponačtení再hodnocení a výběr
• Generování s jemným laděním, používáním a srovnáváním více LLM a ověřováním
• Orchestration, která řídí tento proces a dělá jej iterativním, aby pomohla získat nejlepší výsledky

Budete muset implementovat modulární RAG architekturu, aby podpořila několik copilotů.

Predikce 3. Nástroje GenAI bez kódu / s nízkým kódem se stanou způsobem

Teď možná uvědomíte, že GenAI RAG je velmi komplexní a rychle se mění. Není to jen to, že nové nejlepší postupy jsou neustále vznikající. Všechna technologie zapojená do GenAI pipeline se mění tak rychle, že budete muset vyměnit některé z nich nebo podporovat několik. Kromě toho GenAI není jen o modulárním RAG. Retrieval Augmented Fine Tuning (RAFT) a plné školení modelu se také stávají nákladově efektivními. Vaše architektura bude muset podporovat všechny tyto změny a skrýt komplexnost od vašich inženýrů.
Naštěstí nejlepší nástroje GenAI bez kódu / s nízkým kódem poskytují tuto architekturu. Stále přidávají podporu pro přední datové zdroje, vektorové databáze a LLMS a umožňují stavět modulární RAG nebo krmit data do LLM pro jemné ladění nebo školení. Společnosti úspěšně používají tyto nástroje k nasazení copilotů pomocí svých interních zdrojů.

Nexla neonly používá GenAI, aby usnadnil integraci. Zahrnuje modulární RAG pipeline architekturu s pokročilým chunkingem dat, inženýrstvím dotazu, opětovným hodnocením a výběrem, multi-LLM podporu s výsledky hodnocení a výběrem, orchestrací a další – vše nakonfigurováno bez kódování.

Predikce 4. Linie mezi Copilots a Agenty se rozostří

GenAI copilots, jako jsou chatboti, jsou agenty, kteří podporují lidi. Nakonec lidé dělají rozhodnutí o tom, co dělat s vygenerovanými výsledky. Ale GenAI agenty mohou plně automatizovat odpovědi bez zapojení lidí. Tyto jsou často označovány jako agenty nebo agentic AI.

Někteří lidé považují tyto za dva samostatné přístupy. Ale realita je složitější. Copilots už začínají automatizovat některé základní úkoly, optionally umožňující uživatelům potvrdit akce a automatizovat kroky potřebné k jejich dokončení.

Očekávejte, že copilots budou vyvíjet s časem do kombinace copilotů a agentů. Stejně jako aplikace pomáhají re-inženýrství a streamlinovat obchodní procesy, asistenti by měli a měli by začít být používáni k automatizaci mezitímních kroků úkolů, které podporují. GenAI-založené agenty by také měly zahrnovat lidi, aby řešili výjimky nebo schválili plán vygenerovaný pomocí LLM.

Predikce 5. GenAI bude pohánět přijetí Data Fabrics, Data Products a Open Data Standards

GenAI se očekává, že bude největší hnací silou změny v IT v příštích několika letech, protože IT bude muset přizpůsobit, aby společnosti mohly realizovat plné výhody GenAI.

Jako součást Gartner Hype Cycles pro Data Management, 2024, Gartner identifikoval 3 a pouze 3 technologie jako transformační pro správu dat a pro organizace, které závisí na datech: Data Fabrics, Data Products a Open Table Formats. Všechny 3 pomáhají učinit data mnohem přístupnější pro použití s GenAI, protože usnadňují použití těchto nových sad GenAI nástrojů.

Nexla implementoval architekturu datového produktu postavenou na datové tkanině z tohoto důvodu. Datová tkanina poskytuje sjednocenou vrstvu pro správu všech dat stejným způsobem bez ohledu na rozdíly ve formátech, rychlostech nebo přístupových protokolech. Datové produkty jsou pak vytvořeny pro podporu konkrétních datových potřeb, jako je RAG.

Například jedna velká finanční služba implementuje GenAI, aby vylepšila řízení rizik. Používají Nexla k vytvoření jednotné datové tkaniny. Nexla automaticky detekuje schéma a pak generuje konektory a datové produkty. Společnost pak definuje datové produkty pro konkrétní rizika, která agregují, čistí a transformují data do správného formátu jako vstupy pro implementaci RAG agentů pro dynamickou regulatorní zprávování. Nexla poskytuje řízení dat, včetně datového původu a přístupových kontrol, aby zajistila soulad s předpisy.
Naše integrační platforma pro analytiku, operace, B2B a GenAI je implementována na datové tkanině, kde se GenAI používá k vytvoření opakovaně použitelných konektorů, datových produktů a pracovních postupů. Podpora otevřených datových standardů, jako je Apache Iceberg, usnadňuje přístup k více a více datům.

Jak Copilotovat váš způsob k Agentic AI

Takže jak byste se měli připravit, aby GenAI byla mainstreamová ve vaší společnosti na základě těchto predikcí?
První, pokud jste to ještě neudělali, začněte s vaším prvním GenAI RAG asistentem pro vaše zákazníky nebo zaměstnance. Identifikujte důležitý a relativně přímý případ použití, kde již máte správnou znalostní základnu, aby se vám podařilo.

Druhý, ujistěte se, že máte malý tým GenAI odborníků, kteří mohou pomoci umístit správnou modulární RAG architekturu, s pravými integračními nástroji na místě, aby podpořili vaše první projekty. Neberte strach z hodnocení nových dodavatelů s nástroji bez kódu / s nízkým kódem.

Třetí, začněte identifikovat ty nejlepší postupy pro správu dat, které budete potřebovat, aby vám pomohly uspět. To nejenom zahrnuje datové tkaniny a koncepty, jako jsou datové produkty. Potřebujete také řídit vaše data pro AI.

Čas je teď. Rok 2025 je rokem, kdy většina uspěje. Neberte se zahanbit.