V roce 2025 se GenAI Copilots stanou vražednou aplikací, která transformuje podniky a řízení dat

Každá technologická revoluce má určující moment, kdy konkrétní použití případu pohání technologii do širokého použití. Ten čas nastal pro generativní umělou inteligenci (GenAI) s rychlým rozšířením copilotů.

GenAI jako technologie udělala významné kroky v posledních několika letech. Přestože byly všechny titulky a hype, její přijetí společnostmi je stále ve fázi počátku. 2024 Gartner CIO a Tech Executive Survey uvádí, že přijetí je pouze 9% z těch, kteří byli dotázáni, a 34% říká, že plánují to udělat v příštím roce. Nedávná studie od Enterprise Strategy Group uvádí, že přijetí GenAI je na 30%. Ale všechny studie docházejí ke stejnému závěru o roce 2025.

Prediction 1. Většina podniků bude používat GenAI v produkci do konce roku 2025

Přijetí GenAI je považováno za kritické pro zlepšení produktivity a ziskovosti a stalo se top prioritou pro většinu podniků. Ale to znamená, že společnosti musí překonat výzvy, které byly dosud zkušenými v projektech GenAI, včetně:

• Špatná kvalita dat: GenAI je pouze tak dobrý, jako jsou data, která používá, a mnoho společností stále nedůvěřuje svým datům. Kvalita dat spolu s neúplnými nebo zkreslenými daty byly všechny problémy, které vedly k špatným výsledkům.
• Náklady na GenAI: školení modelů GenAI, jako je ChatGPT, bylo většinou provedeno pouze nejlepšími týmy GenAI a stojí miliony v počítačovém výkonu. Proto lidé používají techniku nazývanou retrieval augmented generation (RAG). Ale i s RAG se to rychle stává drahým přístupem a přípravou dat a shromažďováním odborníků, kteří jsou potřební k úspěchu.
• Omezené dovednosti: Mnoho z prvních nasazení GenAI vyžadovalo mnoho kódování od malé skupiny odborníků v GenAI. Přestože se tato skupina rozšiřuje, stále existuje skutečný nedostatek.
• Halucinace: GenAI není dokonalý. Může halucinovat a poskytnout špatné odpovědi, když si myslí, že je správný. Potřebujete strategii pro prevenci špatných odpovědí, které mají dopad na váš podnik.
• Zabezpečení dat: GenAI vystavilo data nesprávným lidem, protože bylo použito pro školení, jemné ladění nebo RAG. Potřebujete implementovat bezpečnostní opatření, aby chránila proti těmto únikům.

Šťastně softwarový průmysl řešil tyto výzvy v posledních několika letech. Rok 2025 vypadá jako rok, kdy se některé z těchto výzev začnou řešit, a GenAI se stane mainstreamem.

Prediction 2. Modulární RAG Copilots se stanou nejčastějším použitím GenAI

Nejčastějším použitím GenAI je vytváření asistentů, nebo copilotů, kteří pomáhají lidem najít informace rychleji. Copilots jsou obvykle postaveny pomocí RAG pipeline. RAG je cesta. Je to nejčastější způsob, jak používat GenAI. Protože Large Language Models (LLM) jsou obecné modely, které nemají všechny nebo nejnovější data, potřebujete augmentovat dotazy, jinak známé jako podněty, aby jste získali přesnější odpověď.
Copilots pomáhají znalostním pracovníkům být produktivnější, řešit dříve nezodpověditelné otázky a poskytují odborné vedení, zatímco někdy také provádějí rutinní úkoly. Možná nejúspěšnější případ použití copilotů doposud je, jak pomáhají vývojářům softwaru kódovat nebo modernizovat zastaralý kód.

Ale copilots se očekává, že budou mít větší dopad, když se použijí mimo IT. Příklady zahrnují:

• V zákaznickém servisu, copilots mohou přijmout podporu dotazu a buď eskalovat na člověka pro zásah nebo poskytnout řešení pro jednoduché dotazy, jako je resetování hesla nebo přístup k účtu, což vede k vyššímu skóre spokojenosti zákazníků.
• V výrobě, copilots mohou pomoci technikům diagnostikovat a doporučit konkrétní akce nebo opravy pro složitou mašinerii, což snižuje downtime.
• V zdravotnictví, klinici mohou používat copilots k přístupu k historii pacienta a relevantnímu výzkumu a pomoci vést diagnózu a klinickou péči, což zlepšuje efektivitu a klinické výsledky.

RAG pipeline většinou fungovaly stejným způsobem. První krok je načíst znalostní bázi do vektorové databáze. Kdykoli osoba položí otázku, je vyvolána GenAI RAG pipeline. To přepracuje otázku na podnět, dotáže vektorovou databázi tím, že zakóduje podnět, aby našel nejrelevantnější informace, vyvolá LLM s podnětem pomocí získaných informací jako kontext, vyhodnotí a formátuje výsledky a zobrazí je uživateli.

Ale ukázalo se, že nelze podporovat všechny copilots stejně dobře s jednou RAG pipeline. Takže RAG se vyvinul do více modulární architektury nazývané modulární RAG, kde můžete použít různé moduly pro každý z mnoha kroků zapojených:

• Indexování včetně chunkingu a organizace dat
• Přednačtení včetně inženýrství a optimalizace dotazu (podnětu)
• Načtení s jemným laděním a dalšími technikami
• Ponačtení opětovného výběru a výběru
• Generování s jemným laděním, používáním a srovnáváním více LLM a ověřováním
• Orchestration, která spravuje tento proces a dělá ho iterativním, aby pomohla získat nejlepší výsledky

Budete muset implementovat modulární RAG architekturu, aby podporovala více copilotů.

Prediction 3. Nízký kód/Bez kódu GenAI nástroje se stanou cestou

Teď už možná chápete, že GenAI RAG je velmi komplexní a rychle se mění. Není to jen to, že nové nejlepší postupy jsou neustále vznikající. Všechny technologie zapojené do GenAI pipeline se mění tak rychle, že budete muset vyměnit některé z nich nebo podporovat několik. Kromě toho GenAI není jen o modulárním RAG. Retrieval Augmented Fine Tuning (RAFT) a plné modelové školení se stávají nákladově efektivními. Vaše architektura bude muset podporovat všechny tyto změny a skrýt komplexnost od vašich inženýrů.
Šťastně, nejlepší GenAI nízký kód/bez kódu nástroje poskytují tuto architekturu. Constantně přidávají podporu pro vedoucí datové zdroje, vektorové databáze a LLM, a činí možné postavit modulární RAG nebo krmit data do LLM pro jemné ladění nebo školení. Společnosti úspěšně používají tyto nástroje k nasazení copilotů pomocí svých interních zdrojů.

Nexla nejen používá GenAI, aby usnadnil integraci. Zahrnuje modulární RAG pipeline architekturu s pokročilým chunkingem, inženýrstvím dotazu, opětovným výběrem a výběrem, multi-LLM podporu s výsledky výběru a výběrem, orchestrací a více – vše nakonfigurováno bez kódování.

Prediction 4. Linie mezi Copilots a Agenty se rozostří

GenAI copilots, jako jsou chatboti, jsou agenty, kteří podporují lidi. Na konci lidé dělají rozhodnutí o tom, co dělat s vygenerovanými výsledky. Ale GenAI agenty mohou plně automatizovat odpovědi bez zapojení lidí. Tyto jsou často nazývány agenty nebo agentic AI.

Někteří lidé považují tyto dva přístupy za oddělené. Ale realita je složitější. Copilots již začínají automatizovat některé základní úkoly, opcionalně umožňují uživatelům potvrzovat akce a automatizovat kroky potřebné k jejich dokončení.

Očekávejte, že copilots budou evolucí v čase do kombinace copilotů a agentů. Stejně jako aplikace pomáhají re-inženýrství a streamlinovat obchodní procesy, asistenti by měli začít být používáni k automatizaci mezilehlých kroků úkolů, které podporují. GenAI-založené agenty by také měly zahrnovat lidi, aby řešili výjimky nebo schválili plán vygenerovaný pomocí LLM.

Prediction 5. GenAI bude pohánět přijetí Data Fabrics, Data Products a Open Data Standards

GenAI se očekává, že bude největší hnací silou změn v IT v příštích několika letech, protože IT bude muset přizpůsobit, aby umožnil společnostem realizovat plné výhody GenAI.

Jako součást Gartner Hype Cycles pro Data Management, 2024, Gartner identifikoval 3 a pouze 3 technologie jako transformační pro data management a pro organizace, které závisí na datech: Data Fabrics, Data Products a Open Table Formats. Všechny 3 pomáhají učinit data mnohem přístupnějšími pro použití s GenAI, protože usnadňují použití těchto nových sad GenAI nástrojů.

Nexla implementovala architekturu datového produktu postavenou na datové tkanině z tohoto důvodu. Datová tkanina poskytuje sjednocenou vrstvu pro správu všech dat stejným způsobem, bez ohledu na rozdíly ve formátech, rychlostech nebo protokolech přístupu. Datové produkty jsou pak vytvořeny pro podporu specifických datových potřeb, jako je RAG.

Například jedna velká finanční služba implementuje GenAI, aby vylepšila řízení rizik. Používají Nexlu, aby vytvořili sjednocenou datovou tkaninu. Nexla automaticky detekuje schéma a pak generuje konektory a datové produkty. Společnost pak definuje datové produkty pro specifické rizikové metriky, které agregují, čistí a transformují data do správného formátu jako vstupy pro implementaci RAG agentů pro dynamické regulační reportování. Nexla poskytuje řízení dat, včetně datové linie a přístupových kontrol, aby zajistila soulad s předpisy.Náš integrační platforma pro analytiku, operace, B2B a GenAI je implementována na datové tkanině, kde GenAI je používán k vytvoření opakovaně použitelných konektorů, datových produktů a pracovních postupů. Podpora otevřených standardů dat, jako je Apache Iceberg, usnadňuje přístup k více a více dat.

Jak se dostat k Agentic AI s Copiloty

Takže jak byste se měli připravit, aby GenAI byla mainstreamová ve vaší společnosti na základě těchto předpovědí?
První, pokud jste to ještě neudělali, začněte s vaším prvním GenAI RAG asistentem pro vaše zákazníky nebo zaměstnance. Identifikujte důležitý a relativně přímý případ použití, kde již máte správnou znalostní bázi, aby se vám podařilo.

Druhý, ujistěte se, že máte malý tým GenAI odborníků, kteří vám mohou pomoci umístit správnou modulární RAG architekturu, se správnými integračními nástroji, aby podpořili vaše první projekty. Neberte strach z vyhodnocení nových dodavatelů s nízkým kódem/bez kódu nástroji.

Třetí, začněte identifikovat ty datové managementové nejlepší postupy, které budete potřebovat k úspěchu. To nejen zahrnuje datovou tkaninu a koncepty, jako jsou datové produkty. Potřebujete také řídit vaše data pro AI.

Čas je teď. Rok 2025 je rokem, kdy většina uspěje. Nezanedbávejte.