În 2025, copiloții GenAI vor deveni aplicația killer care transformă afacerile și gestionarea datelor

Fiecare revoluție tehnologică are un moment definitoriu în care un anumit caz de utilizare propulsează tehnologia într-o adoptare pe scară largă. Acest moment a sosit pentru inteligența artificială generativă (GenAI) odată cu răspândirea rapidă a copiloților.

GenAI, ca tehnologie, a făcut pași importanți în ultimii ani. Cu toate acestea, în ciuda tuturor titlurilor și a hiperiei, adoptarea sa de către companii este încă în stadiile incipiente. Studiul 2024 Gartner CIO și Tech Executive Survey estimează adoptarea la doar 9% dintre cei chestionați, cu 34% spunând că intenționează să o facă în următorul an. Un studiu recent al Grupului de Strategie pentru Întreprinderi estimează adoptarea GenAI la 30%. Dar toate studiile ajung la aceeași concluzie despre 2025.

Predicția 1. O majoritate a întreprinderilor vor utiliza GenAI în producție până la sfârșitul anului 2025

Adoptarea GenAI este considerată esențială pentru îmbunătățirea productivității și profitabilității și a devenit o prioritate de top pentru majoritatea afacerilor. Dar aceasta înseamnă că companiile trebuie să depășească provocările întâmpinate până acum în proiectele GenAI, inclusiv:

• Calitatea slabă a datelor: GenAI este la fel de bună ca și datele pe care le utilizează, iar multe companii încă nu au încredere în datele lor. Calitatea datelor, împreună cu datele incomplete sau cu bias, au fost toate probleme care au condus la rezultate slabe.
• Costurile GenAI: antrenarea modelelor GenAI, cum ar fi ChatGPT, a fost făcută în principal doar de echipele GenAI de top și costă milioane în putere de calcul. Prin urmare, oamenii au folosit o tehnică numită generare augmentată de recuperare (RAG). Dar chiar și cu RAG, devine rapid scump să accesați și să pregătiți datele și să adunați experții de care aveți nevoie pentru a reuși.
• Seturi de abilități limitate: multe dintre primele implementări GenAI au necesitat o mulțime de codare de către un grup mic de experți în GenAI. Deși acest grup crește, există încă o lipsă reală.
• Hallucinații: GenAI nu este perfect. Poate să hallucineze și să dea răspunsuri greșite atunci când crede că are dreptate. Aveți nevoie de o strategie pentru a preveni răspunsurile greșite să afecteze afacerea dvs.
• Securitatea datelor: GenAI a expus datele la persoanele greșite, deoarece a fost utilizat pentru antrenare, reglare fină sau RAG. Trebuie să implementați măsuri de securitate pentru a proteja împotriva acestor scurgeri de date.

Cu noroc, industria software a abordat aceste provocări în ultimii ani. 2025 pare a fi anul în care mai multe dintre aceste provocări încep să fie rezolvate, iar GenAI devine mainstream.

Predicția 2. Copiloții RAG modulare vor deveni cel mai frecvent utilizat GenAI

Cel mai frecvent utilizat GenAI este pentru a crea asistenți, sau copiloți, care ajută oamenii să găsească informații mai rapid. Copiloții sunt de obicei construiți folosind pipeline-uri RAG. RAG este calea. Este cel mai frecvent mod de a utiliza GenAI. Deoarece modelele de limbaj mari (LLM) sunt modele cu scop general care nu au toate sau cele mai recente date, trebuie să augmentați interogările, cunoscute și sub numele de prompturi, pentru a obține un răspuns mai precis.
Copiloții ajută lucrătorii cunoașterii să fie mai productivi, să abordeze întrebări care nu au putut fi răspuns anterior și să ofere îndrumări de expert, uneori executând și sarcini rutiniere. Poate că cel mai de succes caz de utilizare a copiloților până în prezent este modul în care aceștia ajută dezvoltatorii de software să codifice sau să modernizeze codul legacy.

Dar copiloții se așteaptă să aibă un impact mai mare atunci când sunt utilizați în afara IT. Exemple includ:

• În serviciul clienților, copiloții pot primi o solicitare de suport și fie să escaladeze la un intervenție umană, fie să ofere o rezolvare pentru întrebări simple, cum ar fi resetarea parolei sau accesul la cont, ceea ce duce la scoruri CSAT mai mari.
• În producție, copiloții pot ajuta tehnicienii să diagnosticheze și să recomande acțiuni sau reparații specifice pentru mașini complexe, reducând timpul de închidere.
• În sănătate, clinicienii pot utiliza copiloți pentru a accesa istoricul pacientului și cercetarea relevantă și pentru a ajuta la diagnosticare și îngrijire clinică, ceea ce îmbunătățește eficiența și rezultatele clinice.

Pipeline-urile RAG au funcționat în mare parte în același mod. Primul pas este să încărcați o bază de cunoștințe într-o bază de date vectorială. Atunci când o persoană pune o întrebare, se apelează la o pipeline GenAI RAG. Aceasta reinginerizează întrebarea într-un prompt, interoghează baza de date vectorială prin codificarea promptului pentru a găsi informațiile cele mai relevante, apelează la un LLM cu promptul, utilizând informațiile recuperate ca context, evaluează și formatează rezultatele și le afișează utilizatorului.

Dar se dovedește că nu puteți susține toți copiloții în mod egal cu o singură pipeline RAG. Prin urmare, RAG a evoluat într-o arhitectură mai modulară numită RAG modular, unde puteți utiliza module diferite pentru fiecare dintre pașii implicați:

• Indexare, inclusiv fragmentare și organizare a datelor
• Pre-recuperare, inclusiv inginerie și optimizare a promptului
• Recuperare cu reglare fină a recuperatorului și alte tehnici
• Re-rangare și selecție post-recuperare
• Generare cu reglare fină a generatorului, utilizând și comparând multiple LLM, și verificare
• Orchestration care gestionează acest proces și îl face iterativ pentru a obține cele mai bune rezultate

Veți avea nevoie să implementați o arhitectură RAG modulară pentru a susține multiple copiloți.

Predicția 3. Uneltele GenAI fără cod/low-code vor deveni calea

Până acum, v-ați dat seama că GenAI RAG este foarte complex și în schimbare rapidă. Nu este doar că noile cele mai bune practici sunt într-o permanentă apariție. Toate tehnologiile implicate în pipeline-urile GenAI se schimbă atât de repede, încât veți ajunge să aveți nevoie să înlocuiți unele dintre ele sau să susțineți mai multe. De asemenea, GenAI nu este doar despre RAG modular. Reglarea fină augmentată de recuperare (RAFT) și antrenarea completă a modelului devin, de asemenea, rentabile. Arhitectura dvs. va trebui să susțină toate aceste schimbări și să ascundă complexitatea de la inginerii dvs.
Cu noroc, cele mai bune unelte GenAI fără cod/low-code oferă această arhitectură. Ele adaugă în mod constant suport pentru surse de date de top, baze de date vectoriale și LLM, și fac posibilă construirea de pipeline-uri RAG modulare sau alimentarea datelor în LLM pentru reglare fină sau antrenare. Companiile folosesc cu succes aceste unelte pentru a implementa copiloți utilizând resursele interne.

Nexla nu utilizează doar GenAI pentru a face integrarea mai simplă. Include o arhitectură de pipeline RAG modulară cu fragmentare de date avansată, inginerie de prompt, re-rangare și selecție, suport multi-LLM cu rangare și selecție a rezultatelor, orchestrare și multe altele – toate configurate fără codare.

Predicția 4. Linia dintre copiloți și agenți se va estompa

Copiloții GenAI, cum ar fi chatbot-urile, sunt agenți care susțin oamenii. În final, oamenii iau decizia cu privire la ce să facă cu rezultatele generate. Dar agenții GenAI pot să automatizeze complet răspunsurile fără a implica oameni. Aceștia sunt adesea numiți agenți sau inteligență artificială agentică.

Unii oameni consideră acestea ca două abordări separate. Dar realitatea este mai complexă. Copiloții au început deja să automatizeze unele sarcini de bază, permițând utilizatorilor să confirme acțiunile și să automatizeze pașii necesari pentru a le finaliza.

Trebuie să vă așteptați ca copiloții să evolueze în timp într-o combinație de copiloți și agenți. La fel cum aplicațiile ajută la reingineria și optimizarea proceselor de afaceri, asistenții ar trebui să înceapă să fie utilizați pentru a automatiza pașii intermediari ai sarcinilor pe care le susțin. Agenții bazati pe GenAI ar trebui, de asemenea, să includă oameni pentru a gestiona excepțiile sau a aproba un plan generat utilizând un LLM.

Predicția 5. GenAI va conduce la adoptarea de țesături de date, produse de date și standarde de date deschise

GenAI se așteaptă să fie cel mai mare factor de schimbare în IT în următorii ani, deoarece IT va trebui să se adapteze pentru a permite companiilor să realizeze beneficiile complete ale GenAI.

Ca parte a ciclurilor de hype Gartner pentru gestionarea datelor, 2024, Gartner a identificat 3, și doar 3 tehnologii ca fiind transformaționale pentru gestionarea datelor și pentru organizațiile care depind de date: țesături de date, produse de date și formate de tabel deschise. Toate acestea ajută la facerea datelor mult mai accesibile pentru utilizarea cu GenAI, deoarece fac mai ușor ca datele să fie utilizate de aceste noi seturi de unelte GenAI.

Nexla a implementat o arhitectură de produse de date construită pe o țesătură de date din acest motiv. Țesătura de date oferă un strat unificat pentru a gestiona toate datele în același mod, indiferent de diferențele de formate, viteze sau protocoale de acces. Produsele de date sunt create pentru a susține nevoi de date specifice, cum ar fi pentru RAG.

De exemplu, o mare companie de servicii financiare implementează GenAI pentru a îmbunătăți gestionarea riscurilor. Ei utilizează Nexla pentru a crea o țesătură de date unificată. Nexla detectează automat schema și generează conectoare și produse de date. Compania definește apoi produse de date pentru metrici de risc specifici, care agregă, curăță și transformă datele în formatul potrivit pentru implementarea agenților RAG pentru raportarea dinamică a reglementărilor. Nexla oferă controale de guvernanță a datelor, inclusiv linia de proveniență a datelor și controale de acces, pentru a asigura conformitatea cu reglementările. Platforma noastră de integrare pentru analize, operațiuni, B2B și GenAI este implementată pe o arhitectură de țesătură de date, unde GenAI este utilizat pentru a crea conectoare, produse de date și fluxuri de lucru reutilizabile. Suportul pentru standarde de date deschise, cum ar fi Apache Iceberg, face mai ușor să accesați mai multe date.

Cum să vă copilotizați drumul către inteligența artificială agentică

Așadar, cum ar trebui să vă pregătiți pentru a face GenAI mainstream în compania dvs. pe baza acestor predicții?
În primul rând, dacă nu ați făcut-o încă, începeți cu primul dvs. asistent GenAI RAG pentru clienții sau angajații dvs. Identificați un caz de utilizare important și relativ simplu, unde aveți deja baza de cunoștințe potrivită pentru a reuși.

În al doilea rând, asigurați-vă că aveți o echipă mică de experți GenAI care pot ajuta la punerea în aplicare a arhitecturii RAG modulare potrivite, cu uneltele de integrare potrivite, pentru a susține primele proiecte. Nu vă temeți să evaluați noi furnizori cu unelte fără cod/low-code.

În al treilea rând, începeți să identificați acele practici de gestionare a datelor pe care le veți avea nevoie pentru a reuși. Acest lucru nu implică doar o țesătură de date și concepte precum produsele de date. Aveți nevoie și de a guverna datele pentru AI.

Acesta este momentul. 2025 este anul în care majoritatea vor reuși. Nu rămâneți în urmă.