W 2025 roku GenAI Copilots staną się zabójczą aplikacją, która zmieni biznes i zarządzanie danymi

Każda rewolucja technologiczna ma moment, w którym konkretny przypadek użycia wprowadza technologię do powszechnego użycia. Czas ten nadszedł dla sztucznej inteligencji generatywnej (GenAI) wraz z szybkim rozprzestrzenianiem się współpilotów.

GenAI jako technologia poczyniła znaczne postępy w ciągu ostatnich kilku lat. Jednak pomimo wszystkich nagłówków i sensacji, jej przyjęcie przez firmy jest nadal na wczesnym etapie. Badanie Gartnera z 2024 roku szacuje przyjęcie GenAI na tylko 9% wśród ankietowanych, przy czym 34% deklaruje zamiar wdrożenia w ciągu najbliższego roku. Niedawne badanie przeprowadzone przez Enterprise Strategy Group szacuje przyjęcie GenAI na 30%. Ale wszystkie badania dochodzą do tego samego wniosku co do 2025 roku.

Prognoza 1. Większość przedsiębiorstw będzie używać GenAI w produkcji do końca 2025 roku

Przyjęcie GenAI jest postrzegane jako kluczowe dla poprawy produktywności i zysków i stało się priorytetem dla większości firm. Ale oznacza to, że firmy muszą pokonać wyzwania, z którymi spotkały się dotychczas w projektach GenAI, w tym:

• Zła jakość danych: GenAI jest tylko tak dobry, jak dane, których używa, a wiele firm nadal nie ufa swoim danym. Jakość danych, a także niekompletne lub tendencyjne dane, były wszystkie problemami, które prowadziły do słabych wyników.
• Koszty GenAI: szkolenie modeli GenAI, takich jak ChatGPT, było przeprowadzane głównie przez najlepsze zespoły GenAI i kosztowało miliony w mocy obliczeniowej. Dlatego ludzie używali techniki zwanej retrieval augmented generation (RAG). Ale nawet z RAG, szybko staje się drogie, aby uzyskać dostęp do danych i przygotować je, oraz zebrać ekspertów, których potrzebujesz, aby odnieść sukces.
• Ograniczone umiejętności: wiele wczesnych wdrożeń GenAI wymagało dużo kodowania przez małą grupę ekspertów w GenAI. Chociaż ta grupa rośnie, nadal istnieje rzeczywisty brak.
• Halucynacje: GenAI nie jest idealny. Może halucynować i podawać błędne odpowiedzi, kiedy myśli, że jest słuszna. Potrzebujesz strategii, aby zapobiec wpływowi błędnych odpowiedzi na twoją firmę.
• Bezpieczeństwo danych: GenAI ujawniło dane nieodpowiednim osobom, ponieważ zostało użyte do szkolenia, dokształcania lub RAG. Musisz wdrożyć środki bezpieczeństwa, aby chronić przed tymi wyciekami.

Na szczęście branża oprogramowania zajmuje się tymi wyzwaniami od kilku lat. 2025 rok wygląda na rok, w którym wiele z tych wyzwań zacznie się rozwiązywać, a GenAI stanie się powszechny.

Prognoza 2. Modułowe RAG Copilots staną się najczęstszym zastosowaniem GenAI

Najczęstszym zastosowaniem GenAI jest tworzenie asystentów, czyli współpilotów, które pomagają ludziom znaleźć informacje szybciej. Współpiloci są zwykle budowane przy użyciu RAG. RAG jest drogą. Jest to najczęstszy sposób użycia GenAI. Ponieważ duże modele językowe (LLM) są modelami ogólnymi, które nie mają wszystkich lub nawet najnowszych danych, musisz uzupełnić zapytania, znane również jako prompty, aby uzyskać bardziej dokładną odpowiedź.
Współpiloci pomagają pracownikom wiedzy być bardziej produktywnymi, rozwiązywać wcześniej nierozwiązywalne pytania i zapewniać ekspertów, podczas gdy czasami wykonują także rutynowe zadania. Być może najbardziej udany przypadek użycia współpilotów do tej pory to to, jak pomagają one programistom kodować lub modernizować starszy kod.

Ale współpiloci mają szansę na większy wpływ, kiedy są używane poza IT. Przykłady obejmują:

• W obsłudze klienta, współpiloci mogą otrzymać zapytanie wsparcia i albo eskalować do człowieka do interwencji, albo zapewnić rozwiązanie dla prostych zapytań, takich jak reset hasła lub dostęp do konta, co skutkuje wyższymi wynikami satysfakcji klienta.
• W produkcji, współpiloci mogą pomóc technikom diagnozować i zalecać konkretnych działań lub napraw dla złożonych maszyn, co zmniejsza czas przestoju.
• W opiece zdrowotnej, klinicyści mogą używać współpilotów, aby uzyskać dostęp do historii pacjenta i istotnych badań, oraz pomóc w prowadzeniu diagnozy i opieki klinicznej, co poprawia wydajność i wyniki kliniczne.

Potoki RAG działały zwykle w ten sam sposób. Pierwszym krokiem jest załadowanie bazy wiedzy do bazy danych wektorowej. Kiedy osoba zadaje pytanie, potok RAG GenAI jest wywołany. Przebudowuje pytanie w prompt, wyszukuje bazę danych wektorową, kodując prompt, aby znaleźć najbardziej istotne informacje, wywołuje LLM z promptem, używając pobranych informacji jako kontekstu, ocenia i formatuje wyniki, i wyświetla je użytkownikowi.

Ale okazuje się, że nie można równie dobrze wspierać wszystkich współpilotów z jednym potokiem RAG. Dlatego RAG ewoluował w bardziej modułową architekturę zwana modułowym RAG, w której można używać różnych modułów dla każdego z wielu kroków zaangażowanych:

• Indeksowanie, w tym chunking i organizacja danych
• Przed-pobieranie, w tym inżynieria i optymalizacja promptu
• Pobieranie z ustawieniami i innymi technikami
• Prze-reranking i selekcja
• Generowanie z ustawieniami, używaniem i porównywaniem wielu LLM, oraz weryfikacją
• Orkiestracja, która zarządza tym procesem i robi go iteracyjnym, aby uzyskać najlepsze wyniki

Będziesz musiał wdrożyć architekturę modułowego RAG, aby wspierać wiele współpilotów.

Prognoza 3. Narzędzia GenAI bez kodu / niskiego kodu staną się drogą

Do tej pory możesz zrozumieć, że GenAI RAG jest bardzo złożone i szybko zmieniające się. Nie jest to tylko to, że nowe najlepsze praktyki są ciągle pojawiające się. Cała technologia zaangażowana w potoki GenAI zmienia się tak szybko, że będziesz musiał wymienić niektóre z nich lub wspierać wiele. GenAI nie jest tylko o modułowym RAG. Retrieval Augmented Fine Tuning (RAFT) i pełne szkolenie modelu stają się również opłacalne. Twoja architektura musi wspierać wszystkie te zmiany i ukrywać złożoność przed twoimi inżynierami.
Na szczęście najlepsze narzędzia GenAI bez kodu / niskiego kodu zapewniają tę architekturę. Ciągle dodają wsparcie dla wiodących źródeł danych, baz danych wektorowych i LLM, oraz umożliwiają budowanie modułowych RAG lub karmienie danych do LLM do dokształcania lub szkolenia. Firmy z powodzeniem używają tych narzędzi do wdrożenia współpilotów przy użyciu swoich wewnętrznych zasobów.

Nexla nie tylko używa GenAI, aby uczynić integrację prostszą. Zawiera architekturę modułowego RAG z zaawansowanym chunkingiem, inżynierią zapytań, rerankingiem i selekcją, obsługą wielu LLM z rankingiem wyników i selekcją, orkiestracją i więcej – wszystko to skonfigurowane bez kodowania.

Prognoza 4. Granica między współpilotami a agentami zacznie się zacierać

Współpiloci GenAI, takie jak czatboty, są agentami, które wspierają ludzi. Ostatecznie ludzie podejmują decyzje o tym, co zrobić z wygenerowanymi wynikami. Ale agenci GenAI mogą w pełni zautomatyzować odpowiedzi bez angażowania ludzi. Są one często określane jako agenci lub agenci AI.

Niektórzy ludzie postrzegają to jako dwa oddzielne podejścia. Ale rzeczywistość jest bardziej skomplikowana. Współpiloci już zaczynają zautomatyzować niektóre podstawowe zadania, opcjonalnie pozwalając użytkownikom na potwierdzenie działań i zautomatyzowanie kroków niezbędnych do ich ukończenia.

Oczekuj, że współpiloci będą ewoluować w czasie w kierunku połączenia współpilotów i agentów. Podobnie jak aplikacje pomagają przebudowywać i upraszczać procesy biznesowe, asystenci powinni zacząć być używani do zautomatyzowania pośrednich kroków zadań, które wspierają. Agenci oparci na GenAI powinni również zawierać ludzi, aby obsłużyć wyjątki lub zatwierdzić plan wygenerowany przy użyciu LLM.

Prognoza 5. GenAI będzie napędzać przyjęcie tkanek danych, produktów danych i otwartych standardów danych

GenAI jest oczekiwany jako największy czynnik zmiany w IT w ciągu najbliższych kilku lat, ponieważ IT musi się dostosować, aby umożliwić firmom zrealizowanie pełnych korzyści z GenAI.

W ramach cykli hajpu Gartnera dla zarządzania danymi z 2024 roku, Gartner zidentyfikował 3, i tylko 3 technologie, jako przełomowe dla zarządzania danymi i dla organizacji, które zależą od danych: tkaniny danych, produkty danych i otwarte formaty tabel. Wszystkie 3 pomagają uczynić dane znacznie bardziej dostępnymi do użycia z GenAI, ponieważ ułatwiają dane tym nowym zestawom narzędzi GenAI.

Nexla wdrożył architekturę produktu danych opartą na tkaninie danych z tego powodu. Tkanina danych zapewnia ujednoliconą warstwę do zarządzania wszystkimi danymi w ten sam sposób, niezależnie od różnic w formatach, prędkościach lub protokołach dostępu. Produkty danych są następnie tworzone w celu wsparcia konkretnych potrzeb danych, takich jak RAG.

Na przykład, jeden duży koncern finansowy wdraża GenAI, aby poprawić zarządzanie ryzykiem. Używają Nexla, aby utworzyć ujednoliconą tkaninę danych. Nexla automatycznie wykrywa schemat, a następnie generuje łączniki i produkty danych. Firma następnie definiuje produkty danych dla konkretnych wskaźników ryzyka, które agregują, oczyszczają i transformują dane w odpowiedni format jako dane wejściowe do wdrożenia agentów RAG do dynamicznego raportowania regulacyjnego. Nexla zapewnia kontrolę zarządzania danymi, w tym pochodzenie danych i kontrolę dostępu, aby zapewnić zgodność z regulacjami.Nasza platforma integracyjna dla analiz, operacji, B2B i GenAI jest wdrożona na architekturze tkaniny danych, na której GenAI jest używana do tworzenia ponownie używalnych łączników, produktów danych i przepływów pracy. Wsparcie dla otwartych standardów danych, takich jak Apache Iceberg, ułatwia dostęp do coraz większej ilości danych.

Jak współpilotować się w kierunku agentywnego AI

Jak więc powinieneś przygotować się do uczynienia GenAI powszechnym w swojej firmie na podstawie tych prognoz?
Po pierwsze, jeśli jeszcze nie zrobiłeś, rozpocznij swojego pierwszego asystenta GenAI RAG dla swoich klientów lub pracowników. Zidentyfikuj ważny i względnie prosty przypadek użycia, w którym już masz odpowiednią bazę wiedzy, aby odnieść sukces.

Po drugie, upewnij się, że masz mały zespół ekspertów GenAI, którzy mogą pomóc wdrożyć odpowiednią architekturę modułowego RAG, z odpowiednimi narzędziami integracyjnymi, aby wspierać twoje pierwsze projekty. Nie bój się ocenić nowych dostawców z narzędziami bez kodu / niskiego kodu.

Po trzecie, zacznij identyfikować te najlepsze praktyki zarządzania danymi, które będziesz musiał mieć, aby odnieść sukces. Nie tylko dotyczy to tkaniny danych i pojęć, takich jak produkty danych. Musisz również zarządzać swoimi danymi dla AI.

Czas jest teraz. 2025 to rok, w którym większość odniesie sukces. Nie pozostawiaj się w tyle.