W 2025 roku piloci GenAI wyłonią się jako zabójcza aplikacja, która przekształci biznes i zarządzanie danymi

Każda rewolucja technologiczna ma moment, w którym konkretny przypadek użycia wprowadza technologię do powszechnego użytku. Czas ten nadszedł dla sztucznej inteligencji generatywnej (GenAI) z szybkim rozprzestrzenianiem się pilotów.

GenAI jako technologia poczyniła znaczne postępy w ciągu ostatnich kilku lat. Jednak pomimo wszystkich nagłówków i sensacji, jej przyjęcie przez firmy jest nadal w początkowej fazie. Badanie 2024 Gartner CIO and Tech Executive Survey szacuje przyjęcie na tylko 9% respondentów, przy czym 34% deklaruje zamiar wdrożenia w ciągu najbliższego roku. Niedawne badanie przeprowadzone przez Enterprise Strategy Group szacuje przyjęcie GenAI na 30%. Ale wszystkie badania dochodzą do tego samego wniosku co do 2025 roku.

Prognoza 1. Większość przedsiębiorstw będzie używać GenAI w produkcji do końca 2025 roku

Przyjęcie GenAI jest postrzegane jako kluczowe dla poprawy produktywności i zysków i stało się priorytetem dla większości firm. Ale oznacza to, że firmy muszą pokonać wyzwania, które dotychczas występowały w projektach GenAI, w tym:

• Zła jakość danych: GenAI jest tylko tak dobry, jak dane, których używa, a wiele firm nadal nie ufa swoim danym. Jakość danych wraz z niekompletnymi lub tendencyjnymi danymi były wszystkimi problemami, które prowadziły do słabych wyników.
• Koszty GenAI: szkolenie modeli GenAI, takich jak ChatGPT, było przeprowadzane głównie tylko przez najlepsze zespoły GenAI i kosztowało miliony w mocy obliczeniowej. Dlatego ludzie używali techniki zwanej retrieval augmented generation (RAG). Ale nawet z RAG, szybko staje się drogie, aby uzyskać dostęp i przygotować dane oraz zebrać ekspertów, których potrzebujesz, aby odnieść sukces.
• Ograniczone zestawy umiejętności: wiele wczesnych wdrożeń GenAI wymagało dużo kodowania przez małą grupę ekspertów w GenAI. Chociaż ta grupa rośnie, nadal istnieje realny brak.
• Hallucynacje: GenAI nie jest doskonały. Może hallucynować i podawać błędne odpowiedzi, gdy myśli, że jest słuszny. Potrzebujesz strategii, aby zapobiec wpływowi błędnych odpowiedzi na Twoją firmę.
• Bezpieczeństwo danych: GenAI narażało dane na niepowołane osoby, ponieważ było używane do szkolenia, dostrajania lub RAG. Potrzebujesz wdrożyć środki bezpieczeństwa, aby chronić przed tymi wyciekami.

Na szczęście branża oprogramowania zajmowała się tymi wyzwaniami przez ostatnie kilka lat. 2025 rok wygląda na rok, w którym kilka z tych wyzwań zacznie być rozwiązywanych, a GenAI stanie się głównym nurtem.

Prognoza 2. Modułowe piloci RAG staną się najczęstszym zastosowaniem GenAI

Najczęstszym zastosowaniem GenAI jest tworzenie asystentów, czyli pilotów, które pomagają ludziom znaleźć informacje szybciej. Piloci są zwykle budowane przy użyciu potoków RAG. RAG jest drogą. Jest to najczęstszy sposób użycia GenAI. Ponieważ duże modele językowe (LLM) są modelami ogólnymi, które nie posiadają wszystkich lub nawet najnowszych danych, musisz uzupełnić zapytania, inaczej znane jako prompty, aby uzyskać bardziej dokładną odpowiedź.
Piloci pomagają pracownikom wiedzy być bardziej produktywnymi, rozwiązywać wcześniej nierozwiązywalne pytania i zapewniać ekspertów oraz czasami wykonywać rutynowe zadania. Być może najbardziej udany przypadek użycia pilotów do tej pory to sposób, w jaki pomagają one programistom kodować lub modernizować starszy kod.

Ale piloci mają szansę mieć większy wpływ, gdy są używane poza IT. Przykłady obejmują:

• W obsłudze klienta, piloci mogą otrzymać zapytanie wsparcia i albo eskalować do interwencji człowieka, albo zapewnić rozwiązanie dla prostych zapytań, takich jak reset hasła lub dostęp do konta, co skutkuje wyższymi wynikami satysfakcji klienta.
• W produkcji, piloci mogą pomóc technikom diagnozować i zalecać konkretnych działań lub napraw dla złożonych maszyn, co zmniejsza czas przestoju.
• W opiece zdrowotnej, klinicyści mogą używać pilotów, aby uzyskać dostęp do historii pacjenta i istotnych badań, oraz pomóc w diagnozie i opiece klinicznej, co poprawia wydajność i wyniki kliniczne.

Potoki RAG działały zwykle w taki sam sposób. Pierwszym krokiem jest załadowanie bazy wiedzy do bazy danych wektorowej. Gdy osoba zadaje pytanie, potok RAG GenAI jest wywołany. Przebudowuje pytanie w prompt, wyszukuje bazę danych wektorową, kodując prompt, aby znaleźć najbardziej istotne informacje, wywołuje LLM z promptem przy użyciu pobranych informacji jako kontekstu, ocenia i formatuje wyniki oraz wyświetla je użytkownikowi.

Ale okazuje się, że nie można równie dobrze wspierać wszystkich pilotów z jednym potokiem RAG. Dlatego RAG ewoluował w bardziej modułową architekturę zwana modułowym RAG, w której można używać różnych modułów dla każdego z wielu etapów:

• Indeksowanie, w tym chunking danych i organizacja
• Przed pobraniem, w tym inżynieria i optymalizacja zapytań (promptów)
• Pobieranie z użyciem technik, takich jak fine-tuning i inne
• Po pobraniu, ponowne rangowanie i wybór
• Generowanie z fine-tuningiem generatora, używaniem i porównywaniem wielu LLM oraz weryfikacją
• Orkiestracja, która zarządza tym procesem i czyni go iteracyjnym, aby uzyskać najlepsze wyniki

Będziesz musiał wdrożyć modułową architekturę RAG, aby wspierać wiele pilotów.

Prognoza 3. Narzędzia GenAI bez kodu / niskiego kodu staną się standardem

Do tej pory możesz zrozumieć, że GenAI RAG jest bardzo złożone i szybko się zmienia. Nie jest to tylko to, że nowe najlepsze praktyki są ciągle pojawiające się. Cała technologia zaangażowana w potoki GenAI zmienia się tak szybko, że będziesz musiał wymienić niektóre z nich lub wspierać kilka. GenAI nie jest tylko o modułowym RAG. Retrieval Augmented Fine Tuning (RAFT) i pełne szkolenie modeli stają się również opłacalne. Twoja architektura będzie musiała wspierać te zmiany i ukryć złożoność przed Twoimi inżynierami.
Na szczęście najlepsze narzędzia GenAI bez kodu / niskiego kodu zapewniają tę architekturę. Ciągle dodają wsparcie dla wiodących źródeł danych, baz danych wektorowych i LLM, oraz umożliwiają budowanie modułowych potoków RAG lub wprowadzanie danych do LLM do fine-tuning lub szkolenia. Firmy z powodzeniem wdrażają pilota przy użyciu tych narzędzi za pomocą własnych zasobów.

Nexla nie tylko używa GenAI, aby uczynić integrację prostszą. Zawiera modułową architekturę potoku RAG z zaawansowanym chunkingiem danych, inżynierią zapytań, ponownym rangowaniem i wyborem, obsługą wielu LLM z rankingiem wyników i wyborem, orkiestracją i więcej – wszystko to bez kodowania.

Prognoza 4. Granica między pilotami a agentami zacznie zanikać

Piloci GenAI, takie jak czatboty, są agentami, które wspierają ludzi. Ostatecznie ludzie podejmują decyzje o tym, co zrobić z wygenerowanymi wynikami. Ale agenci GenAI mogą w pełni zautomatyzować odpowiedzi bez angażowania ludzi. Są one często określane jako agenci lub agentic AI.

Niektórzy ludzie postrzegają to jako dwa oddzielne podejścia. Ale rzeczywistość jest bardziej skomplikowana. Piloci już zaczynają zautomatyzować niektóre podstawowe zadania, opcjonalnie pozwalając użytkownikom potwierdzić działania i zautomatyzować kroki niezbędne do ich wykonania.

Oczekuj, że piloci ewoluują z czasem w połączenie pilotów i agentów. Podobnie jak aplikacje pomagają przebudowywać i usprawniać procesy biznesowe, asystenci powinni i mogą być używani do zautomatyzowania pośrednich kroków zadań, które wspierają. Agenci oparci na GenAI powinni również obejmować ludzi, aby obsłużyć wyjątki lub zatwierdzić plan wygenerowany przy użyciu LLM.

Prognoza 5. GenAI będzie napędzać przyjęcie tkanek danych, produktów danych i otwartych standardów danych

GenAI jest postrzegane jako największy czynnik zmian w IT w ciągu najbliższych kilku lat, ponieważ IT będzie musiało dostosować się, aby umożliwić firmom zrealizowanie pełnych korzyści z GenAI.

Jako część Gartner Hype Cycles for Data Management 2024, Gartner zidentyfikował 3, i tylko 3 technologie jako przełomowe dla zarządzania danymi i dla organizacji, które zależą od danych: tkanki danych, produkty danych i otwarte formaty tabel. Wszystkie 3 pomagają uczynić dane znacznie bardziej dostępnymi do użycia z GenAI, ponieważ ułatwiają dostęp do tych nowych zestawów narzędzi GenAI.

Nexla wdrożył architekturę produktu danych opartą na tkaninie danych z tego powodu. Tkanina danych zapewnia ujednoliconą warstwę do zarządzania wszystkimi danymi w taki sam sposób, niezależnie od różnic w formatach, prędkościach lub protokołach dostępu. Następnie tworzy się produkty danych, aby wesprzeć określone potrzeby danych, takie jak RAG.

Na przykład jeden duży koncern finansowy wdraża GenAI, aby poprawić zarządzanie ryzykiem. Używają Nexla, aby utworzyć ujednoliconą tkaninę danych. Nexla automatycznie wykrywa schemat, a następnie generuje konektory i produkty danych. Firma następnie definiuje produkty danych dla określonych wskaźników ryzyka, które agregują, oczyszczają i transformują dane w odpowiedni format jako dane wejściowe, wdrażając agenci RAG do dynamicznego raportowania regulacyjnego. Nexla zapewnia kontrolę zarządzania danymi, w tym linię danych i kontrolę dostępu, aby zapewnić zgodność z przepisami.
Nasza platforma integracyjna dla analiz, operacji, B2B i GenAI jest wdrożona w architekturze tkaniny danych, w której GenAI jest używana do tworzenia ponownie używalnych konektorów, produktów danych i przepływów pracy. Wsparcie dla otwartych standardów danych, takich jak Apache Iceberg, ułatwia dostęp do coraz większej ilości danych.

Jak pilotować swoją drogę ku agentic AI

Więc jak powinieneś przygotować się, aby uczynić GenAI głównym nurtem w swojej firmie na podstawie tych prognoz?
Po pierwsze, jeśli jeszcze nie zrobiłeś, zacznij od swojego pierwszego asystenta GenAI RAG dla swoich klientów lub pracowników. Zidentyfikuj ważny i stosunkowo prosty przypadek użycia, w którym już masz odpowiednią bazę wiedzy, aby odnieść sukces.

Po drugie, upewnij się, że masz mały zespół ekspertów GenAI, którzy mogą pomóc wdrożyć odpowiednią modułową architekturę RAG z odpowiednimi narzędziami integracyjnymi, aby wspierać Twoje pierwsze projekty. Nie bój się oceniać nowych dostawców z narzędziami bez kodu / niskiego kodu.

Po trzecie, zacznij identyfikować te najlepsze praktyki zarządzania danymi, które będą potrzebne, aby odnieść sukces. Nie tylko dotyczy to tkaniny danych i pojęć, takich jak produkty danych. Potrzebujesz również zarządzać swoimi danymi dla AI.

Czas jest teraz. 2025 to rok, w którym większość odniesie sukces. Nie pozostawiaj się w tyle.