Jak wieloagentowe modele LLM mogą umożliwić modelom AI skuteczniejsze rozwiązywanie złożonych zadań

Większość organizacji dzisiaj chce wykorzystywać duże modele językowe (LLM) i wdrażać dowody pojęć i sztuczne inteligencje (AI) w celu optymalizacji kosztów w ramach swoich procesów biznesowych i dostarczania nowych i kreatywnych doświadczeń użytkowników. Jednak większość tych wdrożeń jest „jednorazowa”. W rezultacie przedsiębiorstwa mają trudności z uzyskaniem zwrotu z inwestycji (ROI) w wielu tych przypadkach.

Generatywna sztuczna inteligencja (GenAI) obiecuje wyjść poza oprogramowanie takie jak współpilot. Zamiast dostarczać jedynie wskazówek i pomocy osobie posiadającej wiedzę specjalistyczną (SME), te rozwiązania mogą stać się aktorami SME, wykonującymi akcje w sposób autonomiczny. Aby rozwiązania GenAI mogły dojść do tego punktu, organizacje muszą im dostarczyć dodatkową wiedzę i pamięć, możliwość planowania i replanowania, a także możliwość współpracy z innymi agentami w celu wykonania akcji.

Podczas gdy pojedyncze modele są odpowiednie w niektórych scenariuszach, działając jako współpiloci, architektury agencji otwierają drzwi dla LLM, aby stały się aktywnymi składnikami automatyzacji procesów biznesowych. W związku z tym przedsiębiorstwa powinny rozważyć wykorzystanie systemów LLM z wieloma agentami (LLM-MA) w celu usprawnienia złożonych procesów biznesowych i poprawy ROI.

Co to jest system LLM-MA?

Co więc jest systemem LLM-MA? Krótko mówiąc, nowy paradygmat w technologii AI opisuje ekosystem agentów AI, a nie izolowanych jednostek, które współpracują ze sobą w celu rozwiązania złożonych wyzwań.

Decyzje powinny być podejmowane w szerokim zakresie kontekstów, podobnie jak niezawodne podejmowanie decyzji wśród ludzi wymaga specjalizacji. Systemy LLM-MA budują tę samą „zbiorową inteligencję”, którą grupa ludzi posiada dzięki wielu wyspecjalizowanym agentom współpracującym ze sobą w celu osiągnięcia wspólnego celu. Innymi słowy, podobnie jak firma łączy różnych ekspertów z różnych dziedzin, aby rozwiązać jeden problem, tak samo systemy LLM-MA działają.

Wymagania biznesowe są zbyt duże dla jednego LLM. Jednak dzięki rozproszeniu możliwości wśród wyspecjalizowanych agentów z unikalnymi umiejętnościami i wiedzą zamiast obciążania jednego LLM wszystkimi obowiązkami, agenci ci mogą wykonywać zadania bardziej efektywnie i skutecznie. Wieloagentowe LLM mogą nawet „sprawdzić” pracę innych agentów za pomocą cross-weryfikacji, zmniejszając „halucynacje” w celu maksymalnej produktywności i dokładności.

W szczególności systemy LLM-MA wykorzystują metodę „podziel i zwyciężaj”, aby uzyskać bardziej wyrafinowaną kontrolę nad innymi aspektami złożonych systemów AI – w szczególności lepsze dostosowanie do określonych zestawów danych, wybór metod (w tym przedtransformatorowych AI) w celu lepszej wyjaśnialności, zarządzania, bezpieczeństwa i niezawodności, a także wykorzystanie narzędzi nie-AI jako części złożonego rozwiązania. W ramach tego podejścia agenci wykonują akcje i otrzymują informacje zwrotne od innych agentów i danych, co umożliwia przyjęcie strategii wykonania w czasie.

Mozliwości i przypadki użycia systemów LLM-MA

Systemy LLM-MA mogą skutecznie zautomatyzować procesy biznesowe, wyszukując w dokumentach strukturalnych i niestrukturalnych, generując kod w celu zapytania modeli danych i wykonując inne generowanie treści. Przedsiębiorstwa mogą wykorzystywać systemy LLM-MA w przypadku kilku zastosowań, w tym rozwoju oprogramowania, symulacji sprzętu, tworzenia gier (w szczególności rozwoju świata), odkryć naukowych i farmaceutycznych, procesów zarządzania kapitałem, gospodarki finansowej i handlu itp.

Jednym zgodnym zastosowaniem systemów LLM-MA jest automatyzacja centrów obsługi / usług. W tym przykładzie połączenie modeli i innych aktorów programowych wykorzystujących predefiniowane przepływy pracy i procedury mogłoby zautomatyzować interakcje użytkowników końcowych i wykonać tryage żądania za pomocą tekstu, głosu lub wideo. Co więcej, te systemy mogłyby nawigować po optymalnej ścieżce rozwiązania, wykorzystując wiedzę proceduralną i SME z danymi personalizacji i wywołując agentów typu RAG i nie-LLM.

W krótkim terminie ten system nie będzie w pełni zautomatyzowany – błędy będą się zdarzać, a będą musiały być osoby w pętli. AI nie jest jeszcze gotowa, aby odtworzyć doświadczenia podobne do ludzkich z powodu złożoności testowania swobodnej konwersacji wobec np. odpowiedzialnych problemów AI. Jednak AI może być szkolona na tysiącach historycznych biletów wsparcia i pętli informacji zwrotnej, aby zautomatyzować znaczne części operacji centrum obsługi / usług, zwiększając wydajność, zmniejszając czas rozwiązania biletów i zwiększając satysfakcję klientów.

Innym potężnym zastosowaniem wieloagentowych LLM jest tworzenie interfejsów współpracy człowiek-AI do rozmów w czasie rzeczywistym, rozwiązywanie zadań, które wcześniej nie były możliwe. Inteligencja roju konwersacyjnego (CSI), na przykład, jest metoda, która umożliwia 1000 osobom prowadzenie rozmów w czasie rzeczywistym. Konkretnie CSI pozwala małym grupom na dialogowanie ze sobą, jednocześnie mając różne grupy agentów, które podsumowują wątki rozmów. Następnie propaguje treści w całej większej grupie ludzi, umożliwiając koordynację ludzi w niezwykłym zakresie.

Bezpieczeństwo, odpowiedzialna AI i inne wyzwania systemów LLM-MA

Pomimo ekscytujących możliwości systemów LLM-MA, pojawiają się pewne wyzwania związane z tym podejściem, gdy liczba agentów i rozmiar ich przestrzeni działania wzrasta. Na przykład przedsiębiorstwa będą musiały rozwiązać problem zwykłych „halucynacji”, co będzie wymagało osób w pętli – wyznaczonej strony musi być odpowiedzialna za systemy agencji, szczególnie te o potencjalnym krytycznym wpływie, takich jak automatyczne odkrywanie leków.

Będą również problemy związane z.biasem danych, który może kumulować się w interakcji bias. Podobnie, przyszłe systemy LLM-MA z setkami agentów będą wymagać bardziej złożonych architektur, biorąc pod uwagę inne niedociągnięcia LLM, dane i operacje szkolenia maszynowego.

Ponadto organizacje muszą rozwiązać problemy związane z bezpieczeństwem i promować odpowiedzialne praktyki AI (RAI). Więcej LLM i agentów zwiększa powierzchnię ataku dla wszystkich zagrożeń AI. Przedsiębiorstwa muszą rozłożyć różne części swoich systemów LLM-MA na wyspecjalizowanych aktorów, aby zapewnić większą kontrolę nad tradycyjnymi ryzykami LLM, w tym bezpieczeństwem i elementami RAI.

Co więcej, im bardziej rozwiązania stają się złożone, tym bardziej muszą być złożone ramy zarządzania AI, aby zapewnić, że produkty AI są niezawodne (tj. solidne, odpowiedzialne, monitorowane i wyjaśnialne), rezydualne (tj. bezpieczne, bezpieczne, prywatne i skuteczne) i odpowiedzialne (tj. sprawiedliwe, etyczne, inkluzywne, zrównoważone i celowe). Zwiększona złożoność również doprowadzi do zaostrzenia regulacji, co sprawi, że będzie jeszcze bardziej niezbędne, aby bezpieczeństwo i RAI były częścią każdego przypadku biznesowego i projektu rozwiązania od samego początku, a także ciągłych aktualizacji polityki, szkoleń korporacyjnych i edukacji oraz strategii TEVV (testowania, oceny, weryfikacji i walidacji).

Wydobywanie pełnej wartości z systemu LLM-MA: rozważania dotyczące danych

Aby przedsiębiorstwa mogły wydobyć pełną wartość z systemu LLM-MA, muszą uznać, że LLM same posiadają tylko ogólną wiedzę branżową. Jednak LLM mogą stać się produktami AI generującymi wartość, gdy opierają się na wiedzy branżowej przedsiębiorstwa, która zwykle składa się z wyodrębnionych aktywów danych, dokumentacji korporacyjnej, wiedzy SME i informacji pobranych z publicznych źródeł danych.

Przedsiębiorstwa muszą przesunąć się z centrum danych, gdzie dane wspierają raportowanie, do centrum AI, gdzie źródła danych łączą się, aby umożliwić AI stać się aktorem w ramach ekosystemu przedsiębiorstwa. W związku z tym zdolność firm do kuracji i zarządzania wysokiej jakości aktywami danych musi sięgać do tych nowych typów danych. Podobnie organizacje muszą zmodernizować swój podejście do konsumpcji danych i wglądu, zmienić swój model operacyjny i wprowadzić zarządzanie, które łączy dane, AI i RAI.

Z punktu widzenia toolingu GenAI może dostarczyć dodatkową pomoc dotyczącą danych. W szczególności narzędzia GenAI mogą generować ontologie, tworzyć metadane, wyodrębniać sygnały danych, rozumieć złożone schematy danych, automatyzować migrację danych i wykonywać konwersję danych. GenAI może być również wykorzystywana do poprawy jakości danych i działać jako specjaliści od zarządzania danymi, a także jako współpiloci lub półautonomiczni agenci. Już wiele organizacji wykorzystuje GenAI, aby pomóc w demokracji danych, jak widać w funkcjach „porozmawiaj ze swoimi danymi”.

Ciągłe wdrożenie w erze szybkich zmian

LLM nie dodaje wartości ani nie osiąga pozytywnego ROI samodzielnie, ale jako część aplikacji ukierunkowanych na wyniki biznesowe. Wyzwaniem jest to, że w przeszłości, gdy możliwości technologiczne LLM były w pewnym stopniu znane, dzisiaj nowe możliwości pojawiają się tygodniowo i czasem codziennie, wspierając nowe możliwości biznesowe. Na szczycie tej szybkiej zmiany jest ewoluujący krajobraz regulacyjny i zgodności, co sprawia, że zdolność do adaptacji jest kluczowa dla sukcesu.

Elastyczność wymagana do wykorzystania tych nowych możliwości wymaga, aby przedsiębiorstwa przeszły transformację myślenia od izolacji do współpracy, promując najwyższy poziom elastyczności w zakresie technologii, procesów i ludzi, jednocześnie wdrażając solidne zarządzanie danymi i innowacje odpowiedzialne. Ostatecznie firmy, które przyjmą te nowe paradygmaty, będą prowadzić następną falę transformacji cyfrowej.