Jak vícejazyčné LLM mohou umožnit modelům AI efektivněji řešit komplexní úkoly

Většina organizací dnes chce využívat velké jazykové modely (LLM) a implementovat důkazy a umělou inteligenci (AI) agenti, aby optimalizovaly náklady ve svých obchodních procesech a poskytly nové a kreativní uživatelské zkušenosti. Nicméně, většina těchto implementací jsou “jednorázové”. V důsledku toho se podniky potýkají s tím, aby dosáhly návratnosti investic (ROI) ve mnoha z těchto případů.

Generativní AI (GenAI) slibuje jít za hranice softwaru jako co-pilot. Místo toho, aby poskytoval pouze rady a pomoc odborníkům, tyto řešení mohou stát se odborníky, kteří autonomně vykonávají akce. Aby GenAI řešení dosáhla tohoto bodu, organizace musí poskytnout jim další znalosti a paměť, schopnost plánovat a re-plánovat, jakož i schopnost spolupracovat s jinými agenty, aby vykonávaly akce.

Zatímco jediné modely jsou vhodné v některých scénářích, jednají jako co-piloti, architektury agentů otevírají dveře pro LLM, aby se staly aktivními součástmi automatizace obchodních procesů. Jako takové by podniky měly zvážit využití LLM-založených multi-agentních (LLM-MA) systémů, aby streaminovaly komplexní obchodní procesy a zlepšily ROI.

Co je LLM-MA systém?

Takže, co je LLM-MA systém? Stručně řečeno, tato nová paradigmata v AI technologii popisují ekosystém AI agentů, ne izolovaných entit, které spolupracují, aby řešily komplexní výzvy.

Rozhodnutí by se měla uskutečnit v širokém spektru kontextů, stejně jako spolehlivé rozhodování mezi lidmi vyžaduje specializaci. LLM-MA systémy budují stejnou “kolektivní inteligenci”, kterou skupina lidí má prostřednictvím specializovaných agentů, kteří spolupracují, aby dosáhli společného cíle. Jinými slovy, stejně jako podnik sjednocuje různé odborníky z různých oborů, aby vyřešil jeden problém, tak i LLM-MA systémy fungují.

Obchodní požadavky jsou příliš vysoké pro jeden LLM. Nicméně, rozložením schopností mezi specializované agenty s jedinečnými dovednostmi a znalostmi místo toho, aby jeden LLM nesl veškerou zátěž, tyto agenty mohou dokončovat úkoly efektivněji a účinněji. Více agentní LLM mohou dokonce “kontrolovat” práci ostatních prostřednictvím vzájemné verifikace, snižují “halucinace” pro maximální produktivitu a přesnost.

Kromě toho LLM-MA systémy používají metodu “rozděl a panuj”, aby získaly jemnější kontrolu nad jinými aspekty komplexních AI-umožněných systémů – zejména lepší jemné nastavení na konkrétní datové sady, výběr metod (včetně pre-transformer AI) pro lepší vysvětlitelnost, řízení, bezpečnost a spolehlivost a použití ne-AI nástrojů jako součásti komplexního řešení. V rámci této metody “rozděl a panuj” agenty vykonávají akce a přijímají zpětnou vazbu od ostatních agentů a dat, což umožňuje přijetí strategie provedení v průběhu času.

Možnosti a použití LLM-MA systémů

LLM-MA systémy mohou efektivně automatizovat obchodní procesy procházením strukturovaných a nestrukturovaných dokumentů, generováním kódu pro dotazování datových modelů a prováděním dalších generací obsahu. Společnosti mohou používat LLM-MA systémy pro několik případů použití, včetně vývoje softwaru, simulace hardwaru, vývoje her (zejména vývoje světů), vědeckých a farmaceutických objevů, procesů řízení kapitálu, finančních a obchodních ekonomických procesů atd.

Jedním z pozoruhodných použití LLM-MA systémů je automatizace call center. V tomto příkladu kombinace modelů a programatických agentů využívajících předem definované pracovní postupy a procedury by mohla automatizovat interakce s koncovými uživateli a provádět triáž požadavků prostřednictvím textu, hlasu nebo videa. Kromě toho tyto systémy by mohly najít nejoptimálnější cestu k řešení, využívající procedurální a odbornou znalost s osobními údaji a vyvolávající generaci na základě načtení (RAG) a ne-LLM agenty.

V krátkém horizontu tento systém nebude plně automatizován – budou se vyskytovat chyby a bude potřeba lidská účast. AI není připravena replikovat lidské zkušenosti kvůli složitosti testování volných konverzací proti například zodpovědným AI obavám. Nicméně AI může být vyškolena na tisících historických podnětech a zpětných vazbách, aby automatizovala významné části operací call center, zvyšovala efektivitu, snižovala dobu řešení požadavků a zvyšovala spokojenost zákazníků.

Dalším silným použitím multi-agentních LLM je vytváření rozhraní pro spolupráci mezi lidmi a AI pro reálné konverzace, řešení úkolů, které nebyly dříve možné. Konverzační rojová inteligence (CSI), například, je metoda, která umožňuje tisícům lidí vést reálné konverzace. Konkrétně CSI umožňuje malým skupinám dialogovat mezi sebou, zatímco různé skupiny agentů současně shrnují konverzační vlákna. Poté podporuje šíření obsahu napříč větším počtem lidí, umožňující lidskou koordinaci v dosud nevídaném měřítku.

Bezpečnost, zodpovědná AI a další výzvy LLM-MA systémů

Navzdory zajímavým možnostem LLM-MA systémů se objevují některé výzvy s rostoucím počtem agentů a velikostí jejich akčních prostorů. Například podniky budou muset řešit problém “halucinací”, který bude vyžadovat lidskou účast – určená strana musí být zodpovědná za agentic systémy, zejména ty s potenciálním kritickým dopadem, jako je automatizované objevování léků.

Budou také problémy se zkreslenými daty, které mohou vyústit v interakční zkreslení. Podobně budou budoucí LLM-MA systémy s desítkami agentů vyžadovat složitější architektury, zatímco budou zohledňovat další nedostatky LLM, data a operace strojového učení.

Kromě toho musí organizace řešit bezpečnostní obavy a podporovat zodpovědné AI (RAI) postupy. Více LLM a agentů zvyšuje útočný povrch pro všechny AI hrozby. Společnosti musí rozložit různé části svých LLM-MA systémů do specializovaných aktérů, aby poskytly více kontroly nad tradičními LLM riziky, včetně bezpečnostních a RAI prvků.

Navíc, jak se řešení stávají složitějšími, musí se také složitější AI vládní rámce, aby zajistily, že AI produkty jsou spolehlivé (tj. robustní, odpovědné, monitorované a vysvětlitelné), residentní (tj. bezpečné, zabezpečené, soukromé a účinné) a zodpovědné (tj. spravedlivé, etické, inkluzivní, udržitelné a účelné). Zvyšující se složitost povede také k přísnějším regulacím, což činí ještě důležitějším, aby bezpečnost a RAI byly součástí každého obchodního případu a návrhu řešení od začátku, stejně jako kontinuální aktualizace politik, firemního vzdělávání a strategie testování, hodnocení, ověření a validace (TEVV).

Extrahování plné hodnoty z LLM-MA systému: úvahy o datech

Aby podniky extrahovaly plnou hodnotu z LLM-MA systému, musí uznat, že LLM samy o sobě mají pouze obecné znalosti domény. Nicméně LLM mohou stát se hodnotovými AI produkty, když se spoléhají na firemní znalosti domény, které obvykle sestávají z diferencovaných datových aktiv, firemní dokumentace, znalostí odborníků a informací získaných z veřejných zdrojů dat.

Podniky musí přejít z datově orientovaného, kde data podporují reportování, na AI-orientované, kde datové zdroje spojují, aby umožnily AI stát se aktérem v rámci firemního ekosystému. Jako takové musí společnosti rozvinout svou schopnost kurátorovat a spravovat vysoce kvalitní datové aktiva, aby zahrnuly nové datové typy. Podobně organizace potřebují modernizovat svůj přístup k spotřebě dat a poznatků, změnit svůj provozní model a zavést řízení, které sjednocuje data, AI a RAI.

Z hlediska nástrojů může GenAI poskytnout další pomoc týkající se dat. Konkrétně GenAI nástroje mohou generovat ontologie, vytvářet metadata, extrahovat datové signály, dávat smysl komplexním datovým schématům, automatizovat migraci dat a provádět datové konverze. GenAI může být také použita ke zlepšení kvality dat a působit jako specialisté na řízení nebo jako co-piloti nebo semi-autonomní agenti. Už mnoho organizací používá GenAI, aby pomohla demokratizovat data, jak je vidět v “mluvte se svými daty” funkcích.

Kontinuální přijetí v éře rychlé změny

LLM sama o sobě nepřidává hodnotu nebo nedosahuje pozitivní ROI, ale jako součást aplikací zaměřených na obchodní výsledky. Výzvou je, že na rozdíl od minulosti, kdy technické schopnosti LLM byly somewhat známy, dnes se objevují nové schopnosti každý týden a někdy denně, podporující nové obchodní příležitosti. Kromě této rychlé změny je zde neustále se měnící regulační a compliance krajina, což činí schopnost přizpůsobit se rychle zásadní pro úspěch.

Požadavky na flexibilitu, aby bylo možné využít těchto nových možností, vyžadují, aby podniky prošly změnou myšlení ze sil – na spolupráci, podporující nejvyšší úroveň adaptability napříč technologiemi, procesy a lidmi, zatímco implementují robustní správu dat a zodpovědnou inovaci. Nakonec budou společnosti, které přijmou tyto nové paradigmaty, vést další vlnu digitální transformace.