Modele i platformy AI

Kolejnym problemem Shadow IT będą agenci cieni

mm
Dodaj Unite.AI do preferowanych źródeł w Google

Shadow IT kiedyś oznaczało, że pracownik samodzielnie rejestruje się w narzędziu SaaS bez pytania, lub że dział prowadzi własną subskrypcję, dopóki dział IT nie dowiedział się o tym w trudny sposób. Udało nam się to opanować dzięki lepszej widoczności, dyscyplinie zakupowej i zarządzaniu chmurą.

Agenci zresetują ten problem i będą poruszać się szybciej niż kiedykolwiek SaaS czy chmura, ponieważ tym razem nieautoryzowany system nie po prostu leży bezczynnie. Działa.

Rozrost Autonomii

Finanse tworzą własnych agentów. To samo robią HR, sprzedaż, zakupy i obsługa klienta. Pracownicy uruchamiają osobiste agenty. Dostawcy dyskretnie osadzają agenty w produktach, za które już płacimy.

Pomnóż to na dużą organizację, a CIO nie będzie już śledzić dwudziestu agentów. To setki lub tysiące jednostek programowych, z których każda ma pewną zdolność do dotykania systemów i podejmowania działań. IBM przewidziało duże przedsiębiorstwa będzie uruchamiać ponad 1,600 agentów AI do końca tego roku. Gartner ostrzegło że agenci tworzą infrastrukturę, tożsamości i przywileje dostępu szybciej niż procesy zarządzania mogą je śledzić.

Priorytetem CIO w 2027 roku będzie przeprowadzenie rzeczywistego spisu. Kto stworzył każdego agenta, co robi, które systemy dotyka, jakie ma uprawnienia i kto jest jego właścicielem. Bez tego nie ma programu zarządzania; istnieje jedynie założenie, że ktoś inny czuwa.

Człowiek w Pętli Nie Skaluje Się

„Utrzymuj człowieka w pętli” było rozsądną odpowiedzią, gdy liczba agentów była niewielka. Przestaje to mieć sens, gdy przedsiębiorstwo uruchamia tysiące agentów wykonujących ogromną liczbę działań. Nie ma wystarczającej liczby osób ani godzin, aby to obsłużyć.

Rozwiązaniem jest autonomia oparta na ryzyku, a nie ogólne nadzorowanie. Agent aktualizujący wewnętrzny rekord nie wymaga takiej samej kontroli jak transakcja finansowa. To, co powinno określać poziom zaangażowania człowieka, to wartość pieniężna działania, wrażliwość danych, poziom pewności agenta, narażenie regulacyjne oraz to, czy agent działa poza oczekiwanymi parametrami.

Gartner przedstawiło podobny model, obejmujący punkty kontrolne od zatwierdzenia przed wykonaniem, przez interwencję w trakcie zadania, po przegląd po wykonaniu i okresowe próbkowanie. Celem nie jest człowiek w pętli wszędzie. Chodzi o człowieka w odpowiednim momencie pętli.

Agenci Zarządzający Agentami

Obecnie większość organizacji znajduje się jeszcze w fazie jednego człowieka kierującego jednym agentem. Następny etap to systemy wieloagentowe: wyspecjalizowane agenty, które komunikują się ze sobą, przekazują zadania i realizują całe przepływy pracy bez osoby pośredniczącej.

Agent zakupowy sygnalizuje potrzebę, sprawdza z agentem finansowym budżet i uruchamia agenta zakupowego do realizacji; żaden człowiek nie dotyka tego procesu. McKinsey nazywa to powstającą architekturą „agentic mesh”. Deloitte stwierdziło, że tylko 15% organizacji zdołało wprowadzić skalowaną, wielofunkcyjną adopcję wieloagentową, a jedynie 5% twierdzi, że ich procesy biznesowe są na to dobrze przygotowane.

Ryzyko przybiera tutaj inny kształt. Nie chodzi już o to, „czy jeden agent popełnił błąd”. Chodzi o to, jak daleko ten błąd rozprzestrzenia się w sieci agentów i systemów, zanim ktoś go zauważy. CIO będą musieli zarządzać nie tylko pojedynczymi agentami, ale także relacjami i zależnościami między nimi.

Ekonomia Agentów Nie Jest Ekonomią SaaS

Agenci nie odpowiadają na zapytanie jednorazowo i nie przestają działać. Działają ciągle, wielokrotnie wywołują modele, korzystają z API, zużywają zasoby chmurowe i uruchamiają inne agenty. To inny profil kosztów niż dodanie jednego miejsca w SaaS i brakuje przewidywalności.

Przepływ pracy, który wydaje się tani w pilocie, może szybko stać się kosztowny, gdy setki agentów uruchomią go w produkcji nieprzerwanie. IBM prognozuje, że wydatki na AI wzrosną z nieco poniżej 15 % budżetów IT w 2025 roku do prawie 25 % w 2027 roku, i stwierdziło, że 85 % liderów technologicznych wciąż nie ma pełnej widoczności wydatków na AI w czasie rzeczywistym.

Znaj koszt agenta na zadanie, na przepływ pracy, na rezultat biznesowy. Nie tylko cenę leżącego u podstaw modelu.

Od Zarządzania Technologią do Zarządzania Autonomią

Przez dekady moja rola jako CTO polegała w zasadzie na zarządzaniu systemami, z których ludzie korzystają. To się zmienia. Teraz zarządzam systemami, które działają w imieniu ludzi, i to jest zupełnie inny rodzaj pracy.

Dlatego, kiedy myślę o tym, kto będzie miał przewagę w 2027 roku, nie jest to CIO z największą liczbą wdrożonych agentów. To ten, który naprawdę potrafi powiedzieć, jakich agentów ma, co ci agenci mogą robić, kto jest za nich odpowiedzialny, ile kosztują i jaki jest zwrot z inwestycji.

W 2026 roku spędziliśmy czas na opracowywaniu sposobów wprowadzenia AI do produkcji. 2027 będzie o tym, jak postępować, gdy AI już działa samodzielnie, oraz jak nią zarządzać w sposób zwiększający bezpieczeństwo i zgodność, nie poświęcając efektywności.

Jeremy Ung jest dyrektorem ds. technologii firmy BlackLine. Nadzoruje globalny kierunek technologiczny firmy, kładąc nacisk na ulepszanie jej rozwiązań dla biura CFO poprzez połączone dane i platformy zasilane sztuczną inteligencją, które przyspieszą zdolność firmy do skalowania i ciągłego dostarczania wartości klientom.