Zmieniająca się prognoza chmury

Wzór, który widziałem wcześniej

Pracowałem zawodowo, kiedy chmura stała się rzeczywistością. Z tej perspektywy widziałem początkową adopcję: entuzjazm, elastyczność, poczucie, że wszystko będzie działo się szybciej. Doprowadziło to do masowej adopcji, gdzie każde obciążenie było kandydatem, a każdy dostawca miał historię chmury.

Adopcja była jednak tylko pierwszą połową tego, co obserwowałem. Następnie zobaczyłem drugą stronę: repatriację. Firmy przenosiły określone obciążenia z powrotem, pytając, czy każda aplikacja naprawdę potrzebuje elastyczności chmury. Ten drugi ruch nastąpił z powodu. Zmiany ekonomiczne i dojrzałość obciążeń spowodowały, że założenia, które sprawiły, że chmura była oczywistym wyborem dla wszystkiego, przestały obowiązywać, gdy organizacje zaczęły je badać na dużą skalę.

Mając doświadczenie pełnego cyklu, rozpoznaję jego kształt, gdy zaczyna się tworzyć ponownie. Teraz, gdy pomagam firmom rozwiązać, co AI powinno tak naprawdę robić w ich środowiskach, wzorzec dużej adopcji i repatriacji zaczyna wyglądać znajomo.

Poprawka chmury

Aby zobaczyć, dlaczego podobieństwo jest istotne, pomaga zacząć od tego, co tak naprawdę stało się z chmurą, na jej własnych warunkach. Przejście do chmury było racjonalne. Usunęło tarcie, dało organizacjom elastyczność i szybkość, i miało sens dla obciążeń, które były niepewne lub szybko zmieniające się. Było racjonalne, ponieważ zostało zbudowane dla okreśonego rodzaju pracy. Zespoły DevOps poszły w kierunku chmury jako pierwsze, ponieważ chmura była zbudowana dla pracy, która jest iteracyjna, zmienna lub trudna do przewidzenia.

Ale rzecz, dla której budowano, nie pozostała bez zmian. Chmura nie zmieniła się, ale obciążenia tak. Gdy procesy dojrzały i stały się przewidywalne, organizacje zdobyły doświadczenie w kosztach związanych z odzyskaniem własnych danych. Opłaty za wyjście, koszty przechowywania, opłaty za transfer: wydatki, które były łatwe do zignorowania, gdy elastyczność była warta tego, i trudne do zignorowania, gdy obciążenia ustabilizowały się. W 2024 roku, po latach pobierania opłat za wyjście danych, AWS, Azure i Google Cloud zniosły te opłaty dla klientów migrujących z ich platform, jak podało DataCenterDynamics.

Gdy te koszty stały się widoczne, matematyka przestała działać dla rosnącej części portfela. Ekonomika, która sprawiła, że chmura była dobrą strategią z pewnymi wadami, stała się ekonomicznie niewykonalna dla rosnącej liczby obciążeń zorientowanych na AI. Firmy zaostrzyły ołówki i zapytały, czy każda aplikacja naprawdę potrzebuje tego, co chmura zapewnia. Gdy rzeczywiście przeprowadzili liczby, odpowiedź, dla dużej liczby obciążeń, była nie.

Te nagromadzone odpowiedzi stały się korektą, którą przemysł źle nazwał. Ta korekta stała się znana jako “repatriacja chmury” i jest opisywana niepoprawnie większości czasu. Jest to tak naprawdę dojrzałość obciążeń: dojrzałe firmy uczą się dopasowywać każde obciążenie do modelu infrastruktury, który mu odpowiada. Dane potwierdzają selektywną lekturę, a nie ogólną. IDC stwierdziło, że około 80% organizacji oczekuje pewnej repatriacji w ciągu najbliższych 12 miesięcy, nawet jeśli mniej niż 10% zrepatriowało całe obciążenia, według raportu w CIO.com.

Przeczytane poprawnie, wniosek nie jest taki, że chmura była błędem. Chmura pozostaje cenna, ale przestała być powszechna. Stan dojrzały jest hybrydowy: chmura tam, gdzie na to zasługuje, prywatna lub dedykowana infrastruktura wszędzie indziej.

Ten sam krzywa korekcyjna, inna technologia

Ta krzywa jest już zakończona i oznaczona. Ten sam kształt zaczyna się widocznie tworzyć z AI. Każdy dostawca, każda konferencja, każdy telefon sprzedaży jest teraz o AI. Nasycenie jest identyczne z tym, co obserwowałem w przypadku chmury. Wydatki pod naszym hałasem są rzeczywiste: Gartner prognozuje, że wydatki na generatywny AI na całym świecie wyniosą 644 miliardy dolarów w 2025 roku, co oznacza wzrost o 76,4% w stosunku do roku poprzedniego.

To nasycenie sugeruje nadchodzącą korektę. Uważam, że podobna korekta nadchodzi, nie dlatego, że AI jest złe, ale dlatego, że ta sama dynamika, która spowodowała repatriację chmury, ma zastosowanie tutaj. Nadchodzi, ponieważ organizacje są bardzo zaangażowane w przepływy pracy oparte na AI bez zawsze wiedzy, w ramach własnych środowisk, jak historia się kończy. Przewidywana luka między adopcją a dojrzałością jest mierzalna: McKinsey stwierdza, że 88% organizacji zgłasza regularne użycie AI w co najmniej jednej funkcji, a większość z nich wciąż jest w fazie pilotażu i tylko około 39% zgłasza wpływ na poziomie przedsiębiorstwa.

Push ten bez strategii i rozliczenie nie jest może. Ta korekta nadchodzi. Zawsze nadchodzi. Pushujesz zbyt mocno bez strategii, a ostatecznie ekonomia i rzeczywistość operacyjna wymuszają rozliczenie.

Jest już nazwa dla korekcyjnego wzorca, i nie jest to moja. Repatriacja AI, akt przenoszenia określonych zadań z systemów probabilistycznych AI z powrotem do deterministycznych przepływów pracy, gdy te zadania stają się stabilne i powtarzalne, nie jest pojęciem, które wymyśliłem. Jest to wzorzec, który obserwuję. Nie jestem sam, kto go obserwuje: Gartner przewiduje, że ponad 40% projektów AI zostanie anulowanych do końca 2027 roku, powołując się na rosnące koszty, niejasną wartość biznesową i niewystarczające kontrole ryzyka.

Wygląd korekty AI

Aby przewidzieć korektę, pomaga mieć czyste definicje dla dwóch rodzajów przepływów pracy.

Przepływ deterministyczny jest oparty na regułach, przewidywalny i powtarzalny. Ten sam wejście i te same reguły produkują ten sam wynik, zawsze. Jest szybki, jest stały. Robi dokładnie to, do czego został zaprojektowany, nic więcej, nic mniej. Przepływ probabilistyczny używa AI lub modelowego rozumowania do interpretacji kontekstu i produkcji prawdopodobnego odpowiedzi. Jest przydatny, gdy procesy obejmują niejasność, nieustrukturyzowane informacje lub decyzje, w których reguły są niepewne i wnioskowanie jest obciążone.

Z definicjami ustawionymi, pytanie o czas odpowiedzi samo się rozwiązuje. Przepływy probabilistyczne są często odpowiednim narzędziem na początku, gdy procesy nie są jeszcze w pełni zrozumiane. Stają się problematyczne, gdy firmy kontynuują ich użycie, gdy procesy są już wyjaśnione.

Konkretny przepływ pracy czyni tę wczesną i późną różnicę namacalną. Część tego przepływu pracy naprawdę wymaga AI. Identyfikacja odpowiedniego konta z transkrypcji połączenia, na przykład, wymaga wnioskowań, których system deterministyczny nie może wykonać. Inne części, dołączanie pliku do rekordu lub publikowanie powiadomienia, są zadaniami deterministycznymi. Stała reguła, bezpośrednie wywołanie API, jest tym samym wynikiem zawsze. Jestem winny tego samemu: obecnie buduję wewnętrzną automatyzację, która łączy transkrypcje połączeń, kieruje informacje do naszego CRM, przypisuje elementy do zrobienia i wysyła aktualizacje do Slack.

Przejęcie jest takie, aby uruchomić wszystko przez AI, i to przejęcie niesie ze sobą realne, powtarzające się obciążenie. Podczas gdy jest przejęcie, aby uruchomić całość przez AI, każde wywołanie AI wprowadza opóźnienie i niesie ze sobą koszty użycia i infrastruktury. Systemy AI wymagają monitorowania, zarządzania promptami i barier, ponieważ podstawowy model jest ciągle (i nieprzewidywalnie) rozwijany przez jego właściciela. Nigdy nie wiesz, kiedy zacznie działać inaczej; wyniki mogą się różnić w sposób, który tworzy problemy z zarządzaniem na dużą skalę, szybko.

Odgrane wystarczająco daleko, to obciążenie staje się czystą strata. Pomyśl o firmie, która używa AI do analizy 50 000 biletów wsparcia. AI identyfikuje pięć najczęstszych ścieżek rozwiązania. Na początku AI obsługuje trasę probabilistycznie: czytając każdy bilet i podejmując decyzję. Z czasem firma waliduje te wzorce. Ścieżki rozwiązania są teraz znane. Przekształcenie ich w gałęzie przepływu pracy deterministycznego nie usuwa AI z procesu, ale usuwa redundancję praktyki płacenia AI za odkrywanie odpowiedzi, które są już znane.

To jest podatek probabilistyczny: dodatkowy koszt, opóźnienie i obciążenie zarządzania wynikające z uruchamiania AI jako środowiska uruchomieniowego dla pracy, która nie wymaga już wnioskowania probabilistycznego.

Wygląd dojrzałych modeli operacyjnych

Jeśli uruchamianie rozwiązanych zadań na AI jest podatkiem, dojrzały ruch polega na podziale pracy według typu. Dojrzałość chmury wytworzyła hybrydową infrastrukturę, chmurę tam, gdzie na to zasługuje, dedykowaną infrastrukturę wszędzie indziej. Przewiduję, że dojrzałość AI wytworzy hybrydowe operacje z tą samą logiką.

Ten podział produkuje wyraźną regułę operacyjną. Systemy probabilistyczne są cenne tam, gdzie istnieje prawdziwa niejasność. Ludzie są niejasni. Nieustrukturyzowane dane są niejasne. Procesy, które nie są jeszcze w pełni zrozumiane, są niejasne. Wnioskowanie jest odpowiednim narzędziem dla wszystkich tych przypadków. Druga połowa reguły jest równie ważna: systemy deterministyczne są tam, gdzie skala, koszt, szybkość i zarządzanie mają znaczenie. Warstwa probabilistyczna odkrywa i interpretuje. Warstwa deterministyczna wykonuje.

Na gruncie, dwa sygnały mówią ci, do której strony dany obciążenie należy:

1. Jeśli znajdziesz swój zespół polegający na AI na coś, co stało się stabilne, powtarzalne i dobrze zrozumiane, to jest kandydat na repatriację, ponieważ płacisz podatek probabilistyczny za pracę deterministyczną.
2. Jeśli znajdziesz swój deterministyczny kod wypełniony obsługą wyjątków i rozważaniami o zmienności, to jest znak, że możesz potrzebować AI. Zestaw reguł próbuje przybliżyć wnioskowanie.

W praktyce granica ta jest rysowana jako próg ufności. Konkretny próg ufności, zobowiązanie do decyzji, gdy model jest powyżej 90% pewny, lub niepowodzenie w sposób elegancki poniżej niego, jest często tam, gdzie ta granica jest rysowana w praktyce.

Co zmienia to, co wygrywanie z AI tak naprawdę wymaga. Najbardziej udane firmy, które przyjmują AI, nie będą tymi, które używają go najwięcej, ale tymi, które wiedzą, kiedy go używać i kiedy go uzupełniać.