Wywiady
Sadeepa Wijesekara, wiceprezes ds. Private Cloud AI w HPE – seria wywiadów

Kluczowe punktyEkonomia AI staje się dyscypliną biznesową dopiero wtedy, gdy pilotaże przechodzą do…
Zobacz więcej
- Ekonomia AI staje się dyscypliną biznesową dopiero wtedy, gdy pilotaże przechodzą do produkcji, a finanse włączają się do rozmowy.
- Koszt na token mierzy zużycie, podczas gdy koszt na wynik biznesowy ujawnia, czy inwestycja rzeczywiście ma sens.
- Przepływy pracy oparte na agentach mogą dramatycznie zwielokrotnić zużycie tokenów, nawet gdy ceny wnioskowania nadal spadają.
Sadeepa Wijesekara jest wiceprezesem ds. Private Cloud AI w Hewlett Packard Enterprise (HPE), gdzie kieruje pracami nad oprogramowaniem i platformami AI dla przedsiębiorstw, przeznaczonymi do środowisk chmury prywatnej. Koncentruje się na wspieraniu organizacji we wdrażaniu AI w bezpieczny sposób i na dużą skalę, a także na powiązaniu decyzji dotyczących infrastruktury z potrzebami biznesowymi. Wnosi inżynierskie spojrzenie na ekonomię wdrażania AI w środowisku produkcyjnym, w tym na zarządzanie obciążeniami, dobór modeli oraz koszty zapewnienia niezawodności coraz bardziej autonomicznych systemów.
Hewlett Packard Enterprise (HPE) dostarcza technologie dla przedsiębiorstw obejmujące AI, chmurę, sieci, moc obliczeniową i pamięć masową. Jej oferta Private Cloud AI wspiera organizacje wdrażające obciążenia AI w kontrolowanej przez siebie infrastrukturze, a także korzystające z chmury hybrydowej i usług zewnętrznych. W tym wywiadzie Wijesekara omawia, dlaczego wydatki na AI należy oceniać w odniesieniu do wyników biznesowych, jak przepływy pracy oparte na agentach zmieniają zużycie zasobów oraz jakie czynniki finansowe i operacyjne wpływają na decyzje dotyczące modeli, orkiestracji i infrastruktury.
HPE wdrożyło AI na szeroką skalę wśród ponad 70 000 pracowników. Czego to doświadczenie nauczyło Cię o tym, kiedy ekonomia AI przestaje być kwestią IT, a staje się szerszą dziedziną zarządzania biznesem?
Ekonomia AI staje się szerszą dziedziną zarządzania biznesem, gdy firmy przechodzą od projektów pilotażowych do wdrożeń produkcyjnych. Pilotaż może pokazać, czy AI potrafi wykonać dane zadanie, ale może też ukrywać nieefektywność, ponieważ użytkowników jest niewielu. Gdy liczba użytkowników wzrasta z 10 do 10 000, trzeba brać pod uwagę koszty, opóźnienia i niezawodność, a zarazem rozumieć, jaką wartość tworzy AI. Na tym etapie w dyskusji powinni uczestniczyć przedstawiciele działu finansowego oraz osoby odpowiedzialne za procesy biznesowe wspierane przez AI. Dział IT może mierzyć zasoby zużywane przez aplikację, ale to liderzy biznesowi muszą ocenić, czy uzyskane wyniki uzasadniają tę inwestycję.
Wiele organizacji, oceniając generatywną AI, nadal skupia się przede wszystkim na takich wskaźnikach jak koszt tokena. Dlaczego uważasz, że bardziej miarodajnym miernikiem jest koszt uzyskania wyniku biznesowego i jak przedsiębiorstwa powinny go obliczać w praktyce?
Koszt tokena informuje, ile zasobów AI zużyto, ale nie mówi, czy ich wykorzystanie przyniosło użyteczny rezultat. Firmy powinny najpierw określić oczekiwany wynik biznesowy, a następnie obliczyć całkowity koszt jego uzyskania. Model to tylko jeden ze składników kosztów; pozostałe obejmują oprogramowanie, pamięć masową, przesyłanie danych, zarządzanie i pracę ludzi. Zestawienie tych kosztów z wartością wytworzoną w ramach konkretnego procesu biznesowego pozwala firmom lepiej ocenić, czy inwestycja ma uzasadnienie ekonomiczne.
W miarę jak AI przechodzi od indywidualnych asystentów ku systemom agentowym i wieloagentowym, które potrafią wykonywać długie sekwencje zadań, jak bardzo może wzrosnąć zużycie zasobów, nawet jeśli koszt samego wnioskowania nadal będzie spadać?
Zużycie zasobów może bardzo szybko wzrosnąć, ponieważ pojedyncze polecenie użytkownika może uruchomić znacznie więcej pracy w tle. Agent może wyszukiwać informacje i wywoływać narzędzia, wykonując po drodze kilka kroków, zanim przygotuje wynik. W jednym przykładowym porównaniu HPE podstawowa wymiana z chatbotem zużywała około 400 tokenów, podczas gdy zapytanie do systemu RAG opartego na agentach — około 21 500. Nawet jeśli ceny tokenów spadają, całkowite zużycie może gwałtownie wzrosnąć, gdy AI zaczyna wykonywać bardziej złożone zadania.
Jak firmy powinny oceniać, czy dany przypadek użycia AI rzeczywiście przynosi wartość ekonomiczną, zamiast jedynie poprawiać wskaźniki produktywności lub umożliwiać efektowne demonstracje?
Przypadek użycia powinien być powiązany z uzasadnieniem biznesowym i jasno określonymi kluczowymi wskaźnikami efektywności (KPI), zanim zostanie wdrożony na większą skalę. Firmy muszą rozumieć, ile kosztuje dany proces biznesowy i jak zmieniają się te koszty po wprowadzeniu AI. Powinny też odróżniać usprawnienie pojedynczej czynności od poprawy wyniku biznesowego. Oszczędność czasu nabiera większego znaczenia, gdy pozwala rozwiązać więcej problemów klientów, ograniczyć liczbę błędów lub wykonać pracę, która wcześniej pozostawała niewykonana. Ocena powinna uwzględniać jakość rezultatów oraz ewentualną dodatkową weryfikację lub konieczność ponownego wykonania pracy. Udana demonstracja potwierdza określoną możliwość, natomiast decyzję o rozszerzeniu wdrożenia uzasadniają mierzalne usprawnienia procesu biznesowego. W niektórych przypadkach taka analiza może wykazać, że AI nie jest właściwym rozwiązaniem.
Coraz częściej mówi się o kierowaniu zapytań do modeli i orkiestracji AI jako sposobach kontrolowania kosztów. Jaką wartość mogą uzyskać przedsiębiorstwa, dynamicznie wybierając w zależności od zadania mniejsze modele, modele czołowe, modele specjalistyczne lub tradycyjne oprogramowanie?
Dopasowanie modelu do zadania może przynieść wiele korzyści. Widzieliśmy, jak firmy kierowały bardzo różne obciążenia do tego samego, kosztownego modelu o najwyższych możliwościach, ponieważ początkowo zależało im przede wszystkim na szybkim uruchomieniu AI. Przy niewielkiej liczbie użytkowników takie podejście może być do udźwignięcia, ale wraz ze wzrostem popularności koszty szybko rosną. Model o najwyższych możliwościach może sprawdzić się przy złożonym wnioskowaniu, natomiast do rutynowego zadania może wystarczyć mniejszy model. Model specjalistyczny może lepiej odpowiadać potrzebom konkretnej dziedziny, a przewidywalne zadanie oparte na regułach można wydajniej zrealizować za pomocą tradycyjnego oprogramowania. Orkiestracja pozwala połączyć te możliwości w ramach przepływu pracy i korzystać z bardziej zaawansowanego modelu wtedy, gdy wymaga tego zadanie. Wraz ze wzrostem możliwości modeli z otwartymi wagami firmy zyskują też więcej okazji, by uruchamiać niektóre obciążenia we własnej infrastrukturze, zamiast płacić za modele zewnętrzne. Przy skali korporacyjnej decyzje dotyczące kierowania zadań mogą znacząco obniżyć koszty przy zachowaniu wymaganej przez firmę jakości.
W którym momencie ekonomika uruchamiania obciążeń AI zmienia się tak, że zamiast wynajmować moc obliczeniową przez API lub chmurę publiczną, bardziej opłaca się posiadać większą część podstawowej infrastruktury lub sprawować nad nią większą kontrolę? Jakie zmienne powinny wziąć pod uwagę przedsiębiorstwa, podejmując tę decyzję?
Postrzegam to jako wybór między wynajmem a zakupem. Wynajem może mieć sens, gdy firmy eksperymentują lub gdy popyt znacznie się waha. Gdy skala wykorzystania rośnie, a popyt staje się bardziej przewidywalny, posiadanie większej części infrastruktury lub sprawowanie nad nią większej kontroli może zacząć się opłacać. Własna infrastruktura stwarza też możliwość prowadzenia dodatkowych eksperymentów z AI w okresach mniejszego wykorzystania, dzięki czemu można lepiej spożytkować już poniesioną inwestycję. Firmy powinny uwzględnić charakterystykę obciążenia, a także koszty energii, zarządzania i utrzymywania aktualności systemów. W przypadku wielu dużych przedsiębiorstw właściwe podejście będzie prawdopodobnie obejmować zarówno infrastrukturę prywatną, jak i usługi zewnętrzne — zależnie od obciążenia.
HPE rozbudowuje swoją infrastrukturę prywatnej AI, w miarę jak przedsiębiorstwa przenoszą coraz więcej obciążeń do środowisk produkcyjnych. W jakich zastosowaniach prywatna AI zapewnia, Pana zdaniem, największe korzyści ekonomiczne w porównaniu z korzystaniem z AI wyłącznie za pośrednictwem usług chmury publicznej?
Prywatna AI może przynosić znaczne korzyści ekonomiczne w przypadku długotrwałych obciążeń, przy których firmy mogą efektywnie wykorzystywać posiadaną moc obliczeniową. W jednej z analiz HPE, przeprowadzonej przy określonych założeniach dotyczących obciążenia, oszacowano koszt HPE Private Cloud AI na około 45 USD za węzłogodzinę, w porównaniu z około 102 USD za równoważną konfigurację w wynajmowanej chmurze. Wyniki te będą się różnić w zależności od obciążenia i należy je ponownie obliczyć dla każdego środowiska. Prywatna AI daje firmom również inny model finansowy, w którym infrastruktura staje się zasobem przynoszącym organizacji wartość.
Agenci AI generują koszty wykraczające poza wnioskowanie, między innymi związane z pobieraniem danych, wywoływaniem narzędzi, monitorowaniem, bezpieczeństwem i nadzorem. Jakie koszty organizacje najczęściej pomijają w budżetach na agentową AI wdrażaną na dużą skalę?
Myślę, że firmy mogą nie doszacować nakładu pracy potrzebnego do tego, by agenci przez dłuższy czas działali niezawodnie i bezpiecznie oraz pozostawali użyteczni. Poza wnioskowaniem pojawiają się koszty pobierania i przygotowywania danych, uzyskiwania dostępu do narzędzi zewnętrznych oraz przesyłania informacji między systemami. Wielokrotne wywoływanie narzędzi lub nieudane próby mogą generować koszty, nie prowadząc do wykonania zadania. Firmy muszą też uwzględnić w budżecie ocenę wyników, monitorowanie zachowania agentów, zarządzanie uprawnieniami dostępu oraz utrzymywanie zabezpieczeń i mechanizmów nadzoru. W tych kalkulacjach należy również uwzględnić nadzór człowieka, w tym czas poświęcany na analizę wyjątków i poprawianie błędów. Aby poznać koszt pomyślnego wykonania zadania, trzeba mieć wgląd w cały ten przepływ pracy.
Podkreślał Pan znaczenie śledzenia wykorzystania AI w odniesieniu do poszczególnych uzasadnień biznesowych. Jak powinien wyglądać skuteczny wewnętrzny system pomiaru i jak często organizacje powinny ponownie oceniać, czy dana aplikacja AI nadal uzasadnia ponoszenie bieżących kosztów obliczeniowych i operacyjnych?
System pomiaru powinien bezpośrednio łączyć wykorzystanie zasobów z uzasadnieniem biznesowym. Firmy muszą wiedzieć, która aplikacja zużywa zasoby i jaki rezultat powinna przynieść. W HPE śledzimy kluczowe wskaźniki efektywności (KPI) oraz bazowe koszty jednostkowe dla każdego przypadku użycia, aby sprawdzić, czy przynosi on oczekiwane rezultaty. Chciałbym, aby takie pomiary były prowadzone również na poziomie poszczególnych działów i procesów biznesowych, tak aby dyrektor finansowy mógł zrozumieć, ile dany proces kosztuje obecnie, a ile kosztuje z wykorzystaniem AI. Powinien to być ciągły proces, ponieważ z czasem mogą się zmieniać zarówno sposób wykorzystania aplikacji, jak i związana z nią ekonomika. Firmy powinny też ponownie ocenić sytuację po istotnej zmianie modelu, ceny lub przepływu pracy, ponieważ może ona wpłynąć zarówno na koszt, jak i wartość aplikacji.
Jak, Pana zdaniem, będzie zmieniać się ekonomika AI w przedsiębiorstwach w perspektywie trzech do pięciu lat, gdy AI stanie się integralną częścią większości procesów biznesowych? Czy zarządzanie wykorzystaniem AI będzie z czasem przypominać takie praktyki jak FinOps w chmurze, czy też organizacje będą potrzebować zupełnie nowego modelu operacyjnego?
Uważam, że ekonomika AI będzie rozwijać się w oparciu o praktyki FinOps, takie jak przejrzystość kosztów, ich alokacja i odpowiedzialność za nie, a zarazem obejmie pomiar jakości i wartości pracy wykonywanej przez AI. W miarę jak agenci będą przejmować kolejne etapy procesów biznesowych, firmy będą musiały rozumieć koszt pomyślnego przeprowadzenia takiego procesu, uwzględniając ponowne próby, interwencję człowieka oraz to, czy wynik spełnia wymagane standardy. Sądzę, że stanie się to wspólną odpowiedzialnością działów IT, finansów i operacyjnych. Dopiero zaczynamy wypracowywać spójne metody dokonywania takich porównań między organizacjami i branżami. Z czasem chciałbym, aby powstały standardowe mierniki pozwalające firmom ocenić, jak efektywnie wykorzystują AI, i uwzględniać tę ocenę w rachunku zysków i strat.
Dziękuję za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o prywatnej chmurze AI, infrastrukturze dla przedsiębiorstw i skalowaniu obciążeń AI, powinni odwiedzić stronę HPE.












