Liderzy opinii

Zanim zwiększysz skalę wykorzystania agentów AI, zastanów się, czego nie wiedzą

Dror Nadler
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyPewne odpowiedzi zawodzą, gdy agenci pomijają kontekst, taki jak nieaktualne daty…
Zobacz więcej
  • Pewne odpowiedzi zawodzą, gdy agenci pomijają kontekst, taki jak nieaktualne daty złożenia dokumentów lub różnice w kalendarzu fiskalnym.
  • Prawie 6 na 10 firm powiązało pewną, lecz błędną odpowiedź AI z brakującym lub niekompletnym kontekstem biznesowym.
  • Przegląd przez człowieka musi być proporcjonalny do stawki, ponieważ prawidłowe dane udostępnione w niewłaściwy sposób nadal mogą naruszać przepisy.

Wyobraź sobie taką sytuację: dyrektor finansowy przygotowuje się do spotkania z dużym inwestorem instytucjonalnym. Aby pomóc w przygotowaniach, zespół ds. relacji inwestorskich prosi narzędzie AI o zebranie podstawowych informacji — daty ostatniego spotkania z tą firmą, wyrażonych priorytetów, liczby posiadanych akcji i tak dalej.

Narzędzie z pełnym przekonaniem podaje, że inwestor posiada 2,5 miliona akcji. Nikt nie ma wątpliwości, a dyrektor finansowy bez przeszkód kontynuuje przygotowania do tej ważnej rozmowy.

Jest jednak pewien haczyk: AI zaczerpnęła tę liczbę z dokumentu formularza 13F, który przedstawia stan posiadanych akcji na koniec poprzedniego kwartału. Podana informacja była prawdziwa w chwili publikacji… ale od tamtego czasu minęło już kilka miesięcy. W międzyczasie inwestor po cichu sprzedał 2 miliony akcji, znacznie zmniejszając swój pakiet. Agenda spotkania (a być może nawet samo spotkanie!) przestała wydawać się istotna.

Co poszło nie tak? W tym przypadku AI nie zmyśliła ani nie sfabrykowała żadnej liczby. Odnalazła wiarygodną informację, ale nie opatrzyła jej zastrzeżeniami ani nie wyjaśniła jej ograniczeń.

W tym przypadku konsekwencją może być niezręczna rozmowa lub utracona szansa, ale w innych sytuacjach równie stanowcza odpowiedź, pozbawiona kluczowego kontekstu, może wiązać się ze znacznie większym ryzykiem.

Lepsze modele niekoniecznie są rozwiązaniem

Modele bazowe stają się coraz lepsze. Dlaczego więc wydaje się, że coraz częściej pojawiają się pewne siebie, lecz błędne odpowiedzi — problem, z którym zmagają się firmy z różnych branż?

Po pierwsze, generatywna sztuczna inteligencja (GenAI) stała się wszechobecna. Z raportu McKinsey Stan AI w 2026 roku wynika, że niemal 9 na 10 specjalistów biznesowych twierdzi, iż ich organizacje regularnie wykorzystują AI w co najmniej jednej funkcji biznesowej.

W miarę jak organizacje wychodzą poza fazę eksperymentów i coraz częściej polegają na AI w codziennych zadaniach oraz decyzjach biznesowych, dostrzegają również ograniczenia wiedzy i rozumienia tych narzędzi.

Niedawne badanie branżowe pokazuje, co często leży u źródła problemu: w ciągu zaledwie ostatnich sześciu miesięcy niemal 6 na 10 firm (57%) uznało, że przyczyną pewnej siebie, lecz błędnej odpowiedzi agenta AI był brak kontekstu biznesowego lub jego niekompletność.

Może to zaskakiwać, zważywszy na ilość danych dostępnych dla AI. Warto jednak pamiętać o istotnym rozróżnieniu: kontekst to nie to samo co dane.

Czym jest kontekst — a czym nie jest

Kontekst może obejmować wiedzę instytucjonalną, wyjątki od reguł, relacje, procesy i oczekiwania dotyczące sposobu wykonywania pracy — niuanse, które często są charakterystyczne dla każdej firmy.

W swojej pracy z zespołami ds. relacji inwestorskich widzę, jak istotne mogą być te różnice. Oto kilka przykładów, które na pierwszy rzut oka wydają się proste:

  • Rok obrotowy: pierwszy kwartał w jednej firmie może pokrywać się z pierwszym kwartałem roku kalendarzowego, podczas gdy w innej zaczyna się we wrześniu. Bez tego kontekstu agent AI może porównać wyniki z niewłaściwych okresów sprawozdawczych.
  • Wskaźniki finansowe: organizacja może podawać zarówno zysk na akcję obliczony zgodnie z GAAP, jak i zysk na akcję w ujęciu non-GAAP. Agent, który nie rozumie, którą wartość należy przytoczyć (i kiedy), może błędnie przedstawić wyniki firmy.
  • Narracja firmy: przekaz firmy zmienia się z czasem, odzwierciedlając przemyślane decyzje dotyczące tego, co podkreślać, a co pomijać. Bez znajomości historii i motywów tych decyzji agent AI może tworzyć treści, które w rzeczywistości podważą starannie opracowaną narrację.

Biorąc to wszystko pod uwagę, nie dziwi, że ten sam model bazowy może przynosić bardzo różne rezultaty w różnych firmach — zależnie od dostępnego mu kontekstu i specjalistycznej wiedzy.

Tworzone z myślą o konkretnych zastosowaniach, wyspecjalizowane branżowo (czyli „wertykalne”) rozwiązania AI mogą pomóc zniwelować część tych luk, uwzględniając specjalistyczną wiedzę, procesy pracy i niuanse charakterystyczne dla danego sektora. Nawet najbardziej zaawansowana technologia nie jest jednak w stanie uchwycić całej wiedzy organizacji, dlatego również ludzie mają tu do odegrania ważną rolę.

Czego AI nie wie o Twojej firmie

Ludzie nie zostają jednak w firmie na zawsze. Zastanów się, co się dzieje, gdy doświadczony specjalista ds. relacji inwestorskich (IRO) odchodzi z firmy po, powiedzmy, pięciu latach. W tym czasie prawdopodobnie wyszukiwał potencjalnych inwestorów i kierował do nich działania, analizował aktywność akcjonariuszy, budował relacje, przygotowywał się do publikacji wyników i przygotowywał kadrę kierowniczą… a także zajmował się wieloma innymi sprawami.

Firma zachowuje skrypty dotyczące wyników, prezentacje i inne pliki. A co z wiedzą instytucjonalną, która za nimi stoi? W dużej mierze odchodzi ona razem z pracownikiem, zwłaszcza że niemal 8 na 10 osób na stanowisku IRO (78%) nie ma wyznaczonego następcy.

Dlatego organizacje muszą włożyć wysiłek w zachowanie wiedzy i zrozumienia w formie, z której systemy AI będą mogły korzystać. Samo podłączenie agenta AI do współdzielonego dysku często nie wystarcza.

Dla firm z różnych branż ważna jest możliwość systematycznego gromadzenia kluczowej wiedzy i opisu procesów — takich jak uzasadnienia najważniejszych decyzji, historia relacji czy inne informacje o zasadniczym znaczeniu dla działalności, które nigdy nie trafiły do formalnych dokumentów.

Do stworzenia takiej bazy wiedzy potrzebni są ludzie — zarówno do zapisywania informacji, jak i do ich oceny. AI może pomóc uporządkować wiedzę, ale kluczowy kontekst, który często umyka technologii, zapewniają pracownicy.

W sytuacjach wysokiego ryzyka brak kontekstu może mieć poważne konsekwencje

Rozmawialiśmy już o tym, co się dzieje, gdy AI podaje błędną odpowiedź. Czasami jednak agent AI może znaleźć prawidłowe informacje — dokładne, aktualne i istotne — a mimo to wywołać problemy, udostępniając je w niewłaściwych okolicznościach.

W branżach podlegających ścisłym regulacjom takie błędy są szczególnie kosztowne.

Na przykład w relacjach inwestorskich udostępnienie analitykowi lub inwestorowi istotnych informacji niepublicznych (MNPI), takich jak nieopublikowane wyniki finansowe, może naruszać amerykańskie rozporządzenie SEC Regulation Fair Disclosure (Reg FD) — i potencjalnie skutkować karami finansowymi oraz szkodami dla reputacji.

Podobne ryzyko regulacyjne dotyczy także innych branż, takich jak ochrona zdrowia, usługi finansowe i usługi prawne. Pokazuje to, jak ważne są zabezpieczenia, gdy agenci AI mają dostęp do wrażliwych informacji.

Pokazuje to również, dlaczego ludzie wciąż odgrywają kluczową rolę — są niezbędni do weryfikowania i zatwierdzania przekazywanych informacji. Firmy mogą rozważyć dostosowanie zakresu kontroli człowieka do poziomu ryzyka, tak aby różne rodzaje procesów opartych na AI działały z różnym poziomem autonomii.

Trzy pytania, które warto zadać przed wdrożeniem agentów AI na większą skalę

Prawdopodobnie każdemu z nas zdarzyło się w pracy lub życiu codziennym nie wiedzieć, czego nie wie. Czasem nie ma to poważnych konsekwencji, a innym razem skutki mogą być znacznie dotkliwsze.

Dostępne dziś dla AI ogromne zbiory danych sprawiają, że modele AI wiedzą znacznie więcej… ale nadal powinny „zasygnalizować”, gdy czegoś brakuje. Dlatego gdy firmy wykorzystują AI do realizacji coraz ważniejszych celów strategicznych i obsługi procesów, przed wdrożeniem jej na większą skalę warto zadać sobie następujące pytania:

  • Czy nasz agent potrafi wskazać, skąd pochodzą jego odpowiedzi — i kiedy te informacje zostały ostatnio zaktualizowane? Czy może podać te informacje bez konieczności pytania?
  • Czy agent ma niezbędny kontekst biznesowy, by właściwie interpretować prośby i na nie odpowiadać? Czy wyjaśni, jakie ma ograniczenia?
  • Czy wiemy, kiedy człowiek powinien wkroczyć do działania, aby przeprowadzić weryfikację i zatwierdzić wynik? W jakich okolicznościach do tego dojdzie i jak zostanie uruchomiona weryfikacja?

Rozwiązaniem nie jest unikanie AI

Chcę jasno powiedzieć: jestem entuzjastą AI. Korzystam z niej codziennie w swojej pracy, dostrzegam obecne i przyszłe korzyści i uważam, że pod wieloma względami dopiero zaczynamy odkrywać jej potencjał. Nie mam wątpliwości, że firmy, które unikają AI, oraz te, które nie potrafią wdrożyć jej w uporządkowany i skuteczny sposób, naprawdę ryzykują, że zostaną w tyle.

Wdrożenie AI nie oznacza jednak, że należy udostępnić modelowi ogólnego przeznaczenia dane przedsiębiorstwa i pozwolić mu działać bez żadnej kontroli.

Obecnie — przynajmniej z tego, co widzę — w pełni autonomiczna AI nie sprawdzi się w każdym zadaniu ani przy każdej decyzji biznesowej. Organizacje muszą rozumieć, w jakich obszarach AI może działać samodzielnie, gdzie potrzebuje dodatkowego kontekstu, a gdzie ludzka ocena jest niezbędna.

Zanim więc zapytasz, co wie agent AI, zapytaj, czego nie wie. Odpowiedzi pomogą określić, jak go wdrożyć, jakie zadania mu powierzyć i jak zapewnić mu warunki do skutecznego działania.

Dror Nadler jest dyrektorem ds. produktu w Q4 Inc., gdzie odpowiada za strategię produktową i innowacje, pomagając zespołom ds. relacji inwestorskich skuteczniej wykorzystywać AI, dane i technologię. Ma ponad 25 lat doświadczenia w obszarze technologii dla przedsiębiorstw, SaaS i usług finansowych. Wcześniej pełnił funkcje kierownicze w Intralinks, Cellrox, Rapid7 i EMC. W swojej karierze Dror koncentrował się na opracowywaniu i rozwijaniu produktów technologicznych, wspieraniu innowacji oraz przyspieszaniu wzrostu firm. Ukończył studia Executive MBA na Boston University, uzyskał tytuł magistra w dziedzinie technologii informacyjnych na Harvard University oraz dyplom ukończenia studiów prawniczych na Reichman University.