Dlaczego wszystkie firmy potrzebują grafu wiedzy w erze sztucznej inteligencji

Sztuczna inteligencja znacznie przyspieszyła rozwój oprogramowania, ale nie zmieniła w zasadzie, jak funkcjonują organizacje oprogramowania. Ten brak dopasowania staje się cichą przeszkodą dla przedsiębiorstw wykorzystujących sztuczną inteligencję.

Przez lata zespoły inżynierskie potrzebowały więcej zasobów, aby nadążyć za popytem. Dziś małe zespoły wykorzystują sztuczną inteligencję do generowania kodu, testowania i przyspieszania drogi od pomysłu do wdrożenia. Deweloperzy wyraźnie szybciej wysyłają kod, ale czy to konsekwentnie przekłada się na lepsze wyniki, pozostaje niejasne.

To przyspieszenie tworzy nowe gardło: podatek koordynacyjny. Sztuczna inteligencja przyspieszyła wykonanie znacznie szybciej niż poprawiła, jak organizacje koordynują swoją pracę. Udostępnianie kontekstu, ustalanie priorytetów, podejmowanie decyzji operacyjnych, raportowanie stanu i wyrównywanie funkcjonalne pozostają w dużej mierze ręczne, nawet gdy rozwój przyspiesza.

Atlassian szacuje, że wynikająca z tego rozłączność kosztuje firmy z listy Fortune 500 około 161 miliardów dolarów rocznie. Te same badania wykazały, że chociaż 89% dyrektorów wykonawczych twierdzi, że sztuczna inteligencja przyspieszyła pracę, tylko 6% może wskazać wymierne wyniki na poziomie całej organizacji.

Szybsze dane wyjściowe nie tworzą automatycznie mądrzejszej organizacji. Tylko 17% użytkowników zgadza się, że agenci poprawili współpracę w ramach ich zespołu, co czyni to najniżej oceniany wpływ, pozostawiając pętlę koordynacyjną niepołączoną.

Odtwarzanie kontekstu przy każdym zapytaniu jest ogromnym podatkiem

Podczas gdy demo kwitnie dzięki użyciu czystych, opracowanych źródeł danych, środowiska produkcyjne stanowią wyzwanie: niejasne, przestarzałe i sprzeczne informacje rozproszone po systemach niepołączonych. Gdy konfrontujemy się z tymi lukami, duży model językowy robi to, do czego został zaprojektowany: przewiduje najbardziej prawdopodobną odpowiedź. To, co wyglądało na rozumowanie w kontrolowanym demo, szybko staje się pewnym zgadywaniem z prawdziwymi danymi produkcyjnymi.

Branża zaczęła nazywać ten problem. “Inżynieria kontekstu” pojawiła się jako dyscyplina skupiona na projektowaniu informacji, relacji, zarządzania i jakości, które determinują, czy przedsiębiorstwo sztucznej inteligencji odnosi sukces. Czynnikiem ograniczającym jest często nie sam model, ale jakość kontekstu, który go otacza.

Każdy raz, gdy system sztucznej inteligencji odtwarza kontekst od podstaw, płaci podatek. Odpowiedzi są wolne, koszty tokenów wzrastają, a zaufanie się erozyjne, ponieważ odpowiedzi różnią się w zależności od tego, które fragmenty wiedzy organizacyjnej są pobierane. Dwa agenci sztucznej inteligencji mogą odpowiedzieć na to samo pytanie inaczej, ponieważ każdy składa kontekst z innego fragmentu wiedzy organizacyjnej.

Większość organizacji już posiada wiedzę, której ich systemy sztucznej inteligencji potrzebują. Problem polega na tym, że ta wiedza jest rozproszona po biletach, repozytoriach, dokumentacji, rozmowach i narzędziach planistycznych. W rezultacie każda interakcja zaczyna się od odtwarzania kontekstu organizacyjnego, zanim model może zacząć rozumowanie, powtarzając ten sam kosztowny proces przy każdym nowym pytaniu.

Dostęp nie jest tym samym co wiedza

Częstym pytaniem jest, czy większe okna kontekstowe, lepsza wyszukiwarka czy poprawiona pobieralność rozwiążą ten problem. Protokoły kontekstu modelu adresują prawdziwy problem integracji, zapewniając agentom standaryzowany sposób dostępu do systemów, w których żyje informacja przedsiębiorstwa. Ale dostęp nie jest tym samym co zrozumienie. Udzielenie agentowi dostępu do kilkunastu systemów nie wyjaśnia, które decyzje przeważyły nad innymi, dlaczego wymóg się zmienił, czy dokument jest nadal autorytatywny, czy rozmowa z klientem ostatecznie wpłynęła na to, co zostało wysłane. Bez warstwy logicznej, która jest zorganizowana i zweryfikowana, to po prostu zapewnia kilkanaście więcej okazji do spotkania ze sprzecznymi szczegółami.

Większość systemów sztucznej inteligencji w przedsiębiorstwach nadal zakłada, że kontekst powinien być składany od podstaw za każdym razem, gdy ktoś zadaje pytanie. To podejście może odpowiedzieć na izolowane pytania, ale ma trudności z obsługą ciągłego rozumowania wymaganego do prowadzenia biznesu. Liderzy są nadal zmuszeni spędzać godziny każdego tygodnia, łącząc odpowiedzi na pytania, które powinny już istnieć w organizacji:

• Co się zmieniło?
• Dlaczego priorytet ten się zmienił?
• Czy mapa drogowa jest nadal dokładna?
• Czy nadal rozwiązujemy odpowiedni problem?

To właśnie tutaj graf wiedzy zajmuje swoje miejsce. Graf przechowuje jednostki i ich relacje, zapewniając podstawę dla zachowania pamięci organizacyjnej. W organizacji oprogramowania te jednostki mogą obejmować klientów, funkcje, wymagania, decyzje, bilety, repozytoria, prośby o ściągnięcie, wydania i ludzi.

Zamiast pobierać zbiór fragmentów, które zawierają podobne słowa, agent może śledzić połączenia od decyzji do wymogu, który ją wywołał, biletu, który ją zaimplementował, prośby o ściągnięcie, która ją zmieniła, i opinii klienta, która później ją zakwestionowała.

Grafy wiedzy wykraczają poza bycie tylko kolejnym sposobem organizacji danych. Zamiast wielokrotnie odtwarzać kontekst z systemów niepołączonych, sztuczna inteligencja może rozumować z ciągle ewoluującego zrozumienia, jak organizacja naprawdę działa.

Wynikiem jest sztuczna inteligencja, która może rozumować z decyzji, rozmów i dowodów, a nie odtwarzać to zrozumienie od podstaw przy każdym nowym pytaniu.

Struktura sama w sobie nie jest wystarczająca

Budowanie grafu raz jest trudne, a utrzymanie go w dokładności jest jeszcze trudniejsze. W dynamicznie zmieniającej się organizacji bilety się zmieniają, plany się przesuwają, kod jest wysyłany, odpowiedzialność się przenosi, a opinie klientów zmieniają priorytety. To oznacza, że pamięć organizacyjna musi aktualizować się, gdy rzeczywistość się zmienia, i ponownie łączyć każdą zmianę ze źródłem.

Podczas gdy 82% deweloperów zgadza się, że sztuczna inteligencja pomaga im kodować szybciej i 71% mówi, że poprawia ich zdolność do rozwiązywania złożonych problemów, ta prędkość wiąże się z pułapką: 96% deweloperów nie ma pełnej pewności, że wynikowy kod jest funkcjonalnie poprawny.

Każdy fakt, jaki agent podaje, powinien prowadzić do swojego źródła: commitu, biletu, wątku. Jeśli system sztucznej inteligencji mówi liderowi, że wydanie jest na dobrej drodze, ale nie może pokazać sygnałów za tą konkluzją, doświadczony lider powinien wahająć się, zanim na to zareaguje.

Widziałem zespoły, które porzuciły narzędzia, które dawały rozsądne odpowiedzi, ponieważ użytkownicy nie mogli zweryfikować, jak te odpowiedzi zostały uzyskane. Widziałem również zespoły, które kontynuowały korzystanie z mniej zaawansowanych systemów, ponieważ te systemy pokazywały swoją pracę. Pewna podsumowanie bez dowodów to po prostu szybszy sposób, aby być źle poinformowanym, a gdy narzędzie spali lidera niesprawdzoną odpowiedzią, zaufanie nie wraca. Łączenie każdego twierdzenia ze źródłem zmienia “zaufaj mi” w “oto dlaczego”.

Dokładność ma znaczenie z tego samego powodu. Gdy system ciągle śledzi relację między planem a rzeczywistością, luka między tym, co zespół zdecydował, a tym, co zostało faktycznie wysłane, staje się widocznym dryfem, a nie jest cichą absorpcją w pewnej, ale przestarzałej odpowiedzi. To nie jest marginalna obawa. Thoughtworks wskazał dryf kodu jako specjalne niebezpieczeństwo dla agentów sztucznej inteligencji. Podkreśla potrzebę pętli weryfikacji i mechanizmów sprzężenia zwrotnego, które pomagają systemom wykryć i skorygować odchylenia, gdy praca ewoluuje. Dryf, który organizacja może zobaczyć, jest użyteczną informacją. Dryf, który pozostaje ukryty, to sposób, w jaki system sztucznej inteligencji zaczyna wprowadzać w błąd ludzi, którzy mu zaufali.

Co zapytać przed następnym projektem agenta

Oceniając inicjatywę przedsiębiorstwa agenta, zacząłbym od czterech pytań:

• Czy system utrzymuje optymalną reprezentację kontekstu w czasie, czy po prostu zapewnia sztucznej inteligencji dostęp do istniejących źródeł danych?
• Czy każda odpowiedź jest wyśledzona do konkretnego źródła, takiego jak bilet lub dokument?
• Czy system aktualizuje się automatycznie, gdy informacje organizacji się zmieniają?
• Czy agent rozumie relacje między punktami danych, a nie tylko ma do nich dostęp?

Modele podstawowe będą nadal się poprawiać. Możliwości rozumowania staną się silniejsze, okna kontekstowe wzrosną, a te postępy staną się coraz bardziej dostępne dla wszystkich. To, co nie zostanie skomercjalizowane, to zrozumienie organizacyjne. Większość CEO zgłasza, że widzi niewiele lub żadnych korzyści z sztucznej inteligencji w ciągu ostatniego roku. Założyłbym, że większość z nich brakuje warstwy kontekstu, która pozwala tym modelom rozumować nad tym, co organizacja już wie.

Gdy oprogramowanie staje się dramatycznie łatwiejsze do stworzenia, zrozumienie staje się rzadkim zasobem. Ci, którzy tworzą najwięcej wartości z sztucznej inteligencji, są lepsi w zachowywaniu, łączeniu się i ciągłym uczeniu się z wiedzy organizacyjnej. To jest różnica między sztuczną inteligencją, która zgaduje, a sztuczną inteligencją, która wie.