Liderzy opinii

Rozwój inżynierii orkiestracji AI

Andrew Filev
Dodaj Unite.AI do preferowanych źródeł w Google
A cinematic, wide-angle shot of a technical professional sitting at a futuristic curved workstation in a dark data center, orchestrating a complex digital workflow displayed on glowing holographic glass panels.
Kluczowe punktyTrzyosobowy zespół OpenAI wdrożył milion linii kodu za pomocą Codex bez ręcznego…
Zobacz więcej
  • Trzyosobowy zespół OpenAI wdrożył milion linii kodu za pomocą Codex bez ręcznego pisania ani jednej linii.
  • Inżynieria Orkiestracji AI łączy architekturę DevOps i wiedzę specjalistyczną z zakresu AI w jedną scentralizowaną rolę.
  • Organizacje, które scentralizują przepływy pracy agentów, osiągną dwukrotnie większą wydajność, podczas gdy inne utkną na poziomie autouzupełniania.

Inżynier 10x był mitem Doliny Krzemowej przez dziesięciolecia. Samotny geniusz, słuchawki na uszach, produkujący elegancki kod z nadludzką szybkością. Debatowaliśmy, czy istnieją, spieraliśmy się, jak ich zatrudnić, i po cichu żywiliśmy urazę do tych, którzy twierdzili, że nimi są.

Ale coś ciekawego wydarzyło się w drodze do przyszłości stawiającej AI na pierwszym miejscu: inżynier 10x stał się rzeczywistością. Tyle że tacy inżynierowie wyglądają zupełnie inaczej, niż sobie wyobrażaliśmy.

OpenAI niedawno opisało, jak trzyosobowy zespół użył Codex, aby dostarczyć 1500 pull requestów i około miliona linii kodu, bez ręcznego napisania jednej linii. Trzej inżynierowie, a zero kodu napisanego ręcznie. Produkt działający w środowisku produkcyjnym, używany przez setki użytkowników wewnętrznych.

To nie jest 10x; to bliżej 100x. A umiejętność, która to umożliwiła, nie była szybszym pisaniem ani znajomością większej liczby algorytmów. Było to budowanie systemu, który sprawia, że agenci AI są produktywni: przepływy pracy, mechanizmy ochronne, pętle weryfikacyjne, interfejsy, do których agenci się podłączają, i za pomocą których ludzie przeglądają wyniki.

Uważam, że jest to pojawienie się nowej funkcji kluczowej w organizacjach inżynierskich. Nazywałbym to Inżynierią Orkiestracji AI.

Trzy dyscypliny spotykają się na stand-upie

Jeśli spojrzymy na to, co tak naprawdę robi Inżynier Orkiestracji AI, rozpoznamy trzy znajome dyscypliny połączone w jedną.

Najbardziej oczywistym składnikiem jest DevOps. DevOps scentralizował pipeline wdrożeniowy. Jeden zespół skonfigurował przepływy pracy CI/CD, których każdy inżynier używał podczas wydawania kodu. Inżynieria Orkiestracji AI robi to samo, ale dla przepływów pracy agentów. Definiuje, jak zadania są przypisywane do agentów, jak wyjścia są weryfikowane, jak działają ponowne próby i mechanizmy zapasowe. Jest to wspólna infrastruktura, na której agenci działają.

Potem jest architektura, która nakłada się na DevOps bardziej, niż by się wydawało. Architekci decydują, które interfejsy są zablokowane, które wzorce są egzekwowane, które granice nie mogą być przekroczone. W świecie agentów ma to jeszcze większe znaczenie. Agenci potrzebują czystych, dobrze udokumentowanych baz kodu z jasnymi kontraktami. Inżynier Orkiestracji AI definiuje te ograniczenia, nie tylko dla ludzkiej czytelności, ale dla zrozumienia przez agentów. Nieuporządkowane repozytorium nie jest już tylko długiem technicznym. Jest to limit produktywności dla każdego agenta, który z nim pracuje.

Najmniej zrozumianym elementem jest warstwa specyficzna dla AI. Inżynieria promptów, zarządzanie kontekstem, wybór modelu, konfiguracja agenta. Dziś większość inżynierów robi to w sposób rozproszony, zadanie po zadaniu. Każda osoba sama ustala swój styl promptowania, swoją konfigurację agenta, swoje obejścia. Inżynier Orkiestracji AI centralizuje tę pracę. Buduje wspólne podręczniki, ponownie używalne konfiguracje, wiedzę organizacyjną na temat tego, co działa, a co nie, w różnych modelach i przypadkach użycia.

Oddzielnie, te trzy funkcje istnieją w większości organizacji inżynierskich dzisiaj. Argumentem jest, że połączenie ich w jedną, scentralizowaną rolę tworzy coś jakościowo innego.

Metafora showrunnera

Reżyser filmu nie obsługuje kamery, nie gra w scenach, nie edytuje materiału. Ale każdy kadr odzwierciedla jego decyzje.

Wybiera kompozycję ujęcia, tempo, ton. Decyduje, kiedy przybliżyć, a kiedy oddalić. Ustawia środowisko (oświetlenie, scenografia, ustawienie i ruch aktorów), tak aby każda osoba na planie mogła wykonać swoją najlepszą pracę w ramach spójnej wizji. Załoga jest indywidualnie utalentowana, ale bez tej koordynacji, otrzymujesz bałagan, który nigdy nie zostanie wydany.

Inżynieria Orkiestracji AI działa w ten sam sposób. Agenci są zdolni. Modele są potężne. Ale bez kogoś, kto projektuje system, który ich koordynuje, definiuje ograniczenia, buduje pętle sprzężenia zwrotnego, strukturyzuje przepływy pracy, otrzymujesz to, czego wszyscy doświadczyliśmy: niespójne wyniki, marnowanie zasobów obliczeniowych, agentów pracujących w sprzecznych kierunkach oraz inżynierów spędzających więcej czasu na naprawie kodu wygenerowanego przez AI, niż gdyby sami go napisali.

Reżyser robi film większy niż suma jego części. Inżynier Orkiestracji AI robi to samo dla flot agentów.

Dlaczego większość organizacji inwestuje za mało

To, co widzę w całej branży: firmy inwestują dużo w narzędzia AI i zdecydowanie za mało w systemy wokół nich.

Inżynierowie mają dostęp do Copilot, Claude, Codex. Eksperymentują indywidualnie. Niektórzy stają się zaawansowanymi użytkownikami. Większość osiąga plateau na etapie “fancy autocomplete”. 20% zysków produktywności, o których mówią badania? To objaw adopcji na poziomie narzędzi bez myślenia systemowego.

Organizacje, które przełamują bariery, te, które zgłaszają co najmniej dwukrotnie większy wolumen ukończonej pracy, mają coś wspólnego. Scentralizowały pracę orkiestracji. Ktoś (lub jakiś zespół) odpowiada za przepływy pracy agentów, przygotowanie repozytorium, infrastrukturę weryfikacji, wspólny kontekst, do którego każdy agent ma dostęp.

Czym tak naprawdę jest ta rola

Codzienna praca Inżyniera Orkiestracji AI może obejmować:

  • Projektowanie przepływów pracy agentów: definiowanie, jak żądanie funkcjonalne staje się specyfikacją, staje się planem, staje się równoległymi zadaniami agentów, staje się przeglądanym i scalonym kodem.
  • Budowanie infrastruktury weryfikacji: automatyczne testy, reguły lintowania, skany bezpieczeństwa i ramy oceny, które agenci muszą przejść, zanim ich praca zostanie scalona.
  • Utrzymywanie zdrowia repozytorium do użytku przez agentów: dokumentacja, wyraźne interfejsy, zarządzanie zależnościami i uproszczenie kodu, wszystko zoptymalizowane dla zrozumienia przez agentów, a nie tylko dla czytelności ludzkiej.
  • Scentralizowanie strategii promptów i kontekstu: wspólne systemowe prompty, potoki wyszukiwania informacji, decyzje dotyczące trasowania modeli i szablony konfiguracji, których używa cały zespół.
  • Monitorowanie i poprawianie wydajności agenta: śledzenie wskaźników powodzenia, trybów awarii, kosztów na zadanie i czasu do scalenia w całej flotylli agentów, a następnie dostosowywanie systemu na podstawie danych.

Osoba ta siedzi na skrzyżowaniu inżynierii platformy, architektury oprogramowania i ekspertyzy AI. Nie pisze funkcji. Buduje system, który sprawia, że dostarczanie funkcji jest szybkie, niezawodne i skalowalne.

Historyczny wzorzec

We wczesnych dniach obliczeń w chmurze wdrożenie było pobocznym zadaniem każdego inżyniera. Każdy zespół miał własne skrypty, własne konfiguracje serwerów, własny sposób dostarczania kodu do produkcji. DevOps pojawił się, aby scentralizować tę pracę, a inżynieria platformy ewoluowała, aby zbudować ją w ramach wspólnej infrastruktury samoobsługowej.

AI podąża tym samym torem. Obecnie użycie agenta jest pobocznym zadaniem każdego inżyniera. Każda osoba ma swój własny styl promptowania, własne preferencje narzędzi, własny model mentalny dotyczący tego, kiedy AI pomaga, a kiedy nie. Organizacje, które scentralizują tę pracę, które traktują ją jako infrastrukturę, a nie indywidualne eksperymenty, wysuną się na prowadzenie tak samo, jak organizacje z dojrzałymi praktykami DevOps wyprzedziły te, które ich nie mają.

Różnica polega na szybkości. Przejście na DevOps zajęło dekadę. Ta transformacja może potrwać zaledwie kilka kwartałów, choć przyznam, że ta prognoza zakłada, że organizacje rozpoznają wzorzec szybciej, niż zwykle.

Ścieżka do przodu

Jeśli jesteś liderem inżynierskim, oto co bym sugerował, choć Twoje wyniki mogą się różnić w zależności od tego, jak bardzo zaawansowany jest już Twój zespół.

  1. Zidentyfikuj, kto już wykonuje tę pracę nieoficjalnie. Każda organizacja ma kogoś, kto rozpracował przepływy pracy agentów, do kogo inni inżynierowie chodzą po radę dotyczącą promptowania lub konfiguracji narzędzi. Ta osoba to Twój proto-Inżynier Orkiestracji AI.
  2. Nadaj temu wyraźną formę. Nadaj funkcji nazwę, mandat i zasoby. Nie pozwól, by pozostała pobocznym projektem dołączonym do czyjejś „prawdziwej” pracy.
  3. Rozpocznij od przygotowania repozytorium. Przed inwestowaniem w zaawansowane przepływy pracy agentów upewnij się, że Twoja baza kodu jest czymś, po czym agenci potrafią się rzeczywiście poruszać. Czyste interfejsy, dobra dokumentacja, kompleksowe testy, uproszczona architektura.
  4. Scentralizuj to, co działa. Kiedy ktoś odkryje strategię promptowania lub wzorzec przepływu pracy, który dramatycznie poprawia wyjście agenta, zapisz to. Uczynij to domyślnym dla całego zespołu, a nie wiedzą plemienną zamkniętą w jednej osobie.
  5. Mierz na poziomie systemu. Nie śledź tylko indywidualnego użycia narzędzi. Śledź, ile zadań agenci wykonują od początku do końca, jak wyglądają wskaźniki przeglądów i ponownej pracy, gdzie są wąskie gardła.

Nowy 10x

Mit inżyniera 10x zawsze dotyczył indywidualnych bohaterskich wyczynów. Jedna osoba, przerastająca wszystkich dzięki czystemu talentowi i kofeinie.

Rzeczywistość inżyniera 10x w erze AI dotyczy myślenia systemowego. Osoba, która sprawia, że każdy inny inżynier (i każdy agent) jest bardziej produktywny, budując odpowiednią infrastrukturę, odpowiednie przepływy pracy, odpowiednie ograniczenia.

Oni nie piszą 10-krotnie więcej kodu. Budują system, który go pisze.

Nie jestem pewien, czy ta rola skrystalizuje się dokładnie tak, jak ją opisałem. Ale jestem dość pewien, że organizacje, które rozwiążą warstwę orkiestracji (niezależnie od tego, jak ją nazwą), będą tymi, które rzeczywiście zrealizują zyski produktywności, o których wszyscy inni tylko mówią.

Andrew Filev jest założycielem i dyrektorem generalnym Zencoder. Przekształcił zarządzanie pracą zespołową, zakładając Wrike (ponad 20 tys. klientów, sprzedane za 2,25 mld USD), został przedstawiony w Forbes i The NY Times, a jego pasja do sztucznej inteligencji i innowacji nadal kształtuje przyszłość pracy.