Od inżynierii sugestii do inżynierii intencji: Ewolucja komunikacji między ludźmi a AI

Przez ostatnie kilka lat, inżynieria sugestii stała się jednym z najważniejszych umiejętności w erze AI. Zbudowano kursy wokół niej. Utworzono tytuły pracy dla niej. Całe społeczności powstały, aby dzielić się wskazówkami, jak wykonać idealną zdanie, które sprawi, że model językowy zrobi dokładnie to, co chcesz. Kluczowym powodem popularności inżynierii sugestii jest to, że: AI jest potężna, ale także literalna. Musisz nauczyć się jej języka, zanim będzie mogła ci pomóc. Ta logika miała sens w tamtym czasie. Ale zaczyna się rozpaść.

Jako modele AI stają się coraz bardziej zdolne, ciężar komunikacji przesuwa się. Pytanie nie jest już tylko “jak sformułować tę prośbę, aby model odpowiedział dobrze?” Staje się “jak upewnić się, że AI naprawdę rozumie, co próbujesz osiągnąć?” To jest głębsze pytanie. I wskazuje na pojawienie się nowej dziedziny zwanej inżynierią intencji.

Czym była tak naprawdę inżynieria sugestii

Aby zrozumieć, dokąd zmierzamy, pomaga zrozumieć, czym była inżynieria sugestii . W swojej istocie była to obejście. Wczesne modele językowe były potężne, ale kruche. Reagowały dobrze na określone wzorce i źle na niejasne. Więc użytkownicy uczyli się tych wzorców. Odkryli, że proszenie modelu o “myślenie krok po kroku” poprawia rozumowanie. Uczyli się, że podawanie przykładów sprawia, że dane wyjściowe są bardziej spójne. Uczyli się, że przypisanie roli modelowi, jak “działać jak ekspert od oprogramowania”, zmienia ton i jakość jego odpowiedzi. Chociaż te spostrzeżenia naprawdę poprawiły wyniki, wymagały od ludzi adaptacji do maszyny. Ludzie uczyli się mówić w sposób, który pasował do architektury modelu, a nie ich własny naturalny sposób myślenia.

To nie jest sposób, w jaki dobra komunikacja między inteligentnymi agentami działa. Kiedy wyjaśniasz problem doświadczonemu koledze, nie myślisz najpierw o strategii sformułowania, która najbardziej aktywuje jego ścieżki neuronalne. Wyjaśniasz sytuację. On rozumie kontekst. On zadaje pytania wyjaśniające, jeśli potrzebne. I pracuje nad tym, co naprawdę chcesz. Rzemiosło inżynierii sugestii, pomimo swojej wartości, zawsze rekompensowało lukę, którą lepszy AI powinien ostatecznie zamknąć.

Ograniczenia, które uczyniły inżynierię sugestii konieczną

Powodem, dla którego inżynieria sugestii stała się tak ważna, nie było tylko to, że modele były niedoskonałe. Było to również to, że modele nie miały prawdziwego modelu użytkownika. Przetwarzały tekst i zwracały tekst. Nie miały trwałego zrozumienia, kim jesteś, co próbujesz zbudować, czy co “dobrze” wygląda w twoim konkretnym kontekście.

To stworzyło dziwną sytuację. Mogłeś zadać to samo pytanie i uzyskać diametralnie różne wyniki, w zależności od tego, jak je sformułujesz. Mogłeś spędzić dwadzieścia minut, dopracowując sugestię, i nagle odblokować odpowiedź, która była bardziej przydatna niż cokolwiek, co uzyskałeś wcześniej. Sugestia nie była tylko wejściem. Była kluczem, a znalezienie odpowiedniego klucza wymagało umiejętności, cierpliwości i czasem szczęścia.

To również oznaczało, że jakość twoich danych wyjściowych często zależała bardziej od twoich umiejętności sugestii niż od twojej rzeczywistej wiedzy w dziedzinie. Lekarz, który był także umiejętnym inżynierem sugestii, mógł wydobyć lepsze powody medyczne z modelu niż bardziej znający lekarz, który nie znał wzorców. To jest dziwna inwersja wartości. Sugestywnie wskazuje, że system optymalizował się do czegoś innego.

Czym zmienia inżynieria intencji

Inżynieria intencji jest zaprojektowana, aby zajmować się innym zestawem założeń. Zamiast pytać, jak sformułować prośbę, aby model odpowiedział dobrze, pyta, jak skomunikować to, co naprawdę chcesz, na każdym poziomie, aby model mógł samodzielnie powodować odpowiedni wynik.

To obejmuje kilka rzeczy, z którymi inżynieria sugestii nie jest w stanie sobie poradzić. Obejmuje to dostarczanie systemom AI wystarczającego kontekstu o twoich celach, ograniczeniach i standardach, aby mogły podejmować dobre decyzje bez określania każdego kroku. Obejmuje tworzenie wspólnego zrozumienia zamiast wydawania precyzyjnych instrukcji. I obejmuje budowanie systemów, w których AI może zadawać odpowiednie pytania zamiast czekać na podanie odpowiednich odpowiedzi.

Już teraz widzimy to w praktyce. Współczesne systemy AI coraz częściej obsługują pamięć trwałą, profile użytkowników i kontekst ciągły. Kiedy model wie, że jesteś menedżerem produktu pracującym nad aplikacją opieki zdrowotnej z określonymi ograniczeniami regulacyjnymi, twoje prośby automatycznie niosą bogatsze znaczenie. Nie musisz odbudowywać kontekstu od zera za każdym razem. Model już rozumie kontekst, nad którym pracujesz.

To jest fundamentalna zmiana. Inżynieria sugestii traktowała każdą interakcję jako izolowaną. Inżynieria intencji traktuje komunikację jako kumulatywną. Model nie jest już tylko przetwarzany jeden wejściowy sygnał. Śledzi on ciągłą rozmowę o tym, co próbujesz osiągnąć i dlaczego.

Rola bogatszego kontekstu i rozumowania

Inną wymiarem inżynierii intencji jest to, jak nowoczesne modele radzą sobie z niejasnością. Dobrze wyszkolony model dzisiaj nie tylko dopasowuje wzorce do najbardziej prawdopodobnego uzupełnienia twojej zdania. Rozumuje, co najprawdopodobniej miałeś na myśli, oznacza założenia, które czyni, i w wielu przypadkach prosi o wyjaśnienie przed kontynuowaniem.

To ma znaczenie, ponieważ komunikacja ludzka jest wewnętrznie niejasna. Kiedy ktoś prosi “czy możesz mi pomóc napisać coś dla mojego szefa”, może mieć na myśli przegląd wydajności, email z przeprosinami, propozycję projektu lub list rezygnacyjny. System zoptymalizowany pod kątem inżynierii sugestii próbowałby wnioskować z dokładnych słów. System zoptymalizowany pod kątem inżynierii intencji rozpoznałby niejasność i radziłby sobie z nią inteligentnie, albo pytając, albo produkując coś, co uznaje wiele możliwych interpretacji.

Rozumowanie w czasie testów, czyli zdolność modelu do przemyślenia problemu przed odpowiedzią, również odgrywa rolę tutaj. Modele, które rozumują przed odpowiedzią, są lepsze w łapaniu przypadków, w których literalna prośba jest w konflikcie z podstawową intencją. Mogą zauważyć, kiedy poprosiłeś o X, ale co najprawdopodobniej potrzebujesz, to Y, i mogą przedstawić tę obserwację zamiast cicho wypełniać prośbę, która nie będzie naprawdę służyć twojemu celowi.

Nowy rodzaj umiejętności

Ewolucja ta nie czyni umiejętności komunikacji międzyludzkiej nieistotnymi. Zmienia to, jak wyglądają te umiejętności. Osoba, która prosperuje w świecie inżynierii intencji, nie jest tym, kto zapamiętał najlepsze szablony sugestii. Jest to osoba, która może wyraźnie sformułować, co próbuje osiągnąć, skomunikować ograniczenia i kontekst, które mają znaczenie, i rozpoznać, kiedy dane wyjściowe AI służą rzeczywistemu celowi, a nie tylko stwierdzonej intencji.

W wielu ways, są to starsze umiejętności. Są to umiejętności dobrego menedżera, dobrego nauczyciela lub dobrego współpracownika. Być w stanie przekazać intencję wyraźnie, wyjaśnić nie tylko to, co chcesz, ale dlaczego chcesz, zawsze było znakiem skutecznej komunikacji. Co jest nowe, to to, że systemy AI są teraz wystarczająco zaawansowane, aby naprawdę odpowiedzieć na ten rodzaj komunikacji.

Ciekawa implikacja jest taka, że w miarę poprawy AI, interfejs między ludźmi a maszynami zacznie wyglądać mniej jak programowanie, a bardziej jak współpraca. Nie będziesz musiał konstruować idealnego wejścia. Będziesz musiał być wyraźnym i celowym komunikatorem.

Czyli co to oznacza dla tego, jak budujemy systemy AI

Zmiana ta ma również konsekwencje dla tego, jak systemy AI powinny być zaprojektowane. Paradigma inżynierii sugestii zachęca do budowania systemów, które są bardzo wrażliwe na precyzyjne wejście. Paradigma inżynierii intencji zachęca do budowania systemów, które są dobre w inferowaniu, pytaniu, adaptowaniu i trwaniu.

To oznacza inwestowanie w architektury pamięci, które umożliwiają modelom przenoszenie znaczącego kontekstu przez sesje. Oznacza to budowanie modeli, które wiedzą, kiedy nie mają wystarczającej ilości informacji, aby działać dobrze, i mogą powiedzieć o tym. Oznacza to tworzenie interfejsów, w których użytkownicy komunikują cele, a nie polecenia, i w których AI zachowuje się jak partner w ustalaniu, jak osiągnąć te cele.

To również oznacza przemyślenie oceny. Obecnie często mierzymy, jak dobrze model wykonuje określone instrukcje. W świecie inżynierii intencji lepszą miarą jest to, jak dobrze model służy podstawowemu celowi za tymi instrukcjami, nawet jeśli same instrukcje były nieprecyzyjne.

Podsumowanie

Inżynieria sugestii traktowała AI jako potężne, ale głupie narzędzie, które wymagało ostrożnego obchodzenia się. Inżynieria intencji traktuje AI jako coś bliższego inteligentnemu współpracownikowi, który może zrozumieć kontekst, rozumieć cele i radzić sobie z niejasnością. Ta zmiana odzwierciedla zmianę w tym, do czego AI jest przeznaczone. Nie maszyna, która wykonuje twoje dokładne słowa. Ale system, który pomaga ci osiągnąć to, co naprawdę cię interesuje. Zmiana sygnalizuje, że przyszłość interakcji między ludźmi a AI nie będzie oparta o opanowanie sprytnego sformułowania. Będzie oparta o artykułowanie celów, ograniczeń i celu wystarczająco wyraźnie, aby AI mogła współpracować, a nie tylko wykonywać polecenia.