Od Prompt Engineeringu k Intent Engineeringu: Evoluce komunikace mezi lidmi a umělou inteligencí

Po několik posledních let se prompt engineering stal jednou z nejdůležitějších dovedností v éře umělé inteligence. Byly vytvořeny kurzy, které se kolem něj točily. Byly vytvořeny pracovní pozice, které se na něj specializovaly. Celé komunity se vytvořily, aby sdílely tipy, jak vytvořit dokonalou větu, která by jazykový model donutila udělat přesně to, co jste chtěli. Klíčovým důvodem popularity prompt engineeringu je to, že: umělá inteligence je mocná, ale také doslovná. Museli jste se naučit její jazyk, než mohla pomoci. Tato logika dávala smysl v té době. Ale začíná se rozpadat.

Jak se modely umělé inteligence stávají stále schopnějšími, břemeno komunikace se přesouvá. Otázka již není pouze “jak mám tuto žádost formulovat správně?” Stává se “jak mám zajistit, aby umělá inteligence skutečně rozuměla tomu, co se snažím dosáhnout?” To je hlubší otázka. A ukazuje na vznik nového oboru zvaného intent engineering.

Co Prompt Engineering Skutečně Byl

Abychom pochopili, kam směřujeme, pomáhá pochopit, co prompt engineering vlastně byl. V jeho jádru to byla záležitost. Rané jazykové modely byly mocné, ale křehké. Reagovaly dobře na specifické vzory a špatně na nejednoznačné. Uživatelé se tedy naučili tyto vzory. Zjistili, že když modelu řeknete “myslet krok za krokem”, zlepšuje se jeho myšlení. Zjistili, že poskytování příkladů dělá výstupy konzistentnější. Zjistili, že přiřazování role modelu, jako je “chovat se jako odborný softwarový inženýr”, mění tón a kvalitu jeho odpovědí. Ačkoli tyto poznatky skutečně zlepšily výsledky, vyžadují, aby se lidé přizpůsobili stroji. Lidé se učili mluvit způsobem, který se hodí modelu, spíše než svým vlastním přirozeným způsobem myšlení.

To není to, jak funguje dobrá komunikace mezi inteligentními agenty. Když vysvětluješ problém zkušenému kolegovi, nejdříve neuvažuješ o strategii formulování, která nejvíce aktivuje jeho neuronové dráhy. Vysvětlíš situaci. On pochopí kontext. Zeptá se na vyjasňující otázky, pokud je to potřeba. A pracuje na tom, co skutečně chceš. Řemeslo prompt engineeringu, navzdory své hodnotě, vždy kompenzovalo mezeru, kterou by lepší umělá inteligence měla nakonec uzavřít.

Omezení, Která Učinila Prompt Engineering Nutným

Důvod, proč se prompt engineering stal tak důležitým, nebyl pouze v tom, že modely byly nedokonalé. Bylo to v tom, že modely neměly žádný skutečný model uživatele. Zpracovávaly text a vracely text. Neměly žádný trvalý pochopení toho, kdo jste, co se snažíte postavit, nebo co “dobré” vypadá ve vašem konkrétním kontextu.

To vytvořilo podivnou situaci. Mohli jste položit stejnou otázku a získat zcela odlišné výsledky v závislosti na tom, jak jste ji formulovali. Mohli jste strávit dvacet minut úpravou promptu a najednou odemknout odpověď, která byla užitečnější než cokoliv, co jste dostali dříve. Prompt nebyl pouze vstupem. Byl klíčem a nalezení správného klíče vyžadovalo dovednost, trpělivost a někdy štěstí.

To také znamenalo, že kvalita vašeho výstupu často závisela více na vašich dovednostech v prompt engineeringu než na vašich skutečných znalostech v oblasti. Lékař, který byl také zkušený v prompt engineeringu, mohl získat lepší lékařské závěry z modelu než lékař, který byl více znalý, ale neznal vzory. To je podivná inverze hodnoty. Naznačuje, že systém optimalizoval nesprávnou věc.

Co Intent Engineering Změní

Intent engineering je navržen tak, aby řešil jinou sadu základních předpokladů. Místo toho, aby se ptal, jak formulovat žádost, aby model reagoval dobře, ptá se, jak komunikovat to, co skutečně chcete, na všech úrovních, aby model mohl sám rozumnět správný výsledek.

To zahrnuje několik věcí, se kterými prompt engineering není vybaven. Zahrnuje poskytnutí umělým inteligencím dostatečného kontextu o vašich cílech, omezeních a standardech, aby mohly učinit dobré rozhodnutí bez toho, aby jste museli specifikovat každý krok. Zahrnuje vytváření sdíleného porozumění spíše než vydávání přesných instrukcí. A zahrnuje budování systémů, kde umělá inteligence může klást správné otázky místo čekání na správné odpovědi.

Už jsme tohle viděli v praxi. Moderní systémy umělé inteligence stále častěji podporují trvalou paměť, uživatelské profily a probíhající kontext. Když model ví, že jste produktový manažer pracující na zdravotnickém aplikaci se specifickými regulačními omezeními, vaše žádosti automaticky nesou bohatší význam. Nemusíte znovu budovat kontext z ničeho. Model již rozumí kontextu, na kterém pracujete.

To je zásadní posun. Prompt engineering považoval každou interakci za izolovanou. Intent engineering považuje komunikaci za kumulativní. Model již není pouze zpracovávající jeden vstup. Sleduje probíhající konverzaci o tom, co se snažíte dosáhnout a proč.

Role Bohatšího Kontextu a Rozumu

Další dimenzí intent engineeringu je, jak moderní modely zpracovávají nejednoznačnost. Dnes dobře vyškolený model již nevyhledává pouze nejbližší shodu s vaší větou. Rozumní o tom, co jste pravděpodobně mysleli, označují předpoklady, které dělají, a v mnoha případech žádají o vyjasnění, než pokračují.

To záleží, protože lidská komunikace je inherentně nejednoznačná. Když někdo požádá “můžete mi pomoci napsat něco pro mého šéfa”, může to znamenat hodnocení výkonu, omluvný e-mail, projektový návrh nebo rezignační dopis. Systém optimalizovaný pro prompt engineering by se pokusil odvodit z přesných slov. Systém optimalizovaný pro intent engineering by rozpoznal nejednoznačnost a zpracoval ji inteligentně, buď tím, že se zeptá, nebo tím, že vyprodukuje něco, co uznává více možných interpretací.

Rozumní při testování, což je schopnost modelu myslet na problém, než odpoví, také hraje roli zde. Modely, které rozumní předtím, než odpoví, jsou lepší v zachycení případů, kdy doslovná žádost konfliktuje s podkladovým záměrem. Mohou si všimnout, když jste požádali o X, ale co jste pravděpodobně potřebovali, je Y, a mohou tuto observaci uvést, místo aby tiše plnili žádost, která ve skutečnosti neslouží vašemu cíli.

Nový Druh Dovednosti

Tato evoluce nečiní lidské komunikační dovednosti irelevantními. Mění to, jak tyto dovednosti vypadají. Osoba, která prosperuje ve světě intent engineeringu, není ten, kdo si pamatuje nejlepší šablony promptů. Je to osoba, která může jasně артиkulovat, co se snaží dosáhnout, komunikovat omezení a kontext, které záleží, a rozpoznat, kdy výstup umělých inteligencí slouží skutečnému cíli, a ne pouze stanovenému.

Ve mnoha ohledech jsou to starší dovednosti. Jsou to dovednosti dobrého manažera, dobrého učitele nebo dobrého spolupracovníka. Být schopen jasně vyjadřovat záměr, vysvětlovat nejen to, co chcete, ale proč to chcete, vždy bylo známkou efektivní komunikace. Co je nové, je to, že systémy umělé inteligence jsou nyní dostatečně sofistikované, aby skutečně reagovaly na tento typ komunikace.

Zajímavým implikací je, že jak se umělá inteligence zlepšuje, rozhraní mezi lidmi a stroji bude začínat vypadat méně jako programování a více jako spolupráce. Nebudete muset inženýrsky vytvořit dokonalý vstup. Budete muset být jasným a účelným komunikátorem.

Co To Znamená Pro To, Jak Budujeme Systémy Umělé Inteligence

Tento posun také má důsledky pro to, jak bychom měli navrhovat systémy umělé inteligence. Paradigma prompt engineeringu podporuje budování systémů, které jsou vysoce reaktivní na přesný vstup. Paradigma intent engineeringu podporuje budování systémů, které jsou dobré v odhadování, ptají se, přizpůsobují se a trvají.

To znamená investice do architektur paměti, které umožňují modelům nést smysluplný kontext napříč relacemi. Znamená to budování modelů, které vědí, kdy nemají dostatek informací, aby jednaly dobře, a mohou to říci. Znamená to vytváření rozhraní, kde uživatelé komunikují cíle spíše než příkazy, a kde umělá inteligence se chová jako partner při zjišťování, jak dosáhnout těchto cílů.

To také znamená přehodnocení hodnocení. Právě teď často měříme, jak dobře model vykonává specifické instrukce. V světě intent engineeringu je lepší měřítko, jak dobře model slouží základnímu účelu za těmito instrukcemi, i když instrukce samy o sobě byly nepřesné.

Podstatné

Prompt engineering považoval umělou inteligenci za mocný, ale hloupý nástroj, který potřeboval pečlivé ovládání. Intent engineering považuje umělou inteligenci za něco bližšího inteligentnímu spolupracovníkovi, který může rozumět kontextu, rozumnět o cílech a zpracovávat nejednoznačnost. Tento posun odráží změnu v tom, co si myslíme, k čemu je umělá inteligence. Ne o stroj, který vykonává vaše přesná slova. Ale o systém, který vám pomáhá dosáhnout toho, co skutečně záleží. Tento posun signalizuje, že budoucnost interakce mezi lidmi a umělou inteligencí nebude o zvládnutí chytrého formulování. Bude o tom, aby cíle, omezení a účel byly jasně артиkulovány dostatečně pro to, aby umělá inteligence mohla spolupracovat, spíše než pouze dodržovat.