De la inginerie a prompturilor la ingineria intenției: Evoluția comunicării umane-AI

Pentru ultimii ani, ingineria prompturilor a devenit una dintre cele mai importante abilități în era AI. S-au creat cursuri în jurul acesteia. S-au creat titluri de job pentru aceasta. S-au format comunități întregi pentru a împărtăși sfaturi despre cum să creați propoziția perfectă care să determine un model de limbaj să facă exact ceea ce doriți. Un motiv cheie din spatele popularității ingineriei prompturilor este acela că: AI este puternic, dar și literal. Trebuia să învățați limba lui înainte ca el să vă poată ajuta. Acea logică avea sens la momentul respectiv. Dar ea începe să se destrame.

Pe măsură ce modelele de inteligență artificială devin mai capabile, sarcina comunicării se schimbă. Întrebarea nu mai este doar “cum să formulez corect această cerere?” Ea devine “cum să mă asigur că AI înțelege cu adevărat ceea ce încerc să realizez?” Aceasta este o întrebare mai profundă. Și ea indică spre apariția unui nou domeniu numit ingineria intenției.

Ce a fost de fapt ingineria prompturilor

Pentru a înțelege unde ne îndreptăm, ajută să înțelegem ce a fost de fapt ingineria prompturilor. La bază, ea a fost o soluție de a ocoli o problemă. Primele modele de limbaj erau puternice, dar fragile. Ele răspundeau bine la anumite tipare și prost la cele ambigue. Așadar, utilizatorii au învățat aceste tipare. Ei au descoperit că, atunci când li se cerea unui model să “gândească pas cu pas”, raționamentul era îmbunătățit. Ei au învățat că oferirea de exemple făcea ieșirile mai consistente. Ei au aflat că atribuirea unui rol modelului, cum ar fi “acționează ca un expert în inginerie software”, schimba tonul și calitatea răspunsurilor sale. Deși aceste insight-uri au îmbunătățit cu adevărat rezultatele, ele necesită ca oamenii să se adapteze la mașină. Oamenii învățau să vorbească într-un mod care se potrivea arhitecturii modelului, mai degrabă decât modului lor natural de a gândi.

Acesta nu este modul în care funcționează o bună comunicare între agenți inteligenți. Când explicați o problemă unui coleg competent, nu vă gândiți mai întâi la strategia de formulare care va activa cel mai bine căile neuronale ale acestuia. Explicați situația. Ei înțeleg contextul. Ei pun întrebări de clarificare, dacă este nevoie. Și ei lucrează spre ceea ce doriți cu adevărat. Meseria de inginerie a prompturilor, pentru toată valoarea sa, a fost întotdeauna o compensare pentru o lacună pe care un AI mai bun ar trebui să o închidă în cele din urmă.

Limiterile care au făcut ingineria prompturilor necesară

Motivul pentru care ingineria prompturilor a devenit atât de importantă nu a fost doar că modelele erau imperfecte. A fost că modelele nu aveau o adevărată înțelegere a utilizatorului. Ele procesau text și returnau text. Ele nu aveau o înțelegere persistentă a cui erați, la ce încercați să lucrați, sau ce însemna “bun” în contextul dvs. specific.

Acest lucru a creat o situație ciudată. Puteați pune aceeași întrebare și obține rezultate complet diferite, în funcție de cum o formulați. Puteați petrece douăzeci de minute ajustând un prompt și, brusc, debloca un răspuns care era mai util decât orice ați obținut înainte. Promptul nu era doar o intrare. Era o cheie, și găsirea cheii potrivite necesita abilitate, răbdare și, uneori, noroc.

Acest lucru a însemnat, de asemenea, că calitatea ieșirii dvs. depindea adesea mai mult de abilitatea dvs. de a crea prompturi decât de cunoștințele dvs. reale din domeniu. Un medic care era și un inginer de prompturi priceput putea extrage o raționare medicală mai bună dintr-un model decât un medic mai competent care nu cunoștea tiparele. Acesta este un inversare ciudată a valorii. Ea sugerează că sistemul se optimiza pentru lucrul greșit.

Ce schimbă ingineria intenției

Ingineria intenției este proiectată pentru a face față unui set diferit de ipoteze de bază. În loc să întrebați cum să formulați o cerere astfel încât modelul să răspundă bine, ea întreabă cum să comunicați ceea ce doriți cu adevărat, la fiecare nivel, astfel încât modelul să poată raționa spre rezultatul corect de unul singur.

Acest lucru implică mai multe lucruri cu care ingineria prompturilor nu este echipată să se descurce. Implică furnizarea sistemelor de inteligență artificială cu suficient context despre obiectivele, constrângerile și standardele dvs., astfel încât ele să poată lua decizii bune fără să specificați fiecare pas. Implică crearea unei înțelegeri comune, mai degrabă decât emiterea unor instrucțiuni precise. Și implică construirea unor sisteme în care inteligența artificială poate pune întrebările potrivite, în loc să aștepte să i se spună răspunsurile potrivite.

Deja vedem acest lucru în practică. Sistemele moderne de inteligență artificială susțin din ce în ce mai mult memoria persistentă, profilurile utilizatorilor și contextul continuu. Când un model știe că sunteți un manager de produs care lucrează la o aplicație de sănătate cu constrângeri regulatorii specifice, cererile dvs. automat capătă un sens mai bogat. Nu trebuie să reconstruiți contextul de la zero de fiecare dată. Modelul already înțelege contextul în care lucrați.

Acesta este un schimbare fundamentală. Ingineria prompturilor trata fiecare interacțiune ca pe una izolată. Ingineria intenției tratează comunicarea ca pe una cumulativă. Modelul nu mai procesează doar o intrare singulară. El urmărește o conversație continuă despre ceea ce încercați să realizați și de ce.

Rolul contextului mai bogat și al raționamentului

O altă dimensiune a ingineriei intenției implică modul în care modelele moderne abordează ambiguitatea. Un model bine antrenat de astăzi nu se mai limitează doar la a găsi cel mai probabil șir de cuvinte care completează propoziția dvs. El raționează despre ceea ce probabil ați vrut să spuneți, semnalează ipotezele pe care le face și, în multe cazuri, cere clarificări înainte de a continua.

Acest lucru contează pentru că comunicarea umană este în mod inerent ambiguă. Când cineva vă cere “poate să mă ajutați să scriu ceva pentru șeful meu”, el ar putea să însemne o evaluare a performanței, un e-mail de scuze, o propunere de proiect, sau o scrisoare de demisie. Un sistem optimizat pentru ingineria prompturilor ar încerca să inferă din cuvintele exacte. Un sistem optimizat pentru ingineria intenției ar recunoaște ambiguitatea și ar aborda-o inteligent, fie prin întrebări, fie prin producerea unui răspuns care recunoaște multiple interpretări posibile.

Raționamentul la momentul testării, care este capacitatea unui model de a gândi printr-o problemă înainte de a răspunde, joacă, de asemenea, un rol aici. Modelele care raționează înainte de a răspunde sunt mai bune la detectarea cazurilor în care cererea literală intră în conflict cu intenția subiacentă. Ele pot observa când ați cerut X, dar ceea ce aveți nevoie probabil este Y, și pot aduce acea observație la suprafață, mai degrabă decât a îndeplini în tăcere o cerere care nu vă va servi cu adevărat scopul.

O nouă abilitate

Această evoluție nu face abilitățile de comunicare umană irelevante. Ea schimbă doar cum arată aceste abilități. Persoana care prosperă într-o lume de inginerie a intenției nu este cea care și-a memorat cele mai bune șabloane de prompturi. Este persoana care poate articula clar ceea ce încearcă să realizeze, comunica constrângerile și contextul care contează, și recunoaște când ieșirea unui model servește scopul real, și nu doar cererea enunțată.

În multe feluri, acestea sunt abilități mai vechi. Sunt abilitățile unui bun manager, un bun profesor, sau un bun colaborator. A fi capabil să transmiteți intenția în mod clar, să explicați nu doar ceea ce doriți, ci și de ce, a fost întotdeauna o marcă a comunicării eficiente. Ceea ce este nou este că sistemele de inteligență artificială sunt acum suficient de sofisticate pentru a răspunde cu adevărat la acest tip de comunicare.

Implicația interesantă este că, pe măsură ce inteligența artificială se îmbunătățește, interfața dintre oameni și mașini va începe să semene mai puțin cu programarea și mai mult cu colaborarea. Nu veți mai trebui să inginerizați intrarea perfectă. Veți trebui să fiți un comunicator clar și cu scop.

Ce înseamnă acest lucru pentru modul în care construim sisteme de inteligență artificială

Acest schimbare are, de asemenea, consecințe pentru modul în care sistemele de inteligență artificială ar trebui să fie proiectate. Un paradigme de inginerie a prompturilor încurajează construirea sistemelor care răspund bine la intrări precise. Un paradigme de inginerie a intenției încurajează construirea sistemelor care sunt bune la a infera, a pune întrebări, a se adapta și a persista.

Acest lucru înseamnă investiții în arhitecturi de memorie care permit modelului să poarte contextul semnificativ de la o sesiune la alta. Înseamnă construirea modelului astfel încât să știe când nu are suficiente informații pentru a acționa bine și să poată spune asta. Înseamnă crearea interfețelor în care utilizatorii comunică obiective, mai degrabă decât comenzi, și în care inteligența artificială se comportă ca un partener în a descoperi cum să atingă acele obiective.

Acest lucru înseamnă, de asemenea, reevaluarea modului în care evaluăm sistemele. În prezent, adesea măsurăm cât de bine un model execută instrucțiuni specifice. Într-o lume de inginerie a intenției, măsura mai bună este cât de bine un model servește scopul subiacent din spatele acelor instrucțiuni, chiar și atunci când instrucțiunile însele erau imprecise.

Rezumatul

Ingineria prompturilor a tratat inteligența artificială ca pe un instrument puternic, dar prost, care necesita o manipulare atentă. Ingineria intenției tratează inteligența artificială ca pe ceva mai apropiat de un colaborator inteligent care poate înțelege contextul, raționa despre obiective și aborda ambiguitatea. Acest schimbare reflectă o schimbare în ceea ce credem că este inteligența artificială. Nu o mașină care execută cuvintele dvs. exacte. Ci un sistem care vă ajută să realizați ceea ce vă pasă cu adevărat. Schimbarea semnalează că viitorul interacțiunii umane-inteligență artificială nu va fi despre stăpânirea unui limbaj ingenios. Va fi despre articularea obiectivelor, constrângerilor și scopului în mod suficient de clar pentru ca inteligența artificială să colaboreze, mai degrabă decât să se supună.