Dall’ingegneria delle promesse all’ingegneria delle intenzioni: l’evoluzione della comunicazione uomo-AI

Negli ultimi anni, l’ingegneria delle promesse è diventata una delle competenze più importanti nell’era dell’AI. Sono stati creati corsi su di essa. Sono stati creati titoli di lavoro per essa. Interi community si sono formate per condividere consigli su come costruire la frase perfetta che avrebbe fatto esattamente ciò che si desiderava a un modello di linguaggio. Un motivo chiave dietro la popolarità dell’ingegneria delle promesse è che: l’AI è potente, ma anche letterale. Dovevi imparare il suo linguaggio prima che potesse aiutarti. Quella logica aveva senso all’epoca. Ma sta iniziando a deteriorarsi.

Man mano che i modelli di AI diventano più capaci, l’onere della comunicazione sta cambiando. La domanda non è più solo “come posso formulare questo correttamente?” Sta diventando “come posso assicurarmi che l’AI comprenda veramente ciò che sto cercando di realizzare?” Questa è una domanda più profonda. E si apre verso l’emergere di un nuovo campo chiamato ingegneria delle intenzioni.

Cosa era effettivamente l’ingegneria delle promesse

Per capire dove stiamo andando, aiuta capire cosa ingegneria delle promesse era effettivamente. Al suo nucleo, era un workaround. I primi modelli di linguaggio erano potenti ma fragili. Rispondevano bene a pattern specifici e male a quelli ambigui. Quindi, gli utenti hanno imparato quei pattern. Hanno scoperto che chiedere a un modello di “pensare passo dopo passo” migliorava il ragionamento. Hanno imparato che fornire esempi rendeva le uscite più coerenti. Hanno capito che assegnare un ruolo al modello, come “agire come un ingegnere software esperto”, cambiava il tono e la qualità delle sue risposte. Mentre queste intuizioni miglioravano effettivamente i risultati, richiedevano agli esseri umani di adattarsi alla macchina. Le persone stavano imparando a parlare in un modo che si adattasse all’architettura del modello piuttosto che al loro modo naturale di pensare.

Questo non è come funziona una buona comunicazione tra agenti intelligenti. Quando spieghi un problema a un collega esperto, non pensi prima alla strategia di formulazione che attiverà i suoi percorsi neurali. Spieghi la situazione. Lui capisce il contesto. Chiede domande di chiarimento se necessario. E lavora verso ciò che vuoi veramente. L’arte dell’ingegneria delle promesse, per tutto il suo valore, stava sempre compensando un gap che un’AI migliore avrebbe eventualmente chiuso.

I limiti che resero necessaria l’ingegneria delle promesse

Il motivo per cui l’ingegneria delle promesse è diventata così importante non era solo che i modelli erano imperfetti. Era che i modelli non avevano un vero modello dell’utente. Elaboravano il testo e restituivano il testo. Non avevano una comprensione persistente di chi eri, cosa stavi cercando di costruire, o cosa significava “buono” nel tuo contesto specifico.

Ciò ha creato una strana situazione. Potevi chiedere la stessa domanda e ottenere risultati molto diversi a seconda di come l’avevi formulata. Potevi spendere venti minuti perfezionando una promessa e improvvisamente sbloccare una risposta più utile di qualsiasi altra cosa avessi ottenuto prima. La promessa non era solo un input. Era una chiave, e trovare la chiave giusta richiedeva abilità, pazienza e a volte fortuna.

Ciò significava anche che la qualità della tua uscita dipendeva spesso più dalla tua abilità di promessa che dalla tua reale conoscenza del dominio. Un medico che era anche un abile ingegnere di promesse poteva estrarre una migliore ragionamento medico da un modello di quanto non potesse fare un medico più esperto che non conosceva i pattern. Questo è un strano capovolgimento del valore. Suggerisce che il sistema stava ottimizzando la cosa sbagliata.

Cosa cambia l’ingegneria delle intenzioni

L’ingegneria delle intenzioni è progettata per affrontare un insieme diverso di assunzioni di base. Invece di chiedersi come formulare una richiesta in modo che un modello risponda bene, si chiede come comunicare ciò che si vuole veramente, a ogni livello, in modo che il modello possa ragionare verso il risultato giusto da solo.

Ciò comporta diverse cose con cui l’ingegneria delle promesse non è in grado di affrontare. Comporta fornire ai sistemi AI sufficiente contesto sui tuoi obiettivi, vincoli e standard in modo che possano prendere buone decisioni senza che tu debba specificare ogni passo. Comporta creare una comprensione condivisa piuttosto che impartire istruzioni precise. E comporta costruire sistemi in cui l’AI possa fare le domande giuste invece di aspettare di essere detto le risposte giuste.

Stiamo già vedendo questo nella pratica. I sistemi AI moderni supportano sempre più la memoria persistente, i profili utente e il contesto in corso. Quando un modello sa che sei un responsabile del prodotto che lavora su un’applicazione sanitaria con vincoli regolamentari specifici, le tue richieste portano automaticamente un significato più ricco. Non devi ricostruire il contesto da zero ogni volta. Il modello capisce già il contesto in cui stai lavorando.

Questo è un cambiamento fondamentale. L’ingegneria delle promesse trattava ogni interazione come isolata. L’ingegneria delle intenzioni tratta la comunicazione come cumulativa. Il modello non sta più solo elaborando un singolo input. Sta tracciando una conversazione in corso su ciò che stai cercando di realizzare e perché.

Il ruolo di un contesto più ricco e del ragionamento

Un’altra dimensione dell’ingegneria delle intenzioni coinvolge come i modelli moderni gestiscono l’ambiguità. Un modello ben addestrato oggi non si limita a fare pattern matching alla completazione più probabile della tua frase. Ragiona su ciò che probabilmente intendevi, segnala le ipotesi che sta facendo e, in molti casi, chiede chiarimenti prima di procedere.

Ciò è importante perché la comunicazione umana è intrinsecamente ambigua. Quando qualcuno chiede “puoi aiutarmi a scrivere qualcosa per il mio capo”, potrebbe significare una valutazione delle prestazioni, un’e-mail di scuse, una proposta di progetto o una lettera di dimissioni. Un sistema ottimizzato per l’ingegneria delle promesse cercherebbe di inferire dalle parole esatte. Un sistema ottimizzato per l’ingegneria delle intenzioni riconoscerebbe l’ambiguità e la gestirebbe in modo intelligente, sia chiedendo sia producendo qualcosa che riconosce più interpretazioni possibili.

Il ragionamento al momento del test, che è la capacità di un modello di pensare attraverso un problema prima di rispondere, gioca anche un ruolo qui. I modelli che ragionano prima di rispondere sono migliori nel cogliere i casi in cui la richiesta letterale confligge con l’intento sottostante. Possono notare quando hai chiesto X ma ciò di cui probabilmente hai bisogno è Y, e possono presentare quell’osservazione invece di esaudire silenziosamente una richiesta che non servirà veramente al tuo obiettivo.

Un nuovo tipo di abilità

Questa evoluzione non rende le abilità di comunicazione umana irrilevanti. Cambia come appaiono quelle abilità. La persona che prospera in un mondo di ingegneria delle intenzioni non è quella che ha memorizzato i migliori template di promesse. È la persona che può articolare chiaramente ciò che sta cercando di realizzare, comunicare i vincoli e il contesto che contano e riconoscere quando l’uscita di un’AI serve l’obiettivo reale rispetto a quello dichiarato.

In molti modi, queste sono abilità più vecchie. Sono le abilità di un buon manager, un buon insegnante o un buon collaboratore. Essere in grado di trasmettere l’intento in modo chiaro, spiegare non solo cosa si vuole ma anche perché lo si vuole, è sempre stato un segno di comunicazione efficace. Ciò che è nuovo è che i sistemi AI sono ora abbastanza sofisticati da rispondere effettivamente a quel tipo di comunicazione.

L’implicazione interessante è che man mano che l’AI migliora, l’interfaccia tra esseri umani e macchine inizierà ad assomigliare meno alla programmazione e più alla collaborazione. Non dovrai più ingegnereizzare l’input perfetto. Dovrai essere un comunicatore chiaro e purposeful.

Cosa significa questo per come costruiamo i sistemi AI

Questo cambiamento ha anche conseguenze per come i sistemi AI dovrebbero essere progettati. Un paradigma di ingegneria delle promesse incoraggia a costruire sistemi che siano altamente reattivi a input precisi. Un paradigma di ingegneria delle intenzioni incoraggia a costruire sistemi che siano bravi nell’inferire, chiedere, adattarsi e persistere.

Ciò significa investire in architetture di memoria che consentono ai modelli di portare un contesto significativo attraverso le sessioni. Significa costruire modelli che sappiano quando non hanno abbastanza informazioni per agire bene e possano dirlo. Significa creare interfacce in cui gli utenti comunicano obiettivi piuttosto che comandi, e in cui l’AI si comporta come un partner nel capire come raggiungere quegli obiettivi.

Significa anche ripensare la valutazione. Adesso, spesso misuriamo quanto bene un modello esegue istruzioni specifiche. In un mondo di ingegneria delle intenzioni, la misura migliore è quanto bene un modello serve lo scopo sottostante dietro quelle istruzioni, anche quando le istruzioni stesse erano imprecise.

Il punto fondamentale

L’ingegneria delle promesse trattava l’AI come uno strumento potente ma stupido che aveva bisogno di essere maneggiato con cura. L’ingegneria delle intenzioni tratta l’AI come qualcosa di più vicino a un collaboratore intelligente che può comprendere il contesto, ragionare sugli obiettivi e gestire l’ambiguità. Quel cambiamento riflette un cambiamento in ciò che pensiamo che l’AI sia per. Non una macchina che esegue le tue parole esatte. Ma un sistema che ti aiuta a realizzare ciò che ti importa veramente. Il cambiamento segnala che il futuro dell’interazione uomo-AI non sarà più sulla padronanza della formulazione astuta. Sarà sull’articolazione degli obiettivi, dei vincoli e dello scopo in modo chiaro sufficiente per l’AI per collaborare piuttosto che semplicemente eseguire.