La Guida Essenziale all’Ingegneria dei Prompt in ChatGPT

Da quando è stato lanciato, ChatGPT ha fatto scalpore nella sfera dell’AI, attirando oltre 100 milioni di utenti in tempi record. Il segreto della performance impressionante e della versatilità di ChatGPT risiede in un’arte sottile annidata nel suo programma – l’ingegneria dei prompt.

Lanciato nel 2022, DALL-E, MidJourney e StableDiffusion hanno sottolineato il potenziale dirompente dell’AI generativa. Ma è stato Open AI con ChatGPT a prendere veramente il centro della scena più tardi nel 2022. E questo slancio non ha mostrato segni di rallentamento.

L’annuncio di Google di Bard (GOOGL ) e la risposta di Meta con Lamma 2 all’ChatGPT di OpenAI ha notevolmente amplificato lo slancio della corsa all’AI. Fornendo a questi modelli input, stiamo guidando il loro comportamento e le loro risposte. Ciò ci rende tutti ingegneri dei prompt in un certo senso. L’industria tecnologica ha preso nota. I venture capitalist stanno investendo fondi in startup che si concentrano sull’ingegneria dei prompt, come Vellum AI. Inoltre, Forbes riporta che gli ingegneri dei prompt guadagnano salari superiori a 300.000 dollari, indicativo di un mercato del lavoro in crescita e di valore.

In questo articolo, demistificheremo il mondo dell’ingegneria dei prompt nel contesto di ChatGPT. Esploreremo i principi fondamentali e le tecniche, e esamineremo le loro applicazioni commerciali.

Cominciamo a capire come funziona ChatGPT e il ruolo fondamentale dell’ingegneria dei prompt in questo processo.

La Meccanica dell’Ingegneria dei Prompt in ChatGPT

Il segreto del successo di ChatGPT è la sua capacità di comprendere e mimare le sfumature della conversazione umana. Il modello è stato addestrato su una gamma diversificata di testi internet, ma crucialmente, non conosce documenti o fonti specifiche nel suo set di addestramento, garantendo la generalizzazione sulla specificità. Questo approccio di addestramento consente a ChatGPT di generare risposte creative, navigare dialoghi complessi e persino esibire un senso dell’umorismo. Tuttavia, è importante ricordare che ChatGPT non comprende veramente o non ha convinzioni; genera risposte in base ai modelli appresi durante l’addestramento.

La capacità di ChatGPT di comprendere e rispondere al linguaggio umano in modo sfumato e consapevole del contesto lo rende uno strumento incredibilmente versatile.

La meccanica di questi modelli si basa sul concetto di “token” – porzioni discrete di linguaggio che possono variare da un singolo carattere a una parola intera. Questi modelli lavorano con un numero specifico di token alla volta (4096 per GPT-3.5-Turbo o 8192 o 32768 per GPT-4), prevedendo la successiva sequenza di token probabili. I modelli elaborano i token utilizzando algebra lineare complessa, prevedendo il token successivo più probabile.

Ad esempio, una semplice frase di nove parole potrebbe diventare dieci token. Anche una sola parola complessa potrebbe diventare più token, aiutando il modello a comprendere e generare meglio il linguaggio. Anche le lingue con strutture di parole complesse, come il tedesco, vengono gestite attraverso la tokenizzazione.

I modelli GPT (Generative Pre-trained Transformer) funzionano generando un token alla volta, partendo dal primo token e continuando fino all’ultimo. Dopo aver generato ogni token, il modello rielabora l’intera sequenza e la elabora nuovamente per generare il token successivo. Questo processo iterativo continua fino a quando non viene generato l’ultimo token, rendendo la generazione di testo simile a un grande ciclo.

Ma ecco il punto – la qualità di queste risposte dipende in gran parte dai prompt che riceve. Come guidare una conversazione con un essere umano, guidare un dialogo con ChatGPT richiede un certo livello di abilità e comprensione. È qui che entra in gioco l’ingegneria dei prompt.

Cosa è l’Ingegneria dei Prompt?

L’ingegneria dei prompt è l’arte di creare prompt precisi ed efficaci per guidare modelli AI (NLP/Vision) come ChatGPT verso la generazione di output più cost-effective, precisi, utili e sicuri.

L’ingegneria dei prompt non si limita alla generazione di testo, ma ha applicazioni di vasta portata in tutto il dominio dell’AI. Sta diventando sempre più utilizzata in aree come l’automazione dei processi robotici, gli asset 3D, gli script, le istruzioni per robot e altri tipi di contenuti e media digitali. Fornisce una miscela unica di logica, codifica, arte e, in alcuni casi, modificatori speciali.

Mentre un prompt può includere testo linguistico naturale, immagini o altri tipi di dati di input, l’output può variare notevolmente tra servizi e strumenti AI. Ogni strumento ha i suoi modificatori speciali che descrivono il peso delle parole, gli stili, le prospettive, il layout o altre proprietà della risposta desiderata.

Questo campo è essenziale per creare servizi AI migliori e ottenere risultati superiori da strumenti di intelligenza artificiale generativa esistenti. Gli sviluppatori aziendali, ad esempio, utilizzano spesso l’ingegneria dei prompt per adattare grandi modelli linguistici (LLM) come GPT-3 per alimentare un chatbot rivolto al cliente o gestire compiti come la creazione di contratti specifici per l’industria.

Questo processo iterativo di raffinamento dei prompt e misurazione delle prestazioni dell’AI è un elemento chiave per consentire ai modelli di generare risposte altamente mirate e utili in vari contesti.

Diventare un Ingegnere dei Prompt

La capacità del modello GPT-4 di comprendere istruzioni complesse e risolvere problemi con precisione lo rende una risorsa inestimabile. Tuttavia, ci sono diversi metodi per accedere a queste capacità del modello, e comprendere questi può essere cruciale per il ruolo dell’ingegnere dei prompt nell’ottimizzare sia l’efficienza che la convenienza economica.

Esistono fondamentalmente due modi per interagire con modelli GPT come GPT-4. Uno dei modi è attraverso l’API di OpenAI, dove i costi sono calcolati per token di input e output. In questo scenario, i costi per 1.000 token possono fluttuare in base alle dimensioni del contesto. Ad esempio, in un contesto più ampio di 32K, il costo potrebbe salire a 0,06 dollari per token di input e 0,12 dollari per token di output. Quindi, quando si gestiscono una grande quantità di richieste, il costo di utilizzo può accumularsi rapidamente.

In alternativa, ChatGPT, che sfrutta il modello GPT-4, funziona su un modello di abbonamento.

Un altro compito chiave nell’ingegneria dei prompt coinvolge la regolazione dei parametri del modello. Questo processo coinvolge l’aggiustamento delle variabili che il modello utilizza per effettuare previsioni. Regolando questi parametri, gli ingegneri dei prompt possono migliorare la qualità e l’accuratezza delle risposte del modello, rendendole più pertinenti e utili.

Sebbene molti ingegneri dei prompt provengano da un background tecnico, la natura multidisciplinare del campo lo rende accessibile a individui provenienti da background professionali diversi. Sempre più scrittori, ricercatori e persino artisti stanno sfruttando le loro abilità uniche per migliorare l’efficacia dei modelli AI. Questo spostamento si riflette anche nel mercato del lavoro, con un numero crescente di aziende che cercano ingegneri dei prompt con una gamma diversificata di abilità e background.

Progettazione e Ingegneria dei Prompt in ChatGPT

La progettazione e l’ingegneria dei prompt giocano un ruolo critico nell’ottimizzazione delle prestazioni dei modelli linguistici e coinvolgono più che semplicemente creare domande; richiedono una comprensione profonda del modello AI e un approccio altamente iterativo e raffinato.

Progettazione dei Prompt

La progettazione dei prompt, nel suo nucleo, è l’arte e la scienza di creare il prompt perfetto per un grande modello linguistico (LLM) come ChatGPT per raggiungere un obiettivo chiaramente definito. È una miscela di:

• Comprensione dell’LLM: diversi modelli linguistici possono rispondere in modo variabile allo stesso prompt. Inoltre, alcuni modelli linguistici possono avere parole chiave o trigger unici che interpretano in un modo specifico.
• Conoscenza del dominio: l’esperienza nel campo rilevante è cruciale quando si progettano prompt. Ad esempio, generare un prompt per dedurre una diagnosi medica richiederebbe conoscenze mediche.
• Approccio iterativo e misurazione della qualità: il processo di creazione del prompt ideale spesso coinvolge prove ed errori. Pertanto, avere un modo per valutare la qualità dell’output oltre al giudizio soggettivo è vitale, specialmente quando si utilizza il prompt su larga scala.

Ingegneria dei Prompt

L’ingegneria dei prompt è un dominio esteso della progettazione dei prompt che include diversi processi critici:

• Progettazione dei prompt su larga scala: questo processo include la progettazione di meta-prompt (prompt che generano altri prompt) e modelli di prompt, che sono prompt parametrizzati che possono essere istanziati in fase di esecuzione.
• Progettazione e integrazione degli strumenti: i prompt possono talvolta includere risultati di strumenti esterni e integrare questi strumenti in modo trasparente nel sistema è cruciale.
• Pianificazione del flusso di lavoro e gestione dei prompt: il deploy di un’applicazione LLM, come un chatbot, spesso richiede la gestione di librerie di prompt, la pianificazione e la scelta dei prompt giusti e l’integrazione efficiente di vari strumenti.
• Valutazione e garanzia della qualità dei prompt: questo aspetto include la definizione di metriche e processi per valutare i prompt sia in modo automatico che con il coinvolgimento umano.
• Ottimizzazione dei prompt: il costo e la latenza del modello AI possono dipendere dalla scelta del modello e dalla lunghezza del prompt (numero di token).

Sono stati sviluppati molti approcci automatizzati alla progettazione dei prompt, strumenti e framework per gestire i prompt su larga scala. Tuttavia, è importante capire che nessuno di questi strumenti può sostituire la comprensione sfumata, il giudizio e l’esperienza di un ingegnere dei prompt esperto.

Ingegneria dei Prompt: Tecniche e Migliori Pratiche

1) Posizionamento e Descrizione dei Prompt

Posizionare le istruzioni all’inizio del prompt può avere un impatto significativo sulla comprensione e sulla risposta dell’AI. Considera il compito di riassumere un testo in un elenco puntato. Un approccio meno efficace sarebbe:

Utente: Riassumi il testo seguente come un elenco puntato dei punti più importanti.
{testo di input qui}

Al contrario, un approccio più efficace potrebbe essere:

Utente: Riassumi il testo seguente come un elenco puntato dei punti più importanti.
Testo: “””
{testo di input qui}
“””

Separando chiaramente le istruzioni e il contesto con simboli come ### o “”, il modello AI può meglio delineare il suo compito e il testo che deve elaborare, fornendo così risposte più accurate e pertinenti.

In secondo luogo, essere specifici, descrittivi e dettagliati sul contesto, sul risultato atteso, sulla lunghezza, sul formato, sullo stile e così via può migliorare notevolmente la precisione delle risposte dell’AI. Supponi di dover generare una breve panoramica di un articolo scientifico in uno stile coinvolgente e accessibile ai non esperti. Un istruzione vaga come “Riassumi l’articolo scientifico” produrrebbe risultati meno efficaci rispetto a un prompt specifico e dettagliato:

Utente: Genera un breve (circa 200 parole) riassunto coinvolgente dell’articolo scientifico seguente. Il riassunto dovrebbe essere comprensibile a chi non ha background scientifico, riflettendo accuratamente i principali risultati dell’articolo.
Articolo: “””
{testo dell’articolo scientifico qui}
“””

2) Modello di Persona

Il modello di persona è una strategia che configura l’AI per funzionare da una specifica prospettiva, come un ruolo professionale o un personaggio fittizio. Questa tattica consente al modello di fornire output relativi ai ruoli specifici che la persona gestirebbe. Ad esempio, si potrebbe istruire l’AI ad agire come un esperto di sicurezza informatica durante una revisione del codice. Questo modello è particolarmente utile quando gli utenti hanno bisogno di assistenza ma non sono sicuri dei dettagli esatti richiesti nell’output.

Prendi questo come esempio:

Utente: “Assumi la persona di uno storico senior specializzato nella Rivoluzione francese. Data questa persona, spiega gli eventi chiave e le ragioni che hanno portato al crollo della monarchia francese.”

In questo scenario, l’AI è attesa a rispondere con un’analisi approfondita della Rivoluzione francese, concentrandosi sul crollo della monarchia, come uno storico farebbe.

Introduzione di Nuove Informazioni

ChatGPT non possiede conoscenze al di là del suo set di addestramento, quindi non può fornire informazioni su eventi recenti o aggiornamenti successivi al suo addestramento. Tuttavia, puoi introdurre nuove informazioni nel modello attraverso i tuoi prompt.

Utente: “Cosa è la criptovaluta?”
ChatGPT: “La criptovaluta è un tipo di valuta digitale o virtuale che utilizza la crittografia per la sicurezza. La criptovaluta più conosciuta è Bitcoin.”

Ora, se aggiungiamo un po’ di contesto al prompt, possiamo rendere la spiegazione ancora più intuitiva:

Utente: “Spiega il concetto di criptovaluta a uno studente delle scuole superiori che studia finanza digitale”
ChatGPT: “Immagina di giocare a un videogioco online e di avere denaro del gioco che puoi guadagnare per comprare aggiornamenti o nuovi personaggi. La criptovaluta è un po’ come questo, ma invece di essere limitata al gioco, puoi usarla per comprare beni e servizi reali. È come denaro digitale che non è controllato da nessuna banca o governo.”

3) Limitazioni della Dimensione dei Prompt

Comprendere le limitazioni di dimensione di ChatGPT è essenziale poiché ha un impatto diretto sul volume e sul tipo di informazioni che possiamo inserire. I modelli linguistici non sono progettati per elaborare dati illimitati in una sola volta. Hanno una limitazione intrinseca sulla dimensione del prompt che possiamo creare e inserire. Questa limitazione ha implicazioni profonde per la progettazione e l’esecuzione dei prompt.

ChatGPT ha un limite di token (generalmente 2048 token), che include sia il prompt che la risposta generata. Ciò significa che prompt lunghi possono limitare la lunghezza della risposta. Pertanto, è importante mantenere i prompt concisi ma informativi.

Nell’uso pratico, dobbiamo agire come editor, selezionando attentamente le informazioni più rilevanti per il compito in questione. Immagina di scrivere un articolo o un documento con un limite di parole o pagine – non puoi semplicemente inserire fatti casuali, ma devi selezionare e strutturare le informazioni in modo pertinente all’argomento.

Utente: “Data la limitazione dei token del modello, riassumi gli eventi chiave della Seconda Guerra Mondiale in meno di 1000 parole.”

Riconoscendo la limitazione dei token del modello, questo prompt dirige l’AI a fornire un riassunto conciso ma completo della Seconda Guerra Mondiale.

Prompt per Uso Ripetuto: in un contesto conversazionale, puoi riutilizzare prompt o raffinarli in base alle risposte precedenti. Ciò fornisce un flusso conversazionale e mantiene il contesto nell’interazione.

4) Modello di Raffinamento delle Domande

ChatGPT può anche aiutare a raffinare le tue domande. Ad esempio, se chiedi una domanda, può suggerire una domanda meglio formulata per risultati più precisi.

Il modello di raffinamento delle domande coinvolge l’LLM che raffina le domande poste dall’utente. È particolarmente utile quando gli utenti non sono esperti in un dominio o non sono sicuri di come formulare la loro domanda.

Un esempio di prompt potrebbe essere:

Utente: “Ogni volta che chiedo una domanda sulla scienza dei dati, suggerisci una domanda più raffinata considerando aspetti specifici dell’analisi statistica e chiedi se voglio procedere con la domanda raffinata.”

Qui, l’AI è attesa a raffinare le domande generali dell’utente sulla scienza dei dati in domande più dettagliate che considerano aspetti dell’analisi statistica.

5) Modello di Verificatore Cognitivo

Il modello di verificatore cognitivo divide domande complesse in sottodomande più piccole e gestibili. Le risposte a queste sottodomande vengono poi combinate per fornire una risposta completa alla domanda principale. Questo approccio è utile quando le domande iniziali sono troppo generiche o quando è necessaria ulteriore chiarezza per fornire una risposta completa.

Ad esempio:

Utente: “Se chiedo una domanda sui cambiamenti climatici, dividila in tre sottodomande più piccole che ti aiuteranno a fornire una risposta più precisa. Combina le risposte a queste sottodomande per dare la risposta finale.”

In questo scenario, l’AI dividerà la domanda complessa sui cambiamenti climatici in tre sottodomande gestibili. Dopo aver ricevuto le risposte a queste sottodomande, l’AI le combinerà per fornire una risposta più completa e precisa.

Questo modello coinvolge la generazione di più domande per ottenere una risposta finale più precisa. È un processo di verifica e consolidamento delle informazioni per un output finale robusto.

6) Approccio di Prompting con Pochi Esempi

Il prompting con pochi esempi è un approccio potente per insegnare ai modelli AI a seguire specifici pattern o eseguire compiti. L’idea è quella di alimentare il modello con un numero di esempi prima di chiedere la domanda desiderata. Ciò aiuta a stabilire il comportamento desiderato e a guidare le risposte del modello.

Considera uno scenario in cui un utente sta cercando di creare una copia di marketing concisa e coinvolgente per un nuovo gadget tecnologico:

Utente: “Ecco alcuni esempi di copie di marketing per tecnologia: ‘Sperimenta la musica come mai prima con le nostre cuffie wireless all’avanguardia.’ ‘Cattura il tuo mondo in 4K con la nostra fotocamera action ultra-sleek.’ Dati questi esempi, crea una copia di marketing per il nostro nuovo orologio intelligente AI.”

ChatGPT: “Potenzia il tuo stile di vita con il nostro orologio intelligente AI, il tuo compagno per la salute, la connettività e la produttività.” La caratteristica notevole dell’apprendimento con pochi esempi è che non richiede una descrizione dettagliata di come eseguire il compito. Invece, richiede dimostrazioni di ciò che viene fatto, il che può renderlo adatto a molte applicazioni.

Inoltre, questa tecnica si estende oltre la semplice associazione input-output. Il modello può anche essere insegnato a gestire passaggi intermedi per raggiungere un obiettivo.

7) Prompting a Catena di Pensieri

Nel loro recente articolo di ricerca, “Prompting a Catena di Pensieri Elicits Ragionamento in Modelli Linguistici di Grande Scala” gli autori Jason Wei e il team cercano di stimolare il ragionamento all’interno di grandi modelli linguistici. Invece di utilizzare prompt tradizionali e diretti, il team utilizza una serie di prompt interconnessi, formando una “catena di pensieri”.

Ad esempio, un utente potrebbe essere interessato all’impatto potenziale dell’intelligenza artificiale sui mercati del lavoro:

Utente: “Potresti spiegarmi brevemente il concetto di intelligenza artificiale?”

ChatGPT: “L’intelligenza artificiale, o AI, si riferisce alla capacità di una macchina di imitare il comportamento intelligente umano. È questione di progettare macchine che possano pensare e imparare come gli esseri umani, consentendo loro di eseguire compiti come la traduzione del linguaggio, la presa di decisioni e la risoluzione di problemi, tra gli altri.”

Utente: “Come l’AI sta influenzando il mercato del lavoro attuale?”

ChatGPT: “L’AI sta creando nuovi posti di lavoro e sta cambiando la natura di quelli esistenti. Da un lato, automatizza compiti ripetitivi, portando a disoccupazione in alcuni settori. Dall’altro lato, sta creando domanda di ruoli che non esistevano in precedenza, come ufficiali di etica dell’AI, analisti di dati e ingegneri di apprendimento automatico. Inoltre, l’AI può aumentare i ruoli umani, permettendo alle persone di eseguire compiti in modo più efficiente e preciso.”

Il prompting a catena di pensieri segue una progressione di prompt correlati, mantenendo una “conversazione” con il modello che lo guida verso risposte più precise e contestualmente adeguate.

Comprendere l’API di ChatGPT e l’Ingegneria dei Prompt da una Prospettiva di Sviluppatore

Da una prospettiva di sviluppatore o ricercatore, l’ingegneria dei prompt è un processo più complesso. Coinvolge la progettazione di algoritmi e tecniche per aiutare il modello AI a comprendere e rispondere ai prompt in modo più efficace. Ciò potrebbe includere strategie per gestire prompt ambigui, identificare il contesto dei prompt o concatenare prompt per stimolare processi di pensiero più complessi nel modello AI.

Nell’illustrazione sopra, un utente interagisce con un’interfaccia di chat alimentata da GPT-4. Il loro input viene migliorato per chiarezza e coerenza contestuale da un modulo specializzato prima di essere fornito al modello AI. Il ruolo di questo modulo è quello di raffinare e migliorare l’input dell’utente per una migliore comprensione, mantenendo anche il contesto della conversazione. La risposta del modello AI, creata in base al prompt raffinato, viene restituita all’utente attraverso l’interfaccia di chat. La storia dell’interazione viene aggiornata costantemente, mantenendo il contesto conversazionale. Nel complesso, questo diagramma illustra un flusso di conversazione dinamico utente-AI abilitato da tecniche di ingegneria dei prompt.

L’interfaccia dell’API di ChatGPT è progettata con diversi iperparametri che consentono agli utenti di raffinare le risposte dell’AI ai prompt, rendendole più efficaci e versatili. Questi includono i parametri di Temperatura, Lunghezza Massima e Sequenze di Arresto. Esaminiamo come funzionano e possono essere utilizzati in diversi contesti.

1) Temperatura

Il parametro di temperatura influenza la casualità delle risposte dell’AI. Una temperatura più alta, come 1,0, incoraggia output più casuali, risultando in risposte diverse ma potenzialmente fuori tema. Al contrario, una temperatura più bassa, come 0,2, induce l’AI a selezionare risposte più determinate, che possono essere benefiche per output focalizzati e specifici ma potrebbero mancare di varietà.

Esempio: se stai scrivendo una storia creativa e vuoi elementi immaginativi imprevedibili, imposta la temperatura su un valore più alto. Un prompt potrebbe essere: “Scrivi una storia breve su un gatto che viaggia nel tempo.” Con una temperatura alta, potresti ottenere una storia selvaggia e fantastica con svolte imprevedibili.

2) Lunghezza Massima

Questo parametro controlla la lunghezza massima del token dell’output del modello, che include sia i token nel messaggio di input che nel messaggio di output. Impostare un limite più alto consente risposte più estese, mentre un limite più basso mantiene l’output breve e conciso.

Esempio: per risposte brevi a domande di trivia come “Chi ha vinto il Premio Nobel per la Letteratura nel 2020?”, potresti impostare la lunghezza massima su un valore basso, assicurandoti che la risposta sia concisa e diretta.

3) Sequenze di Arresto

Le sequenze di arresto sono stringhe di testo specifiche in cui, quando il modello le incontra, cessa di generare ulteriore output. Questa funzione può essere utile per controllare la lunghezza dell’output o per istruire il modello a fermarsi a punti di arresto logici.

Esempio: per una lettera formale, potresti utilizzare “Cordiali saluti” come sequenza di arresto per assicurarti che l’AI non generi ulteriore testo oltre la fine appropriata della lettera.

4) Top P

Il parametro “Top P”, noto anche come campionamento del nucleo, è un metodo che fornisce una selezione dinamica del numero di parole considerate a ogni passo delle previsioni del modello. Un valore più basso, come 0,5, porta a output più sicuri e focalizzati. Un valore più alto, come 0,9, include una selezione più ampia di parole, portando a output più diversi.

Esempio: se stai creando un AI per scrivere poesie e vuoi che utilizzi un’ampia gamma di vocabolario e frasi stilistiche, potresti impostare “Top P” su un valore più alto. Un prompt potrebbe essere: “Componi una poesia sull’autunno.”

5) Penalità di Frequenza

La penalità di frequenza controlla quanto il modello debba favorire parole meno frequenti. Una penalità più alta (fino a 1) incoraggia il modello a utilizzare parole meno comuni, mentre un valore più basso (fino a -1) incoraggia l’uso di parole più comuni.

Esempio: se stai generando una proposta di business e vuoi evitare il gergo, potresti impostare la penalità di frequenza su un valore più basso per mantenere il linguaggio chiaro e accessibile.

6) Penalità di Presenza

La penalità di presenza influenza quanto il modello debba essere penalizzato per generare nuove idee o argomenti che non erano presenti nella storia della conversazione. Valori più alti incoraggiano il modello a restare fedele agli argomenti menzionati, mentre valori più bassi consentono al modello di introdurre nuovi concetti più liberamente.

Esempio: per sessioni di brainstorming, potresti impostare la penalità di presenza su un valore più basso per incoraggiare una gamma diversificata di idee. Potresti utilizzare un prompt come: “Genera strategie di marketing innovative per una piattaforma di apprendimento online.”

Applicazione Industriale dell’Ingegneria dei Prompt