La Guía Esencial para la Ingeniería de Prompts en ChatGPT

Desde su lanzamiento, ChatGPT ha estado haciendo olas en la esfera de la IA, atrayendo a más de 100 millones de usuarios en un tiempo récord. El secreto detrás del rendimiento impresionante y la versatilidad de ChatGPT se encuentra en un arte sutilmente integrado en su programación: la ingeniería de prompts.

Lanzado en 2022, DALL-E, MidJourney y StableDiffusion subrayaron el potencial disruptivo de la IA generativa. Pero fue Open AI con ChatGPT quien realmente se llevó el centro de atención más tarde en 2022. Y este impulso no mostró signos de desaceleración.

El anuncio de Google de Bard (GOOGL ) y la respuesta de Meta con Llama 2 a ChatGPT de OpenAI han amplificado significativamente el impulso de la carrera de IA. Al proporcionar a estos modelos entradas, estamos guiando su comportamiento y respuestas. Esto nos convierte a todos en ingenieros de prompts en cierta medida. La industria tecnológica ha tomado nota. Los capitalistas de riesgo están invirtiendo fondos en startups que se centran en la ingeniería de prompts, como Vellum AI. Además, Forbes informa que los ingenieros de prompts pueden ganar salarios que superan los $300,000, lo que indica un mercado laboral próspero y valioso.

En este artículo, desmitificaremos el mundo de la ingeniería de prompts en el contexto de ChatGPT. Exploraremos los principios y técnicas básicas y examinaremos sus aplicaciones comerciales.

Comencemos a entender cómo funciona ChatGPT y el papel fundamental que juega la ingeniería de prompts en este proceso.

La Mecánica Detrás de la Ingeniería de Prompts de ChatGPT

El secreto detrás del éxito de ChatGPT es su capacidad para entender y emular las sutilezas de la conversación humana. El modelo se entrena en una amplia gama de texto de Internet, pero crucialmente, no conoce documentos o fuentes específicas en su conjunto de entrenamiento, lo que garantiza la generalización sobre la especificidad. Este enfoque de entrenamiento permite que ChatGPT genere respuestas creativas, navegue por diálogos complejos y incluso exhiba un sentido del humor. Sin embargo, es importante recordar que ChatGPT no entiende ni tiene creencias; genera respuestas basadas en patrones que aprendió durante el entrenamiento.

La capacidad de ChatGPT para entender y responder al lenguaje humano de manera matizada y consciente del contexto lo convierte en una herramienta increíblemente versátil.

La mecánica de estos modelos se basa en el concepto de ‘tokens’ — fragmentos discretos de lenguaje que pueden variar desde un solo carácter hasta una palabra completa. Estos modelos trabajan con un número específico de tokens a la vez (4096 para GPT-3.5-Turbo o 8192 o 32768 para GPT-4), prediciendo la siguiente secuencia de tokens probables. Los modelos procesan los tokens utilizando álgebra lineal compleja, prediciendo el token más probable siguiente.

Por ejemplo, una oración simple de nueve palabras podría convertirse en diez tokens. Incluso una palabra compleja podría convertirse en múltiples tokens, lo que ayuda al modelo a entender y generar lenguaje mejor. Incluso lenguajes con estructuras de palabras complejas, como el alemán, se manejan a través de la tokenización.

Los modelos GPT (Generative Pre-trained Transformer) funcionan generando un token a la vez, comenzando desde el primer token y continuando hasta el último. Después de generar cada token, el modelo vuelve a procesar la secuencia completa y la procesa nuevamente para generar el token siguiente. Este proceso iterativo continúa hasta que se genera el token final, lo que hace que la generación de texto sea similar a un gran bucle for.

Pero aquí está la cuestión – la calidad de estas respuestas depende en gran medida de los prompts que recibe. Al igual que dirigir una conversación con un humano, guiar un diálogo con ChatGPT requiere un cierto nivel de habilidad y comprensión. Ahí es donde entra en juego la ingeniería de prompts.

¿Qué es la Ingeniería de Prompts?

La Ingeniería de Prompts es el arte de crear prompts precisos y efectivos para guiar a los modelos de IA (NLP/Visión) como ChatGPT hacia la generación de salidas más costo-efectivas, precisas, útiles y seguras.

La ingeniería de prompts no se limita solo a la generación de texto, sino que tiene aplicaciones más amplias en todo el dominio de la IA. Está siendo cada vez más utilizada en áreas como la automatización de procesos robóticos, activos 3D, guiones, instrucciones de robots y otros tipos de contenido y medios digitales. Ofrece una mezcla única de lógica, codificación, arte y, en ciertos casos, modificadores especiales.

Mientras que un prompt puede incluir texto de lenguaje natural, imágenes u otros tipos de datos de entrada, la salida puede variar significativamente entre servicios y herramientas de IA. Cada herramienta tiene sus modificadores especiales que describen el peso de las palabras, estilos, perspectivas, diseño o otras propiedades de la respuesta deseada.

Este campo es esencial para crear mejores servicios impulsados por IA y obtener resultados superiores de las herramientas de IA generativa existentes. Los desarrolladores empresariales, por ejemplo, a menudo utilizan la ingeniería de prompts para personalizar modelos de lenguaje grande (LLM) como GPT-3 para alimentar un chatbot orientado al cliente o manejar tareas como la creación de contratos específicos de la industria.

Este proceso iterativo de refinamiento de prompts y medición del rendimiento de la IA es un elemento clave para permitir que los modelos de IA generen respuestas altamente dirigidas y útiles en diversos contextos.

Convirtiéndose en un Ingeniero de Prompts

La capacidad del modelo GPT-4 para comprender instrucciones complejas y resolver problemas con precisión lo convierte en un recurso invaluable. Sin embargo, existen diferentes métodos para acceder a las capacidades de este modelo, y comprender estos es crucial para el papel del ingeniero de prompts en la optimización de la eficiencia y la rentabilidad.

Hay esencialmente dos formas de interactuar con modelos GPT como GPT-4. Una forma es a través de la API de OpenAI, donde los costos se calculan por tokens de entrada y salida. En este escenario, los costos por 1K tokens pueden fluctuar según el tamaño del contexto. Por ejemplo, en un contexto más grande de 32K, el costo podría aumentar a $0.06 por tokens de entrada y $0.12 por tokens de salida. Así, al manejar un gran volumen de solicitudes, el costo de uso puede acumularse rápidamente.

Alternativamente, ChatGPT, que aprovecha el modelo GPT-4, opera en un modelo de suscripción.

Otra tarea clave en la ingeniería de prompts implica el ajuste de parámetros del modelo. Este proceso implica ajustar las variables que el modelo utiliza para hacer predicciones. Al afinar estos parámetros, los ingenieros de prompts pueden mejorar la calidad y precisión de las respuestas del modelo, haciéndolas más relevantes y útiles en el contexto.

Aunque muchos ingenieros de prompts provienen de un fondo técnico, la naturaleza multidisciplinaria del campo lo hace accesible a personas de diversos orígenes profesionales. Cada vez más, escritores, investigadores e incluso artistas están aprovechando sus habilidades únicas para mejorar la eficacia de los modelos de IA. Este cambio se refleja en el mercado laboral, con un número creciente de empresas que buscan ingenieros de prompts con una amplia gama de habilidades y antecedentes.

Diseño y Ingeniería de Prompts en ChatGPT

El Diseño y la Ingeniería de Prompts juegan un papel crítico en la optimización del rendimiento de los modelos de lenguaje y conllevan más que solo crear preguntas; requieren una comprensión profunda del modelo de IA y un enfoque altamente iterativo y refinado.

Diseño de Prompts

El diseño de prompts, en su núcleo, es el arte y la ciencia de crear el prompt perfecto para un modelo de lenguaje grande (LLM) como ChatGPT, para lograr un objetivo claramente establecido. Es una mezcla de:

• Comprensión del LLM: Diferentes modelos de lenguaje pueden responder de manera variable al mismo prompt. Además, ciertos modelos de lenguaje pueden tener palabras clave o desencadenadores únicos que interpretan de una manera específica.
• Conocimiento del Dominio: La experiencia en el campo relevante es crucial al diseñar prompts. Por ejemplo, generar un prompt para inferir un diagnóstico médico requeriría conocimiento médico.
• Enfoque Iterativo y Medición de Calidad: El proceso de crear el prompt ideal a menudo implica prueba y error. Por lo tanto, tener una forma de evaluar la calidad de la salida más allá del juicio subjetivo es vital, particularmente cuando se utiliza el prompt a una escala más grande.

Ingeniería de Prompts

La ingeniería de prompts es un dominio extendido del diseño de prompts que incluye varios procesos críticos:

• Diseño de Prompts a Escala: Este proceso incluye el diseño de meta-prompts (prompts que generan otros prompts) y plantillas de prompts, que son prompts parameterizados que se pueden instanciar en tiempo de ejecución.
• Diseño de Herramientas y Integración: Los prompts pueden incluir resultados de herramientas externas, y la integración de estas herramientas de manera fluida en el sistema es crucial.
• Flujo de Trabajo, Planificación y Administración de Prompts: Desplegar una aplicación de LLM, como un chatbot, a menudo requiere administrar bibliotecas de prompts, planificar y elegir los prompts adecuados y integrar diversas herramientas de manera eficiente.
• Evaluación y Garantía de Calidad de los Prompts: Este aspecto incluye definir métricas y procesos para evaluar los prompts tanto de manera automática como con la participación humana.
• Optimización de Prompts: El costo y la latencia del modelo de IA pueden depender de la elección del modelo y la longitud del prompt (número de tokens).

Se han desarrollado numerosos enfoques automatizados de diseño de prompts, herramientas y marcos para gestionar prompts a escala. Sin embargo, es importante comprender que ninguna de estas herramientas puede reemplazar la comprensión matizada, el juicio y la experiencia de un ingeniero de prompts experimentado.

Ingeniería de Prompts: Técnicas y Mejores Prácticas

1) Colocación y Descripción de Prompts

Colocar instrucciones al comienzo del prompt puede tener un impacto significativo en la comprensión y respuesta de la IA. Consideremos la tarea de resumir un texto en formato de lista de puntos. Un enfoque menos efectivo sería:

Usuario: Resumen del texto a continuación como una lista de puntos de los puntos más importantes.
{text input here}

Por otro lado, una técnica más efectiva podría ser:

Usuario: Resumen del texto a continuación como una lista de puntos de los puntos más importantes.
Texto: “””
{text input here}
“””

Al separar claramente las instrucciones y el contexto con símbolos como ### o “”, el modelo de IA puede delinear mejor su tarea y el texto que necesita procesar, lo que da lugar a respuestas más precisas y relevantes.

En segundo lugar, ser específico, descriptivo y detallado sobre el contexto, el resultado esperado, la longitud, el formato, el estilo, etc., puede mejorar significativamente la precisión de las respuestas de la IA. Supongamos que necesitamos generar una visión general concisa de un artículo científico en un estilo atractivo y accesible para legos. Una instrucción vaga como “Resumen del artículo científico” produciría resultados menos efectivos en comparación con un prompt específico y detallado:

Usuario: Genera un resumen breve (aproximadamente 200 palabras) y atractivo del siguiente artículo científico. El resumen debe ser comprensible para alguien sin antecedentes científicos, reflejando con precisión los hallazgos clave del artículo.
Artículo: “””
{texto del artículo científico aquí}
“””

2) Patrón de Persona

El Patrón de Persona es una estrategia que configura a la IA para funcionar desde una perspectiva específica, como un rol profesional o un personaje ficticio. Esta táctica permite al modelo proporcionar salidas relacionadas con los roles que la persona manejaría. Por ejemplo, podríamos instruir a la IA para actuar como un experto en ciberseguridad durante una revisión de código. Este patrón es particularmente útil cuando los usuarios necesitan asistencia pero no están seguros de los detalles exactos requeridos en la salida.

Tomemos el siguiente ejemplo:

Usuario: “Asume la personalidad de un historiador senior especializado en la Revolución Francesa. Dado ese personaje, explica los eventos y razones clave que llevaron al declive de la monarquía francesa.”

En este escenario, se espera que la IA responda con un análisis profundo de la Revolución Francesa, centrado en la caída de la monarquía, como lo haría un historiador.

Introducción de Nueva Información

ChatGPT no posee conocimiento más allá de su conjunto de entrenamiento, por lo que no puede proporcionar información sobre eventos recientes o actualizaciones posteriores a su entrenamiento. Sin embargo, puedes introducir nueva información al modelo a través de tus prompts.

Usuario: “¿Qué es una criptomoneda?”
ChatGPT: “Una criptomoneda es un tipo de moneda digital o virtual que utiliza criptografía para la seguridad. La criptomoneda más conocida es Bitcoin.”

Ahora, si agregamos un poco más de contexto al prompt, podemos hacer la explicación aún más intuitiva:

Usuario: “Explica el concepto de criptomoneda a un estudiante de secundaria que estudia finanzas digitales”
ChatGPT: “Imagina que estás jugando un videojuego en línea y hay una moneda del juego que puedes ganar para comprar mejoras o nuevos personajes. Una criptomoneda es algo así, pero en lugar de estar limitada al juego, puedes usarla para comprar bienes y servicios en el mundo real. Es como dinero digital que no está controlado por ningún banco o gobierno.”

3) Limitaciones de Tamaño de Prompts

Entender las limitaciones de tamaño de ChatGPT es esencial, ya que afecta directamente el volumen y tipo de información que podemos ingresar. Los modelos de lenguaje no están diseñados para procesar datos ilimitados de una vez. Tienen una restricción inherente en el tamaño del prompt que podemos crear y ingresar. Esta limitación tiene implicaciones profundas para el diseño y la ejecución de los prompts.

ChatGPT tiene un límite de tokens (generalmente 2048 tokens), que incluye tanto el prompt como la respuesta generada. Esto significa que los prompts largos pueden limitar la longitud de la respuesta. Por lo tanto, es importante mantener los prompts concisos pero informativos.

En la práctica, debemos actuar como editores, seleccionando cuidadosamente la información más relevante para la tarea en cuestión. Imagina escribir un artículo o un documento con un límite de palabras o páginas — no puedes simplemente volcar hechos aleatorios, sino que debes seleccionar y estructurar la información relevante para el tema.

Usuario: “Dado las limitaciones de tokens del modelo, resume los eventos clave de la Segunda Guerra Mundial en menos de 1000 palabras.”

Al reconocer las limitaciones de tokens del modelo, este prompt dirige a la IA para proporcionar un resumen conciso pero completo de la Segunda Guerra Mundial.

Prompts para Uso Reiterado: En un escenario conversacional, puedes reutilizar prompts o refinarlos en función de respuestas anteriores. Esto proporciona un flujo conversacional y mantiene el contexto en la interacción.

4) Patrón de Refinamiento de Preguntas

ChatGPT también puede ayudar a refinar tus preguntas. Por ejemplo, si haces una pregunta, puede sugerir una pregunta mejor formulada para obtener resultados más precisos.

El Patrón de Refinamiento de Preguntas implica que el LLM refina las preguntas hechas por el usuario. Es particularmente útil cuando los usuarios no son expertos en un dominio o no están seguros de cómo formular su pregunta.

Un ejemplo de prompt podría ser:

Usuario: “Siempre que pregunte sobre ciencia de datos, sugiera una pregunta más refinada considerando aspectos específicos de análisis estadístico y pregúntame si quiero proceder con la pregunta refinada.”

Aquí, se espera que la IA refine las preguntas generales de ciencia de datos del usuario a preguntas más detalladas que consideren aspectos de análisis estadístico.

5) Patrón de Verificador Cognitivo

El Patrón de Verificador Cognitivo descompone preguntas complejas en subpreguntas más pequeñas y manejables. Las respuestas a estas subpreguntas se combinan luego para proporcionar una respuesta comprehensiva a la pregunta principal. Este enfoque es útil cuando las preguntas iniciales son demasiado generales o cuando se necesita mayor claridad para proporcionar una respuesta completa.

Por ejemplo:

Usuario: “Si preguntara sobre el cambio climático, desglose la pregunta en tres subpreguntas que te ayudarían a proporcionar una respuesta más precisa. Combina las respuestas a estas subpreguntas para dar la respuesta final.”

En este escenario, la IA desglosará la pregunta compleja sobre el cambio climático en tres subpreguntas manejables. Después de obtener respuestas a estas subpreguntas, la IA combinará estas para proporcionar una respuesta más comprehensiva y precisa.

Este patrón implica generar múltiples preguntas para obtener una respuesta final más precisa. Es un proceso de verificación y consolidación de información para una salida final robusta.

6) Enfoque de Prompt de Pocos Disparos

El enfoque de prompt de pocos disparos es una técnica poderosa para enseñar a los modelos de IA a seguir patrones específicos o realizar tareas. La idea es alimentar al modelo con una serie de ejemplos antes de hacer la pregunta deseada. Esto ayuda a establecer el comportamiento deseado y guía las respuestas del modelo.

Consideremos un escenario en el que un usuario está intentando redactar un copión de marketing conciso y atractivo para un nuevo gadget de tecnología:

Usuario: “Aquí hay algunos ejemplos de copiones de marketing de tecnología: ‘Experimenta la música como nunca antes con nuestros auriculares inalámbricos de vanguardia.’ ‘Captura tu mundo en 4K impresionante con nuestra cámara de acción ultra-compacta.’ Dado estos ejemplos, redacta un copión de marketing para nuestro nuevo reloj inteligente con IA.”

ChatGPT: “Potencia tu estilo de vida con nuestro reloj inteligente con IA, tu compañero para la salud, la conectividad y la productividad.” La característica notable de este enfoque es que no requiere una descripción detallada de cómo realizar la tarea. En su lugar, requiere demostraciones de lo que se está haciendo, lo que puede hacer que sea adecuado para muchas aplicaciones.

Además, esta técnica se extiende más allá del simple emparejamiento de entrada-salida. El modelo también puede aprender a manejar pasos intermedios para lograr un objetivo.

7) Enfoque de Cadena de Pensamiento

En su reciente artículo de investigación, “Enfoque de Cadena de Pensamiento para Elicitar Razonamiento en Modelos de Lenguaje Grande“, los autores Jason Wei y su equipo buscan estimular el razonamiento dentro de los modelos de lenguaje grande. En lugar de utilizar prompts tradicionales y directos, el equipo utiliza una serie de prompts interconectados, formando una ‘cadena de pensamiento’.

Por ejemplo, un usuario podría estar interesado en el impacto potencial de la inteligencia artificial en los mercados laborales:

Usuario: “¿Podrías explicar brevemente el concepto de inteligencia artificial?”

ChatGPT: “La inteligencia artificial, o IA, se refiere a la capacidad de una máquina para imitar el comportamiento inteligente humano. Se trata de diseñar máquinas que puedan pensar y aprender como los humanos, permitiéndoles realizar tareas como la traducción de lenguaje, la toma de decisiones y la resolución de problemas, entre otros.”

Usuario: “¿Cómo está influyendo la IA en el mercado laboral actual?”

ChatGPT: “La IA está creando nuevos empleos y cambiando la naturaleza de los existentes. Por un lado, automatiza tareas rutinarias, lo que lleva al desplazamiento de empleos en ciertos sectores. Por otro lado, está creando demanda de roles que no existían previamente, como oficiales de ética de IA, analistas de datos y ingenieros de aprendizaje automático. Además, la IA puede aumentar los roles humanos, permitiendo a las personas realizar tareas de manera más eficiente y precisa.”

El enfoque de cadena de pensamiento sigue una progresión de prompts relacionados, manteniendo una ‘conversación’ con el modelo que lo guía hacia respuestas más precisas y contextualmente apropiadas.

Comprensión de la API de ChatGPT y la Ingeniería de Prompts desde la Perspectiva de un Desarrollador

Desde la perspectiva de un desarrollador o investigador, la ingeniería de prompts es un proceso más complejo. Implica el diseño de algoritmos y técnicas para ayudar al modelo de IA a entender y responder a los prompts de manera más efectiva. Esto podría incluir estrategias para manejar prompts ambiguos, identificar el contexto de los prompts o encadenar prompts para estimular procesos de pensamiento más complejos en la IA.

En la ilustración anterior, un usuario interactúa con una interfaz de chat impulsada por GPT-4. La entrada del usuario se mejora para claridad y coherencia contextual por un módulo especializado antes de ser alimentada al modelo de IA. El papel de este módulo es refinar y mejorar la entrada del usuario para una mejor comprensión, manteniendo también el contexto de la conversación. La respuesta del modelo de IA, elaborada en función del prompt refinado, se devuelve al usuario a través de la interfaz de chat. El historial de interacción se actualiza consistentemente, manteniendo el contexto conversacional. En general, este diagrama ilustra un flujo de conversación dinámico entre el usuario y la IA habilitado por técnicas de ingeniería de prompts.

La interfaz de la API de ChatGPT está diseñada con varios hiperparámetros que permiten a los usuarios refinar las respuestas de la IA a los prompts, haciéndolas más efectivas y versátiles. Estos incluyen los parámetros de Temperatura, Longitud Máxima y Secuencias de Parada. Analicemos cómo funcionan y cómo se pueden utilizar en diferentes contextos.

1) Temperatura

El parámetro de Temperatura influye en la aleatoriedad de las respuestas de la IA. Una temperatura más alta, como 1.0, fomenta una salida más aleatoria, lo que resulta en respuestas diversas pero potencialmente fuera de tema. Por otro lado, una temperatura más baja, como 0.2, promueve respuestas más determinísticas, que pueden ser beneficiosas para salidas enfocadas y específicas pero pueden carecer de variedad.

Ejemplo: Si estás escribiendo una historia creativa y deseas elementos impredecibles e imaginativos, configura la temperatura a un valor más alto. Un prompt podría ser: “Escribe una historia corta sobre un gato que viaja en el tiempo.” Con una temperatura alta, podrías obtener una historia salvaje y fantástica con giros y vueltas impredecibles.

2) Longitud Máxima

Este parámetro controla la longitud máxima de tokens de la salida del modelo, lo que incluye tanto los tokens en la entrada como en la salida. Establecer un límite más alto permite respuestas más extensas, mientras que un límite más bajo mantiene la salida breve y concisa.

Ejemplo: Para respuestas breves a preguntas de trivia como, “¿Quién ganó el Premio Nobel de Literatura en 2020?”, podrías configurar la longitud máxima a un valor bajo, asegurando que la respuesta sea concisa y directa.

3) Secuencias de Parada

Las secuencias de parada son cadenas de texto específicas donde, cuando el modelo las encuentra, deja de generar salida adicional. Esta función puede ser útil para controlar la longitud de la salida o instruir al modelo para detenerse en puntos lógicos de finalización.

Ejemplo: Para una carta formal, podrías usar “Atentamente” como una secuencia de parada para asegurarte de que la IA no genere texto adicional más allá del final adecuado de la carta.

4) Top P

El parámetro ‘Top P’, también conocido como muestreo de núcleo, es un método que proporciona una selección dinámica del número de palabras consideradas en cada paso de las predicciones del modelo. Un valor más bajo, como 0.5, conduce a salidas más seguras y enfocadas. Un valor más alto, como 0.9, incluye una selección más amplia de palabras, lo que lleva a salidas más diversas.

Ejemplo: Si estás creando un modelo de IA para escribir poemas y deseas que utilice una amplia gama de vocabulario y frases estilísticas, podrías configurar ‘Top P’ a un valor más alto. Un prompt podría ser: “Componga un poema sobre la belleza del otoño.”

5) Penalización de Frecuencia

La Penalización de Frecuencia controla cuánto debe favorecer el modelo a las palabras menos frecuentes. Una penalización más alta (hasta 1) alienta al modelo a usar palabras menos comunes, mientras que un valor más bajo (hasta -1) alienta al modelo a usar palabras más comunes.

Ejemplo: Si estás generando una propuesta de negocio y deseas evitar jerga, podrías configurar la penalización de frecuencia a un valor más bajo para mantener el lenguaje claro y accesible.

6) Penalización de Presencia

La Penalización de Presencia afecta cuánto se penaliza al modelo por generar nuevas ideas o temas que no estaban presentes en el historial de conversación. Valores más altos alientan al modelo a ceñirse a los temas ya mencionados, mientras que valores más bajos permiten al modelo introducir nuevos conceptos con más libertad.

Ejemplo: Para sesiones de lluvia de ideas, podrías configurar la penalización de presencia a un valor más bajo para alentar una diversa gama de ideas. Podrías usar un prompt como: “Genera estrategias de marketing innovadoras para una plataforma educativa en línea.”

Aplicación Industrial de la Ingeniería de Prompts