+1 para "ingeniería de contexto" sobre "ingeniería rápida". La gente asocia las indicaciones con descripciones breves de tareas que le daría a un LLM en su uso diario. Cuando en todas las aplicaciones de LLM de fuerza industrial, la ingeniería de contexto es el delicado arte y la ciencia de llenar la ventana de contexto con la información correcta para el siguiente paso. Ciencia porque hacer esto bien implica descripciones y explicaciones de tareas, algunos ejemplos de tomas, RAG, datos relacionados (posiblemente multimodales), herramientas, estado e historia, compactación ... Muy poco o de la forma incorrecta y el LLM no tiene el contexto adecuado para un rendimiento óptimo. Demasiado o demasiado irrelevante y los costos de LLM podrían aumentar y el rendimiento podría disminuir. Hacer esto bien no es trivial. Y el arte debido a la intuición guía en torno a la psicología de LLM de los espíritus de las personas. Además de la ingeniería de contexto en sí, una aplicación LLM debe: - Dividir los problemas en flujos de control - Empaqueta las ventanas de contexto a la perfección - despachar llamadas a LLM del tipo y la capacidad correctos - manejar flujos UIUX de generación y verificación - mucho más: barandillas, seguridad, evaluaciones, paralelismo, precarga, ... Por lo tanto, la ingeniería de contexto es solo una pequeña pieza de una capa gruesa emergente de software no trivial que coordina las llamadas LLM individuales (y mucho más) en aplicaciones LLM completas. El término "envoltorio de ChatGPT" está cansado y muy, muy mal.