+1 para "engenharia de contexto" em vez de "engenharia imediata". As pessoas associam prompts a breves descrições de tarefas que você daria a um LLM em seu uso diário. Quando em todos os aplicativos LLM de força industrial, a engenharia de contexto é a arte e a ciência delicadas de preencher a janela de contexto com as informações certas para a próxima etapa. Ciência porque fazer isso certo envolve descrições de tarefas e explicações, poucos exemplos de tiro, RAG, dados relacionados (possivelmente multimodais), ferramentas, estado e história, compactação... Muito pouco ou da forma errada e o LLM não tem o contexto certo para um desempenho ideal. Muito ou muito irrelevante e os custos do LLM podem subir e o desempenho pode descer. Fazer isso bem é altamente não trivial. E a arte por causa da intuição orientadora em torno da psicologia LLM dos espíritos das pessoas. Além da engenharia de contexto em si, um aplicativo LLM deve: - dividir os problemas diretamente em fluxos de controle - embale as janelas de contexto à direita - enviar chamadas para LLMs do tipo e capacidade certos - lidar com fluxos UIUX de verificação de geração - muito mais - guarda-corpos, segurança, evals, paralelismo, pré-busca, ... Portanto, a engenharia de contexto é apenas uma pequena parte de uma camada espessa emergente de software não trivial que coordena chamadas LLM individuais (e muito mais) em aplicativos LLM completos. O termo "invólucro ChatGPT" está cansado e muito, muito errado.
tobi lutke
tobi lutke19/06/2025
Gosto muito mais do termo "engenharia de contexto" do que de engenharia de prompt. Descreve melhor a habilidade central: a arte de fornecer todo o contexto para que a tarefa possa ser plausivelmente resolvida pelo LLM.
1,89M