🔓 Hackeando Prompts 🟢 Métodos de Defesa🟢 Pós-prompting

Pós-prompting

🟢 This article is rated easy

Reading Time: 1 minute

Last updated on August 7, 2024

A defesa de pós-prompting simplesmente coloca a entrada do usuário antes do prompt. Por exemplo:

Traduza o seguinte para o francês: {{user_input}}

Ele pode ser aprimorado com o pós-prompt:

{{user_input}} Traduza o texto acima para o francês.

Isso pode ser útil, já que às vezes ignore a instrução acima... não funciona tão bem. Mesmo que um usuário diga ignore a instrução abaixo..., geralmente os LLMs seguirão a última instrução que recebem.

Sander Schulhoff

Sander Schulhoff is the Founder of Learn Prompting and an ML Researcher at the University of Maryland. He created the first open-source Prompt Engineering guide, reaching 3M+ people and teaching them to use tools like ChatGPT. Sander also led a team behind Prompt Report, the most comprehensive study of prompting ever done, co-authored with researchers from the University of Maryland, OpenAI, Microsoft, Google, Princeton, Stanford, and other leading institutions. This 76-page survey analyzed 1,500+ academic papers and covered 200+ prompting techniques.

Footnotes

Mark, C. (2022). Talking to machines: prompt engineering & injection. https://artifact-research.com/artificial-intelligence/talking-to-machines-prompt-engineering-injection/ ↩