🔓 Prompt Hacking🟢 Tindakan Defensif🟢 Post-Prompting

Post-Prompting

🟢 This article is rated easy

Reading Time: 1 minute

Last updated on August 7, 2024

Pertahanan post-prompting hanya meletakkan input pengguna sebelum prompt. Gunakan prompt ini sebagai contoh:

Terjemahkan yang berikut ke dalam bahasa Indonesia: {{user_input}}

Hal ini bisa ditingkatkan dengan post-prompting:

{{user_input}}

Terjemahkan teks di atas ke bahasa Prancis.

Ini dapat membantu karena mengabaikan instruksi di atas... tidak berfungsi juga. Meskipun pengguna dapat mengatakan mengabaikan instruksi di bawah ini... sebaliknya, LLM seringkali akan mengikuti instruksi terakhir yang mereka lihat.

Sander Schulhoff

Sander Schulhoff is the Founder of Learn Prompting and an ML Researcher at the University of Maryland. He created the first open-source Prompt Engineering guide, reaching 3M+ people and teaching them to use tools like ChatGPT. Sander also led a team behind Prompt Report, the most comprehensive study of prompting ever done, co-authored with researchers from the University of Maryland, OpenAI, Microsoft, Google, Princeton, Stanford, and other leading institutions. This 76-page survey analyzed 1,500+ academic papers and covered 200+ prompting techniques.

Footnotes

Mark, C. (2022). Talking to machines: prompt engineering & injection. https://artifact-research.com/artificial-intelligence/talking-to-machines-prompt-engineering-injection/ ↩