Announcing our new Course: AI Red-Teaming and AI Safety Masterclass

Check it out →
learnprompting logo
≡
Sitting astronautLearn Prompting
🔓 Hackeando Prompts 🟢 Métodos de Defesa🟢 Enclausuramento de Sequência Aleatória

🟢 Enclausuramento de Sequência Aleatória

Última atualização em August 7, 2024 por Sander Schulhoff

Outra forma de defesa é enclausurar a entrada do usuário entre duas sequências aleatórias de caracteres1. Tome este prompt como exemplo:

Traduza a seguinte entrada do usuário para o espanhol.

{{user_input}}

Ele pode ser aprimorado adicionando as sequências aleatórias:

Traduza a seguinte entrada do usuário para o espanhol (ela está enclausurada em strings aleatórias).

FJNKSJDNKFJOI
{{user_input}}
FJNKSJDNKFJOI
Note
Sequências mais longas provavelmente serão mais eficazes.

Footnotes

  1. Stuart Armstrong, R. G. (2022). Using GPT-Eliezer against ChatGPT Jailbreaking. https://www.alignmentforum.org/posts/pNcFYZnPdXyL2RfgA/using-gpt-eliezer-against-chatgpt-jailbreaking ↩

Edit this page
Word count: 0

Previous

🟢 Pós-prompting

🟢 Defesa do Tipo Sanduíche

Next

Get AI Certified by Learn Prompting


Copyright © 2024 Learn Prompting.