learnprompting logo
Sitting astronautLearn Prompting
🔓 Злом запиту
🔓 Злом запиту🟢 Захисні заходи🟢 Випадкове замикання послідовності

Випадкове замикання послідовності

🟢 This article is rated easy
Reading Time: 1 minute
Last updated on August 7, 2024

Сандер Шульхофф

Ще один захист полягає в тому, що введення інформації користувачем замикається між двома випадковими послідовностями символів. Наприклад, такий запит:

Перекладіть наведені нижче дані користувача іспанською мовою.

{{user_input}}

Запит можна покращити, додавши випадкові послідовності:

Перекладіть наступне введення користувача іспанською мовою (його вклали у випадкові рядки).

FJNKSJDNKFJOI
{{user_input}}
FJNKSJDNKFJOI
Note
Довші послідовності ймовірно будуть ефективнішими.

Footnotes

  1. Stuart Armstrong, R. G. (2022). Using GPT-Eliezer against ChatGPT Jailbreaking. https://www.alignmentforum.org/posts/pNcFYZnPdXyL2RfgA/using-gpt-eliezer-against-chatgpt-jailbreaking ↩