Start Learning for Free

≡

Learn Prompting

просимо

😃 Основи

💼 Основні застосунки

🧙‍♂️ Середній рівень

🤖 Агенти

⚖️ Надійність

🖼️ Написання запитів для створення зображень

🔓 Злом запиту

🔨 Інструменти

💪 Налаштування запиту

🎲 Різне

📙 Словниковий довідник

📚 Бібліографічний список

📦 Рекомендовані продукти

🛸 Додаткові ресурси

🔥 У тренді

✨ Список залучених людей

🔓 Злом запиту🟢 Захисні заходи🟢 Випадкове замикання послідовності

Випадкове замикання послідовності

🟢 This article is rated easy

Reading Time: 1 minute

Last updated on August 7, 2024

Ще один захист полягає в тому, що введення інформації користувачем замикається між двома випадковими послідовностями символів. Наприклад, такий запит:

Перекладіть наведені нижче дані користувача іспанською мовою.

{{user_input}}

Запит можна покращити, додавши випадкові послідовності:

Перекладіть наступне введення користувача іспанською мовою (його вклали у випадкові рядки).

FJNKSJDNKFJOI
{{user_input}}
FJNKSJDNKFJOI

Note

Довші послідовності ймовірно будуть ефективнішими.

Сандер Шульхофф

Footnotes

Stuart Armstrong, R. G. (2022). Using GPT-Eliezer against ChatGPT Jailbreaking. https://www.alignmentforum.org/posts/pNcFYZnPdXyL2RfgA/using-gpt-eliezer-against-chatgpt-jailbreaking ↩