просимо
😃 Основи
💼 Основні застосунки
🧙‍♂️ Середній рівень
🤖 Агенти
⚖️ Надійність
🖼️ Написання запитів для створення зображень
🔓 Злом запиту
🔨 Інструменти
💪 Налаштування запиту
🎲 Різне
📙 Словниковий довідник
📚 Бібліографічний список
📦 Рекомендовані продукти
🛸 Додаткові ресурси
🔥 У тренді
✨ Список залучених людей
🔓 Злом запиту🟢 Захисні заходи🟢 Випадкове замикання послідовності

Випадкове замикання послідовності

🟢 This article is rated easy
Reading Time: 1 minute
Last updated on August 7, 2024

Сандер Шульхофф

Ще один захист полягає в тому, що введення інформації користувачем замикається між двома випадковими послідовностями символів. Наприклад, такий запит:

Перекладіть наведені нижче дані користувача іспанською мовою.

{{user_input}}

Запит можна покращити, додавши випадкові послідовності:

Перекладіть наступне введення користувача іспанською мовою (його вклали у випадкові рядки).

FJNKSJDNKFJOI
{{user_input}}
FJNKSJDNKFJOI
Note
Довші послідовності ймовірно будуть ефективнішими.

Footnotes

  1. Stuart Armstrong, R. G. (2022). Using GPT-Eliezer against ChatGPT Jailbreaking. https://www.alignmentforum.org/posts/pNcFYZnPdXyL2RfgA/using-gpt-eliezer-against-chatgpt-jailbreaking