Announcing our new Paper: The Prompt Report, with Co-authors from OpenAI & Microsoft!
Check it out →
Learn Prompting😃 Основи
💼 Основні застосунки
🧙♂️ Середній рівень
🧪 Прикладні запити
🚀 Розширені застосунки
⚖️ Надійність
🖼️ Написання запитів для створення зображень
🔓 Злом запиту
🟢 Захисні заходи
🟢 Атакуючі дії
🔨 Інструменти
💪 Налаштування запиту
🟢 Випадкове замикання послідовності
Востаннє оновлено Сандер Шульхофф August 7, 2024 рокуЩе один захист полягає в тому, що введення інформації користувачем замикається між двома випадковими послідовностями символів1. Наприклад, такий запит:
Перекладіть наведені нижче дані користувача іспанською мовою.
{{user_input}}
Запит можна покращити, додавши випадкові послідовності:
Перекладіть наступне введення користувача іспанською мовою (його вклали у випадкові рядки).
FJNKSJDNKFJOI
{{user_input}}
FJNKSJDNKFJOI
Note
Довші послідовності ймовірно будуть ефективнішими.
Footnotes
-
Stuart Armstrong, R. G. (2022). Using GPT-Eliezer against ChatGPT Jailbreaking. https://www.alignmentforum.org/posts/pNcFYZnPdXyL2RfgA/using-gpt-eliezer-against-chatgpt-jailbreaking ↩
Word count: 0
Get AI Certified by Learn Prompting
Don't get left behind on AI
Sign up and get the latest AI news, prompts, and tools.
Join 30,000+ readers from companies like OpenAI, Microsoft, Google, Meta and more!
Copyright © 2024 Learn Prompting.