просимо
😃 Основи
💼 Основні застосунки
🧙‍♂️ Середній рівень
🤖 Агенти
⚖️ Надійність
🖼️ Написання запитів для створення зображень
🔓 Злом запиту
🔨 Інструменти
💪 Налаштування запиту
🎲 Різне
📙 Словниковий довідник
📚 Бібліографічний список
📦 Рекомендовані продукти
🛸 Додаткові ресурси
🔥 У тренді
✨ Список залучених людей
🔓 Злом запиту🟢 Захисні заходи🟢 Фільтрування

Фільтрування

🟢 This article is rated easy
Reading Time: 1 minute
Last updated on August 7, 2024

Сандер Шульхофф

Фільтрування є поширеною технікою для запобігання кібератакам на текстовий запит. Існує кілька типів фільтрації, але основна ідея полягає в тому, щоб перевірити слова та фрази в початковому запиті або вихідних даних, які слід заблокувати. Для цього можна використовувати чорний або білий списки. Чорний список — це список слів і фраз, які слід заблокувати, а білий список — це список слів і фраз, які слід дозволити.

Footnotes

  1. Kang, D., Li, X., Stoica, I., Guestrin, C., Zaharia, M., & Hashimoto, T. (2023). Exploiting Programmatic Behavior of LLMs: Dual-Use Through Standard Security Attacks.

  2. Selvi, J. (2022). Exploring Prompt Injection Attacks. https://research.nccgroup.com/2022/12/05/exploring-prompt-injection-attacks/