انجینئرنگ گائیڈ
😃 بنیادی باتیں
💼 بنیادی ایپلی کیشنز
🧙‍♂️ انٹرمیڈیٹ
🤖 ایجنٹس
⚖️ اعتبار
🖼️ امیج پرمپٹنگ
🔓 پرامپٹ ہیکنگ
🔨 ٹولنگ
💪 پرامپٹ ٹیوننگ
🎲 متفرق
📙 الفاظ کا حوالہ
📚 کتابیات
📦 پرامپٹ مصنوعات
🛸 اضافی وسائل
🔥 گرم موضوعات
✨ کریڈٹس
🔓 پرامپٹ ہیکنگ🟢 دفاعی اقدامات🟢 فلٹرنگ

فلٹرنگ

🟢 This article is rated easy
Reading Time: 1 minute
Last updated on August 7, 2024

سینڈر شلہوف

پرامپٹ ہیکنگ کو روکنے کے لیے فلٹرنگ ایک عام تکنیک ہے۔ فلٹرنگ کی چند قسمیں ہیں، لیکن بنیادی خیال یہ ہے کہ ابتدائی پرامپٹ یا آؤٹ پٹ میں الفاظ اور فقرے کی جانچ پڑتال کی جائے جسے بلاک کیا جانا چاہیے۔ آپ اس مقصد کے لیے بلاک لسٹ یا اجازت لسٹ استعمال کر سکتے ہیں۔ بلاک لسٹ ان الفاظ اور فقروں کی فہرست ہے جن کو مسدود کیا جانا چاہیے، اور اجازت دینے والی فہرست ان الفاظ اور فقروں کی فہرست ہے جن کی اجازت ہونی چاہیے۔

Footnotes

  1. Kang, D., Li, X., Stoica, I., Guestrin, C., Zaharia, M., & Hashimoto, T. (2023). Exploiting Programmatic Behavior of LLMs: Dual-Use Through Standard Security Attacks.

  2. Selvi, J. (2022). Exploring Prompt Injection Attacks. https://research.nccgroup.com/2022/12/05/exploring-prompt-injection-attacks/