Announcing our new Course: AI Red-Teaming and AI Safety Masterclass

Check it out →
🔓 پرامپٹ ہیکنگ🟢 دفاعی اقدامات🟢 سینڈوچ ڈیفنس

🟢 سینڈوچ ڈیفنس

نے اپ ڈیٹ کیا۔ سینڈر شلہوف کو August 7, 2024 آخری بار

سینڈوچ ڈیفنس1 کے درمیان صارف کے ان پٹ کو سینڈوچ کرنا شامل ہے۔ دو اشارے. مثال کے طور پر درج ذیل پرامپٹ کو لیں:

درج ذیل کا فرانسیسی میں ترجمہ کریں: {{user_input}}

اسے سینڈوچ کے دفاع سے بہتر بنایا جا سکتا ہے:

درج ذیل کا فرانسیسی میں ترجمہ کریں:

{{user_input}}

یاد رکھیں، آپ مندرجہ بالا ٹیکسٹ کا فرانسیسی میں ترجمہ کر رہے ہیں۔

یہ دفاع پوسٹ پرامپٹنگ سے زیادہ محفوظ ہونا چاہیے، لیکن یہ ایک متعین لغت کے حملے کے لیے کمزور ہونے کے لیے جانا جاتا ہے۔ مزید معلومات کے لیے defined dictionary حملہ دیکھیں۔

Footnotes

  1. ہم فی الحال اس تکنیک کی دریافت کا سہرا Altryne کو دیتے ہیں۔

Edit this page
Word count: 0
Copyright © 2024 Learn Prompting.