Announcing our new Paper: The Prompt Report, with Co-authors from OpenAI & Microsoft!
Check it out →نے اپ ڈیٹ کیا۔ سینڈر شلہوف کو August 7, 2024 آخری بار
اگرچہ پچھلے نقطہ نظر بہت مضبوط ہو سکتے ہیں، لیکن چند دیگر نقطہ نظر، جیسے کہ ایک مختلف ماڈل کا استعمال، بشمول فائن ٹیوننگ، نرم اشارہ، اور لمبائی کی پابندیاں، بھی کارگر ثابت ہو سکتی ہیں۔
مزید جدید ماڈل جیسے GPT-4 فوری انجیکشن کے خلاف زیادہ مضبوط ہیں۔ مزید برآں، غیر انسٹرکشن ٹیونڈ ماڈلز کو فوری طور پر انجیکشن لگانا مشکل ہو سکتا ہے۔
ماڈل کو ٹھیک کرنا ایک انتہائی موثر دفاع ہے1، کیونکہ قیاس کے وقت صارف کے ان پٹ کے علاوہ کوئی پرامپٹ شامل نہیں ہوتا ہے۔ یہ ممکنہ طور پر کسی بھی اعلی قیمت کی صورت حال میں بہتر دفاع ہے، کیونکہ یہ بہت مضبوط ہے۔ تاہم، اس کے لیے بڑی مقدار میں ڈیٹا کی ضرورت ہوتی ہے اور یہ مہنگا بھی ہو سکتا ہے، یہی وجہ ہے کہ اس دفاع کو کثرت سے لاگو نہیں کیا جاتا ہے۔
نرم پرامپٹنگ بھی مؤثر ہو سکتی ہے، کیونکہ اس میں واضح طور پر متعین مجرد پرامپٹ نہیں ہے (صارف کے ان پٹ کے علاوہ)۔ نرم پرامپٹنگ کو مؤثر طریقے سے ٹھیک ٹیوننگ کی ضرورت ہوتی ہے، لہذا اس کے بہت سے ایک جیسے فوائد ہیں، لیکن یہ ممکنہ طور پر سستا ہوگا۔ تاہم، نرم پرامپٹنگ کا اتنا اچھی طرح سے مطالعہ نہیں کیا جاتا ہے جتنا کہ ٹھیک ٹیوننگ، اس لیے یہ واضح نہیں ہے کہ یہ کتنا موثر ہے۔
آخر میں، بشمول صارف کے ان پٹ2 پر لمبائی کی پابندیاں یا چیٹ بوٹ کوریشنز کی لمبائی کو محدود کرنا جیسا کہ Bing کرتا ہے کچھ حملوں کو روک سکتا ہے جیسے کہ بالترتیب بڑے DAN طرز کے اشارے یا ورچوئلائزیشن حملے۔
Sign up and get the latest AI news, prompts, and tools.
Join 30,000+ readers from companies like OpenAI, Microsoft, Google, Meta and more!