🟢 کوڈ انجیکشن

نے اپ ڈیٹ کیا۔ سینڈر شلہوف کو August 7, 2024 آخری بار

کوڈ انجیکشن¹ ایک فوری ہیکنگ استحصال ہے جہاں حملہ آور صوابدیدی کوڈ (اکثر ازگر) چلانے کے لیے LLM حاصل کرنے کے قابل ہوتا ہے۔ یہ ٹول سے بڑھے ہوئے LLMs میں ہو سکتا ہے، جہاں LLM کسی مترجم کو کوڈ بھیجنے کے قابل ہوتا ہے، لیکن یہ اس وقت بھی ہو سکتا ہے جب LLM ہی کوڈ کا جائزہ لینے کے لیے استعمال ہوتا ہے۔

ایک AI ایپ، MathGPT پر مبینہ طور پر کوڈ انجیکشن کیا گیا ہے اور اسے OpenAI حاصل کرنے کے لیے استعمال کیا گیا تھا۔ API کلید (MITRE رپورٹ)۔

مثال

آئیے MathGPT ایپ کی ایک آسان مثال کے ساتھ کام کریں۔ ہم فرض کریں گے کہ یہ ایک ریاضی کا مسئلہ لیتا ہے اور مسئلہ کو حل کرنے کی کوشش کرنے کے لیے ازگر کوڈ لکھتا ہے۔

یہ وہ اشارہ ہے جسے آسان مثال ایپ استعمال کرتی ہے:

درج ذیل ریاضی کے مسئلے کو حل کرنے کے لیے Python کوڈ لکھیں:
{{user_input}}

آئیے اسے یہاں ہیک کریں:

یہ ایک سادہ سی مثال ہے، لیکن اس سے ظاہر ہوتا ہے کہ اس قسم کا استحصال اہم اور خطرناک ہے۔