Announcing our new Paper: The Prompt Report, with Co-authors from OpenAI & Microsoft!

Check it out →
🧙‍♂️ انٹرمیڈیٹ🟦 پیدا شدہ علم

🟦 پیدا شدہ علم

نے اپ ڈیٹ کیا۔ سینڈر شلہوف کو August 7, 2024 آخری بار

جنریٹڈ نالج اپروچ1 کے پیچھے خیال یہ ہے کہ LLM سے کوئی حتمی جواب تیار کرنے سے پہلے کسی دیئے گئے سوال/پرامپٹ کے بارے میں ممکنہ طور پر مفید معلومات پیدا کرنے کے لیے کہا جائے۔

مثال کے طور پر، کہتے ہیں کہ آپ کسی جانور کے بارے میں ایک چھوٹی سی بلاگ پوسٹ لکھنا چاہتے ہیں، جیسے Spirit bears۔ LLM سے بلاگ پوسٹ لکھنے کے لیے کہنے سے پہلے، آپ اس سے روح ریچھ کے بارے میں کچھ حقائق پیدا کرنے کے لیے کہہ سکتے ہیں۔ اس سے LLM کو مزید معلوماتی بلاگ پوسٹ لکھنے میں مدد ملے گی۔ اس کے بارے میں جانے کے دو آسان طریقے ہیں۔

واحد فوری نقطہ نظر

پہلا نقطہ نظر ایل ایل ایم سے علم پیدا کرنے کے لیے کہتا ہے پھر پوسٹ لکھیں، سب ایک ہی پرامپٹ کے ساتھ۔

کرموڈ ریچھ کے بارے میں 4 حقائق بنائیں، پھر معلومات کا استعمال کرتے ہوئے ایک مختصر بلاگ پوسٹ لکھنے کے لیے ان حقائق کا استعمال کریں:
// highlight-start
کرموڈ ریچھ، جسے روح ریچھ بھی کہا جاتا ہے، امریکی سیاہ ریچھ کی ایک نایاب ذیلی نسل ہے جو برٹش کولمبیا، کینیڈا کے ساحلی علاقوں میں پائی جاتی ہے۔

1. کرموڈ ریچھ امریکی کالے ریچھ کی ایک منفرد ذیلی نسل ہے، جس کی تقریباً 10% آبادی سفید کھال پر مشتمل ہے۔

2. کرموڈ ریچھ برٹش کولمبیا کے فرسٹ نیشن لوگوں کی علامت ہے، اور اسے ایک روحانی جانور کے طور پر دیکھا جاتا ہے۔

3. کرموڈ ریچھ ماحولیاتی نظام کا ایک اہم حصہ ہے، جو بیجوں کو پھیلانے اور جنگل کے توازن کو برقرار رکھنے میں مدد کرتا ہے۔

4. کرموڈ ریچھ ایک محفوظ نسل ہے، اور صوبائی حکومت اس کی آبادی پر کڑی نظر رکھتی ہے۔

کرموڈ ریچھ ایک منفرد اور خاص جانور ہے جو برٹش کولمبیا، کینیڈا کے ساحلی علاقوں میں پایا جاتا ہے۔ امریکی کالے ریچھ کی اس ذیلی نسل کی تقریباً 10% آبادی کی کھال سفید ہے، جس کی وجہ سے یہ ایک نایاب منظر ہے۔ کرموڈ ریچھ برٹش کولمبیا کے فرسٹ نیشنز کے لوگوں کی علامت ہے، اور اسے ایک روحانی جانور کے طور پر دیکھا جاتا ہے۔ یہ ماحولیاتی نظام کا ایک اہم حصہ ہے، جو بیجوں کو پھیلانے اور جنگل کے توازن کو برقرار رکھنے میں مدد کرتا ہے۔ کرموڈ ریچھ ایک محفوظ نسل ہے اور صوبائی حکومت اس کی آبادی پر کڑی نظر رکھتی ہے۔ یہ ایک خوبصورت اور شاندار جانور ہے، اور یہ ضروری ہے کہ ہم اس نسل کی حفاظت اور تحفظ کے لیے اپنا کردار ادا کریں۔
// highlight-end

دوہری فوری نقطہ نظر

اس نقطہ نظر میں، ہم سب سے پہلے LLM کو ریچھ کے بارے میں حقائق پیدا کرنے کا اشارہ کرتے ہیں:

کرموڈ ریچھ کے بارے میں 10 حقائق بنائیں:
// highlight-start
1. کرموڈ ریچھ، جسے اسپرٹ بیئر بھی کہا جاتا ہے، برٹش کولمبیا، کینیڈا میں پائے جانے والے امریکی سیاہ ریچھ کی ایک نایاب ذیلی نسل ہے۔

2. کرموڈ ریچھ میں ایک منفرد سفید یا کریم رنگ کا کوٹ ہوتا ہے، جو ایک متواتر جین کی وجہ سے ہوتا ہے۔

3. کرموڈ ریچھ برٹش کولمبیا کے فرسٹ نیشنز کے لوگوں کے لیے امید اور تجدید کی علامت ہے۔

4. کرموڈ ریچھ ایک محفوظ پرجاتی ہے اور اسے کینیڈا میں خطرے سے دوچار جنگلی حیات کی حیثیت سے متعلق کمیٹی کے ذریعہ خصوصی تشویش کی ایک انواع کے طور پر درج کیا گیا ہے۔
// highlight-end

پھر، ہم اس معلومات کو بلاگ پوسٹ لکھنے کے لیے ایک اور پرامپٹ میں فیڈ کرتے ہیں:

1. کرموڈ ریچھ، جسے اسپرٹ بیئر بھی کہا جاتا ہے، برٹش کولمبیا، کینیڈا میں پائے جانے والے امریکی سیاہ ریچھ کی ایک نایاب ذیلی نسل ہے۔

2. کرموڈ ریچھ میں ایک منفرد سفید یا کریم رنگ کا کوٹ ہوتا ہے، جو ایک متواتر جین کی وجہ سے ہوتا ہے۔

3. کرموڈ ریچھ برٹش کولمبیا کے فرسٹ نیشنز کے لوگوں کے لیے امید اور تجدید کی علامت ہے۔

4. کرموڈ ریچھ ایک محفوظ پرجاتی ہے اور اسے کینیڈا میں خطرے سے دوچار جنگلی حیات کی حیثیت سے متعلق کمیٹی کے ذریعہ خصوصی تشویش کی ایک انواع کے طور پر درج کیا گیا ہے۔

کرموڈ ریچھ کے بارے میں ایک پیراگراف بلاگ پوسٹ لکھنے کے لیے مندرجہ بالا حقائق کا استعمال کریں:

// highlight-start

کرموڈ ریچھ، جسے اسپرٹ بیئر بھی کہا جاتا ہے، برٹش کولمبیا، کینیڈا میں پائے جانے والے امریکی سیاہ ریچھ کی ایک نایاب ذیلی نسل ہے۔ اس انوکھے ریچھ کے پاس سفید یا کریم رنگ کا کوٹ ہے، جو ایک متواتر جین کی وجہ سے ہوتا ہے، اور یہ برٹش کولمبیا کے فرسٹ نیشنز کے لوگوں کے لیے امید اور تجدید کی علامت ہے۔ کرموڈ ریچھ ایک محفوظ انواع ہے اور اسے کینیڈا میں خطرے سے دوچار جنگلی حیات کی حیثیت سے متعلق کمیٹی نے خصوصی تشویش کی ایک انواع کے طور پر درج کیا ہے، جو اسے خطے کی حیاتیاتی تنوع کا ایک اہم حصہ بناتا ہے۔

// highlight-end

میں اس دوسرے نقطہ نظر کی سفارش کرتا ہوں کیونکہ یہ زیادہ قابل اعتماد طریقے سے طویل مواد تیار کر سکتا ہے۔

استعمال کا ایک اور کیس

پیدا شدہ علمی نقطہ نظر درحقیقت ایک بالکل مختلف کام کے لیے متعارف کرایا گیا تھا، جو کہ مشکل سوالات کے جوابات دینا تھا۔ مندرجہ ذیل سوال پر غور کریں، جس کا GPT-3 غلط جواب دیتا ہے:

Note
یہ مثال شاید درست نہ ہو۔ ہم اس پر نظر ثانی کے لیے کام کر رہے ہیں۔

اگر ہم سب سے پہلے LLM سے کانگو اور جنوبی افریقہ کے بارے میں حقائق پیدا کرنے کے لیے پوچھتے ہیں، تو ہم اس معلومات کو سوال کا صحیح جواب دینے کے لیے استعمال کر سکتے ہیں۔ نظریہ میں، یہ CoT کے مترادف ہے، کیونکہ ہم مؤثر طریقے سے متعلقہ حقائق کی شکل میں درمیانی استدلال پیدا کرنے کے لیے LLM حاصل کر رہے ہیں۔

آئیے پہلے قدم سے شروع کرتے ہیں، علمی نسل۔ ہم LLM سے کانگو اور جنوبی افریقہ کے بارے میں حقائق پیدا کرنے کے لیے کہہ سکتے ہیں:


اگلا، آئیے اس علم کا استعمال کرتے ہوئے سوال کا صحیح جواب دیں۔ یہ علم انضمام مرحلہ ہے!

ایک اور تکنیکی بحث

اگرچہ مندرجہ بالا استعمال کا معاملہ اسی طرح کا تھا جس طرح پیدا شدہ علم کو اصل میں متعارف کرایا گیا تھا، یہ بالکل ایک جیسا نہیں ہے۔ مندرجہ ذیل مواد زیادہ تکنیکی سیاق و سباق کا احاطہ کرتا ہے جس میں نقطہ نظر متعارف کرایا گیا تھا۔ یہ دو درمیانی مراحل کی پیروی کرتا ہے (علم پیدا کرنا اور علم کا انضمام) جو ہم نے اوپر دیکھا۔

نالج جنریشن

علم پیدا کرنے کے مرحلے میں، LLM سے حقائق کا ایک مجموعہ تیار کرنے کو کہا جاتا ہے۔ سوال کے بارے میں۔ ایل ایل ایم کو چند شاٹ انداز میں اشارہ کیا گیا ہے جیسا کہ ذیل میں دیکھا گیا ہے۔ اسی پرامپٹ (خود مستقل مزاجی کے نقطہ نظر کی طرح) کا استعمال کرتے ہوئے M مختلف تکمیلات تیار کی جاتی ہیں۔

نالج انٹیگریشن

اس کے بعد، ہم "علم میں اضافہ شدہ" سوالات تیار کرتے ہیں اور ان کے ساتھ LLM کا اشارہ کرتے ہیں۔ حتمی جوابات حاصل کرنے کے لیے۔ اس کو سمجھنے کا سب سے آسان طریقہ یہ ہے کہ ایک مثال کو دیکھیں۔

فرض کریں کہ ہم سوال کا جواب دینے کی کوشش کر رہے ہیں "زیادہ تر کینگروز کے

<mask>

اعضاء ہوتے ہیں"۔ فرض کریں کہ علم کی نسل کے قدم پر ہم نے 2 علم پیدا کیے (M=2):

  • علم 1: 'کینگرو مرسوپیئلز ہیں جو آسٹریلیا میں رہتے ہیں۔'

  • علم 2: 'کینگرو مرسوپیئلز ہیں جن کے 5 اعضاء ہیں۔'

اب، ہم علم میں اضافے والے سوالات پیدا کرنے کے لیے ہر علم کو سوال کے ساتھ جوڑتے ہیں:

  • علم بڑھا ہوا سوال 1: زیادہ تر کینگروز کے اعضاء

    <mask>

    ہوتے ہیں۔ کینگروز مرسوپیئل ہیں جو آسٹریلیا میں رہتے ہیں۔

  • علم بڑھا ہوا سوال 2: زیادہ تر کینگروز کے اعضاء

    <mask>

    ہوتے ہیں۔ کینگرو مرسوپیئل ہیں جن کے 5 اعضاء ہوتے ہیں۔

اس کے بعد ہم LLM کو ان علمی بڑھے ہوئے سوالات کے ساتھ اشارہ کرتے ہیں اور حتمی جوابات کی تجاویز حاصل کرتے ہیں:

  • جواب 1: 4

  • جواب 2: 5

ہم حتمی جواب کے طور پر سب سے زیادہ امکان کے ساتھ جواب کا انتخاب کرتے ہیں۔ دی سب سے زیادہ امکان جواب ٹوکن کا سافٹ میکس امکان ہو سکتا ہے، یا جواب کے ٹوکن (زبانیں) کا لاگ ان امکان۔

تلاوت - بڑھا ہوا زبان کے ماڈل

تلاوت سے بڑھا ہوا2 نقطہ نظر پیدا شدہ علم (بنیادی طور پر ایک جیسا) ہے۔ تاہم، پیدا شدہ علم کے باضابطہ نفاذ سے بہت کم پیچیدہ ہے۔

یہاں خیال یہ ہے کہ ایل ایل ایم کو معلومات اور جواب اسی قدم میں پیدا کرنے کے لیے چند شاٹ پرامپٹ کریں۔ حقیقت یہ ہے کہ یہ علم کی تلاوت/پیداوار کر رہا ہے اور ایک ہی مرحلے میں سوال کا جواب دے رہا ہے، پیدا شدہ علم کے نقطہ نظر سے بنیادی فرق ہے۔

دہرانے کے لیے، یہ نقطہ نظر ماڈل کو متعدد (سوال، تلاوت، جواب) مثالوں کے ساتھ اشارہ کرتا ہے، پھر سوال پوچھتا ہے۔ مصنفین نوٹ کرتے ہیں کہ اس نقطہ نظر کو خود مستقل مزاجی یا متعدد تکمیلی راستوں کے ساتھ ملایا جا سکتا ہے۔

نوٹس

  • پیدا کردہ علم مختلف کامن سینس ڈیٹاسیٹس میں بہتری کو ظاہر کرتا ہے۔

  • منتخب جواب کے مطابق علم کو منتخب علم کہا جاتا ہے۔

  • عملی طور پر، آپ اکثر آنے والے جواب کو حتمی کے طور پر لے سکتے ہیں۔

Footnotes

  1. Liu, J., Liu, A., Lu, X., Welleck, S., West, P., Bras, R. L., Choi, Y., & Hajishirzi, H. (2021). Generated Knowledge Prompting for Commonsense Reasoning.

  2. Sun, Z., Wang, X., Tay, Y., Yang, Y., & Zhou, D. (2022). Recitation-Augmented Language Models.

Word count: 0

Get AI Certified by Learn Prompting


Copyright © 2024 Learn Prompting.