ترجیحات سے تربیتی سگنل تک

What this lesson is about

دیکھیں کہ دو جوابات میں انتخاب کیا ظاہر کرتا ہے۔ جب رہنما اصول یا جائزہ لینے والے متفق نہ ہوں تو کیا چھوٹ جاتا ہے۔

آپ کی شیٹ میں ایک جواب پیر کے بیچ کا ہے اور دوسرا بالکل مختلف سوال کا۔ آپ کیا درست کریں گے؟

Why this matters

ایک ترجیح اتنی ہی اچھی ہوتی ہے جتنی اس کے پیچھے چیزیں۔ یعنی کام، اصول — وہ چیک لسٹ جو بتاتی ہے کہ اچھا جواب کیسا ہونا چاہیے۔ اس کا مطلب ہے کہ جائزہ لینے والے نے کیا جانا، اور اختلاف کیسے حل ہوتا ہے۔ اصول کی ہر لائن ایک معیار ہے — ایک خاص خوبی جس سے آپ فیصلہ کرتے ہیں۔

بتائیں کہ دو جوابات میں انتخاب کیا ظاہر کرتا ہے، اور اختلاف کہاں حل ہونا چاہیے۔

ایک ہی سوال کے ساتھ ایسے جوابات رکھیں جن کی آپ موازنہ کر سکیں۔
صرف A یا B نہ لکھیں، فیصلہ کرنے والا معیار بھی لکھیں۔
ایک منصفانہ اختلاف کو اس بات کا ثبوت سمجھیں کہ کام کو درست کرنے کی ضرورت ہے۔

Task

دو جائزہ لینے والے ایک ہی رقم کی واپسی کے سوال کے دو جوابات کا موازنہ کرتے ہیں۔ معیار میں درستگی اور لہجہ شامل ہیں، اور لمبائی کے بارے میں کچھ نہیں کہا گیا۔

Weak approach دونوں جوابات کو دو بار پڑھتا ہے اور دوسرا منتخب کرتا ہے، کیونکہ اس کا لہجہ زیادہ مہذب لگتا ہے۔ باکس میں B لکھ کر آگے بڑھ جاتا ہے۔ معیار کی وہ لائن جو فیصلہ کرتی ہے، کہیں نظر نہیں آتی۔ اگلے ہفتے کوئی نہیں بتا پائے گا کہ لہجہ جیتا یا درستگی۔

Stronger approach وہ بھی دوسرا منتخب کرتا ہے، اور وہ لائن لکھتا ہے جس پر وہ جیتا: پہلے جواب میں چودہ دن کی مدت شامل نہیں ہے۔ پھر یہ بھی بتاتا ہے کہ معیار میں کہیں نہیں لکھا کہ چھوٹا درست جواب لمبے درست جواب سے بہتر ہے یا نہیں۔

Why the stronger approach works دونوں نے ایک ہی جواب منتخب کیا، اور صرف ایک نے وجہ لکھی۔ اس جوڑی سے جو اگلا سبق بنتا ہے وہ یہ ہے: جو نشان زدہ لائن ہے، اس سے اسکور کرنے والا سیکھتا ہے۔ صرف B لکھنے سے اسے کچھ نہیں ملتا۔

Try a changed situation دو صحت کارکن اس بات پر متفق نہیں کہ دو پمفلٹ میں سے کون سا واضح ہے، اور میٹنگ پانچ منٹ میں ختم ہو رہی ہے۔ شیٹ میں کیا لکھیں؟

Make something yourself ترجیحات کے ڈیٹا کے چار مراحل بنائیں۔ پھر ایک جگہ بتائیں جہاں تعصب یا کچھ غیر واضح ہو سکتا ہے۔

Read the primary or official source: Hugging Face Alignment Course