পছন্দ থেকে প্রশিক্ষণ সংকেত পর্যন্ত

What this lesson is about

দুটি উত্তরের মধ্যে পছন্দ কী ধরে রাখে দেখুন। যখন নির্দেশিকা বা পর্যালোচকরা একমত হন না, তখন কী মিস হয় দেখুন।

আপনার শিটে এক উত্তর আছে সোমবারের ব্যাচ থেকে এবং আরেকটি সম্পূর্ণ ভিন্ন প্রশ্নের। আপনি কী ঠিক করবেন?

Why this matters

একটি পছন্দ তার পেছনের বিষয়গুলোর মতোই ভালো। অর্থাৎ কাজ, রুব্রিক — যা বলে ভালো উত্তরের জন্য কী দরকার। এর মানে পর্যালোচক কী জানত, এবং অমত কীভাবে মিটিয়ে দেওয়া হয়। রুব্রিকের প্রতিটি লাইন একটি মানদণ্ড — একটি নির্দিষ্ট গুণ যা দিয়ে বিচার করা হয়।

বর্ণনা করুন দুটি উত্তরের মধ্যে পছন্দ কী ধরে রাখে, এবং কোথায় অমত মিটিয়ে দিতে হয়।

একই প্রশ্নের এমন উত্তর জোড়া দিন যা তুলনা করা যায়।
শুধু ক বা খ নয়, সিদ্ধান্তমূলক মানদণ্ডও লিখুন।
ন্যায্য অমতকে প্রমাণ হিসেবে নিন যে কাজটি ঠিক করতে হবে।

Task

দুই রিভিউয়ার একই রিফান্ড প্রশ্নের দুইটি উত্তর তুলনা করছে। রুব্রিকের মধ্যে সঠিকতা এবং স্বর উল্লেখ আছে, দৈর্ঘ্যের কিছু নেই।

Weak approach দুই উত্তরই দুইবার পড়ে এবং দ্বিতীয়টি বেছে নেয়, কারণ সেটার স্বর বেশি ভদ্র। বাক্সে B লিখে এগিয়ে চলে। রুব্রিকের সেই লাইন যা সিদ্ধান্ত নিয়েছিল, তা কোথাও নেই। পরের সপ্তাহে কেউ বলতে পারবে না স্বর না সঠিকতা জিতেছে।

Stronger approach দ্বিতীয়টিই বেছে নেয়, এবং যে লাইনটি জিতেছে সেটিও লিখে: প্রথম উত্তরে চৌদ্দ দিনের সময়সীমা নেই। তারপর জানায় যে রুব্রিক কোথাও বলে না ছোট সঠিক উত্তর বড় সঠিক উত্তরের থেকে ভালো কি না।

Why the stronger approach works দুই রিভিউয়ারই একই উত্তর বেছে নিয়েছে, কিন্তু মাত্র একজন কারণ দিয়েছে। এই জোড়া থেকে যা তৈরি হয়, সেটাই পরবর্তী পাঠ: মার্ক করা লাইন থেকে স্কোরার শেখে। শুধু B লিখে কিছু শেখে না।

Try a changed situation দুই স্বাস্থ্যকর্মী দ্বিধায় রয়েছেন কোন দুটি পত্রিকা বেশি পরিষ্কার, এবং মিটিং পাঁচ মিনিটে শেষ হবে। শিটে কী লেখা হবে?

Make something yourself পছন্দ ডেটার চারটি ধাপ আঁকুন। তারপর একটি জায়গার নাম বলুন যেখানে পক্ষপাত বা অস্পষ্টতা আসতে পারে।

Read the primary or official source: Hugging Face Alignment Course