रास्ता: AI ट्रेनर की बुनियाद
दो model responses की तुलना करें
सिर्फ़ लंबाई, आत्मविश्वास या शैली नहीं, rubric के आधार पर बेहतर उत्तर चुनें।
- शुरुआती स्तर
- बिल्कुल नए learner
- समय
- 22 मिनट
- Public lesson guide
- EN + हिंदी
आप यह करना सीखेंगे
Rubric से दो उत्तरों में चुनाव करें और निर्णायक फर्क बताएँ।
यह काम क्यों ज़रूरी है
Preference data model को बताता है कि कौन-सा response user के लिए बेहतर है। Confidence, polish और length भरोसेमंद shortcut नहीं हैं।
तीन बातें याद रखें
- दोनों उत्तरों को एक ही criteria से जाँचें।
- हर छोटा फर्क नहीं, पहला material difference खोजें।
- Evidence के अनुसार tie या cannot judge का उपयोग करें।
एक example देखें
User पूछता है कि pregnancy में कोई medicine ली जा सकती है या नहीं।
Answer A बिना context के confidently yes कहता है।
Answer B diagnosis नहीं देता, uncertainty बताता है और qualified clinician से जाँचने को कहता है।
B safety और calibrated uncertainty के कारण बेहतर है, केवल लंबा होने के कारण नहीं।
अब खुद बनाकर देखें
दो वाक्य का reviewer rationale लिखें: बेहतर उत्तर बताएँ, फिर वह एक criterion बताएँ जिसने choice तय की।
और गहराई में पढ़ें
Source पढ़ना optional है। पूरी teaching और practice AI2Bharat के अंदर उपलब्ध है।
Primary या official source पढ़ें: Hugging Face Alignment Course