गोल्ड वस्तु सभ, आ कतार किएक रुकैत अछि

What this lesson is about

अहाँक बैच मे किछु वस्तु सभक उत्तर पहिने सँ तय भऽ चुकल अछि। अहाँ के ओहि सभ सँ सहमति कतेक अछि, से तय करैत अछि जे काज अबैत रहत कि नहि।

आजुक चालीस वस्तु मे सँ छह ओहि वस्तु अछि जे टीम पहिने सँ तय कऽ चुकल अछि। कोन छह अछि, कोनो नहि कहैत। की बदलत?

Why this matters

प्रोजेक्ट सभ ओहि वस्तु सभ केँ छिपा दैत अछि जेकर उत्तर ओ पहिने सँ तय कऽ चुकल होइत अछि, आ ओहि पर अहाँ केँ मापन करैत अछि। ओ नहि कहैत अछि जे कोन वस्तु छल। एकटा प्रकाशित प्रोजेक्ट अपन समीक्षक सभ केँ एहि तरहेँ मापन केने छल। प्रशिक्षण सँ बाहर राखल लोक सभ १०० मे लगभग ७७ बेर सहमत छल। कोनो कियो १०० मे १०० बेर नहि सहमत होइत अछि, आ कोनो सीमा एहि तरहक मांग नहि करैत अछि।

समझू जे मंच अहाँक काज करैत काल की मापन करैत अछि, आ कतार रुकलापर की करबाक चाही।

गोल्ड वस्तु ओ होइत अछि जेकर निर्णय प्रोजेक्ट अहाँ देखबाक पहिने सँ कऽ चुकल होइत अछि।
कतारक रुकब दिशानिर्देशक संदेश होइत अछि, अहाँ पर निर्णय नहि।
अगिला बैच छुए सँ पहिने पूछू जे कोन गोल्ड वस्तु अहाँ सँ छूटल।

Task

मंगलदिन अहाँक काज रुकि जाइत अछि। संदेश कहैत अछि जे छिपल जाँच वस्तु सभ पर अहाँक स्कोर १०० मे ६२ भऽ गेल अछि। एहि प्रोजेक्टक सीमा ८० अछि।

Weak approach ओहि साँझ नव बैच खोलि कऽ दुगुना तेज काज करैत अछि। पहिने सहज देखाइत वस्तु सभ लैत अछि आ शंका होइत वस्तु सभ बाद मे छोड़ि दैत अछि।

Stronger approach काज रोकि दैत अछि। जे आठ जाँच वस्तु गलत भेल, तकरा माँगैत अछि। आठ मे सँ छह एके प्रकारक अछि: पहिल बेर मे उपयोगकर्ता हिन्दी माँगने छल आ जवाब अंग्रेजी मे आयल। ओ दिशानिर्देशक ओहि पन्ना केँ दोबारा पढ़ैत अछि, तखन अगिला बैच खोलैत अछि।

Why the stronger approach works रुकबाक बाद तेज काज करब स्कोर केँ उल्टा दिशा मे लऽ जाइत अछि। आठ मे छह चूक एके कारण सँ भेल छल, आ ओ दिशानिर्देशक एक पन्ना मे छल।

Try a changed situation एहि सप्ताह दू ऑर्डर गलत चिन्हित भेलाक बाद डिलीवरी ऐप अहाँक खाता जाँच मे राखि देलक। पहिल कदम की होयत?

Make something yourself एकटा पन्ना लिखू जे कोनो जाँच पर अहाँ फेल भेलहुँ — काज मे वा परीक्षा मे। लिखू जे की मापन होइत छल। फेर लिखू जे की दोबारा पढ़लहुँ, आ कोन एक प्रश्न पुछलहुँ।

Read the primary or official source: Ouyang et al., Training language models to follow instructions (arXiv)