दूसर्यां नाल समीक्षा दा दौर चलाओ

What this lesson is about

तीन समीक्षकां नूं इक्के मामले देवो, देखो ओ किथे अलग होन्दे ने, ते इंसानां दी बजाय हुकम सुधारो।

पाँच मामलें बाहर गए। आखिरी वाले ते, दो लोकां ने संदेश नू धमकी कहा ते इक ने मज़ाक। हुण की करां?

Why this matters

एक दौर खराब जाँचने वाले नूं पकड़न वास्ते नहीं हुंदा। इक छपी हुई सुरक्षा अध्ययन विच, तीन जाँचने वाले इक्के पाँच सौ मामले देखे। लेखक नूं मिलाके, चारां दा मेल, जद संजोग हटाया गया, 0.32 आया। जद रेटिंग नूं हाँ या ना तक घटाया गया, तों ई 0.49 हो गया। लेखकां ने गलती लोकां दी नहीं, अपने काम दी शब्दावली दी मानी।

साझा मामलेआं ते इक दौर चलाओ, देखो समीक्षक किथे अलग होए, ते ओह हुकम फेर लिखो जिहड़े ने उन्हां नूं अलग किता।

तीन समीक्षकां नूं इक्के मामले देवो, फेर देखो ओ किथे अलग होए।
जद लोग असहमत होण, ता समीक्षक नूं दोष देण तो पहले हुकम बदलो।
दौर दा नतीजा सब नूं दसों जो हिस्सा लिए, अपनी गलती समेत।

Task

पंज सुरक्षा मामले तीन समीक्षकां नूं दिते। चार मेल खा गए। पंजवें ते दो ने संदेश नूं धमकी आख्या ते इक ने मज़ाक।

Weak approach ओह दो जिणा ने सहमति दिती ओहना दे नाल चलदा ऐ ते तीजे नूं फेर तों वیکھण लई कहदा ऐ जद तक ओह सहमत न हो जावे। इस दौर तों इक फैसला निकलदा ऐ, ते जिणा वाक्य ने ओहना नूं वंडया ओह दिशानिर्देश विच जसदा तस रहन्दा ऐ।

Stronger approach दोनों समझ लिखदा है, दिखांदा है कि नियम कहीं नहीं कहंदा धमकी किदां समझी जावे, ओह वाक्य फेर लिखदा है, ते नतीजा तीनों नूं भेज दिंदा है।

Why the stronger approach works अलगाव असली नतीजा सी, ते मजबूत तरीका ओह ते काम करदा है। वोटिंग ओह छुपा दिंदी है, ते अगली हफ्ते ओही बहस वापस आ जांदी है।

Try a changed situation तुहाडी गली दे दो दुकानदार इक्के नगरपालिका नोटिस नूं उलट-सीधा समझ रहे ने। किहड़ा नियम अज वी लागू है?

Make something yourself दो होर लोकां नाल पंज साझा मामलेआं ते इक दौर चलाओ। लिखो किसने कीड़ा फैसला किता, किथे ओ अलग होए, ते तुसीं बाद विच हुकम दा किहड़ा वाक्य फेर लिख्या।

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)