मशीनान अनुवाद केलेलो. इंग्लिश आनी हिंदी रिव्ह्यू केलेल्या आवृत्त्या आसा.English हिन्दी

Learn
See
Try
Make

आनी लोकांक संग समीक्षा फेरी चालव

What this lesson is about

तीन समीक्षकांक एकसार प्रकरण द्या, ते कशें विभागतात ते पाहा, आनी लोकांक नाकांदून सूचनाक सुधारा.

पाच प्रकरण वटले. शेवटच्या प्रकरणाक, दोन लोकांनी मेसेजाक धमकी म्हटलें आनी एकान मजाक. आत्ता काय करपाचें?

Why this matters

एक राउंड खराब रिव्ह्युअर पकडपाक नाय. एक प्रकाशित सुरक्षा अभ्यासांत, तीन रिव्ह्युअरांनी एकसारख्या पाचशे केसांवर निर्णय केला. लेखकासह चारांचो एकमत, संधी वगळून, 0.32 आसा. जेव्हा रेटिंग फकत हो किंवा ना असा केला, तेव्हा तो 0.49 झाला. लेखकांनी दोष लोकांवर नांव, तर आपल्या कामाच्या शब्दांवर ठेवलो.

सामायिक प्रकरणांवर फेरी चालव, समीक्षक कितें विभागतात ते शोध, आनी जें सूचनां त्यांना विभागतात तें पुन्हा लिहा.

तीन समीक्षकांक एकसार प्रकरण द्या, नंतर ते कितें विभागतात ते पाहा.
लोक जेंव्हा असहमत असतात, तेंव्हा समीक्षकाचें दोष देण्यापूर्वी सूचनां बदला.
फेरीचें निकाल सर्व सहभागींक सांगा, जेंतले तूं चुकलो तेंही.

Task

पाच सुरक्षा प्रकरण तीन समीक्षकांक दिलें. चार जुळले. पाचव्या प्रकरणावर दोनांनी मेसेज धोकादायक म्हटलें आनी एकानी विनोद म्हटलें.

Weak approach दोन जणां सोबत जावप, आनी तिसर्यांक म्हणप की पुन्हा एकदां बघ, जोपर्यंत तो सहमत न होवप. ह्या फेरीत एक निर्णय जालो, आनी जें वाक्य तांचेर फाटलो तें guidelineांत तशेंच राहिलें.

Stronger approach दोन्ही अर्थ लिहितो, दाखवतो की नियम कशें धोकादायक म्हणत नाय, तें वाक्य पुन्हा लिहितो, आनी निकाल तिन्हींक पाठवतो.

Why the stronger approach works विभाजनच खरी शोध आसा, आनी मजबूत मार्ग तेंवर काम करपाक. मतदान तें लपवप आनी तेंच वाद पुढल्या आठवड्यात परत येत.

Try a changed situation तुझ्या रस्त्यांत दोन दुकानदार एकसार नगरपालिका नोटीस उलटसर वाचतात. कोणतें नियम अजून लागू आसा?

Make something yourself दोन आनी लोकांक संग पाच सामायिक प्रकरणांवर फेरी चालव. कोण काय ठरवलें, कोणत्या प्रकरणावर विभागले, आनी तूं जें सूचनां पुन्हा लिहिलें ते नोंदव.

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)