मशीनने अनुवादित केले आहे. इंग्रजी आणि हिंदी ही पुनरावलोकित आवृत्त्या आहेत.English हिन्दी

Learn
See
Try
Make

इतरांसोबत पुनरावलोकनाचा फेरी चालवा

What this lesson is about

तीन पुनरावलोककांना एकसारखे प्रकरणे द्या, ते कुठे वेगळे पडतात ते तपासा, आणि लोकांऐवजी सूचना सुधारित करा.

पाच प्रकरणे दिली गेली. शेवटच्या प्रकरणावर, दोन लोकांनी संदेशाला धमकी म्हटले आणि एकाने तो विनोद म्हटला. आता काय करायचं?

Why this matters

एखादा राउंड वाईट रिव्ह्युअर पकडण्यासाठी नसतो. एका प्रकाशित सुरक्षा अभ्यासात, तीन रिव्ह्युअर्सनी एकाच पाचशे प्रकरणांचे मूल्यमापन केले. लेखकासह चार जणांच्या मतांमध्ये संधी वगळल्यावर सहमती 0.32 होती. जेव्हा रेटिंग फक्त होय किंवा नाही असे केले गेले, तेव्हा ती 0.49 झाली. लेखकांनी दोष लोकांवर न ठेवता त्यांच्या कामाच्या शब्दांवर ठेवला.

सामायिक प्रकरणांवर फेरी चालवा, पुनरावलोकक कुठे वेगळे पडतात ते शोधा, आणि त्यांना वेगळे करणारी सूचना पुन्हा लिहा.

तीन पुनरावलोककांना एकसारखे प्रकरणे द्या, नंतर ते कुठे वेगळे पडतात ते तपासा.
लोक असहमत असतील तर पुनरावलोककाला दोष देण्याऐवजी सूचना बदला.
फेरीचा निकाल सर्व सहभागींसमोर जाहीर करा, तुमच्या चुका समवेत.

Task

पाच सुरक्षा प्रकरणे तीन पुनरावलोककांना दिली. चार जुळले. पाचव्या प्रकरणावर दोनांनी संदेशाला धमकी म्हटले आणि एकाने विनोद.

Weak approach जे दोन जण सहमत होते त्यांच्यासोबत जातो आणि तिसऱ्या जणाला म्हणतो की तोपर्यंत पुन्हा पहा जोपर्यंत तो सहमत होत नाही. त्या फेरीत एक निर्णय होतो, आणि ज्याने त्यांना विभाजित केलं ते वाक्य मार्गदर्शकात तसंच राहते.

Stronger approach दोन्ही अर्थ लिहितो, दाखवतो की नियम धमकी काय आहे हे कधीच सांगत नाही. तो वाक्य पुन्हा लिहितो आणि निकाल तीनही पुनरावलोककांना पाठवतो.

Why the stronger approach works वेगळेपणा म्हणजेच निष्कर्ष होता, आणि मजबूत मार्ग त्यावर काम करतो. मतदान ते लपवते, आणि पुढील आठवड्यात तोच वाद परत येतो.

Try a changed situation तुमच्या रस्त्यावरील दोन दुकानदार एकाच नगरपालिका नोटीसला वेगळ्या अर्थाने वाचत आहेत. कोणता नियम अजूनही लागू आहे?

Make something yourself दोन इतर लोकांसह पाच सामायिक प्रकरणांवर फेरी चालवा. कोणाने काय ठरवले, ते कुठे वेगळे पडले, आणि तुम्ही नंतर कोणती सूचना पुन्हा लिहिली हे नोंदवा.

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)