Skip to lesson

मेसिन अनुवाद गरिएको। अंग्रेजी र हिन्दी समीक्षा गरिएका संस्करणहरू हुन्।Englishहिन्दी

  1. Learn
  2. See
  3. Try
  4. Make

अरू सँग समीक्षा चरण चलाउनुहोस्

What this lesson is about

तीन समीक्षकलाई एउटै केसहरू दिनुहोस्, जहाँ उनीहरू छुट्टिए त्यो तुलना गर्नुहोस्, र मानिसहरूलाई होइन, निर्देशनलाई सुधार्नुहोस्।

पाँच वटा केस बाहिर गयो। अन्तिममा, दुई जनाले सन्देशलाई धम्की भने र एक जनाले मजाक। अब के गर्ने?

Why this matters

राउन्डको उद्देश्य खराब समीक्षकलाई समात्नु होइन। एउटा प्रकाशित सुरक्षा अध्ययनमा, तीनजना समीक्षकले एउटै पाँच सय केसहरू मूल्याङ्कन गरे। लेखकलाई समेत गन्ने हो भने, चार जनाबीच सहमति मौका हटाएपछि 0.32 थियो। जब मूल्याङ्कनलाई हो वा होइनमा सीमित गरियो, यो 0.49 मा पुगेको थियो। लेखकहरूले दोष आफ्नै कामको शब्द चयनमा राखे, मानिसहरूमा होइन।

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)