मेसिन अनुवाद गरिएको। अंग्रेजी र हिन्दी समीक्षा गरिएका संस्करणहरू हुन्।English हिन्दी

Learn
See
Try
Make

इनाम ह्याकिङ्ग पत्ता लगाउनुहोस्

What this lesson is about

त्यो छोटो बाटो खोज्नुहोस् जसले वास्तविक काम नगरी स्कोर बढाउँछ, र त्यो मापन परिवर्तन जसले त्यो बाटो बन्द गर्छ।

एक हेल्पलाइनले कल समाधान भएको गन्न्छ जब कल गर्नेले सोही कलमा फेरि सोध्दैन। त्यो संख्या कसरी पढ्नुहुन्छ?

Why this matters

हरेक मापन अन्ततः काम गरिन्छ, त्यो भागसमेत जसको कसैले आशा गरेको थिएन।

कुनै मापनलाई यसरी पढ्नुहोस् कि यसलाई बढाउने सबैभन्दा सस्तो तरिका के हो, र त्यो अन्तरलाई बन्द गर्ने दोस्रो जाँच के हो भनेर नाम दिनुहोस्।

हरेक मापन अन्ततः काम गरिन्छ, त्यो भागसमेत जसको कसैले आशा गरेको थिएन।

काम नगरी पनि स्कोर कसरी बढ्छ सोध्नुहोस्।
मापनसँग यस्तो जाँच जोड्नुहोस् जुन मापन आफैंले पूरा गर्न सक्दैन।
त्यो मापनलाई ध्यान दिनुहोस् जुन अब परिणामसँग मेल खाँदैन।

Task

हेल्पलाइन सहायकलाई ती कुराकानीमा स्कोर दिइन्छ जहाँ कल गर्नेले फेरि सोध्दैन।

Weak approach तीन महिनाको समाधान भएको आँकडा निकाल्छ, त्यसलाई चित्रित गर्छ, र साठीबाट अस्सीसम्म बढेको देख्छ। गन्ती ठीकसँग भइरहेको छ कि छैन भनी जाँच गर्छ, र हुन्छ। कहिल्यै सोध्दैन कि बढ्दो आँकडाले अरू के जनाउन सक्छ, र हार मानेर चुप लाग्नेलाई पनि समाधान मानिन्छ।

Stronger approach चुप्पीको छोटो बाटो नाम गर्छ। एक हप्ता पछि कल गर्ने जाँच थप्छ र दुई मापनलाई सँगै राखेर हेर्छ।

Why the stronger approach works दोस्रो जाँच नै मुख्य कुरा हो। एकल संख्या प्रमाण बन्नुअघि नै लक्ष्य हुन्छ।

Try a changed situation अब जिल्ला कार्यालय आफ्ना कर्मचारीलाई हरेक हप्ता बन्द भएका फाइलहरूबाट मूल्याङ्कन गर्दैछ। कुन नियम अझै लागू हुन्छ?

Make something yourself तपाईंको काम, कलेज वा टोलीले मूल्याङ्कन गर्ने कुनै एक संख्या लिनुहोस्। वास्तविक काम नगरी त्यसलाई बढाउने सबैभन्दा सस्तो तरिका र त्यो पक्रने दोस्रो जाँच लेख्नुहोस्।

Read the primary or official source: Concrete Problems in AI Safety