इनाम के चालाकी के चिन्ह देखू

What this lesson is about

ओहि छोटका रस्ता के पता लगाउ जे बिना असली काज के स्कोर बढ़बैत अछि, आ ओहि माप में बदलाव जे ओकरा बंद कऽ दैत अछि।

एक हेल्पलाइन एक कॉल के हल भेला के गिनती करैत अछि जखन कॉल करनिहार ओहि कॉल में फेर सँ नहि पुछैत अछि। अहाँ ओहि संख्या के केना पढ़ब?

Why this matters

सभ माप के अंततः काज कएल जाइत अछि, ओहि हिस्सा सहित जे कियो सोचने नहि हो।

एकटा माप पढ़ू जे ओकरा बढ़ेबाक सस्ता तरीका बुझाउ, आ दोसर जाँच बताउ जे ओहि छोटका रस्ता के बंद कऽ दैत अछि।

सभ माप के अंततः काज कएल जाइत अछि, ओहि हिस्सा सहित जे कियो सोचने नहि हो।

पूछू जे बिना काज कए अंक केना बढ़ि सकैत अछि।
एकटा माप के संग एहन जाँच जोड़ू जे ओ माप अकेले पूरा नहि कऽ सकय।
ओहि माप पर नजर राखू जे परिणाम संग नहि चलि रहल अछि जे ओकर प्रतीक अछि।

Task

एक हेल्पलाइन सहायक के स्कोर कैल जाइत अछि ओहि बातचीत पर जतय कॉलर फेर नहि पूछैत अछि।

Weak approach तीन मासक हल भेल आंकड़ा निकालैत अछि, ओकरा ड्रॉ करैत अछि, आ देखैत अछि जे ओ साठ सँ अस्सी धरि बढ़ि रहल अछि। जाँच करैत अछि जे गिनती सही भ' रहल अछि, आ ओ सही अछि। कखनो नहि पुछैत अछि जे बढ़ैत आंकड़ा के आर की मतलब भ' सकैत अछि, आ जे कॉलर हारि क' छोड़ि दैत अछि, ओकरा सेहो हल मानि लेल जाइत अछि।

Stronger approach चुप्पी के छोटका रस्ता के नाम दैत अछि। एक सप्ताह बाद कॉल बैक जाँच जोड़ैत अछि, आ दुनू माप के एक संग देखैत अछि।

Why the stronger approach works दोसर जाँच मुख्य बात अछि। एकटा संख्या प्रमाण बनबाक पहिने लक्ष्य होइत अछि।

Try a changed situation एकटा जिला कार्यालय आब अपन स्टाफ के हर सप्ताह बंद भेल फाइल सभ सँ परखि रहल अछि। कोन नियम अबहियो लागू अछि?

Make something yourself अपन काज, कॉलेज वा टीम के एकटा संख्या लिअ जे ओकरा परखल जाइत अछि। लिखू जे बिना असली काज के ओकरा बढ़ेबाक सस्ता तरीका की अछि, आ दोसर जाँच जे ओकरा पकड़ि सकैत अछि।

Read the primary or official source: Concrete Problems in AI Safety