पाठ पर जाएँ

रास्ता: मॉडल की बाद की ट्रेनिंग कैसे होती है

इनाम की चालाकी पहचानें

वह छोटा रास्ता खोजें जिससे असली काम किए बिना अंक बढ़ जाता है, और वह बदलाव जो उस रास्ते को बंद कर देता है।

शुरुआती स्तर
बुनियादी बातों में सहज
समय
20 मिनट
सार्वजनिक पाठ मार्गदर्शिका
EN + हिंदी

आप यह करना सीखेंगे

किसी माप को इस नज़र से पढ़ें कि उसे बढ़ाने का सबसे सस्ता रास्ता क्या है, और वह दूसरी जाँच बताएँ जो उस रास्ते को बंद करे।

यह काम क्यों ज़रूरी है

हर माप देर-सबेर बढ़ाया जाने लगता है — उसका वह हिस्सा भी जो किसी ने चाहा ही नहीं था।

तीन बातें याद रखें

  • पूछें कि असली काम किए बिना अंक कैसे बढ़ सकता है।
  • हर माप के साथ ऐसी जाँच रखें जिसे वह माप अकेले पूरा न कर सके।
  • उस माप पर नज़र रखें जो अब उस नतीजे के साथ नहीं चलता जिसका वह प्रतीक है।

एक उदाहरण देखें

काम

हेल्पलाइन के सहायक को उन बातचीतों पर अंक जिनमें व्यक्ति दोबारा नहीं पूछता।

फैसला खुद करके देखें

दोनों जवाब ऊपर वाले काम के हैं। इनमें से एक बेहतर काम करता है। कौन-सा, और क्यों?

अब खुद बनाकर देखें

एक ऐसी संख्या लें जिससे आपके काम, कॉलेज या दल को परखा जाता है। लिखें कि असली काम किए बिना उसे बढ़ाने का सबसे सस्ता रास्ता क्या है, और कौन-सी दूसरी जाँच उसे पकड़ लेगी।

शुरू करने का आसान तरीकाचार हिस्से: माप, असली मकसद, छोटा रास्ता, और दूसरी जाँच।

और गहराई में पढ़ें

स्रोत पढ़ना वैकल्पिक है। पूरी सीख और अभ्यास AI2Bharat के अंदर उपलब्ध है।

मूल या आधिकारिक स्रोत पढ़ें: Concrete Problems in AI Safety